# 안전을 이야기하는 회사에서 안전을 책임지는 사람들이 떠나간다. OpenAI의 1주일

> https://bookfactory.kr/board/ai-tech/19997
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-04T11:14:55.345Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/320672655/rectangle_large_type_2_623d8e526a4db7e7db354f5082375c6c.png?width=1280)

## OpenAI는 괜찮을까요?

우리 회사의 AI 에이전트가 예상치 못한 행동을 보인 사례를 연이어 공개했다. 이번 주 개발자 컨퍼런스에서 알토만 CEO는 이렇게 말했다.

안전성은 능력을 초월해야 한다. 같은 주에 일어난 일은 바로 이것이었다.

## 10월 1일, 안전팀 연구원 3명을 해고했다.

WSJ 보도에 따르면 OpenAI는 안전팀 연구원 3명을 해고했다. 그 이유는 규정 위반이었다. 외부 AI 안전 단체에 기밀 정보를 공유했다는 것이다.

## 6월 25일. 안전 시스템 팀 리더 한 명이 사임했습니다.

비즈니스 인사이저(Business Insider)가 데이비드 로빈슨의 사임 사실을 보도했다. 신 모델의 안전 보고서를 이끌었으며, Preparedness Framework의 수립에도 참여한 인물이다.

## 3일째. 그는 “실패를 통한 굴욕은 끝났다”라고 썼다.

그는 미지 The Atlantic에 에세이를 제출했다. 제목은 “나는 OpenAI를 그 문화가 부서졌기 때문에 그만뒀다”다. “문화가 부서져 있다는” 것은 그 자신의 말이다.

## 이 부분부터는 제 해석입니다.

진실은 하나이며, 해석은 무수하다.

말하고 있는 것과 실제로 하는 것이 완전히 상반된 모습이다. 안전을 중시한다면, 안전을 책임지는 인재를 더 많이 육성해야 하며, 우려를 털어놓을 수 있는 환경도 조성해야 한다. 실제로 일어난 일은 그 두 가지가 모두 약화되는 방향의 일이었다.

## 정보 보호 역시 안전 관리에 해당한다.

오픈AI社는 이렇게 말할 것이다. “기밀을 보호하는 것도 안전 관리다.” 물론, 그렇다. 그런데 연구자들이 사내에서 문제를 제기하는 경로가 제대로 작동했더라면, 이런 일이 발생하지 않았을 것이다.

## 평범한 기업이라면 흔히 발생하는 통치 실패로 끝나는 경우가 많다.

하지만 이는 다르다. 인류의 미래를 좌우할 수 있는 기술을 만들고, 스스로 말하는 기업이다. 항공이나 원자력 분야에서는 仕組みがある. 현장의 사람들이 안전상의 우려를 외부에 털어놓아도 보호되는 仕組み. 독립적인 외부의 감독. 사회에 치명적인 영향을 줄 수 있는 산업だからだ.

AI는 이에 뒤떨어지지 않는 영향력을 가진다고, 당사 스스로도 말하고 있다. 그럼에도 불구하고, 위험도를 판별하는 프레임워크조차, 그것을 운영하는 사람조차, 개발을 서두르는 회사 내부부에만 존재한다.

OpenAI는 안전 조치를 개선하고 있다고 밝혔지만, 왜 참여자들이 떠나는지에 대해서는 언급하지 않았다.

## 피상한 것은 OpenAI가 처음부터 이 위험성에 대해 자각적인 기업이었다는 것이다.

오픈AI는 이익의 논리에서 벗어나지 않도록 비영리 이사회가 감독하는 특별한 형태로 출발했다. 일반적인 기업 지배 구조로는 충분하지 않다고 처음 밝혔던 것은 OpenAI 자신이었다.

공정성을 위해 말씀드려야 합니다. 해고가 보복이었다고 단정할 수 없습니다. 회사의 설명은 규정 위반에 근거하며, 관련 내용은 익명의 정보원 보도를 바탕으로 하고 있습니다. 그리고 로빈슨 스스로도 문제를 특정 회사뿐만 아니라 산업 전체의 문화로 보고 있습니다.

## 그러므로 반드시 질문하고 싶다.

세계가 바뀔 수 있는 기술을 평범한 회사의 통제하에 다루는 것이 적절한가.

매우 멈춰야 할 버튼을 누르는 사람은 과연 마음속에 아직 남아 있을까.

출처: WSJ / Business Insider / The Atlantic

**출처:** [note 원문](https://note.com/hiroheya/n/nb360286151ec)

*번역: Gemma 3(.44) 초벌 + 교정 12청크*

[원문 보기](https://note.com/hiroheya/n/nb360286151ec) | 출처: note.com