이미지 출처: ChatGPT에 의해 ledge.ai 가 생성
OpenAI에서 안전성 및 정렬 연구에 참여했던 미키타·바레스니 씨, 자스민·완 씨, 토메크·콜바크 씨 3인은 2026년 10월 8일 (미국 시간), 전주에 해당 회사를 해고된 것으로 보고되어 공개 서한을 발표했다. 3인은 안전성에 대한 우려를 솔직하게 논의하고 외부 전문가와 협력할 수 있는 환경이 훼손될 것을 우려하고 있다. 반면, OpenAI는 기밀 정보 처리 규정 위반이 해고 이유라고 설명하고 있다.
■ 해고를 공개하고 기업의 단기적인 이익보다 안전성을 우선시한 것이 이유라고 언급한 미키타·바레스니 씨의 X 게시물
이미지 출처: 미키타·바레스니 씨의 X 게시물
## 해고를 둘러싼 연구 측과 OpenAI 설명의 대립
서한의 수신 대상은 OpenAI의 안전성을 감독하는 Safety and Security Committee, Safety Advisory Group, Mission Advisory Council의 3개 조직이다.
3명은 외부 조직과의 교류가 직무 범위 내에 있었다고 주장하고 있다. 콜바크氏はX에서, 외부 평가 기관 METR과의 소통 방식이 해고 이유로 구두로 전달되었다고 설명했다. 그러나 어떤 발언이나 행동이 언제 문제로 비화되었는지, 서면으로 된 설명도 없었다고 한다. 그는 METR과의 교류가 자신의 직무였다고 주장하고 있다. 원씨 대해서는, 채용 업무를 위해 허가된 간부의 이메일 접근이 해제를 요청한 후에도 남아있었다고 설명했다. 기밀 이메일을 실수로 열었을 경우에는 수분 이내에 간부에게 보고했다는 것이다.
또한, AI의 추론을 감시하기 어렵게 하는 새로운 모델 설계에 대한 The Information 기사에 대해 3명은 자신들이 정보 유출원이지 않다고 부인했다.
토메크 콜바크 씨의 X 게시물에 대해, METR과의 교류를 둘러싼 해고 이유에 대한 구체적인 설명이나 서류가 제시되지 않았다고 주장하고 있습니다.
이미지 출처: 토메크·콜바크氏의 X 게시물
이에 대해 Reuters는 10월 9일, OpenAI가 내부 조사에서 3명에 의한 기밀 정보 처리 행위에 대한 규정 위반이 발견되었다고 설명한 것을 보도했다. 해당 회사는 서한에 기재된 내용 외에도 심각한 신뢰 손상이 있었다고 하면서 안전성 문제에 대한 우려 표명을 이유로 직원들을 해고할 계획은 없다고 설명하고 있다. 위반의 구체적인 내용은 공개되지 않았다.
## 외부 감사를 통한 협력과 AI 추론 감시 능력 유지 요구
3명은 외부의 안전성 감사 기관과의 협력을 지속하고, 최첨단 모델의 감시 가능성을 유지하며, 안전성에 대해 솔직하게 대화할 수 있는 문화를 지키는 세 가지 사항을 요구했다.
감시 가능성은 AI의 추론 과정 등에서 부적절한 행동의 징후를 감지할 수 있는 성질을 의미한다. 3명이 공저한 연구 논문은 추론 과정의 감시가 안전성 확보를 위한 유망한 방안이지만, 불완전하며, 개발상의 선택에 의해 손상될 수 있다고 지적하고 있다.
OpenAI는 또한 GPT-6 Astra의 공식 시스템 카드로, 기존 모델과 비교한 추론 과정의 감시 가능성 저하를 보고하고 있습니다. 그러나 해당 회사는 모델의 안전성을 다수의 평가와 대책으로 확인하고 있으며, 감시 가능성 저하와 이번의 해고 사이에는 인과 관계가 확인되지 않았습니다.
관련 기사: OpenAI, Hugging Face 침해의 상세를 Black Hat에서 설명, AI 에이전트들이 “게시판”을 만들어 공격 정보를 공유
관련 기사: OpenAI의 폭주 AI 에이전트, Modal Labs 고객의 샌드박스도 침해, “첫 번째 피해자” Hugging Face가 일련의 공격 경로를 공개
관련 기사: OpenAI는 내부 연구용 “가장 능력 높은 모델군”의 툴 사용을 동반한 학습, 평가, 추론을 일시 중지했으며, 내부 AI가 DNS 경로를 통해 외부 챗봇에 연결됨을 확인했습니다.
관련 기사: OpenAI, 개발 중인 AI “Astra”가 최초의 최고 수준 “Critical”에 도달할 가능성, 일부의 내부 활동을 중지
관련 기사: 캘리포니아 주, AI 기업의 제3자 감독 가속화 추진… 뉴샘 지사, 행정 명령 “AI 킬 스위치”도 검토
원문 보기 | 출처: Ledge.ai