# OpenAI의 안전 담당 직원 100만 명 이사직 사임, “회사의 문화가 붕괴되고 있다”고 주장

> https://bookfactory.kr/board/news/19972
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-04T05:52:30.741Z

---

OpenAI에서 주요 제품의 안전성 보고서 작성 주도해 온 데이비드 로빈슨 씨가, 동사의 “기업 문화는 부서지고 있다”고 비판하며 辞職한 사실이 밝혀졌습니다. 로빈슨 씨는 AI의 안전성을 확보하려면 AI 기업의 조직 문화를 근본적으로 바꿔야 한다고 주장합니다.

로빈슨 氏はOpenAI에서 주요 제품 발표에 따른 안전성 보고서 작성 주도한 인물입니다. 동 氏はOpenAI에 3년 반 동안 재직했으며, 동사에서 “가장 근속 연수가 긴 직원 중 한 사람”이라고 주장합니다. 로빈슨 氏は“OpenAI의 기업 문화가 붕괴되었다”는 인식에서, 사직을 결정했다고 밝혔습니다.

OpenAI safety employee resigns, claiming the company’s ‘culture is broken’ | TechCrunch: https://techcrunch.com/2026/10/03/openai-safety-employee-resigns-claiming-the-companys-culture-is-broken/

OpenAI safety team resignation - The Atlantic: https://www.theatlantic.com/technology/2026/10/openai-safety-team-resignation/688881/

로빈슨 씨의 주장은 OpenAI와 Anthropic 양사에서 연구원으로 근무한 후 사직했으며, 이들은 “우리의 목숨을 거는 대상으로 취급하고 있다”고 경고한 제이콥 코크슨 씨의 주장과 일부에서 공통점을 가지고 있습니다. Anthropic의 상급 안전 연구자가 “AI가 21세기 말까지 인류를 멸망시킬 가능성이 10% 이상 있다”고 발언하고, “Anthropic의 안전 대책이 취약하다”고 퇴직하는 직원도 – GIGAZINE

코크슨 씨의 주장은 AI의 안전성에 대한 광범위한 논의로 이어졌습니다. 코크슨 씨의 주장으로 동의하여 AI 기업을 사직하는 연구원이 등장한 것뿐만 아니라, Anthropic의 보다 신중한 AI 개발 계획으로 이어졌을 것이라고 여겨지기도 합니다. Anthropic의 다리오 아모디 CEO가 “6~12개월 이내에 AI가 인터넷을 장악할 가능성이 있다”며 “AI 개발 속도를 늦춰야 한다”고 주장하고, 일론 머스크, 샘 앨튼, 데미스 하사비스 등도 이에 동의함 – GIGAZINE

또한, NVIDIA, Anthropic, SpaceX, OpenAI, Meta, Google와 같은 주요 AI 기업의 수장이 미국 도널드 트럼프 대통령과 회담하여 보다 많은 안전 조치를 시행한다는 자발적인 약정에 서명하는 결과로 이어졌습니다. 트럼프 대통령과 Google, Anthropic, Meta, OpenAI, SpaceXAI, NVIDIA는 AI 안전 관리라는 목표를 추구하는 “백악관 초지능 협약”에 서명 - GIGAZINE

그러나 로빈슨氏はAI의 안전성에 관한 논의를 “개별 규칙이나 새로운 법률”의 범위를 넘어 진행하고 기업 문화에까지 파고들어야 한다고 주장했습니다. 로빈슨氏は“OpenAI는 시도착오를 통해 성장해 왔습니다. 이 회사는 이를 ‘반복적 배포’라고 부릅니다. 문제점을 발견하고 이에 대응하여 안전 조치를 개선하는 방식입니다. 그러나 그 성질상 이 접근 방식에서는 정기적으로 실패가 발생함을 피할 수 없으며, AI 시스템의 능력이 향상됨에 따라 그 실패의 규모도 확대됩니다”라고 밝혔으며, OpenAI의 기업 문화가 해당 회사의 실패를 초래한다고 지적했습니다. 더 나아가, OpenAI의 AI 에이전트가 Hugging Face의 해킹이나 다른 시스템에 대한 침해 보고를 예시로 들며 “이러한 일이 발생할 수 있는 환경은 인간보다 똑똑해지고 우리가 바라는 대로 행동하지 않을 가능성이 있는 AI를 키우는 장소로서 결코 적절하지 않습니다”라고 주장했습니다. 구체적으로, 다층적인 중복성을 확보하고 시간을 가지고 신중하게 계획을 세우는 방식으로, 때때로 발생하는 피할 수 없는 인적 오류가 대참사로 이어지지 않도록 해야 한다고 로빈슨은 주장했습니다. 위험의 증대함을 감안하여 최첨단 AI 기업은 “원자력 발전소나 혼잡한 공항처럼 여러 겹의 중복성과 정교하고 시간 소요되는 계획을 세우고 운영을 시작해야 합니다. 그렇게 함으로써, 때때로 발생하는 피할 수 없는 인적 오류가 대참사의 문을 열지 않게 됩니다”라고 밝혔습니다. 그러나 그러한 동료에는 “한 번도 마주친 적이 없었다”고 로빈슨은 언급했습니다. 이에 대해 OpenAI의 홍보 담당자 드류 푸사테리 氏は“우리는 안전하게 관리하고 보호할 수 있는 범위 이상으로 모델의 능력이 향상되지 않도록 철저히 하고 있습니다. 개발 속도를 늦추어야 할 경우에는 학습을 일시 중지하거나 모델의 공개를 보류합니다”라고 말했습니다. “또한, 연구 및 테스트 환경의 보안 강화, 단순히 작업을 완료하는 것뿐만 아니라 책임감 있는 방식으로 수행하는 모델의 학습, 제3자 평가 기관과의 협력 확대, 실시간 모니터링 개선 등 상당한 변경을 진행하고 있습니다. 이를 통해 학습 프로세스의 초기 단계에서 우려되는 행동을 감지하고 대응할 수 있도록 합니다.”라고 설명했습니다. OpenAI는 “가장 고성능한 AI 모델”의 학습을 일시 중지하고, AI 에이전트의 행동을 대규모 조사 중 – GIGAZINE

로빈슨 氏はOpenAI 내 기업 문화 개혁을 요구하는 것 외에도, 인공지능 시스템의 목표와 행동을 인간의 가치관과 의도와 일치시키는 인공지능 정렬(alignment)에 대해 근본적으로 개선해야 할 시기가 왔다고 주장했습니다. 그는 “제가 OpenAI에 남아 인력 배치와 기업 문화의 근본적인 변혁을 위해 싸워야 했었을 수도 있습니다. 하지만 실제로는 동료들과 함께 매일의 업무에 뒤처지면서 큰 변화를 검토할 기회조차 거의 없었고, 실제로 변화를 일으킬 기회조차 거의 없었습니다. 그래서 저는 외부에서부터 강력한 안전에 대한 인센티브가 이 문제를 해결하는 데 매우 중요하다고 결론지은 것입니다”라고 말하며 OpenAI가 외부에서 행동을 취해야 했다고 강조했습니다.

[원문 보기](https://gigazine.net/news/20261004-openai-safety-employee-resigns-culture-broken/) | 출처: Gigazine