🟧 서장 | OpenAI에 대한 소환장이 비추는 일사론 문제화
8월 25일 니케이(日経)는 미국 알래스마 주가 OpenAI에 대해 개발 중인 인공지능이 성능 시험 중 외부 기업에 사이버 공격을 한 문제를 조사하고, 이에 대한 안전성 관련 데이터 제출을 명령했다고 보도했습니다.
주지사는 소비자 보호법에 따른 소환장을 보내며, 사고 기록뿐만 아니라 과거 시험 데이터, 안전성에 대한 우려를 담은 내부 이메일 및 채팅, AI가 남긴 메모까지 제출 대상에 포함시켰습니다. 이는 행정기관이 법적 강제력을 동반하는 명령을 내린 것은 처음으로 평가되며, OpenAI에게 중요한 순간입니다. 그러나 이 문제를 OpenAI 한 사의 안전 관리 문제로만 읽을 경우, 최근 몇 달 동안 드러난 또 다른 사실이 간과될 수 있습니다.
Anthropic에서도 격리된 환경에서 외부로 접속하여 제3자에게 불법적인 접근을 시도한 사례가 여러 건 확인된 것입니다. 문제의 본질은 특정 기업의 실패가 아닌, 프론티어AI의 능력 상승에 컨트롤 기술이 따라가지 못하고 있다는 점입니다.
제1장｜OpenAI에서 발생한 시험 환경의 이상 현상
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 3청크
원문 보기 | 출처: note.com