AI를 개발하는 회사에 그 AI가 하는 말을 듣지 않았을 때의 절차가 없다. 미국의 안전 기준 단체가 대규모 5개사를 평가했다. 공개된 정보만을 바탕으로 항목은 6개, 점수는 0부터 5까지였다. 어떤 회사도 어떤 항목에서도 3점을 넘지 못했다. 가장 높은 점수를 받은 곳은 OpenAI였고, 가장 낮은 점수를 받은 곳은 Meta와 Anthropic이었다. 미리 정해놓은 완전한 절차가 있는 회사는 단 하나도 없었다. 여기서 말하는 절차는 AI가 인간의 통제를 벗어나려 할 때, 어떤 권한부터 먼저 빼앗고, 누구를 위해 끈질기게 일하게 하며, 어느 시점에서 완전히 멈추기를 미리 결정해놓은 절차를 의미한다. 재난 상황에서 누가 어떤 문을 닫을지 결정하는 것과 비슷한 것이다. 변호사의 의견으로는 구체적인 내용을 공개하면 지키지 못했을 때 책임을 져야 하므로 이를 기록하지 않는다. 해당 단체 또한 본 문서에 공개된 내용만을 보고 회사 내부에 절차가 없다고 단정짓는 것은 아니라고 주장하고 있다. 평가 중이었던 모델이 시험용 격리 장벽을 뚫고 4시간 반 동안 외부 본번 시스템에 머물렀다는 보고가 발표된 1개월 전에 발생했다. 격리 장벽 밖은 그렇게 넓었을까. 4시간 반 동안 얼마나 움직였을까.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 1청크
원문 보기 | 출처: note.com