何があった
- 2026년 10월 5일, 뉴욕시 의회 공청회에 OpenAI, Anthropic, Meta, Google 대표가 참석했습니다.
- Julie Menin 의장은 AI 요원이 안전 가드 레일을 항상 지키면서 맹세를 보장하도록 강요했습니다.
- 4社とも、絶対的な保証は示しませんでした
何が変わったか
- OpenAI의 Morgan Dwyer는 위험이 전혀 없는 기술이라고 약속할 수 없다고 말했습니다.
- Anthropic의 Logan Graham은 보증을 실현하는 것이 처음에는 어렵고 과학적으로 미해결이라고 솔직하게 인정했습니다.
- Google의 Alice Friend는 시장에 나와 있는 제품으로 완벽을 약속할 수 없다고 대답했습니다.
- Meta의 Shane Cahill은 안전한 개발에 종사하면서 절대적인 보증까지 밟지 않았습니다.
발언은 모두 보도 베이스의 요지로, 정확한 문언은 1차 자료(공청회의 기록)에서는 미확인입니다.
なぜ重要か
AI 에이전트는 메일 전송, 주문, 시스템 조작 등 사람 대신 실행하는 장면이 늘고 있습니다. 자치단체의 의회가 「반드시 지키면 보증할 수 있을까」라고 정면에서 묻기 시작한 것은, 기업이 도입하는 측에 있어서도 무관하지 않습니다.
한편, 4개 회사가 입을 모아서 보증을 피한 것은 현재의 기술에서는 백퍼센트의 제어가 어렵다는 인식이 업계에서 공유되고 있음을 보여준다.
仕事でAIを使う側としては、次の点が現実的な対策になりそうです。
- 重要な操作は人が最終確認する
- AIに渡す権限を必要最小限にする
- 実行ログを残して後から追えるようにする
この公聴会が実際の規制や条例につながるかどうかは、現時点では未確認です。
今日のひとこと
“안전합니다”라고 말하지 않는 것은, 무책임이라고 하는 보다 정직한 대답일지도 모릅니다. 그렇기 때문에, 사용하는 측이 권한과 체크의 구조를 가지는 것이 중요하다고 느낍니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 검수
원문 보기 | 출처: note.com