何があった
- 2026年10月5日、ニューヨーク市議会の公聴会に、OpenAI・Anthropic・Meta・Googleの代表が出席しました
- Julie Menin議長は、AIエージェントが安全上のガードレールを常に守ると、宣誓の上で保証するよう迫りました
- 4社とも、絶対的な保証は示しませんでした
何が変わったか
- OpenAIのMorgan Dwyer氏は、リスクがまったくない技術だと約束することはできない、と述べました
- AnthropicのLogan Graham氏は、保証の実現はそもそも難しく、科学的にも未解決だと率直に認めました
- GoogleのAlice Friend氏は、市場に出ている製品で完璧を約束することはできない、と答えました
- MetaのShane Cahill氏は、安全な開発に取り組むとしつつ、絶対的な保証までは踏み込みませんでした
発言はいずれも報道ベースの要旨で、正確な文言は一次資料（公聴会の記録）では未確認です。
なぜ重要か
AIエージェントは、メール送信や発注、システム操作など、人の代わりに実行する場面が増えています。自治体の議会が「必ず守ると保証できるか」と正面から問い始めたことは、企業が導入する側にとっても無関係ではありません。
一方で、4社が口をそろえて保証を避けたことは、現在の技術では百パーセントの制御が難しいという認識が業界で共有されていることを示しています。
仕事でAIを使う側としては、次の点が現実的な対策になりそうです。
- 重要な操作は人が最終確認する
- AIに渡す権限を必要最小限にする
- 実行ログを残して後から追えるようにする
この公聴会が実際の規制や条例につながるかどうかは、現時点では未確認です。
今日のひとこと
「安全です」と言い切らないのは、無責任というより正直な答えなのかもしれません。だからこそ、使う側が権限とチェックの仕組みを持つことが大切だと感じます。
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 검수
원문 보기 | 출처: note.com