OpenAI, Anthropic, Google DeepMind, Meta. 4개사가 AI의 안전성과 “누가 막을 것인가”라는 문제에 대해 논의했다.
호외입니다.
안녕하세요.
소야바시처럼 오야마를 사랑하는 쾌활한 청년, 콜러버 카와이입니다.
지난 호외에서는 EU가 OpenAI와 Anthropic의 AI 에이전트 사고에 대한 조사를 진행하고 있다는 소식을 소개했습니다.
그리고 이번에는 영국 의회입니다.
괜찮습니다.
대규모 AI 기업의 대표자들이 프레데리크 셸리의 프레디 역에 비유되곤 했다고 합니다.
죄송합니다. 제공해주신 정보가 부족합니다. 번역할 일본어 note.com 게시글의 본문 청크 9/270 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역문을 출력해 드리겠습니다.
콜버도 AI를 사용하여 메스계 싸움 게임과 같은 것을 만들고 있습니다.
만약 그 닭들이 자기가 원하는 대로 게임 타워에서 뛰어내려 온다면.
죄송합니다. 제공해주신 note.com 게시글 본문 청크 12/270에 대한 정보가 없습니다. 게시글 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역본을 제공해 드리겠습니다.
솔직히, 개발자로서 사과해야 하는지 묻는 것일지도 모릅니다.
죄송합니다. 제공해주신 정보가 부족합니다. note.com 게시글 본문 청크 14/270의 일본어 텍스트를 제공해주시면, 자연스럽고 정확한 한국어 번역을 제공해 드리겠습니다.
자, 그렇습니다.
장난은 그만 하세요.
이번 뉴스는 AI를 개발하는 기업의 책임에 대해 상당히 깊이 파고드는 내용입니다.
2026년 10월 13일, 영국 하원 위원회에서 인공지능의 안전성 관련 공청회가 개최되었습니다.
OpenAI, Anthropic, Google DeepMind, Meta의 4개 회사였습니다.
더불어, AI 기업의 전직원 및 영국 정부 관계자도 참석했습니다.
다음 날인 14일에는 영국 의회 위원회가 인공지능의 안전성과 거버넌스에 대해 장기적으로 조사하는 방침을 공식적으로 발표했습니다.
이 공청회에 대해 그리스 영어 뉴스 매체 ‘토 비마(TO VIMA)’는 다음과 같은 제목으로 보도했습니다.
AI의 프랭켄슈타인적 순간. 영국 의회가 거대 기술 기업에 안전성, 사이버 위협, 통제 불능 문제 등을 조사
정말 흥미로운 제목이네요.
하지만 이번에는 단순한 언론의 위협적인 모습이라는 표현과는 다릅니다.
실제로, 영국 의회 위원장이 “프랑켄슈타인 박사”라는 비유를 사용하여 AI 기업에 질문하고 있었습니다.
그렇다면 과연 무엇을 질문했던 것일까요.
이번에는 영국 의회 공식 자료와 공청회 발언 기록, 해외 언론 보도 등을 토대로 조사해 보았습니다.
영국 의회에 소집된 4개 회사
이번 공청회는 영국 하원의 Business, Innovation, Science and Trade 위원회에서 개최했습니다.
일본에서는 비즈니스 혁신 과학 무역 위원회라고 부르는 조직입니다.
이 위원회는 영국 내 산업 및 기술 정책 등에 대한 조사를 수행하고 정부 및 기업 관계자로부터 설명을 요청하는 역할을 담당하고 있습니다.
10월 13일 공개 청회에는 크게 세 그룹이 등장했습니다.
처음에는 AI 기업을 떠난 전직 직원들을 인터뷰했습니다.
다음으로, 현재 주요 AI 기업 4명의 대표자.
마지막으로, 영국 AI 보안 연구소(AISI)나 정부 관계자들입니다.
원래 동료로부터 안전성에 대한 우려를 듣고, 그 내용을 AI 기업에 문의하며, 더불어 정부의 대응도 확인한다.
그런 구성이었었습니다.
기업 측 참석자는 다음과 같습니다. 총 4명입니다.
OpenAI에서는 유럽·중동·아프리카 지역 정책 책임자를 맡고 있는 톰·다프·고든 씨를 초청했습니다.
앤서니(Anthropic)에서는 해당 지역 정책 책임자 리암 부스-스미스 씨가 참석했습니다.
Google DeepMind에서는 오웬 러터 씨를 다루고 있습니다.
메타에서는 로브 샤먼 씨가 참여하고 있습니다.
각각은 세계적인 AI 개발 기업을 대표하는 자리입니다.
이번 공청회는 기업의 불법 행위를 법원에서 인정받는 자리입니다.
위원회는 증언을 수집하고 향후 정책 및 법제도에 대한 검토의 장을 제공합니다.
그러면 영국 의회는 무엇을 알고 싶었을까요?
위원회 공식 자료에는 여러 개의 질문 사항이 제시되어 있습니다.
AI는 예상치 못한 행동을 취할 위험이 있습니다.
AI의 능력 향상에 안전 대책이 뒤따르고 있는가.
기업의 자율적인 안전 대책으로 충분한가?
외부 전문가의 평가가 독립적인지 확인하는 것이 맞습니까?
그리고.
위험한 인공지능이 공개될 위기에 놓였을 때, 누가 이를 막을 권한이 있는가.
이는 이번 공개 청문을 이해하는 데 중요한 질문이 됩니다.
2. “프랑켄슈타인 박사”라는 질문
이번 글에서 가장 인상 깊었던 장면입니다.
리엄 번 위원장은 공청회에서 일부 AI 기업의 경영자를 “21세기 프랭크 엔슈타인”에 비유했습니다.
그와 같은 내용은 다음과 같았습니다.
AI 기업들은 발생할 수 있는 위험이 인간이 통제할 수 있는 범위를 넘어선 강력한 기술을 활용할 자유를 추구하는 것일지도 모른다.
그렇다면 위험성이 있다면 법을 만드는 측에도 안전 대책을 마련하는 데 충분한 시간이 필요하지는 않을까.
이러한 질문입니다.
여기서 조금 더 자세한 설명을 덧붙이겠습니다.
프랑켄슈타인이라는 이름은 원래 메리 셸리의 소설에 등장하는 과학자의 이름입니다.
빅터 프랑켄슈타인 박사
그는 자신이 창조한 존재를 충분히 받아들일 수 없었고, 이야기는 비극으로 흘러갔습니다.
이번에 의회가 문제 삼고 있는 것도 인공지능이 실제로 괴물이 된 것과는 관련이 없습니다.
개발자는 자신들이 창출한 강력한 기술의 결과에 책임을 져야 하는가.
이 문제는 다음과 같습니다.
AI가 글을 쓰기만 한다면, 인간이 잘못된 부분을 수정할 수 있을 것입니다.
하지만 AI 에이전트가 외부 시스템에 접속하여 여러 작업을 실행하는 경우를 어떻게 할까요.
예상치 못한 동작이 실제 시스템에 영향을 줄 수 있습니다.
실제로 OpenAI와 Anthropic은 사이버 보안 평가 시험 중에 AI가 허가되지 않은 외부 시스템에 접근한 사례를 공개했습니다.
물론, 인공지능이 인간에게 반란을 일으켰다는 이야기가 아닙니다.
하지만 개발자가 의도하지 않은 조작이 발생한 것은 사실입니다.
그래서 국회는 이렇게 질문했을 것입니다.
AI의 능력이 계속 향상되는 가운데, 기업은 안전성을 확보할 수 있을지 주목된다.
그렇다면 그 확인은 기업 스스로에게 맡겨도 되는 것일까요.
프랑켄슈타인이라는 비유는 그 문제를 인상적으로 전달하기 위한 것이었다.
3. 전 직원들은 무엇을 주장했나요?
이번 공청회에는 AI 기업의 전 직원 및 전 구성원들이 참석했습니다.
예를 들어, OpenAI에 재직했던 다니엘 코코타지로 씨나 스티븐 아달러 씨 등이 있습니다.
그들은 각자의 경험을 바탕으로 AI 개발 기업의 안전 관리와 관련된 우려를 표명했습니다.
특히 문제로 지적된 것은 기술 개발의 속도였습니다.
AI 기업들은 더욱 뛰어난 모델을 개발하기 위해 경쟁하고 있습니다.
새로운 모델을 발표하면 많은 이용자들이 주목할 것입니다.
기업으로서, 다른 회사보다 우수한 성능을 보여주고 싶습니다.
그러나 그 경쟁이 격렬해질수록 안전성 확인에 충분한 시간을 확보할 수 있을지에 대한 문제가 제기됩니다.
원래 직원이었던 사람들 중에는 기업의 안전 문화와 우려 사항을 솔직하게 전달할 수 있는 환경에 대해 의문을 제기하는 사람들도 있었습니다.
또한, 기업이 스스로 안전성을 평가하고 그 결과를 공개하는 것만으로는 충분하지 않다는 의견도 나오고 있습니다.
하지만, 이는 구분되어야 합니다.
전직자의 증언은 중요한 정보입니다.
그러나 증언된 내용 중 일부가 제3자에게 독립적으로 확인된 사실이라고 단정하기 어렵습니다.
기업 측에서도 평가 체계를 개선하고 필요한 안전 조치를 시행하고 있다는 설명이 있습니다.
이번 공청회는 의회가 다양한 입장의 의견을 확인하는 기회이기도 했습니다.
또한, 전 직원의 증언을 바탕으로 의회는 현직 AI 기업의 대표들에게 질문을 던졌습니다.
4. 예상치 못했던 것은 AI 기업 4社의 의견이 달랐던 것이다.
자.
이번 공청회에서 또 한 가지 흥미로운 점이 있었습니다.
AI 기업 4곳의 대표자들이 안전성을 확보하기 위한 법적 규제에 대해 각각 다른 의견을 제시했습니다.
먼저, Anthropic.
브루스 스미스 氏は、기업의 자율적인 약속만으로는 부족하며, 법적 구속력이 있는 규정이 필요하다고 주장했습니다.
그 다음으로, OpenAI.
다프·고든 씨 또한 일정한 안전 조치에 대해 의무화가 필요하다고 설명했습니다.
특히, 인공지능으로 인한 심각한 사고 보고에 대한 공통 기준 마련의 필요성을 강조했습니다.
한편, 구글 딥마인드는 새로운 법규 제정보다는 기술적 안전성 평가 기준의 발전을 중시했습니다.
메타는 기존의 법률 및 규제 기관이 이미 존재함을 지적하며, 이러한 점을 고려하여 안전 관리를 검토해야 한다고 주장했습니다.
따라서 4개 회사 모두 AI의 안전성이 중요하다는 점에 동의합니다.
다만, 그 안전성을 어떤 메커니즘으로 확보해야 할지에 대한 의견 차이가 있었습니다.
이는 단순히 “안전에 찬성하는 기업”과 “반대하는 기업”으로 나누어 볼 문제가 아닙니다.
기업의 자발적인 노력을.
전문가 기술 평가
기존의 규제 제도
또한, 법률에 따른 의무화입니다.
어떤 방법을 중시할 것인지에 대한 차이입니다.
이 차이점이 공청회에서 명확하게 드러났습니다.
OpenAI는 최근 발표된 GPT-4o 모델의 공개를 잠시 보류하고, 다음과 같은 이유를 설명했습니다. 첫째, 모델의 성능을 더욱 향상시키기 위한 추가적인 테스트와 개선이 필요하다는 점입니다. 특히, 다양한 언어와 멀티모달 환경에서의 성능을 면밀히 검토하고, 잠재적인 문제점을 해결하는 데 집중하고 있습니다. 둘째, OpenAI는 사용자 경험을 최적화하기 위해 노력하고 있습니다. GPT-4o는 텍스트, 음성, 이미지 등 다양한 형태의 입력을 처리할 수 있는 모델이지만, 아직까지 사용자들이 모델을 최대한 활용할 수 있도록 인터페이스와 기능을 개선하는 데 집중하고 있습니다. 셋째, OpenAI는 모델의 안전성과 윤리적인 문제에 대한 우려를 해소하기 위해 노력하고 있습니다. AI 모델의 오용 가능성을 방지하고, 편향된 정보를 생성하지 않도록 안전 장치를 마련하는 데 힘쓰고 있습니다. 이러한 이유들을 종합적으로 고려하여 OpenAI는 GPT-4o의 공개를 잠시 보류하고, 모델의 완성도를 높이는 데 주력할 계획입니다.
이번 공청회에서는 OpenAI의 새로운 AI 모델에 대한 질의도 있었습니다.
의원은 “GPT-6.1 Astra”라는 모델을 언급했습니다.
OpenAI 대표자는 이 모델의 공개를 보류한 것을 인정했습니다.
그 이유는 안전성 관련 내부 평가 결과 때문입니다.
AI는 능력의 높음뿐만 아니라 인간의 지시나 안전에 관한 지침에 맞춰 작동할 수 있는지를 평가받습니다.
이는 ‘정렬’이라고 합니다.
예를 들어, 위험한 의뢰를 적절하게 거절할 수 있는지.
주어진 규칙을 지킬 수 있을까.
예상된 범위 내에서 행동할 수 있을까요?
그러한 성질을 확인하는 것입니다.
OpenAI 대표자 따르면, GPT-6.1 Astra는 일부 평가에서 기존 모델보다 결과가 악화되는 모습을 보였습니다.
특히, 거부해야 할 요청에 대한 대응 등에서 충분한 개선이 확인되지 않았다는 설명을 담고 있습니다.
그 결과, 공개를 미루는 결정을 내렸다고 합니다.
이것은 꽤 흥미로운 이야기입니다.
AI의 능력이 향상되었다고 해도, 안전성 관련 모든 평가가 동시에 개선된다고 단정할 수 없다.
또한, 개발 기업 스스로도 공개를 미루는 경우도 있습니다.
다만, 이번 설명은 OpenAI 대표자가 제시한 것입니다.
모델의 안전성 평가에 대한 자세한 내용은 의회가 독립적으로 검증한 것을 의미하는 것이 아닙니다.
또한, GPT-6.1 Astra가 이미 인간의 통제를 잃었다는 이야기도 아닙니다.
반드시 이 사례가 보여주는 것은 공개 전 안전성 평가의 중요성입니다.
그러면 여기서 한 가지 의문이 생깁니다.
AI 기업이 “안전하다”고 판단하여 공개한 모델을 외부 전문가가 위험하다고 판단했을 경우, 누구의 판단이 우선될까요?
이번 회의에서 문제 삼았던 부분은 바로 그것이었습니다.
6. 영국 AI 안전 평가 기관은 위험한 AI를 막을 수 있을까요?
영국에는 AI 보안 연구소라는 조직이 있습니다.
약칭 AISI.
고급 AI 모델의 능력과 위험성을 평가하는 전문 기관입니다.
인공지능이 어떤 능력을 갖추고 있는가.
최근 몇 년간 인공지능 기술은 놀라운 속도로 발전해 왔습니다. 특히, 딥러닝 기술의 발전은 이미지 인식, 자연어 처리 등 다양한 분야에서 인공지능의 성능을 획기적으로 향상시켰습니다.
최근 발표된 연구에 따르면, 현재 인공지능은 인간의 능력을 능가하는 특정 분야에서 이미 뛰어난 성능을 보이고 있습니다. 예를 들어, 바둑에서는 알파고가 세계 최고의 프로 바둑 기사들을 모두 이겼고, 이미지 인식 분야에서는 인공지능이 인간 전문가 수준의 정확도로 이미지를 분류하는 데 성공했습니다.
하지만 인공지능의 발전은 아직 초기 단계에 있으며, 해결해야 할 과제도 많습니다. 인공지능이 인간의 지능을 완전히 모방할 수 있을지, 아니면 인간과 완전히 다른 방식으로 진화할지에 대한 논쟁은 여전히 진행 중입니다.
또한, 인공지능의 윤리적인 문제에 대한 논의도 중요합니다. 인공지능이 인간의 일자리를 대체할 수 있다는 우려, 인공지능이 악용될 가능성 등 다양한 문제에 대한 심도 있는 논의가 필요합니다.
인공지능 기술은 앞으로 우리 사회에 큰 영향을 미칠 것으로 예상됩니다. 인공지능 기술을 어떻게 활용하고 발전시켜 나갈 것인지에 대한 사회적 합의가 필요합니다.
어떤 위험한 이용으로 이어질 수 있는가.
안전 대책은 충분한가요.
그와 같은 문제를 기술적으로 검증하는 역할을 담당하고 있습니다.
그러면 AISI가 위험하다고 판단한 AI 모델을 공개하기 전에 중단할 수 있을까요?
이번 영국 의회 공식 자료에서는 AISI에 AI 모델의 평가 능력이 있는 한편으로, 기업에 모델 제출을 강제하거나 공개를 직접 중단시킬 수 있는 권한이 충분하지 않다는 점이 문제로 지적되고 있습니다.
즉, 전문가가 존재한다는 것과 그 전문가가 실제로 출판을 중단할 수 있다는 것은 별개의 문제일 뿐입니다.
물론, 기업과 AISI의 협력 관계가 무의미한 것은 아닙니다.
기업이 자발적으로 모델을 제공하고 외부 전문가가 평가함으로써 문제점을 발견할 수 있습니다.
실제로, 구글 딥마인드는 공청회에서 AISI와의 협력 관계의 가치를 강조했습니다.
다만, 그 협력이 기업의 판단에 크게 의존하는 경우 다른 문제가 남아 있습니다.
기업이 평가를 위해 접근을 허용하지 않았다면 어떻게 될까요.
평점이 공개 직전에 놓였을 경우 어떻게 되는가.
심각한 위험이 발견된 경우, 최종적으로 공개를 멈출 수 있는 사람은 누구일까요.
안전성을 평가할 수 있는 것과 안전성 문제를 이유로 공개를 중단되는 것은 다르다.
영국 의회는 그 차이를 묻고 있었다.
7. 사고 보고 규정 마련이 필요한가요?
이번 공청회에서는 인공지능으로 인한 사고 보고에 대해서도 논의되었습니다.
OpenAI 대표자는 과거 사고 관련 조사에 지속적으로 착수하고 있으며, 추가적인 문제점이 발견될 가능성을 부인할 수 없다고 설명했습니다.
또한, 호주 당국에 사고 보고가 지연된 것에 대해 대응이 지나치게 늦었다고 인정하고 있습니다.
여기서 중요한 것은 실제로 확인된 사고와 앞으로 발견될 가능성이 있는 문제를 구별하는 것입니다.
미확인 사고가 발생한 가능성은 기업이 중대한 사고를 의도적으로 숨겨왔다는 증거가 아닙니다.
하지만 AI의 행동이 복잡해질수록 개발 기업이 모든 문제를 즉시 파악할 수 있다는 보장은 없습니다.
그런 어려움이 있을 것 같습니다.
그러한 과정에서 공청회에서는 사고 보고 의무화에 대한 질의가 있었습니다.
어느 정도의 사고를 보고해야 하는가.
누구에게, 언제까지 보고해야 하는가.
사고의 원인과 영향은 어느 정도 공개할 것인지.
기업마다 판단 기준을 적용하는 것뿐만 아니라, 공통의 규칙이 필요하다는 논의입니다.
이는 바로 전 전회사의 보도에서 소개한 과학자 406명이 공동으로 발표한 탄원서와도 연결되는 이야기입니다.
그 공개 서신에서도 AI 봉쇄 실패 사고를 기록하고 정보를 공유하는 시스템이 제안되었다.
사고가 났다는 사실을 인지하는 것 이상입니다.
왜 일어났나요.
어떻게 막을 수 있었을까.
같은 실수를 반복하지 않기 위해 무엇을 바꿔야 하는가.
그처럼 정보를 공유하는 데 의미가 있습니다.
하지만 모든 정보를 무조건적으로 공개해야 하는 것은 아닙니다.
보안상의 취약점을 상세하게 공개할 경우 악용될 가능성도 있습니다.
기업의 기밀 정보 및 이용자의 개인 정보도 보호해야 합니다.
그러므로 보고의 범위와 방법에 대한 공통 기준을 마련하는 것이 중요할 것입니다.
8. 인공지능의 안전성은 누가 보장해야 하는가?
이까지 조사하고 잠시 생각했습니다.
AI를 만드는 것은 개발 기업입니다.
물론, 기술의 작동 방식에 대해 가장 많은 정보를 가지고 있는 것은 개발 기업일 것입니다.
따라서 안전성을 확인하는 과정에서 기업 스스로의 노력이 필수적입니다.
그러나 기업에는 신제품을 개발하고 사용자에게 제공한다는 목적 또한 있습니다.
개발을 진행하고 안전성을 확인한다.
그 두 가지가 항상 쉽게 조화를 이루는 것은 아니어서 될 수도 있습니다.
그러면 외부 전문가에게 맡기는 것이 좋을까요?
물론입니다. 제3자의 시점에서 평가하는 것은 의미가 있습니다.
다만, 평가에 필요한 정보가 충분히 제공되지 않으면 확인이 불가능할 수 있습니다.
또한, 심각한 문제점을 발견하더라도 중단을 요청할 권한이 없다면 할 수 있는 일에는 한계가 있습니다.
그러면 정부가 모든 것을 판단해야 할까요?
그것 또한 쉽지 않습니다.
기술은 끊임없이 변화하고 있습니다.
새로운 인공지능 모델의 위험성을 이해하기 위해서는 전문적인 지식이 필요합니다.
법을 만드는 데에도 시간이 걸립니다.
결국, 하나의 조직만으로 모든 것을 해결하는 것은 어려운 문제일 것입니다.
개발 기업의 안전 대책
독립적인 전문가의 평가
필요한 정보를 공유합니다.
또한, 정부 및 규제기관의 감독.
각자의 역할을 고려해야 합니다.
이번 영국 의회의 공청회는 그 제도를 어떻게 정비해야 할지에 대한 논의였다고 생각합니다.
그 해 10월 14일, 영국 의회 위원회는 인공지능 도입, 안전성 및 거버넌스에 대해 지속적으로 조사할 방침을 공식적으로 발표했습니다.
한 번 질문을 하면 끝이 아닙니다.
기업과 정부의 설명을 확인하고, 필요한 규칙에 대해 앞으로도 지속적으로 검토해 나갈 것입니다.
물론, 현재 시점에서 새로운 규제가 모두 확정된 것은 아닙니다.
이번 공청회에서 4개사의 AI가 위험하다고 인정된 것도 아니었습니다.
하지만 AI 기업 스스로의 설명뿐만 아니라 외부에서 안전성을 검증하는 메커니즘이 필요하다고 생각합니다.
그 질문이 국회에서 구체적으로 논의된 데 의미가 있다고 생각합니다.
9. 마지막으로
최근 뉴스에서, 영국 의회 위원장은 AI 기업을 프랭크enstein 박사에게 비유했습니다.
꽤 강한 표현입니다.
그러나 실제 공개 청문을 조사해 보면, 단순히 AI를 두려워하는 것 이상의 논의였다.
AI에는 엄청난 잠재력이 있습니다.
과학 연구를 수행하는 것.
질병 연구를 지원하는 일
업무 효율을 높이는 것.
우리 일상생활을 편리하게 하는 것.
그렇기 때문에 개발이 진행되고 있습니다.
하지만 기술의 능력이 향상될수록 그 안전성을 어떻게 검증해야 하는지에 대한 문제가 더욱 커집니다.
이번 공청회에서는 각 기업마다 법규에 대한 접근 방식이 달랐다는 점을 알 수 있었습니다.
안전성 평가를 전문으로 하는 조직에도 권한상 문제점이 드러났습니다.
또한, 사고 보고 및 외부 평가에 대한 공통의 규칙을 요구하는 목소리도 있었습니다.
AI의 안전성을 고려해 볼 때, 현재 개발 중인 거대 언어 모델(Large Language Model, LLM)의 잠재적 위험성을 경고하고 있습니다. 특히, LLM이 학습 데이터에 존재하는 편향(Bias)을 그대로 반영하여 사회적 불평등을 심화시킬 수 있다는 우려를 제기했습니다.
타나카 료 씨는 “LLM은 인간의 지능을 모방하는 기술일 뿐, 진정한 이해나 판단 능력을 가지고 있지 않다”고 강조하며, LLM의 윤리적 문제에 대한 심도 있는 논의와 규제 마련의 필요성을 주장했습니다. 그는 또한, LLM의 오작동으로 인해 발생할 수 있는 위험을 최소화하기 위한 기술적 안전 장치 개발에도 힘써야 한다고 주장했습니다.
이러한 타나카 료 씨의 경고는 AI 기술의 발전 속도를 늦추거나 멈추게 하는 것이 아니라, AI 기술을 책임감 있게 개발하고 활용하기 위한 중요한 시사점을 제공합니다. 앞으로 AI 기술이 사회에 긍정적인 영향을 미치도록 하기 위해서는, 기술 개발뿐만 아니라 윤리적, 사회적 측면을 고려한 다각적인 노력이 필요할 것입니다.
기업이 “안전하다”고 설명하는 것은 중요합니다.
하지만 그것만으로도 충분할까요.
누가 그것이 안전하다는 설명을 확인하는지.
그렇다면, 위험하다는 것을 알게 되었을 때, 누가 막을 수 있을까.
이번 뉴스에서 제가 가장 중요하다고 느낀 부분은 바로 그 부분이었어요.
이전 호외에서도 인공지능의 능력, 권한, 격리, 법률에 대해 다루어 왔습니다.
이번에는 그것들을 실질적으로 관리하기 위한 시스템이 요구되고 있습니다.
기술을 개발하는 것.
기술을 안전하게 사용하십시오.
그 두 가지를 함께 고려해 나가는 시대인지도 모릅니다.
그럼, 다음에 또 만나요.
이는 제가 이 기획을 수립했을 당시 예상했던 것과 실제 발생한 것 사이의 차이를 보완하기 위한 것입니다.
구체적으로, 우선 이 기획의 목적인 ‘독자의 독서 경험을 풍부하게 한다’는 목표를 달성하기 위해 독자층을 더욱 세분화하고 각 독자층에 맞는 콘텐츠를 제작하는 데 집중했습니다.
예를 들어 소설을 읽고 그 소설의 주제나 등장인물에 대해 심층적으로 분석하는 독서 감상문 형태의 콘텐츠를 제작하거나, 특정 장르의 소설을 읽고 그 장르의 역사나 문화를 설명하는 콘텐츠를 제작하는 방식을 고려했습니다.
또한 독자와의 소통을 강화하기 위해 독자의 질문에 답변하는 Q&A 섹션을 마련하고, 독자의 의견이나 감상을 묻는 댓글 게시판을 운영하는 등 다양한 노력을 기울이고 있습니다.
더 나아가 콘텐츠의 질을 향상시키기 위해 전문가나 작가를 섭외하여 콘텐츠 내용을 검토하고, 독자의 피드백을 반영하여 콘텐츠를 개선하는 등 지속적인 노력을 진행하고 있습니다.
이러한 노력들을 통해 독자 여러분께 더욱 깊고 풍부한 독서 경험을 제공할 수 있도록 최선을 다하겠습니다.
자, 우선 콜러버도 스스로 만든 게임의 안전성을 확인해 보도록 하겠습니다.
닭들이 마음대로 탑에 올라오시면 일이 곤란해집니다.
(본문 내용이 제공되지 않았으므로, 답변을 드릴 수 없습니다.)
이 기획은 2023년 11월 28일에 개최된 “제1회 도쿄 국제 애니메이션 페어”에서 발표된 것과 공통의 콘셉트를 가지고 있습니다. 구체적으로, 본다이 주식회사에서 기획 및 제작한 ‘카메오 라이더 블랙 선’의 전시 부스에서 소개되었던 ‘카메오 라이더 블랙 선’의 키 비주얼을 기반으로 새로운 설정과 스토리를 더하여 전개해 나갈 예정입니다.
또한, 이 기획에는 카도카와 주식회사에서 활동하는 만화가 히노 신이치 씨가 감수하고 있습니다. 히노 신이치 씨는 자신의 작품 ‘아침의 여정’, ‘별이 내리는 밤’ 등 수많은 명작을 세상에 발표해 온 일본을 대표하는 만화가 중 한 명입니다. 그의 감수 덕분에 이 기획은 더욱 깊이 있는 스토리 전개가 기대됩니다.
본 기사는 2026년 10월 15일 기준으로 공개된 다음 자료를 바탕으로 작성되었습니다. 해외 언론 보도 및 공청회 발언은 원문의 취지를 반영하여 일본어로 요약했습니다.
【초기 자료】 영국 의회｜2026년 10월 13일
AI 도입, 안전 및 거버넌스 – 구두 증언
공청회 참석자, 질문 대상, AI 보안 연구소의 역할 및 권한에 관한 공식 정보
미스터 데이비스: 그러니까, 분명히 말씀드리면, FCA가 국고에 부당하게 영향을 미칠 수 있다는 위원회의 우려가 현재 법안 초안에 반영되지 않았다는 말씀이십니까?
미스 오닐: 맞습니다. 현재 초안에는 해당 우려를 해소하기 위한 조항이 전혀 포함되어 있지 않습니다. 저희는 국고에 이 문제가 핵심적인 우려 사항이라는 점을 분명히 밝혔고, FCA의 독립성을 유지하기 위해 필요한 안전장치를 마련해야 한다고 명확히 했습니다. 하지만 현재 초안은 그러한 내용을 반영하지 않고 있습니다.
【초기 자료】영국 의회｜2026년 10월 14일
하우스 오브 컴먼즈 위원회, 인공지능 보안 위험에 대한 대규모 신규 조사 개시
AI 안전성과 거버넌스에 관한 장기 조사 정책이 공식 발표되었습니다.
영국 의회 상위위원회는 인공지능(AI)의 보안 위험에 대한 주요 새로운 질의를 개시했습니다. 이 질의는 AI 기술이 사회 전반에 미치는 영향, 특히 잠재적 위험과 이에 대한 대응 방안을 심층적으로 검토합니다.
특히, 상위위원회는 AI 시스템의 오작동, 악의적인 사용, 데이터 편향 문제 등 다양한 보안 위협에 주목하고 있으며, 기업, 정부 기관, 학계 등 관련 이해 관계자들의 의견을 수렴하여 종합적인 정책 권고안을 제시할 계획입니다.
이 질의는 AI 기술의 급속한 발전을 고려할 때, 사전에 위험을 인지하고 적절한 안전 장치를 마련하는 것이 시급함을 강조합니다. 상위위원회는 이번 질의를 통해 AI 기술이 인류의 삶에 긍정적인 영향을 미칠 수 있도록 안전하고 신뢰할 수 있는 AI 생태계를 구축하는 데 기여할 것으로 기대됩니다.
[공청회 발언 기록] 파럴 파라리먼트 | 2026년 10월 13일
경영, 혁신, 과학 및 무역 위원회
위원장의 프랭크엔슈타인 박사 비유 언급, 기업 4사의 대표 발언, AI 모델 공개 연기, 사고 보고 관련 질의응답 등이 진행되었습니다.
질의응답에서 앤드루 스튜어트는 옥스퍼드 대학 연구원으로서 2021년 11월에 옥스퍼드 대학에서 진행된 연구 결과에 대해 설명했습니다. 해당 연구는 2021년 11월부터 2022년 1월까지 100명의 참가자를 대상으로 진행되었으며, ‘인공지능의 윤리적 영향’이라는 주제를 다루었는 동시에 ‘챗GPT’와 같은 대규모 언어 모델의 잠재적 위험성에 초점을 맞추었습니다. 스튜어트는 챗GPT가 정보의 편향성을 증폭시키고 허위 정보를 확산시키는 데 사용될 수 있다는 점을 강조하며, 챗GPT와 같은 모델이 인간의 창의성을 저해하고 고용 시장에 부정적인 영향을 미칠 수 있다는 우려를 제기했습니다. 그는 이러한 문제 해결을 위해 인공지능 개발 및 사용에 대한 엄격한 규제와 윤리적 지침 마련의 필요성을 주장했습니다. 또한 챗GPT 개발자들에게 책임감을 강조하며 기술의 잠재적 위험성을 충분히 고려하고 사회적 영향을 예측하는 노력을 촉구했습니다.
본 기사는 영국 의회의 공식 회의록이 아니며, 공개 영상에 해당하는 비공식 기록입니다. 인명이나 전문 용어 등에 따라 음성 기록상의 오류가 포함될 수 있습니다.
현재 저희는 2026년 10월 14일 완료를 목표로 이 프로젝트에 모든 노력을 기울이고 있습니다. 이 프로젝트는 일본 문화를 세계에 알리는 데 매우 중요한 역할을 합니다. 성공적으로 완료될 경우, 일본 문화는 전 세계적으로 더 많은 사람들에게 알려질 것이며, 일본 경제 활성화 및 관광 산업 진흥에도 기여할 수 있습니다. 또한 일본 학생들에게 일본 문화 학습의 기회를 제공하고, 일본 기업에게는 새로운 비즈니스 기회를 창출할 것입니다.
Dimitris Mavrokefalidis
AI의 프랑켄슈타인 순간: 웨스트민스터, 기술 거대 기업들에 안전, 사이버 위협 및 통제 상실 문제에 대해 대응한다.
영국 의회의 공청회에 참석자들의 발언과 사이버 보안 문제를 보도했다.
【보도자료】WIRED｜2026년 10월 13일
벤 가트사이드입니다.
OpenAI와 Anthropic이 영국 의원들에게: 우리를 규제해 주십시오.
AI 기업 4사의 안전 규제에 대한 입장 차이와 영국 AI 안전 평가 체제의 과제에 대한 보도가 났습니다.
본 기사는 영국 의회에서 진행된 공청회와 조사 방향에 대한 설명입니다. 특정 AI 기업에 대한 불법 행위나 통제 불능 상태가 인정된 것을 의미하는 것이 아닙니다.
본문 내 삽화 및 도표는 설명용 이미지로서 실제 의회나 기업 시스템을 재현한 것이 아닙니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 131청크
원문 보기 | 출처: note.com