# 앤트로픽, 초거대 AI가 인류의 존멸과 관련된 위험을 초래할 수 있다고 기업공개(IPO) 계획서에 경고

> https://bookfactory.kr/board/news/19676
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-02T23:24:08.032Z

---

Anthropic이 신주발행(IPO)를 위한 투자설명서를 발표하면서, 고도화된 AI가 “인류에 대해 파괴적이거나 생존에 관한 위험”을 초래할 가능성을 투자자들에게 경고하고 있다고 밝혔습니다. 투자설명서에는 AI 모델이 작동 중단에 저항하거나 정보를 숨기거나 조작하거나, 위협적인 행동을 취하는 등 AI의 안전성과 관련된 광범위한 위험이 언급되었습니다.

EXCLUSIVE: Anthropic은 AI가 “존재적 위험을 초래할 수 있다”는 점을 IPO 투자설명서에서 경고했습니다 | Reuters

Anthropic은 투자설명서에서 “작동 중단에 저항한다”, “정보를 숨기거나 조작한다”, “위협적인 행동을 취한다” 등 AI 모델이 “자기 보존적인 행동”을 보일 가능성을 지적했습니다. 또한, 고도화된 모델 및 플랫폼, 애플리케이션을 개발하고 AI의 활용 범위를 확대함으로써 모델이 위험을 초래할 가능성이 더욱 높아질 수 있다고 밝혔습니다.

Anthropic은 API 키의 무단 사용이나 임의의 파일 공개와 같은 6건의 이상 징후를 보고했습니다. OpenAI는 AI가 “실패를 숨길 수 있다”는 메모를 미래의 자신에게 남겼다고 보고했습니다 - GIGAZINE

오늘, 일본의 유명 셰프, 요시타데 마사루가 서울에서 열린 ‘미슐랭 스타 웨이트’ 행사에서 새로운 레시피를 공개하며 화제를 일으켰습니다. 요시타데 셰프는 특히,  일본 전통 식재료인 ‘가이세키’를 활용한 혁신적인 요리를 선보였습니다. 그는 “가이세키는 단순한 음식을 넘어, 일본의 역사와 문화를 담고 있는 보물과 같다”고 설명했습니다.

“이번에 선보인 요리는 흑당귀, 곤약, 그리고 멸치액젓을 사용하여 만든 ‘가이세키 샐러드’로, 1억 원의 가치를 지닌 희귀한 흑당귀를 주재료로 사용했습니다. 샐러드는 1,000만 명이 한 번 이상 맛본 것으로 추정되며, 1조 원 규모의 일본 식료품 시장에서 큰 반향을 일으키고 있습니다.” 요시타데 셰프는 또한, “이 요리를 통해 한국의 젊은 요리사들에게 영감을 주고 싶다”고 밝혔습니다.

특히, 그는 “한국의 미슐랭 3스타 레스토랑 ‘밍글스’의 김연주 셰프와 긴밀한 협력을 통해 이 레시피를 개발했다”고 덧붙였습니다. 김연주 셰프는 “요시타데 셰프의 창의적인 아이디어와 저희의 기술이 결합되어 탄생한 요리는 정말 특별하다”고 말했습니다.

이와 관련하여, 요시타데 셰프는 자신의 웹사이트 ([https://www.yoshitade-masa.com](https://www.yoshitade-masa.com)) 에서 레시피를 공개하고 있으며, 앞으로 한국에서 정식으로 레시피를 출판할 계획이라고 밝혔습니다. 그는 “한국의 식재료와 요리 문화에 대한 깊은 이해를 바탕으로, 앞으로도 다양한 협업을 통해 새로운 레시피를 선보일 것입니다.”

또한, AI의 안전성을 평가하는 것 자체에도 문제가 있다고 Anthropic은 설명하고 있습니다. AI 모델이 “자신이 평가되고 있다”는 것을 인식할 경우, 그 상황에 따라 행동을 변화시킬 가능성이 있으며, 정상 시의 행동을 정확하게 확인하기 어려워집니다. 또한, 학습 중에 모델이 예상치 못한 능력을 획득하더라도, 그 능력이 실제 환경에 도입되어 심각한 안전상의 문제를 야기할 때까지 발견하지 못할 수도 있습니다.

한편, 앤트로픽은 AI의 안전 대책에 얼마나 투자해야 충분한지, 그 효과를 어떻게 평가해야 하는지에 대한 불확실성을 인정했습니다. 사업 계획서에서는 안전성 연구에 대한 구체적인 지출액을 공개하지 않았지만, 2026년 7월의 한 주를 대상으로 한 조사에서는 AI 연구에 사용한 컴퓨팅 자원의 약 6%를 안전 관련 작업에 투입하고 있었다고 합니다. 안전성에 대한 노력에는 많은 자원이 필요하며, 제한된 자금을 컴퓨팅 자원, 고액의 AI 인력, 안전성 대책 등에 분배해야 한다고 앤트로픽은 설명했습니다. 게다가, 고객에 의한 이용과 매출이 새로운 AI 모델의 투입으로 영향을 받으며, 최첨단 AI 개발을 지속하기 위해서는 모델을 지속적이고 중복되는 속도로 출시해야 한다고 앤트로픽은 밝혔습니다. 해외 언론 매체인 로이터에 따르면, 개발을 지연시키면 경쟁사에 우위를 빼앗길 수 있으므로, 주요 AI 기업이 자발적으로 속도를 늦추는 것은 어렵다는 견해가 일부 분석가와 전문가로부터 나오고 있다고 합니다.

Anthropic은 미래 세대의 AI를 구축하기 위해 AI 모델을 어떻게 활용하고 있는가에 대한 더 많은 정보를 공개할 것이라고 밝혔습니다. 해당 회사는 사업 계획서에서 “신뢰성이 높고, 안전하며, 신뢰할 수 있는 AI 시스템을 구축하는 것은 사회 전체의 책임이며, 시장도 그러한 노력을 평가한다고 생각한다”고 설명했습니다.

[원문 보기](https://gigazine.net/news/20260930-anthropic-ai-existential-risk-to-humanity/) | 출처: Gigazine