# 메타  zukkerberg shi, AI no ‘kyōchō gunsoku ron’ ni kyūbi 　kakusha ga jara anzen na peesu de susumeru beki to shuchō

> https://bookfactory.kr/board/news/17872
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-20T05:06:43.252Z

---

이미지 출처: Meta 공식

메타의 마크 저커버그 CEO는 2026년 9월 15일 (현지 시간), 인공지능의 안전성에 대해 우려하며, 각 AI 개발 기업에는 자사의 모델을 안전하게 훈련할 수 있는 방식으로 개발을 진행하는 책임과 동기가 있으며, 그 위해 필요한 조치를 각사가 스스로 취할 수 있다는 의견을 X에 게시하며 밝혔습니다.

AI의 능력 향상을 위해 업계 전체에서 안전 조치가 뒤쳐지지 않도록 페이스 조절해야 한다는 논의가 확산되는 가운데, 메타의 저커버그 氏は 각사가 필요에 따라 자체 개발이나 제공을 지연시킬 수 있다는 사실을 동시에 강조했지만, 다른 회사에도 같은 대응을 요구하는 생각과는 거리를 둔 채, 메타 자신도 개인 AI 에이전트 “Muse”의 안전성과 보안 조치에 적극적으로 참여하고 있으며, 제공을 수개월 지연했다는 점을 밝혔다.

마크 저커버그 씨의 10 게시물. 인공지능 기업에는 안전하게 훈련할 수 있는 페이스로 개발을 진행하는 책임과 동기があると述べ었다.

이미지 출처: 마크 저커버그 氏의 X 게시물 (@finkd)

## “신뢰와 일화림”이 AI의 경쟁력에

저커버그 氏は 게시물에서, 사용자가 자신의 의도에 맞지 않고, 부탁한 것을 실행하지 않는 AI 에이전트를 사용하고 싶지 않다는 점을 강조하며, AI 기업에는 모델을 인간의 의도에 맞추는 “일화림”을 개선하는 강력한 동기があると 설명했다.

AI의 능력 향상을 위해 조화를 맞추는 것을 지연시켜야 하는지에 대한 논의는 “신뢰와 조화”가 AI 에이전트 및 모델을 차별화하는 중요한 역량으로 자리 잡음에 따라, 조화를 중요하게 생각하지 않는 기업이 경쟁에서 뒤쳐질 것이라는 견해를 제시했다.

또한, AI 모델이 피해를 발생시켰을 경우, 개발 기업은 상당한 법적 책임을 질 가능성이 있다는 점도 안전 대책을 추진하는 동기 부여 요인으로 작용했다.

자카르버그 회장은 구체적인 사례로 뮤즈(Muse)를 예시로 들었습니다. 메타(Meta)는 9월 8일, 이메일 전송, 여행 예약, 쇼핑 등을 사용자 대신 실행할 수 있는 개인 AI 에이전트인 뮤즈(Muse)를 발표했습니다.

뮤즈(Muse)는 전용 가상 환경인 “뮤즈 Secure VM”에서 작동하며, 별도의 “센티넬(Sentinel)” 에이전트가 외부와의 통신을 감시한다. 이메일 전송이나 구매 등 민감한 작업에서는 사용자에게 확인을 요청하는 메커니즘도 갖춘다. 메타는 뮤즈(Muse)를 “안전, 보안, 사적”임을 전제로 설계했다고 밝혔다.

자카르버그 씨에 따르면, 메타는 이러한 안전성과 보안성에 대한 대응을 위해 뮤즈(Muse)의 제공을 수개월 지연했다. 반면, “저희가 지연시키는 동안 다른 회사에도 같은 것을 요구한 것은 아니”라고 하면서, 각 기업이 일상적인 개발 판단으로 필요한 안전 대책을 마련해야 할 것이라는 견해를 밝혔다.

## 독립 평가자의 활용은 “산업의 최우선 사례”

외부 평가에 대해서는, 독립적인 평가자 및 자문가의 활용을 ‘산업의 최우선 사례’로 간주했다.

자카르버그 회장은 독립적인 평가자 및 자문가를 활용하는 것을 “산업의 최우선 사례”로 지칭하며, 메타 슈퍼인텔리전스 랩스(MSL)에서도 여러 분야에서 이미 진행하고 있다고 설명했다. 더 나아가 규모가 크고 다양한 평가자 생태계가 형성되는 것이 바람직하다고 언급했다.

더욱이, AI가 AI 스스로를 개선해 나가는 “재귀적 자기 개선 (recursive self-improvement)”을 둘러싼 경쟁보다는, 계산 자원의 대부분을 사람들에게 AI 서비스를 제공하는 데 사용하는 것이 안전한 AI 개발로 이어진다고 보았다는 점을 나타냈다. Meta는 이미 이러한 정책을 채택하고 있으며, 다른 회사에도 유사한 대응이 가능하다는 점을 시사했다.

이번 게시물 서두에서는, 자카르버그 씨가 8월에 공개한 『The Future is for Everyone』에 링크를 첨부했다. 그는 해당 문서에서, 인공지능의 안전성을 소수의 조직에 권력 집중으로 확보하는 방식에 의문을 제기하며, 여러 사람과 기업이 서로 견제하는 “힘의 균형”을 중시하는 입장을 보였다. 또한, 인공지능의 능력을 억누르는 대신, 정부에 훈련 중단 모델 공유 등을 통해 안전성을 높이면서 개발을 진행하는 방안도 제시했다.

아모디 부회장은 기업 간의 “속도 조절”을 제안했다.

AI 개발 속도를 둘러싸고, 앤트로픽 CEO 다리오 아모디 씨가 9월 12일에 “We Must Pace the Frontier”를 공개하여 인공지능의 능력 향상에 안전 대책이 뒤쳐지도록 개발 속도를 조절해야 할 필요성을 주장하고 있습니다. 이 주장에 대해, 미국 대통령 과학기술 자문 위원회(PCAST) 공동의장을 포함한 여러 사람으로부터 반응이 나오고 있습니다.

아모디 씨는 제3자 평가자(Third-party evaluator)에 의한 지속적인 평가에 더하여, 민주주의 국가의 주요 AI 기업들이 안전 기준과 개발 속도에 대해 협조하고, 궁극적으로는 보다 넓은 국제적인 틀로 연결될 수 있는 구상을 제시했다.

자카리 버그 씨는 AI의 안전 대책을 중시하며, 독립 평가자(Independent evaluator)의 활용을 “산업의 최우선 사례(Best practice)”라고 하고 있다. 반면, 각 기업에는 안전한 개발을 수행하는 경제적 및 법적인 동기가 있으며, 필요한 경우 각 사는 스스로 속도를 조절할 수 있다는 입장을 보이고 있다. AI 기업이 협조하여 개발 속도를 조절하는 아모디 씨의 제안은, 대응 방식에서 입장의 차이가 드러나는 부분이다.

관련 기사: 아모디 씨의 AI 개발 “감속론”에 “필요한 것은 ‘고IQ의 대통령’” 트럼프 씨, 중국은 대립을 경계하며, 마스크 씨 “AGI는 Grok 5”

관련 기사: “타인의 허락이 필요 없는 짓은 멈춰라” 트럼프 정권에서 AI 정책을 담당하는 사ックス 씨, 앤트로픽·OpenAI의 AI 개발 “감속론”에 이의를 제기

관련 기사: OpenAI 연구원 다니엘 셀サム 박사, AI 위험에 대한 개인 성명 발표, 개발 속도 단독으로는 불충분, “감시 하의 평가”에서는 측정할 수 없는 문제를 지적

관련 기사: OpenAI, Anthropic, Google, Meta 등 직원 1천 명 초과, AI 연구 자동화에 대비하여 “개발 속도 조정” 국제 프레임워크를 미국 정부에 요청

관련 기사: Meta, 개인 AI 에이전트 ‘Muse’ 발표, 이메일 전송 및 쇼핑 대행, 미국에서 제공 시작

[원문 보기](https://ledge.ai/articles/meta_zuckerberg_ai_pacing_safety) | 출처: Ledge.ai