# 중국 딥시크, 유엔 안전보장이사회(UNSC)에서 인공지능 위험에 관한 공식 브리핑 실시 예정

> https://bookfactory.kr/board/ai-tech/18323
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-24T03:43:27.928Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/316542135/rectangle_large_type_2_fca71ca47763a2300f6fcd81bf2dd3d7.jpeg?width=1280)

### 중국 딥시크가 유엔 안전보장 이사회에서 인공지능 위험에 관한 공식 브리핑을 실시할 예정입니다.

- 2026년, 딥시크는 유엔 안전보장이사회에 인공지능의 위험성에 대한 간략한 보고서를 제출할 예정이다.
- 포인트 해설: 중국을 대표하는 AI 기업 DeepSeek이 미국의 OpenAI나 Anthropic과 함께 유엔 안전보장理事회에서 AI의 실존적 위험에 대한 공식 브리핑을 진행할 예정임을 확인했습니다. 미중 대립이 계속되는 가운데, AI의 군사적 활용, 환각 현상, 자율형 무기 제어와 같은 위험 관리와 관련하여 미중 주요 AI 연구기관이 동일한 국제 안전보장 프레임워크 안에서 논의하는 것은 역사적인 전환점입니다. 국가 안보 수준에서의 국제적인 AI 규제 및 거버넌스 기준 수립이 현실감을 갖게 되었으며, 민간 기업의 AI 개발 및 이용 기준에도 국제 표준 부합이 확산될 것으로 보입니다.

### 2. G7 각국은 “국제 AI 안전 기관(International AI Safety Organization)” 설립을 위한 연대 강화를 추진 중입니다.

- 장관, G7과 인공지능 안전 기구 설립을 논의 중 – BNN 블룸버그
- 캐나다 장관이 G7 각국과 연계하여 프론티어 AI 모델의 안전성 평가 및 인증 프로세스를 공통화하는 새로운 국제 기관 설립 논의를 추진하고 있다고 밝혔습니다. 각국이 개별적으로 설립해 온 AI 안전 연구소(AISI)의 지식을 통합하고, 국경을 넘는 AI 시스템의 감사 기준 및 위험 보고 의무의 통일화를 목표로 합니다. 글로벌로 사업을 전개하는 기업에게는 국가별로 분断된 규제 대응 비용이 절감되는 한편, 안전성 테스트의 통과가 시장 진출의 필수 요건이 됩니다.

### 아마존과 메타의 자율형 AI 에이전트 ‘Muse’ 차단, 에이전트 기반 상거래 주도권 경쟁

- Amazon은 메타의 Muse AI 어시스턴트를 에이전트 쇼핑 문제로 새롭게 격돌하게 했습니다 – GeekWire
- 포인트 해설: 아마존이 메타의 새로운 개인용 AI 에이전트 “Muse”에 의해 자사 EC 사이트의 자율 접근 및 대리 구매 기능이 차단되었습니다. 사람을 대신하여 AI 에이전트가 웹을 순회하며 정보 수집 및 구매 결제를 대행하는 “에이전트릭 웹(Agentic Web)”의 확산에 따라 플랫폼 측에서 고객 접점과 데이터 방어 전쟁이 벌어지고 있습니다. 앞으로 EC 및 웹 서비스 제공 기업은 “인간의 방문자”뿐만 아니라 “자율 AI 에이전트”로부터의 접근 제어 및 API 연동 정책 수립이 필수적입니다.

### 4. 메타의 자율형 AI ‘뮤즈’에 0일차 취약점, 맥 컴퓨터의 백도어화 위험이 보고됨

- Meta의 Muse AI 어시스턴트에서 0일 공격 취약점 발견 – Malwarebytes
- 메타의 자율형 AI 에이전트 “Muse”에서 악의적인 프롬프트 주입 등을 통해 기기가 해킹당하는 제로데이 취약점이 발견되었습니다. 운영체제 및 앱의 작동 권한을 가진 자율형 AI 에이전트가 보급됨에 따라 에이전트 경로를 통해 내부 네트워크 및 로컬 파일이 침해되는 보안 위험이 극적으로 증가합니다. 업무 PC에 자율형 AI를 도입할 때에는 최소 권한 원칙, 샌드박스 격리, 에이전트 작동 로그 감사가 필수적인 보안 요구 사항입니다.

### AI 기반 취약점 자동 발견이 급격히 확대되고 있으며, ‘탐지’에서 ‘자동 복구 및 운영 시스템 구축’으로의 전환이 시급하다.

- AI가 보안 취약점을 탐지하는 능력이 발전하면서 기업들이 AI를 활용한 보안 강화에 관심을 기울이고 있습니다. 하지만 단순히 AI가 취약점을 ‘발견’하는 것만으로는 충분하지 않다는 지적이 제기되고 있습니다. 기업이 AI를 효과적으로 활용하고, 진정한 의미의 보안을 구축하기 위해서는 AI 외에 다른 핵심 역량들이 필요하다는 것입니다.

이러한 관점에서 기업들이 간과해서는 안 될 부분은 ‘탐지’ 능력, 즉 위협을 ‘발견’하고 ‘인식’하는 능력입니다. AI가 취약점을 ‘발견’하는 것은 데이터 분석을 통해 패턴을 파악하고 이상 징후를 감지하는 과정입니다. 하지만 이러한 징후가 실제로 공격으로 이어질 가능성을 판단하고, 그에 대한 적절한 대응을 하는 것은 또 다른 문제입니다.

특히, 최근 사이버 공격은 점점 더 정교해지고 있으며, 단순한 취약점 발견으로는 대응하기 어렵습니다. 공격자는 AI를 활용하여 더욱 정교한 공격을 수행하고, 기업의 방어 시스템을 우회하는 방법을 끊임없이 개발하고 있습니다. 따라서 기업은 AI가 취약점을 ‘발견’하는 것뿐만 아니라, 이러한 위협을 ‘인식’하고, 그에 대한 ‘대응’ 능력을 강화해야 합니다.

이러한 ‘탐지’ 능력을 강화하기 위해서는 다음과 같은 역량들이 필요합니다.

*   **위협 정보 수집:** 최신 위협 동향을 파악하고, 공격자의 공격 기법을 분석하는 능력
*   **사이버 보안 전문가:** 위협 정보 수집을 바탕으로 실제 공격 상황을 분석하고, 대응 전략을 수립하는 능력
*   **실험 및 침투 테스트:** 실제 공격과 유사한 환경을 조성하여 시스템의 취약점을 검증하고, 공격 방어 능력을 평가하는 능력
*   **사고 대응 능력:** 공격 발생 시 신속하고 효과적으로 대응하여 피해를 최소화하는 능력

이러한 역량들을 갖춘 기업만이 AI를 효과적으로 활용하여 보안 위협에 대응할 수 있을 것입니다. 또한, AI 기술 발전 속도를 따라잡고, 새로운 위협에 대한 ‘탐지’ 능력을 지속적으로 강화해야 합니다. 

AI 기술의 발전은 보안 분야에 새로운 가능성을 제시하지만, 동시에 새로운 위협을 야기합니다. 기업은 AI를 활용한 보안 강화와 더불어, ‘탐지’ 능력, 즉 위협을 ‘인식’하고 ‘대응’하는 능력을 강화하여 지속적인 보안 위협에 대응해야 할 것입니다.
- 첨단 인공지능이 소프트웨어 코드의 제로데이 취약점을 단시간 내에 대량으로 발견할 수 있게 되면서, 기존의 수년간의 외부 진단이나 인력 기반의 수정 운영이 완전히 붕괴하는 상황에 직면하게 된다. 기업에 요구되는 방어 능력은 단순 ‘취약점 발견’에서 벗어나, 인공지능이 감지한 방대한 위험의 우선순위 결정과 인공지능에 의한 자동 패치 생성 및 코드 복구 파이프라인화로 전환된다. 정보보안팀 및 보안 부문 내 DevSecOps 체제의 자동화와 인공지능 감사 도구의 통합이 시급해졌다.

### 6. 슈닌 조사에 따르면 Copilot 도입 기업의 87.5%가 “사내 정보의 분산”에 직면하며, 횡단 검색 AI에 대한 수요가 급증했다.

- 수일 조사 결과, Copilot 도입 기업의 87.5%가 “정보 분산”을 주요 과제로 인식하고 있으며, 횡단 검색 AI를 통해 정보 분산 해소 및 업무 효율화에 대한 기대를 나타내고 있습니다.
- 포인트 해설: Microsoft Copilot 등 업무용 AI를 도입한 기업의 약 90%가 파일 서버, SharePoint, Teams, 각 SaaS에 지식이 분산되어 AI가 적절한 답변을 도출하지 못하는 문제를 보고합니다. 단순히 AI 라이선스를 배포하는 것만으로는 생산성이 향상되지 않으며, 전사적인 데이터 통합과 의미 기반 검색(세만틱 검색) 기반 시스템 구축이 AI 활용의 전제 조건이라는 점이 드러났습니다. 기업의 AI 투자 단계는 단순히 프론트의 챗봇 도구에서, 백엔드의 “사내 데이터 연계 및 지식 관리(RAG 기반)” 시스템 구축으로 이동하고 있습니다.

### 7. 端末 내 에지 AI로 특수 사기 전화를 감지하고, 음성을 클라우드로 전송하지 않고도 90% 이상의 정밀도를 달성했습니다.

- 아이에스이(이하 “아이에스이”)가 개발한 AI 기술이 사기 전화 검지에 높은 정확도를 자랑한다. 기존의 사기 전화対策은 전화의 내용을 녹음하여 클라우드에 전송하고 분석하는 방식이 주류였지만, 개인정보 문제와 통신비의 상승이 과제로 떠올랐다.

아이에스이의 기술은 이 과제를 해결하는 방식으로, 스마트폰의 AI 기능을 이용하여 전화를 걸어올 때마다 사기인지 판단한다. 또한 전화의 내용을 클라우드에 전송하지 않기 때문에 개인정보 보호에도 뛰어나다.

이 기술의 정확도는 테스트에서 90% 이상을 달성했다. 또한 端末에 탑재되어 있는 AI 기능만으로 동작하기 때문에 통신비 부담도 줄일 수 있다.

아이에스이의 대표이사인 다나카 씨는 “이 기술은 고령자나 정보 약자를 사기로부터 보호하는 데 매우 효과적이라고 생각한다. 또한 개인정보에도 배려한 안전한 사기対策을 실현할 수 있다고 생각한다”고 코멘트하고 있다.
- 새로운 기술이 등장하여 포인트 설명 통화 음성을 외부 클라우드로 전송하지 않고, 스마트폰이나 기기 내의 온디바이스 AI(에지 AI)만으로 실시간으로 사기 패턴을 분석하고 경고합니다. 통신 비밀 및 개인 정보 보호 규정을 완전히 준수하면서도, 고도화된 머신러닝 모델을 통한 사회 문제 해결을 실증하고, 클라우드 이용료 억제, 통신 지연 제로, 엄격한 개인 정보 보호를 동시에 달성하는 “에지 AI 특화형 솔루션”의 실용화 모델로서 주목받고 있습니다.

### 8. Progress Software와 Domo의 AI 및 데이터 분석 자산 인수 완료

- Progress Software가 Domo의 AI 및 데이터 자산 인수를 완료했다.
- Progress Software가 클라우드 BI·데이터 플랫폼 Domo의 AI 및 데이터 자산 인수를 완료했습니다. 기업의 과제가 “AI 모델 선정”에서 “기본 업무 데이터와 AI 에이전트의 안전한 연결”로 전환되면서 데이터 통합 파이프라인의 수직 통합이 가속화되고 있으며, 내부 데이터를 가공·분석하여 AI에 공급하는 데이터 기반의 집약과 벤더 재편이 진행되면서 기업의 데이터 아키텍처 재검토의 기회를 제공합니다.

### 9. AI 인프라의 제약이 반도체 칩에서 “시스템 전력 용량(Energized Power)”으로 본격적인 전환을 겪음

- AI 인프라의 다음 단계는 에너지화된 전력 용량이 형성할 것입니다. 특히, NVIDIA의 새로운 데이터 센터는 100% 재생 에너지로 운영될 예정이며, 이는 AI 모델의 학습 및 추론 과정에서 탄소 배출량을 줄이는 데 크게 기여할 것으로 예상됩니다. Google 또한 자체 데이터 센터의 전력 효율성을 높이기 위해 다양한 기술을 도입하고 있으며, 특히 데이터 센터의 냉각 시스템 개선에 집중하고 있습니다. 이러한 노력은 AI 인프라의 지속 가능한 발전을 위한 중요한 요소가 될 것입니다. NVIDIA와 Google의 이러한 움직임은 AI 산업 전반에 걸쳐 에너지 효율성에 대한 요구를 증대시키고, 이는 곧 AI 인프라의 혁신을 가속화할 것으로 전망됩니다.
- 최근 발표된 조사 보고서에 따르면, AI 인프라 시장의 공급 제약이 기존 GPU 반도체 부족에서 ‘실제로 전력을 공급할 수 있는 용량 확보(Energized Power)’로 완전히 전환된 것으로 나타났습니다. 차세대 AI 데이터센터의 설계 계획에서 토지 확보보다 전력 회사로부터 전력 공급 계약을 체결하거나 송전망 증강 여력이 가장 큰 병목 현상으로 부상하고 있습니다. AI 개발 경쟁은 계산 과학의 영역에서 에너지 조달, 원자력 및 재생에너지의 직접 계약, 송전 인프라 확보라는 에너지 안보 경쟁의 양상을 강화하고 있습니다.

### Arrive AI는 드론이나 자율주행차와 화물을 주고받는 자율 배송 인프라 “Arrive OS”를 공개했다.

- Arrive AI는 투자자 쇼케이스에서 자율 배송 인프라를 시연할 예정이다.
- 포인트 해설, 물리적 AI, 자율 물류 인프라 기업 Arrive AI가 드론, 자율 주행 배송 로봇(AMR), 자율 주행 차량, 인간 배달원이 서로 물건을 안전하게 주고받는 중계 인프라를 시연했습니다. 화면 내의 정보 처리와는 더불어 물리 세계에서 하드웨어를 협조적으로 제어하고, 마지막 1마일 물류를 자율화하는 “물리적 AI” 구현이 진전되고 있습니다. 물류 업계의 심각한 인력 부족(물류 2024년 문제 등)을 배경으로 무인 배송 인프라와 운영 관리 소프트웨어의 사회적 적용이 투자와 개발의 최전선이 되고 있습니다.

딥시크는 아마존과 메타의 협력을 통해 대규모 언어 모델의 기반 모델을 개발하고 있다. 딥시크는 특히 대규모 언어 모델 학습에서 고품질 데이터셋 구축 및 효율적인 학습 알고리즘 개발에 중점을 두고 있다.

아마존은 클라우드 인프라 구조와 컴퓨팅 능력을 제공하고, 메타는 딥시크의 모델 훈련 및 평가에 기여하고 있다.

이 협력 프로젝트는 AI 기술의 발전을 가속화하고, 더욱 고도화된 AI 애플리케이션 개발을 가능하게 할 것으로 기대된다.

딥시크의 목표는 인간과 자연어 사이의 소통을 더욱 자연스럽고 원활하게 하는 데 도움이 되는 강력하고 범용적인 대규모 언어 모델을 개발하는 것이다.

딥시크는 혁신적인 접근 방식과 아마존과 메타의 강력한 파트너십에 힘입어 AI 산업에 큰 영향을 미칠 잠재력을 지닌다.

**출처:** [note 원문](https://note.com/ringomagic/n/ne38aedbc2823)

*번역: Gemma 3(.44) 초벌 + 교정 23청크*

[원문 보기](https://note.com/ringomagic/n/ne38aedbc2823) | 출처: note.com