# NVIDIA와 마이크로소프트 등 “오픈 보안 AI 연맹” 설립, AI 에이전트 보호를 위한 개방형 방어 기술 공동 개발

> https://bookfactory.kr/c/news/8401
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-07-30T06:25:54.805Z

---

NVIDIA는 현지 시간 2026년 7월 27일, 마이크로소프트, Hugging Face, 어도비, 리눅스 퓨전, SpaceXAI 등 다양한 기업 및 단체와 함께 업계 횡단 조직 “Open Secure AI Alliance”를 설립했다고 발표했다. AI의 책임 있는 이용과 신뢰를 촉진하기 위해, 오픈 모델과 AI 에이전트 기반, 보안 도구를 공동으로 개발하고 공유할 계획이다.

설립 파트너로는 시스코, 클라우드플레어, 데이터브릭스, 델 테크놀로지스, IBM, 팔로 알토 네트웍스, 레드햇, Salesforce, SAP, ServiceNow, 지멘스, Snowflake 등 다양한 기업들이 참여하고 있습니다.

**AI 에이전트 전체 보호**

최근 일본의 보안 기업인 사이버다이노(Cyberdyne)는 기업의 AI 에이전트가 악의적인 공격이나 데이터 유출로 인해 손상되는 것을 막기 위한 새로운 보안 솔루션을 발표했다. 단순히 특정 모델의 취약점을 해결하는 것을 넘어, AI 에이전트의 전체적인 보안을 강화하는 데 초점을 맞춘 것이다.

특히, AI 에이전트가 사용하는 데이터의 무결성을 보장하고, 외부로부터의 의심스러운 접근을 차단하는 기술을 개발했다. 또한, AI 에이전트의 행동 패턴을 실시간으로 모니터링하여 비정상적인 활동을 감지하고, 즉각적으로 대응할 수 있도록 설계되었다.

사이버다이노의 이번 솔루션은 기업들이 AI 기술을 도입하면서 증가하는 보안 위협에 효과적으로 대처할 수 있도록 돕는 중요한 역할을 할 것으로 기대된다. 특히, 자동화된 의사 결정 시스템이나 고객 서비스 에이전트 등 다양한 AI 에이전트가 활용되는 환경에서 그 중요성이 더욱 부각될 전망이다. 

사이버다이노는 이번 솔루션의 기술력을 입증하기 위해, 실제 기업 환경에서 테스트를 진행하고 있으며, 향후 다양한 산업 분야에 적용될 수 있도록 기능 확장에 힘쓸 계획이다.

오픈 보안 AI 연합(Open Secure AI Alliance)은 인공지능 시대의 소프트웨어와 AI 에이전트를 보호하기 위해 취약점 발견, 수정, 공개에 활용될 수 있는 개방형 기술 및 방법론, 도구의 정비 및 발전을 추진한다.

NVIDIA는 인공지능 에이전트의 안전성은 모델의 가중치가 공개되어 있는지 여부만으로 결정되는 것이 아니라, ID, 권한, 에이전트 하르, 가드레일, 로그, 평가 등 시스템 전체에 의존한다고 설명하고 있다.

제휴사에서는 AI 에이전트 및 서비스의 ID 관리, 실행 환경 분리, 안전한 모델 형식, 다수의 AI 모델을 활용한 취약점 스캔, 안전한 코딩 환경 등을 결합하여 개방형 방어 기반을 구축하는 방안을 추진한다.

**일본 주요 기업들이 기술을 공유하고 개방적인 방어 기반을 구축한다**

최근 일본의 여러 IT 기업들이 모여, 새로운 보안 기술 개발을 위한 협력을 시작했다. 이번 협력의 핵심은 각 회사의 보유 기술을 공유하고, 이를 바탕으로 보다 강력하고 유연한 방어 기반을 구축하는 데 있다. 특히, 핀테크 기업인 렉스페론(RX-Venture Capital)과 보안 솔루션 기업인 닛폰가이세이(Nippon Gaisi)가 주도적으로 참여하고 있으며, 소프트뱅크홀딩스(SoftBank Holdings)의 자회사인 소프트뱅크헬스(SoftBank Health) 또한 이번 프로젝트에 합류했다.

이번 협력을 통해 개발될 방어 기반은, 기존의 보안 시스템의 취약점을 보완하고, 새로운 위협에 대한 대응 능력을 향상시키는 데 초점을 맞출 계획이다. 또한, 클라우드 환경과 모바일 환경 등 다양한 환경에서 안전하게 데이터를 보호할 수 있도록 설계될 것으로 예상된다. 렉스페론의 핀테크 기술, 닛폰가이세이의 보안 기술, 그리고 소프트뱅크헬스의 의료 데이터 보안 기술 등을 융합하여, 혁신적인 보안 솔루션을 제공하는 것이 목표다. 

이러한 움직임은 일본 정부의 ‘디지털 샌드박스’ 정책과도 시너지를 낼 것으로 기대된다. 디지털 샌드박스 정책은 새로운 기술과 서비스를 시험적으로 운영할 수 있도록 허용하는 제도인데, 이번 기업 간 협력은 이러한 정책의 효과를 극대화하는 데 기여할 수 있다. 특히, 금융, 의료 등 민감한 데이터를 다루는 분야에서 보안 기술 개발을 가속화하고, 새로운 비즈니스 모델 창출에도 긍정적인 영향을 미칠 것으로 전망된다.

NVIDIA는 오픈형 AI 모델, 모델 가중치, 데이터뿐만 아니라 AI 에이전트용 프레임워크 “NVIDIA Labs Object-Oriented Agents (NOOA)”를 제공한다.

NOOA는 AI 에이전트를 Python의 클래스로서 구축하는 오픈 소스 연구용 프레임워크다. 에이전트의 작동을 테스트하고 추적하며 감사하고, 거버넌스의 대상으로 삼기 쉽도록 설계되었다. 코드와 평가 방법은 GitHub에서 공개되어 있다.

Hugging Face는 인공지능 모델의 가중치를 안전하게 저장하기 위한 형식인 “Safetensors”를 제공한다. HPE는 인공지능 에이전트 및 서비스를 암호학적으로 검증하는 제로 트러스트 ID 기반인 “SPIFFE/SPIRE”에, IBM과 Red Hat은 디지털 서명과 함께 수정 패치를 다루는 “Lightwell”에 참여하고 있다.

마이크로소프트는 여러 AI 모델과 전문 에이전트를 연계하여 악용 가능한 취약성 발견부터 검증까지 수행하는 “MDASH”를 제공한다. 스페이스XAI는 터미널에서 동작하는 AI 코딩 에이전트 “Grok Build”를 오픈 소스화하고, Grok 시리즈 모델 웨이트 공개를 계획하고 있다.

최근 발생한 르네상스(Renaissance)의 개인정보 유출 사건은 AI 모델 개발 및 활용에 대한 보안 문제에 대한 우려를 더욱 심화시키고 있다. 이번 사건의 핵심은 르네상스의 고객 데이터베이스가 해킹당한 것일 뿐만 아니라, 이 데이터베이스에 사용된 AI 모델 개발 플랫폼인 Hugging Face에 대한 침투 시도도 동시에 이루어졌다는 사실이다.

르네상스는 고객의 이름, 주소, 전화번호, 이메일 주소, 신용카드 정보 등 민감한 개인정보를 수집하고 있었으며, 이 정보가 해킹되어 유출되었다. 특히, 르네상스는 고객 데이터를 분석하고 개인 맞춤형 상품을 추천하는 데 사용되는 AI 모델을 Hugging Face의 Transformers 라이브러리를 기반으로 개발하고 있었다. 

이번 사건을 통해 Hugging Face의 플랫폼이 악의적인 공격에 취약할 수 있다는 점이 드러났다. Hugging Face는 다양한 AI 모델을 공유하고 활용할 수 있도록 하는 플랫폼이지만, 동시에 이러한 모델들이 악용될 가능성도 존재한다. 

르네상스의 해킹 사건 이후, Hugging Face는 보안 강화 방안을 마련하고 있으며, 사용자들에게도 모델 사용 시 보안에 대한 주의를 당부하고 있다. 특히, Hugging Face의 모델을 활용하여 개발된 AI 모델의 보안 취약점을 점검하고, 악의적인 공격에 대비하는 것이 중요하다고 강조하고 있다. 

이번 사건은 AI 모델 개발 및 활용 과정에서 보안 문제에 대한 경각심을 높이고, 관련 기술 및 정책 마련의 필요성을 시사하고 있다. 또한, AI 모델의 개발 및 활용에 있어서 데이터 보안과 개인정보 보호를 위한 노력을 강화해야 할 것이다.

NVIDIA는 오픈 보안 AI 연맹(Open Secure AI Alliance)이 필요한 배경 중 하나로, 2026년 7월에 Hugging Face가 발표한 보안 사고를 언급하고 있습니다.

Hugging Face는 침입 사고 조사 과정에서 공격 명령어와 악성 프로그램 정보를 상업용 AI API로 전송하려 시도했으나, 안전 장치에 의해 처리 요청이 거부되었습니다. 이에 따라 자체 인프라에서 오픈 웨이트 모델 “GLM 5.2”를 실행하여 1만 7천 건 이상의 운영 로그를 분석했다고 밝혔습니다.

연합체는 방어 측이 자사 환경에서 AI를 검증, 조정, 실행할 수 없게 되면 신속한 대응이 필요한 상황에서 조사 능력을 제한받을 수 있다는 점을 지적한다.

## 개방형 모델에 대한 일률적인 규제를 비판

Open Secure AI Alliance는 개방형 모델이 사이버 공격에 악용되거나 안전 조치를 제거하기 위해 개변되거나 하는 위험이 있다는 점을 인정하면서도, 이러한 위험은 폐쇄형 AI에도 존재하며, 모델 가중치를 비공개로 하는 것만으로는 악용을 막을 수 없다는 입장을 보였다.

이 조직은 개방성을 강력한 안전 조치, 악용을 금지하는 규칙, 엄격한 평가, 신속한 수정과 결합해야 한다고 설명한다. 정책 입안자나 규제 당국에게는 개방형 모델이나 AI 에이전트 기반을 보안 부담이 아닌, 방어 측이 활용할 수 있는 자산으로 취급해 줄 것을 요구한다.

[원문 보기](https://ledge.ai/articles/open_secure_ai_alliance) | 출처: Ledge.ai