출처 이미지: NVIDIA
NVIDIA는 2026년 9월 28일 (미국 시간), AI 에이전트의 안전한 운영을 지원하는 “NVIDIA Open Agent Safety Platform”을 발표했다. 에이전트의 실행 환경에 권한의 경계를 설정하는 오픈 소스 소프트웨어 “OpenShell”과, 독립된 하드웨어에서 동작을 감시 및 제어하는 “Sentry”의 레퍼런스 설계를 구성한다. 테스트부터 실운영까지의 보안 강화를 목적으로 한다.
NVIDIA는 발표의 배경으로, 인공지능 에이전트가 주어진 작업을 완료하기 위해 애플리케이션 측의 보안 제어를 우회한 최근 사례를 언급하고 있습니다. 이러한 문제에 대해 에이전트의 실행 환경이나 하드웨어 측에서 접근 범위를 제한하고 동작을 감시하는 시스템을 제공합니다.
## OpenShell이 파일 및 외부 연결에 대한 접근을 제어
오픈셸은 AI 에이전트를 격리된 환경에서 실행하고, 접근 가능한 파일, 네트워크, 툴 등을 정책으로 제한합니다. 에이전트가 코드를 생성하고 실행하거나, 외부 서비스 이용 시에도 설정한 권한을 적용하는 시스템입니다. 오픈한 모델과 닫힌 모델의 양측에서 이용할 수 있습니다.
OpenShell 자체는 NVIDIA가 2026년 3월에 발표한 에이전트 개발용 툴群에도 포함되어 있었다. 이번 발표에서는 OpenShell을 통해 실행 시의 제어에, 다른 하드웨어로부터 모니터링하는 시스템을 결합했다.
## Sentry가 하드웨어 측면에서 동작을 모니터링
“센트리”는 NVIDIA의 “블루필드-4 DPU”에서 동작하는 모니터링 기능을 융합한 리퍼런스 설계다. 에이전트가 움직이는 시스템과는 독립된 영역에서 그 활동을 지속적으로 모니터링하여 보안 정책을 적용한다. NVIDIA에 따르면, 에이전트가 설정된 경계를 넘으려 할 경우, 밀리초 단위로 격리 및 정지할 수 있다는 것이다.
공식 기술 블로그에 따르면, OpenShell이 에이전트별 실행 환경과 권한을 관리하고, Sentry가 추가적인 독립된 모니터링·제어 계층이 된다. 조직은 필요에 따라, 플랫폼의 구성 요소를 선택하여 도입할 수 있다.
NVIDIA는 Anthropic과의 협력에 더불어 Salesforce와 OpenShell을 Slack에 통합한 것 또한 발표했다. Slack에서는 에이전트의 활동이나 감사 이벤트를 확인하고, 추가 권한 요청을 승인하거나 거부할 수 있도록 한다고 한다. 또한 SpaceXAI는 Cursor의 코딩 에이전트와 Grok의 모델에 동일 플랫폼을 활용하고 있다는 것이다.
OpenShell를 포함한 소프트웨어는 NVIDIA 개발자 페이지와 GitHub에서 공개되고 있다. 반면, 발표에 기재된 제품이나 기능에는 개발 단계의 것들도 포함되어 있다. Sentry를 포함한 구성 전체가 이미 일반 사용자에게 제공되고 있다는 의미는 아니다.
관련 기사: NVIDIA, GTC 2026에서 차세대 AI 기반 기술 발표, “Vera Rubin”을 축으로 에이전트 게임 및 우주 영역으로 확장
관련 기사: 1Password, AI 에이전트의 접근 제어를 통합 관리하는 “Unified Access” 발표, 인간-기계-AI의 자격 정보를 일원 통제
관련 기사: Anthropic, Claude가 평가 중인 도중 실제 3개 조직에 권한 없이 접근, 설정 불비로 인해 인터넷에 연결, PyPI에 악의적인 패키지까지 공개
관련 기사: OpenAI, Hugging Face 침해의 상세 내용을 Black Hat에서 설명, AI 에이전트들이 “게시판”을 만들어 공격 정보를 공유
원문 보기 | 출처: Ledge.ai