# OpenRouter, AI 에이전트의 위험한 작동을 다른 AI가 감지하여 차단하는 “Armor”를 출시

> https://bookfactory.kr/board/news/22196
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-16T23:41:03.405Z

---

다수의 AI 모델을 이용할 수 있는 서비스 “OpenRouter”가, AI 에이전트가 위험한 도구 실행을 방지하는 신규 기능 “Armor”를 출시했습니다. Armor는 AI 에이전트가 실행하려 시도하는 작업을 다른 AI 모델로 사전에 검사하고, 설정된 규칙에 위반하는 작업을 자동으로 차단하는 기능입니다. 기사 작성 시점에서는 베타 버전으로 제공되고 있습니다. Armor - 도구 호출에 대한 안전 분류기: https://openrouter.ai/docs/guides/features/plugins/armor

오늘, OpenRouter Armor를 베타 버전으로 출시합니다. Tool calls는 에이전트가 세계와 상호 작용할 수 있도록 하며, regex 기반 필터링만으로는 원치 않는 도구 호출을 감지하는 데 충분하지 않습니다. Armor는 @typesafeai의 Jev 모델을 사용하여 정책 위반 도구 호출을 사전에 방지합니다… pic.twitter.com/7kYmkHMP0A

AI 에이전트는 사용자의 지시에 따라 프로그램을 작성하거나, 파일을 편집하거나, 외부 서비스를 조작할 수 있습니다. 기존의 챗 AI보다 훨씬 더 넓은 범위를 맡길 수 있는 반면, AI 에이전트가 잘못된 판단을 내릴 경우 중요한 파일의 삭제나 기밀 정보의 외부 전송과 같은 문제가 발생할 위험이 있습니다. 위험한 조작을 방지하는 방법으로, 명령을 실행할 때마다 사용자의 승인을 요청할 수 있지만, 작업 중간에 수시로 확인이 필요하면 AI 에이전트의 편의성이 손상됩니다. 반대로, 모든 작업을 자동 승인하면 위험한 처리까지 실행될 가능성이 있다는 것입니다. 유사한 문제에 대처하기 위해 Anthropic은 AI 코딩 에이전트 “Claude Code”에 운영의 안전성을 자동 판단하는 “Auto mode”를 도입했습니다. Claude Code에 권한 자동 결정 기능이 추가되는 가운데, AI가 권한의 위험을 체크하고 작업을 자동 실행 - GIGAZINE

OpenRouter가 새로 도입한 Armor 또한 실행을 수행하기 전에 안전성을 판단하는 메커니즘입니다. OpenRouter를 통해 이용하는 AI 모델과 애플리케이션 사이에 들어가 AI 에이전트로부터 전송되는 도구의 실행 요청을 검사합니다. Armor의 안전성 검사에는 TypeSafe가 개발한 AI 모델 “Jev”가 사용됩니다. Jev는 문장의 생성보다 분류나 판단에 특화되어 있으며, 지정된 조건에 부합하는 가능성을 수치로 나타내는 것이 특징입니다. Armor는 Jev를 사용하여 단순한 문자열의 일치만으로는 구별할 수 없는 위험한 운영도 대화의 내용을 반영하여 감지할 수 있다고 합니다. ChatGPT 공동 개발자가 LLM과는 다른 방식으로 처리하는 AI 모델 “Jev”를 개발, GPT-5.6 테라급의 성능으로 작업을 저렴하고 초고속으로 실행 가능 – GIGAZINE

아머에서는 개발자가 자연어(자연어)로 안전성(安全性)에 관한 규칙(ルール)을 설정(設定)할 수 있습니다. AI 에이전트(AIージェント)가 조작(操作)을 요청(요청)하면, 전용(専用)의 판정(判定) 모델(모델)이 조작(操作) 내용(内容)과 대화 기록(会話記録), 설정(設定)된 규칙(ルール)을 비교(照合)하여 위반(違反)할 가능성(可能性)을 평가(評価)합니다. 문제가 있는 것으로 판정(判定)된 조작(操作)은 실행(実行)되지 않으며, AI 에이전트(AIージェント)에는 차단(ブロック)된 이유(理由)가 통지(通知)됩니다. AI 에이전트(AIージェント)는 통지(通知)를 받아서 다른 방법을 시도(試道)하거나 사용자(利用者)에게 상황(状況)을 설명(説明)할 수 있습니다. 안전성(安全性)에 관한 규칙(ルール)은 “절대 금지(禁止)하는 조작(操作)”, “원칙(原則)적으로 금지(禁止)하는 조작(操作)”, “예외(例外)적으로 허용(許可)하는 조작(操作)”의 3 종류(種類)로 나뉩니다. 예를 들어, 기밀(機密) 정보를 외부(外部)로 전송(送信)하는 조작(操作)은 절대 금지(禁止)하며, 파일(ファイル) 삭제(削除)는 원칙(原則)적으로 금지(禁止)한다고 설정(設定)할 수 있습니다. 원칙(原則) 금지(禁止) 조작(操作)이라도, 사용(使用)자가 삭제(削除) 대상(対象)을 구체(具体)적으로 지정(指定)했거나 허용(許可) 규칙(ルール)에 해당(該当)하는 경우에는 실행(実行)될 수 있지만, 절대 금지(禁止) 규칙(ルール)에 해당(該当)한 조작(操作)은 사용자(利用者)로부터 지시(指示)받아도 차단(ブロック)된다고 합니다.

Armor는 사용자 의도를 우선시하여 일련의 규칙과 텍스트 조각에 각 도구 호출을 평가합니다. 사용자가 “우리 작업 푸시”라고 요청하면 (bash 도구: git push)가 허용되고, 사용자가 요청하지 않은 위험한 명령은 감지됩니다. pic.twitter.com/TEuGjuhSMW

또한, Armor은 Claude Code의 Auto 모드와 호환됩니다. OpenRouter의 AI 에이전트 실행 환경인 “Ori”를 통해 OpenRouter가 제공하는 다양한 AI 모델에서도 Claude Code의 운영 승인 메커니즘을 활용할 수 있습니다. 개발자에게는 실제로 작동을 차단하지 않고 판단 결과만 기록하는 “감사 모드”도 제공되어, 개발자는 감사 모드에서 보안 규칙을 검증하고 필요에 따라 조정 후 자동 차단을 활성화할 수 있습니다. OpenRouter에 따르면, Armor에 의한 보안 검사 추가되는 처리 시간은 중앙값으로 279밀리초, 90%의 처리는 334밀리초 이내였습니다. Armor은 기사 작성 시점에 베타 버전으로 이용 가능하며, 보안 검사 판정 추가 요금은 발생하지 않습니다. OpenRouter는 공식 제공에 앞서 요금을 발표할 예정이며, 베타 기간 동안 설정 항목 및 판정 결과 형식이 변경될 가능성을 제시합니다.

[원문 보기](https://gigazine.net/news/20261016-openrouter-armor/) | 출처: Gigazine