프랑스 AI 기업 미스트랄 AI(Mistral AI)가 2026년 8월 4일, 문장이나 이미지가 지정한 안전 기준에 부합하는지 판단하는 AI 모델 “쉴드스트랄 1.0 3B(Shieldstral 1.0 3B)”를 공개했습니다. 파라미터 수는 30억 개이며, 서비스마다 고유한 안전 기준을 자연스러운 문장으로 지정할 수 있는 점이 특징입니다. 쉴드스트랄 소개 | 미스트랄 AI [https://mistral.ai/news/shieldstral/](https://mistral.ai/news/shieldstral/)
Introducing Shieldstral, Mistral’s 3B open-weights model for content safety that can be deployed on-device [https://t.co/SXBTWIJO9p](https://t.co/SXBTWIJO9p)
생성 AI를 활용한 서비스에서는 사용자가 입력한 문장이나 AI가 생성한 답변을 표시하거나 제공해도 되는지 판단하는 “콘텐츠 모드레이션(Content Moderation)”이 이루어집니다. 예를 들어 폭력을 조장하는 내용이나 차별적인 표현, 자해 행에 관한 문장 등을 감지하고, 필요한 경우 답변을 중단하는 역할을 수행합니다.
한편, 사이버 보안 연구 도구에서는 문제가 없는 내용일 수 있지만, 정신 건강 서비스에서는 유해하다고 판단되는 경우도 있습니다. 따라서 위험하다고 판단해야 하는 범위는 서비스에 따라 다르기 때문입니다. 기존의 안전 판단 모델은 위험 내용의 분류가 미리 정해져 있는 경우가 많아, 기준을 바꾸려면 모델의 추가 학습이 필요했던 경우가 있었습니다. 쉴드스트랄에서는 판단하려는 기준을 “폭력을 권장하는지”, “미성년자에게 보여줘도 안전한 이미지인지”와 같은 질문으로 입력합니다. 모델은 대상이 되는 문장이나 이미지를 읽어내고, “예”와 “아니오”의 확률을 기반으로 안전성을 수치화합니다. 서비스 측은 수치에 따라 내용을 숨기거나, 인간에 의한 확인으로 돌릴 수 있는 것입니다. 추가 학습 없이 새로운 안전 기준에 대응할 수 있는지를 조사한 미스트랄 AI의 평가에서 쉴드스트랄은 더 큰 규모의 모델에匹敵(hippeki – 匹敵, 견줄 만함)하며, 여러 비교 대상보다 우수했습니다.
문장뿐만 아니라 이미지에도 대응하며, 이미지 단독으로 또는 문장과 함께 된 이미지가 안전한지 동일한 방식으로 판단할 수 있습니다. 미스트랄 AI의 이미지 모드레이션 평가에서 비교 대상이 된 모델 중에서 쉴드스트랄이 가장 높은 종합 점수를 기록한 것으로 나타났습니다.
쉴드스트랄은 사용자의 입력이나 AI의 답변을 검사하는 것뿐만 아니라, AI가 위험한 요청을 적절하게 거부했는지 판단하는 데에도 활용될 수 있습니다. 영어, 일본어, 중국어, 프랑스어 등 12개 언어에 대응하며, 16GB의 VRAM을 탑재한 GPU 1개로 작동합니다. 모델의 가중치는 Apache License 2.0으로 공개되며, Hugging Face에서 다운로드할 수 있습니다. 미스트랄 AI는 앞으로 다국어 지원 강화, 긴 문장을 판단할 때의 안정성 향상, 이미지 포함 모드레이션 대상 확대 등을 진행할 계획이라고 밝혔습니다. mistralai/Shieldstral-1.0-3B · Hugging Face [https://huggingface.co/mistralai/Shieldstral-1.0-3B](https://huggingface.co/mistralai/Shieldstral-1.0-3B)
원문 보기 | 출처: Gigazine