# Claude Fable 5에서 생물학 질문 과다 제한 문제를 개선하고 오탐을 줄여 “롤백”을 약 85% 감소시킴

> https://bookfactory.kr/c/news/9234
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-08-10T12:02:23.369Z

---

Anthropic는 AI 모델 “Claude Fable 5”의 생물학 분야 안전 조치를 업데이트했습니다. 위험성이 낮은 질문까지 제한 대상으로 판단되는 사례를 줄이고, 생물학 관련 질문을 별 모델로 전환하는 “포털백(fallback)”이 약 85% 감소했다는군요. Improving Fable 5 Safeguards \ Anthropic https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards

Claude Fable 5는 고도화된 생물학 문제를 해결할 수 있지만, 같은 능력이 생물 무기 등의 개발에 악용될 가능성도 있습니다. 안전한 연구와 위험한 연구를 구별하기 어려우므로 Anthropic는 Fable 5의 제공 시작 시점에 생물학 관련 거의 모든 질문을 광범위하게 제한했습니다. 제한 대상으로 판단된 질문은 Fable 5만큼 높은 생물학 능력을 갖지 않은 “Claude Opus 5”로 처리됩니다. 그러나 기존의 안전 조치는 상당히 신중하게 설정되어 있었고, 검사 결과에 대해 조사하거나 생물학을 학습하거나 하는 일반적인 질문까지 제한되는 경우가 있었습니다. 위험한 질문을 놓치지 않기 위해 우선순위를 둔 결과, 문제 없는 질문을 잘못해서 감지하는 “오탐(false positive)”이 증가했다는 것이죠. 이번 업데이트에서는 아래 그림과 같이 Fable 5 제공 시작 시에 설정되었던 넓은 “안전 마진(safety margin)”이 크게 줄어들었습니다. 안전한 질문을 통과시키는 범위가 넓어져, 위험성이 낮은 질문이 잘못 제한될 가능성이 줄어들었습니다.

Anthropic는 분류에 사용하는 규칙을 재작성하고 학습 데이터를 업데이트하여 안전성을 판단하는 분류기를 재훈련했습니다. 테스트 결과 생물학 관련 포털백이 약 85% 감소했고, 일상적인 건강 상담, 생물학 학습, 의료 종사자들에 의한 일부 임상 관련 작업 등에서 Fable 5를 이용하기 쉬워졌다는군요. 다만 업데이트 후에도 바이러스학, 독성학, 분자 설계 등 이중사용으로 판단되는 전문적인 질문은 Opus 5로 전환됩니다. Anthropic는 앞으로도 오탐을 줄이는 동시에 연구자들이 Fable 5의 고도화된 생물학 능력을 안전하게 이용할 수 있는 메커니즘의 정비를 진행할 것이라고 밝혔습니다.

Anthropic가 핵무기 제작을 AI에게 맡기지 못하는 시스템 개발 – GIGAZINE

고령자를 노리는 AI 음성 사기 급증, 단 3초의 음성 데이터로 AI 음성 클론이 만들어짐 – GIGAZINE

“ChatGPT가 10대 청년의 자살을 조장했다”며 OpenAI가 소송당, ChatGPT의 안전 장치는 긴 대화에서는 작동하지 않는다고 OpenAI가 인정 – GIGAZINE

OpenAI, 오픈 소스 추론 모델 “gpt-oss-safeguard” 출시, 개발자가 직접 검열 규칙 설정 가능, 규칙 준수 능력은 GPT-5를 능가 – GIGAZINE

OpenAI, 새로운 AI 시스템으로 우연히 Hugging Face를 해킹 – GIGAZINE

“Claude Fable 5의 은밀한 약화”에 대해 Anthropic가 공식 성명 발표, AI 연구용 모델 약화 개선 – GIGAZINE

알려지지 않은 러시아 결제 네트워크 “A7”의 실체는? 러시아가 서방 국가들의 제재를 회피하도록 지원하고 러시아의 외교 무역에서 약 20%를 처리

2026년 08월 10일 20시 50분 00초 inAI, log1d_ts에 의해 게시

Claude Fable 5는 ov…. 문제를 다루고 있습니다.

최근 24시간 (1시간마다 업데이트, 5분 간격으로 여기에서 확인)

[원문 보기](https://gigazine.net/news/20260810-claude-fable-5-biology-safeguard/) | 출처: Gigazine