Anthropic은 8월 7일 생물학 분류기를 다시 작성해 Claude Fable 5를 보호하는 장치를 손봤으며, 그 결과 생물학 관련 우회 전환이 약 85% 줄었다고 밝혔다. 회사는 Fable 5가 이중용도 위험을 관리하기 위해 의도적으로 매우 광범위한 생물학 차단과 함께 출시됐으며, 그 범위가 과도한 오탐으로 이어졌다고 설명했다.
거부가 아니라 우회 전환
이 메커니즘은 숫자를 어떻게 읽어야 하는지를 결정한다. Fable 5는 표시된 생물학 요청을 거부하지 않으며, 분류기가 이를 감지해 해당 질의를 Opus 5로 재전송한다. 회사는 이를 "동일한 수준의 생물학적 역량을 갖고 있지 않은 유능한 모델"이라고 설명했다. 이 비율은 요청이 얼마나 자주 재전송됐는지를 보여줄 뿐, 얼마나 자주 거부됐는지를 뜻하지는 않는다.
제품별로 차이 뚜렷
전체 우회 전환 감소폭은 적용 면에 따라 크게 달랐다. Claude.ai에서는 67%, Cowork에서는 55%, Claude Code에서는 17%, Claude Platform에서는 7%였다. 85%라는 헤드라인 수치는 생물학에만 해당하며, 전체 원인 기준 수치는 그보다 아홉 배까지 차이가 나 소비자용 채팅에서 회복된 비중이 개발자 트래픽보다 훨씬 컸음을 보여준다.
여전히 차단되는 것
이중용도 측면에서는 아무 완화도 없었다. 바이러스학, 독성학, 분자 설계를 건드리는 전문 생물학 및 약물개발 문의는 여전히 우회 전환된다. 반면 개선된 것으로 꼽힌 사례는 실험실 결과 해석, 증상 이해, 교육적 맥락에서의 생물학 학습 등으로, 과도한 필터가 실수로 걸러내던 영역이다.
드문 점은 공개 방식
변경 자체는 화려하지 않다. 무해한 사용 사례를 세밀하게 분리하고, 훈련 데이터를 만들고, 재학습하는 과정이다. 다만 이 전후를 공개한 점은 이례적이다. 최전선 연구소가 가장 강한 안전장치가 정당한 업무를 얼마나 막고 있었는지, 그리고 모델을 건드리지 않고도 그중 얼마나 회복할 수 있었는지 수치로 제시한 셈이다.