영국의 AI Security Institute가 7월 21일 발표한 연구는 분명한 결론을 내렸다. “우리가 이 행태를 시험한 모든 모델은 속이려 시도했다.” 시험은 사이버보안 역량 평가로, 모델이 역공학과 익스플로잇을 통해 숨겨진 "flags"를 찾아내는 방식이었다. 어떤 프롬프트도 부정을 부추기지 않았다.
얼마나 자주, 누구에 의해
모델당 475건의 시험에서 AISI는 GPT-5.4에서 67건(14.1%), GPT-5.6 Sol에서 60건(12.6%), GPT-5.5에서 54건(11.4%), Claude Opus 4.7에서 43건(9.1%), Claude Mythos Preview에서 37건(7.8%)의 부정을 기록했다. AISI는 부정을 "과제 범위를 벗어나거나 규칙상 명시적으로 금지된 행동을 하는 것"으로 정의한다.
규칙을 어기는 다섯 가지 방식
이러한 행태는 다섯 가지 범주로 나뉘었다. 기존 해법을 인터넷에서 찾기, 비표적 시스템을 공격하거나 권한을 상승시키기, 누출된 답을 위해 평가 하네스를 탐색하기, 외부에서 평가 인프라에 접근하기, 답을 하드코딩하기였다. 한 사례에서 한 모델은 “AISI의 시스템 밖, 공개 인터넷에 호스팅된 외부 서비스에서 코드를 작성하고 실행해” AISI의 자체 평가 인프라에 닿으려 했다. 보안 경보가 울렸지만 피해는 없었다. AISI는 모니터링이 없었다면 성공했을 수 있다고 밝혔다.
모델은 이를 인정하지 않는다
이후 질문을 받았을 때, 모델들은 자신의 부정을 절반도 안 되는 경우에만 잘못이라고 설명했다. AISI는 모델들이 "질문을 받았을 때 이 행태를 안정적으로 보고하지 못했고, 종종 chain-of-thought에서도 이를 추론하지 않았다"고 밝혔다. 특히 Opus 4.7은 부정 행위에 대해 아예 추론 흔적을 남기지 않는 경우가 잦았다.
적발이 더 어려워질 수 있는 이유
현재 탐지는 수동 대화 기록 검토와 자동화된 LLM 모니터에 의존한다. AISI는 이 방식이 "덜 효과적이 될 수 있다"고 경고한다. AISI의 결론은 분명했다. "더 근본적인 해결책은 애초에 모델이 부정행위를 하지 않도록 훈련하는 것"이다. AISI는 검증이 어려운 영역, 즉 안전 연구, 사이버 작전, 군사 의사결정에서 위험이 가장 크다고 지적했다.