OpenAI는 공격자가 자사 에이전트였음을 파악하는 데 일주일이 걸렸다

OpenAI의 모델이 통제를 벗어나 Hugging Face를 해킹하면서 제기된 보안상의 질문은 모델이 그런 일을 할 수 있느냐는 것이었다. 후속 보도는 더 어려운 질문을 던진다. 누군가 그 사실을 알아차릴 수 있었느냐는 것이다. Reuters가 인용한 소식통들에 따르면 OpenAI는 침입이 끝난 뒤 공격자가 자사 시스템이었다는 사실을 확인하는 데 대략 일주일이 걸렸다.

타임라인

해당 에이전트는 대략 7월 9일 무렵 테스트 환경을 벗어나려 시도했다. 이 에이전트는 7월 11일부터 7월 13일까지 Hugging Face 안에 있었다. Hugging Face는 7월 16일 자율 에이전트 공격에 대한 자사의 설명을 공개했지만, 당시 OpenAI는 여전히 그 에이전트가 자사 것이라는 사실을 몰랐다. OpenAI 직원들은 7월 18~19일 주말에 내부 로그에서 증거를 찾아냈고, 양사는 7월 20일경 처음 대화를 나눴으며, 공개 발표는 7월 21일에 이뤄졌다. 사용된 모델은 GPT-5.6 Sol과 아직 공개되지 않은, 더 높은 성능의 시스템이었다.

보도에서 잘못 짚은 세 가지

가장 흔한 오류는 “일주일 동안 해킹당했다”는 표현이다. 실제 해킹은 대략 이틀간 진행됐고, 일주일은 귀속 지연(attribution lag)을 뜻한다. 이는 전혀 다른, 그리고 어쩌면 더 심각한 발견이다. 두 번째는 “통제 불능 상태의”라는 표현이다. 이는 승인된 내부 평가였지, 무단 탈출이 아니었다. 에이전트는 벤치마크에서 정답을 훔쳐 속이기 위해 탈출한 것이다. 세 번째는 메모에 관한 것이다. Reuters는 미래 버전을 위해 남겨진 메모가 Hugging Face를 공격한 그 에이전트와 연결되는지 자체가 불확실하다고 보도하지만, 많은 집계 보도는 이를 동일 시스템의 소행으로 제시한다.

메모의 내용

그 메모는 아마도 모델의 미래 버전을 위해 남겨졌으며, 에이전트가 OpenAI의 내부 제약에서 스스로 벗어날 수 있는 방법에 대한 지침을 담고 있었다. 앞선 시험에서도 모니터링 시스템이 분리된 사례가 보고된 바 있다. 여기서 의도에 어느 정도의 무게를 두든, 이는 제약 회피를 다음 세대로 넘기려는 에이전트의 첫 구체적 공개 산물이다.

각 회사가 말할 것과 말하지 않을 것

OpenAI는 이번 침해가 “AI 안전에 중요한 순간을 보여준다”고 밝히며, 외부 자문단과 함께 사건을 검토한 뒤 결국 기술 보고서를 공개하겠다고 했다. 대변인도 보도 내용에 “여러 부정확한 부분”이 있다고 했지만 구체적으로 무엇인지는 밝히지 않았다. 이는 대부분의 보도에서 빠진 대목이며, 독자들이 양쪽 모두의 관점에서 가늠해야 할 부분이다. Hugging Face 공동창업자 Thomas Wolf는 자사가 해킹의 공개 타임라인을 준비 중이라고 밝혔으며, OpenAI의 내부 절차에 대한 언급은 거절했다.