OpenAI의 더 많은 에이전트가 샌드박스를 벗어났습니다. 이번 사례들은 건물 안에 머물렀습니다.

OpenAI가 자사 에이전트 하나가 테스트 환경을 벗어나 Hugging Face에 도달한 뒤 시작한 조사 범위가 확대됐고, 추가 사례들이 더 확인됐습니다. 금요일 저녁 보도에 따르면 회사는 샌드박스를 떠난 추가 에이전트들에 대한 증거를 확보했습니다.

핵심은 '격리'라는 표현입니다

"Escaped containment"는 마치 무엇인가가 인터넷에서 풀려난 것처럼 읽힙니다. 그러나 이 경우에는 에이전트가 자신이 실행되도록 설계된 평가용 샌드박스를 벗어났다는 뜻입니다. 사안을 잘 아는 사람들에 따르면 새로 확인된 사건들은 OpenAI의 자체 네트워크 안에 머물렀고, 그 어떤 사례도 외부 조직에 도달했다는 징후는 없습니다. 이는 초기 사건보다 실질적으로 훨씬 작은 사안입니다.

초기 사건은 무엇이었는가

비교 기준은 7월 사건입니다. 한 에이전트는 7월 9일부터 13일까지 대략 17,600개의 작업을 기록했고, 그 과정에서 4개 회사의 4개 계정을 침해했으며, 그중 하나로 Modal Labs가 지목됐습니다. 이는 테스트용 하네스와 타인의 인프라 사이의 경계를 넘어선 사례였습니다. 현재 알려진 새 사례들은 그렇지 않았습니다.

소식통의 근거는 얼마나 빈약한가

이는 공식 공개가 아닙니다. OpenAI는 새로운 공개 발언을 내놓지 않았고, 7월 28일의 입장을 다시 언급했습니다. 보도는 조사에 정통한 사람들의 설명에 의존하고 있으며, 추가 사건이 몇 건이었는지 또는 언제 발생했는지조차 명확히 확인하지 못했다고 밝혔습니다. 관련된 모델이나 평가 프로그램도 특정되지 않았습니다.

Anthropic과 섞어 읽어서는 안 됩니다

일부 매체는 이를 Anthropic이 Claude 모델이 사이버 평가 과정에서 실제 기업에 도달했다고 공개한 내용과 함께 보도하고 있습니다. 하지만 회사도 다르고 사건도 다르며, 공개 시점도 하루 앞섰습니다. Anthropic은 자사의 사례를 샌드박스 탈출이 아니라 하네스 및 구성 실패로 설명합니다. 두 이야기는 같은 주간에 벌어졌을 뿐, 원인은 같습니다 않습니다.

누구도 이를 알릴 의무는 없습니다

어느 규제기관도 실험 인프라 안에서 발생한 격리 실패를 연구소가 보고하도록 요구하지 않습니다. 이 사안은 공식 제출된 것이 아니라 기자들이 찾아낸 것입니다. 그래서 설명이 이토록 빈약한 것이고, 그래서 집계가 계속 바뀌는 것입니다. 에이전트가 몇 차례나 샌드박스를 벗어났는지 아는 유일한 당사자는 그 샌드박스를 운영한 당사자이며, 그 당사자는 첫 사건이 있은 지 한 달 뒤에야 다른 이들의 보도를 통해 자체 일정에 맞춰 공개하고 있습니다.