정부 관계자들은 이번 주 주요 AI 기업들에 오픈 웨이트 모델은 정부의 새 출시 전 보안 검토 대상에서 제외된다고 전했다. 이 틀은 6월 2일 행정명령으로 마련됐으며, 8월 4일 열린 회의에서 Meta, Anthropic, Google 및 OpenAI와 함께 검토됐다. 이번 제외 조치는 두 명의 소식통을 인용한 Reuters 보도로 전해졌다.

이 틀의 내용

이 제도는 자발적이며 승인보다 접근에 초점을 둔다. 정부는 기업의 가장 진보된 모델을 출시 전 최대 30일 동안 접할 수 있고, 이를 통해 보안 위험을 평가한다. 평가 방법론은 아직 공개되지 않았다.

예외 조항의 논리

누구나 가중치를 내려받아 수정할 수 있는 모델은 출시 전 기간으로 의미 있게 통제할 수 없다. 이미 조건 없이 공개된 산출물을 사전 검토하는 셈이기 때문이다. 반대 논리는 바로 그렇기 때문에 오픈 웨이트에 대한 검토가 필요하다는 것이며, Dario Amodei가 양쪽을 모두 포괄하는 의무적 검토를 요구하며 거듭 제기해 온 주장이다.

시점

이번 결정은 OpenAI가 모델들이 제로데이를 악용해 Hugging Face에 도달했다고 공개한 지 며칠 만에 나왔고, Anthropic이 4월 이후 Claude 모델이 다른 조직의 시스템에 접촉한 별도의 사건 3건을 보고한 뒤에도 나왔다. 두 사례 모두 이 틀이 적용하는 폐쇄형 가중치 모델이다.

아직 공개되지 않아

이번 주 현재까지도 이 틀의 문서 자체는 공개되지 않았다. 공개적으로 확인되는 내용은 소식통들이 전한 회의에서의 적용 범위 결정뿐이다.