OpenAI는 Astra가 Critical하다고 단정하지 않았습니다. 다만 배제할 수 없다고 했습니다.

OpenAI는 8월 7일 자사 곧 출시될 Astra 모델이 Preparedness Framework의 Critical 사이버보안 등급에 도달할 가능성을 배제할 수 없다고 밝혔습니다. 특정 모델에 대해 그러한 가능성을 공식적으로 언급한 것은 이번이 처음입니다.

핵심은 이 구분입니다

OpenAI는 Astra가 Critical이라고 말하지 않았습니다. 벤치마킹과 평가는 아직 진행 중이며, 회사는 해당 기준이 실제로 넘겨졌는지도 확인하지 않았습니다. "OpenAI가 모델을 Critical로 분류했다"는 식의 헤드라인은 이 소식을 거꾸로 전달하는 것입니다. 중요한 점은 OpenAI가 발견된 사실이 아니라 가능성에 근거해 조치를 취하고 있다는 점이며, 이는 예방적 프레임워크가 실제로 작동할 때의 모습입니다.

Critical의 의미

OpenAI의 자체 표현에 따르면, 이 기준은 고도로 강화된 실제 핵심 시스템에서 사람의 개입 없이 모든 심각도 수준의 기능하는 제로데이 익스플로잇을 식별하고 개발할 수 있는 도구 보조 모델, 또는 높은 수준의 목표만 주어졌을 때 강화된 표적에 대한 종단 간 새로운 사이버공격 전략을 고안하고 실행할 수 있는 모델을 뜻합니다.

OpenAI가 약속한 내용

OpenAI는 강화된 보안 요건을 충족하지 못한 내부 활동을 중단했습니다. 회사는 격리된 테스트 환경, 제한된 네트워크 및 도구 접근, 강화된 모델 가중치 보호와 암호화, 에이전트형 애플리케이션 전반에 대한 전면적 모니터링, 그리고 사고의 흐름을 분석하고 고위험 활동을 중단시키는 안전 모니터를 제시했습니다. 정부 기관 및 외부 안전 조직과의 제3자 테스트도 예정돼 있습니다.

사후가 아니라 사전 배포 단계입니다

Astra는 아직 출시되지 않았습니다. 이는 어떤 것도 사용자에게 도달하기 전에 취해진 차단 결정이라는 뜻으로, 지난 보름 동안 연구소들이 이미 발생한 일을 설명했던 샌드박스 탈출 공개와는 정반대입니다. Preparedness Framework는 수년간 문서상에 존재해 왔지만, 실제로 무언가의 속도를 눈에 띄게 늦춘 것은 이번이 처음입니다.