OpenAI는 19 August UTC 19:00에 게시한 글에서 프런티어 모델에 대한 Zero Data Retention 약속을 재확인하고, Private Safety Processing이라는 방식을 예고했습니다. 헤드라인은 이를 출시처럼 받아들였습니다. 그러나 해당 글의 어느 부분도 실제 출시된 무언가를 설명하지 않습니다.
통상적인 해석이 놓치는 점
첫 번째 오류는 Zero Data Retention을 새 소식으로 보는 것입니다. ZDR은 2023년부터 자격을 갖춘 API 고객에게 제공돼 왔습니다. 자격을 갖춘 호출에서는 프롬프트와 완료 결과가 저장되지 않으며, 학습에도 사용되지 않습니다. 19 August에 이 약정이 바뀐 것은 없습니다. 두 번째 오류는 Private Safety Processing을 실제로 작동하는 개인정보 보호 기능으로 보도하는 것입니다. 이 기능은 현재 미리보기 단계이며, Microsoft와 Databricks를 포함한 초기 고객과 함께 시험 중입니다. 일반 공개와 기술 백서는 모두 September 2026로 제시돼 있습니다.
이 메커니즘이 해결하려는 문제
한 번의 프롬프트와 응답만 살피는 안전 시스템은, 여러 상호작용이 쌓이며 나타나는 위험을 놓칠 수 있습니다. Aleah Houze OpenAI 제품 정책 책임자는 이를 두고, 위험은 "단일한 프롬프트와 응답 한 쌍만 보는 것이 아니라, 시간에 따라 여러 상호작용을 살펴볼 때" 드러난다고 말했습니다. Private Safety Processing은 관련된 상호작용 전반을 안전 시스템이 관찰할 수 있게 하되, 좁은 신호만 내보내도록 해 OpenAI 직원 누구도 고객의 원문 내용을 보지 않게 하려는 목적입니다.
가장 중요한 단어는 "eligible"입니다
이번 발표는 전반적으로 eligible API customers를 언급하지만, 누가 eligible한지는 밝히지 않습니다. Zero retention이 모든 유료 등급에 적용되는지, 엔터프라이즈 계약에만 적용되는지, 아니면 특정 계약 조건이 필요한지는 설명되지 않았습니다. 조달팀 입장에서는 이것이 핵심 질문입니다. 귀하의 계약에 적용될 수도 있고 아닐 수도 있는 데이터 거주 보장은 아직 보장이라고 할 수 없습니다.
긴장이 실제인 이유
프런티어 모델의 안전 모니터링과 기업용 데이터 거주 약속은 서로 당기는 방향이 반대입니다. 모니터링은 더 많이 보길 원하고, 데이터 거주는 벤더가 덜 보길 원합니다. 대부분의 벤더는 한쪽을 택해 이를 해결합니다. OpenAI는 둘 다 동시에 가능하다는 입장을 내세우고 있으며, 현재로서는 아직 존재하지도 않는 백서에 검증을 미룬 상태입니다.