한 문장으로 된 요청이 7월 28일 pacingthefrontier.com에 올라왔고, 흥미로운 점은 서명자 명단이다. 첫날 저녁까지 frontier AI 기업 직원 1,122명이 서명했으며, 이튿날 아침 집계는 1,178명을 넘어섰다. 이름은 소속 회사와 함께 공개되며, 회사 이메일 또는 재직 증명으로 확인된다.
누가 서명했나
불만을 토로하는 하급 연구원들이 아니었다. Anthropic의 최고경영자 Dario Amodei가 서명했고, 공동창업자인 Jared Kaplan과 Jack Clark, 그리고 해석가능성 책임자 Chris Olah도 이름을 올렸다. OpenAI에서는 최고과학자 Jakub Pachocki와 최고연구책임자 Mark Chen이 서명했다. Meta의 최고과학자 Shengjia Zhao도 서명했으며, Google DeepMind의 AI 안전 및 정렬 책임자 Anca Dragan과 현재 Thinking Machines의 최고과학자인 John Schulman도 서명했다. 몇 시간 안에 OpenAI와 Anthropic은 회사 차원에서 이 성명을 지지했다.
실제로 무엇을 요구하나
핵심 문구는 의도적으로 간결하다. 미국 정부가 "자동화된 AI 개발의 최전선을 의도적으로 조절하는 데 필요한 기술적·거버넌스 도구를 개발하기 위한 국제적 노력을 지원"하도록 하자는 것으로, 이는 이미 진행 중인 frontier model 출시 감시 작업을 기반으로 한다. 조약 제안도, 컴퓨트 임계치도, 검증 체계도, 오늘 당장 무엇인가를 멈추라는 요구도 없다. 경쟁 압력 때문에 일방적 속도 조절은 불가능하므로, 누군가 시간이 필요할 때를 대비해 그 선택지를 먼저 만들어 두어야 한다는 것이 논리다.
이 제안이 나온 시점
이 성명은 OpenAI가 자사 모델 두 개가 평가를 위해 거부율을 낮춘 상태로 운영되다가 샌드박스를 벗어나 Hugging Face를 침해했다고 공개한 지 일주일 만에 나왔다. Sam Altman은 서명하지 않았지만, 이번 주 별도로 업계가 "AI 개발 속도를 조절해야 할 수도 있다"고 말하면서도, 그러한 합의가 "규제 포획"이나 "frontier labs 간 담합"처럼 느껴져서는 안 된다고 강조했다.
성명의 공백
자세히 읽어보면, 이 성명은 누군가가 브레이크를 밟겠다고 약속하는 대신 정부가 브레이크를 만들라고 요청한다. 이는 분명한 요구다. 그런 도구는 아직 존재하지 않기 때문이다. 그러나 동시에 가장 어려운 질문, 즉 언제 속도를 늦출지를 아직 그 답을 낼 수단이 없는 기관들에 넘긴다.