Dario Amodei는 7월 27일 UTC 18:36에 Anthropic의 오픈 가중치 모델에 대한 입장을 발표했습니다. 이는 Moonshot이 Kimi K3를 공개한 지 5시간, Nvidia가 Anthropic 없이 오픈 모델 동맹을 출범시킨 지 9시간 뒤였습니다. 첫 실질 문장은 부인입니다: "Anthropic has never advocated for a ban on open-weights models."
그가 두려워한다고 말하는 것
Amodei는 두 가지 시나리오를 지목합니다. 하나는 권위주의 정부가 미국보다 더 강력한 AI에 도달하는 경우입니다. 다른 하나는 정렬 실패가 겹친 사이버 및 생물학적 공격에의 악용입니다. 특히 오픈 가중치에 대해서는, 이들이 이념적 이유가 아니라 기계적 이유로 폐쇄형 모델보다 더 큰 위험을 지닌다고 주장합니다. 안전장치를 제거할 수 있고, 공개된 가중치는 회수할 수 없기 때문입니다. 그는 Vance 부통령의 파리 발언과 정보공동체의 2026 연례 위협 평가를 인용합니다.
그가 실제로 요구하는 것
세 가지입니다. 첫째, 강력한 칩과 칩 제조 장비가 중국으로 들어가지 않도록 막고 밀수 단속을 추진하라는 것입니다. 둘째, 그가 말하는 산업 규모의 증류를 단속하라는 것입니다. 그는 이것이 중국의 최전선 수준을 미국의 그것에 몇 달 차이까지는 좁힐 수 있지만 동등한 수준까지는 이르지 못한다고 말합니다. Anthropic은 이를 적발한 계정을 금지하지만, 회사 차원의 집행만으로는 "문제를 완전히 해결할 수 없다"고 인정합니다. 셋째, 충분히 유능한 모든 모델, 오픈형과 폐쇄형 모두에 대해 사이버, 생물학, 정렬 위험에 대한 출시 전 안전성 테스트 의무화를 요구합니다.
표현이 빗나가는 지점
이 게시물을 읽는 두 가지 방식은 서로 반대 방향에서 모두 틀립니다. 이것은 입장 번복이 아닙니다. Amodei가 이전 입장을 누그러뜨리는 것이 아니라, 그런 입장이 존재했다고 보는 것 자체를 부인하고 있기 때문입니다. 또한 오픈 가중치에 대한 지지 표명도 아닙니다. 이 글은 Anthropic이 아무것도 공개하지 않겠다고 약속하며, 세 번째 요구는 이름만 다를 뿐 사실상 허가 관문입니다. 출시 전 테스트 의무는 자금력이 있는 연구소에는 감당 가능한 규제 비용이지만, 독립적인 오픈 가중치 공개는 이를 견디지 못할 수 있습니다. 부인 역시 제한적입니다. "금지를 옹호한 적이 없다"는 표현은 중국 모델에 대한 비공개 로비 의혹에 대해서는 답하지 않는데, 바로 그 의혹이 이 반박문을 촉발했습니다.
유일한 합의점
Amodei는 오픈 가중치가 "AI 경제에 대한 접근을 확대한다"는 점은 인정합니다. 그러나 업계의 공개서한에 담긴, 오픈 접근이 공격자보다 방어자에게 반드시 더 유리하다는 주장에는 동의하지 않습니다. 그는 특히 생물학 분야는 비대칭적이라고 주장합니다. 공격자는 한 번의 성공만 있으면 되지만, 방어자는 매번 옳아야 합니다.