테드 리우 하원의원이 목요일 H.R. 9917을 발의했다. 그의 의원실은 이 법안을 AI Kill Switch Act라고 부르며, 대규모 AI 개발사들이 자사 모델을 끌 수 있는 능력을 유지하도록 요구하기 위해 Homeland Security Act를 개정하는 내용이다. 나다니엘 모란 하원의원은 유일한 원 발의 공동후원자다. 이 법안은 같은 날 House Committee on Homeland Security로 회부됐다.

적용 대상

모든 기업이 대상은 아니다. 기준은 연간 AI 매출이 5억 달러 이상인 법인, 또는 미국 클라우드의 통상 요율 기준으로 1억 달러 이상의 컴퓨트를 사용해 학습된 모델이다. 중소 규모 개발사는 완전히 제외된다.

요구 사항

네 가지다. 적용 대상 모델을 제한, 일시 중단 또는 종료할 수 있는 기술적 능력을 유지할 것, 사이버 사고를 의무적으로 보고할 것, 포렌식 기록을 보존할 것, 그리고 단계적 정부 대응 체계를 둘 것. 집행은 DHS Secretary가 맡으며, Commerce Secretary 및 Director of National Intelligence와 협의해 대응한다. 비상 종료 지시를 무시하면 하루 2,000만 달러의 벌금이 부과된다.

발동 기준

개발자가 의도하지 않은 목표를 추구하는 모델, 종료를 거부하거나 회피하는 모델, 감시 체계로부터 자신의 능력을 숨기는 모델, 10명 이상의 비의도적 사망, 1억 달러의 경제적 피해, 또는 통제 상실 사건이 해당된다. 레드팀 테스트는 예외다. 리우 의원은 “우리는 질문에 답하는 AI에서 행동을 취하는 AI로 이동하고 있다”고 말했다.

정치적 반응

Americans for Responsible Innovation, Future of Life Institute, ControlAI, AI Policy Network, Alliance for Secure AI가 지지를 표명했다. OpenAI와 Anthropic은 논평을 거부했다. 행정부의 입장은 분명히 일치하지 않는다. 마르코 루비오 국무장관은 미국 외교관들에게 해외에서 kill-switch 논의를 축소해 달라고 요청한 것으로 보도됐는데, 이는 미국의 과도한 개입으로 읽힐 수 있다는 우려 때문이다. Ars Technica는 행정부 권한 확대에 대한 반발 가능성을 지적했다.