캘리포니아 주 상원은 8월 31일 SB 947의 하원 수정안을 28대 10으로 재의결해, 제리 맥너니 상원의원의 법안을 주지사에게 넘겼습니다. 이 법안은 고용주가 근로자를 징계하거나 해고할 때 자동화된 의사결정 시스템에만 의존하는 것을 금지합니다.
실제 작동 방식
해당 ADS가 조치의 주된 근거였을 경우, 인간 검토자는 독립적으로 조사하고 시스템의 결론을 확인해야 합니다. 단순히 결과를 검토하는 것만으로는 충분하지 않으며, 검토자가 직접 그 판단에 도달해야 합니다. 근로자는 서면 통지와 함께 시스템이 자신에 대해 사용한 데이터에 대한 설명을 받을 권리를 가지며, 이 권리는 12개월마다 한 차례 행사할 수 있습니다. 법안 본문상의 시행일은 2027년 7월 1일입니다.
약칭이 놓치는 것
“캘리포니아가 HR에서 AI를 금지했다”는 말은 두 가지 점에서 틀립니다. 이 법안은 고용 결정에서 자동화 시스템의 사용을 허용하며, 불리한 조치의 유일한 근거로만 쓰는 것을 금지합니다. 하지만 본문에는 인간 검토와는 무관한 두 가지 금지 조항도 들어 있으며, 요약에서는 이 내용이 빠지는 경우가 많습니다. 바로 근로자의 보호된 지위를 추론하는 것과, 고용 결정에 예측적 행동 분석을 사용하는 것입니다. 이는 절대적 금지이며, 어떤 수준의 인간 감독도 이를 치유할 수 없습니다.
집행과 예외
위반당 500달러의 벌금이 부과되며, 노동국장이 조사합니다. 공공 검사들은 민사소송을 제기할 수 있고, 금지명령 구제와 소송비용 회수도 가능합니다. 예외 대상에는 국방 및 항공우주 분야 운영, 그리고 해당 권리를 명시적으로 포기하는 단체교섭협약이 포함됩니다.
이 법안의 위치
이 법안은 양원을 모두 통과했지만 아직 서명되지 않았습니다. 알고리즘 관리에 관한 기존 미국 규정은 창고 할당량이나 일부 도시의 채용 감사 조례처럼 분야별로 흩어져 있습니다. 주 전역의 모든 고용주에게 적용되는 해고 관련 일반적 인간 개입 기준은 첫 사례가 될 것이며, 바로 그렇기 때문에 9월 30일까지의 주지사 결정이 표결 결과보다 더 중요합니다. SB 947는 대량 해고의 배경이 된 AI 시스템을 고용주가 공개하도록 하는 SB 951과도 함께 움직이고 있습니다. 하나는 해고 결정이 어떻게 내려지는지를 규율하고, 다른 하나는 그 이후에 무엇을 설명해야 하는지를 규정합니다.