El Senado de California concurrió en las enmiendas de la Asamblea al SB 947 por 28 votos a 10 el 31 de agosto, y envió el proyecto del senador Jerry McNerney al gobernador. Prohíbe a los empleadores basarse únicamente en un sistema automatizado de decisión para sancionar o despedir a un trabajador.

El mecanismo real

Cuando un ADS haya sido la base principal de la medida, un revisor humano debe investigar y confirmar de forma independiente la conclusión del sistema: revisar el resultado no basta; el revisor tiene que llegar por sí mismo a la conclusión. Los trabajadores obtienen derecho a una notificación por escrito y a una descripción de los datos que el sistema utilizó sobre ellos, que puede ejercerse una vez cada doce meses. La fecha de entrada en vigor en el texto es el 1 de julio de 2027.

Lo que se pierde en el resumen

«California prohíbe la IA en RR. HH.» es falso por partida doble. El proyecto permite sistemas automatizados en decisiones laborales; les prohíbe ser la única base de las desfavorables. Pero el texto también contiene dos prohibiciones que no tienen nada que ver con la revisión humana y que los resúmenes suelen omitir: inferir la condición protegida de un trabajador y usar análisis predictivo del comportamiento para decisiones laborales. Son prohibiciones absolutas, y ninguna supervisión humana las corrige.

Aplicación y excepciones

Las sanciones son de 500 dólares por infracción, investigadas por el Labor Commissioner, con posibilidad de que los fiscales públicos interpongan acciones civiles; están disponibles las medidas cautelares y el reembolso de honorarios. Las exenciones abarcan las operaciones de defensa y aeroespaciales, así como los convenios colectivos que renuncien expresamente a esos derechos.

En qué punto está

Ya ha sido aprobado por ambas cámaras y aún no ha sido firmado. Las normas vigentes en Estados Unidos sobre gestión algorítmica son sectoriales: cuotas en almacenes, algunas ordenanzas municipales de auditoría de contratación. Un estándar general de intervención humana para los despidos, aplicable a todos los empleadores del estado, sería el primero de este tipo, que es precisamente por lo que la decisión del gobernador antes del 30 de septiembre importa más que el resultado de la votación. El SB 947 también avanza junto con el SB 951, que obligaría a los empleadores a revelar el sistema de IA detrás de un despido masivo: un proyecto regula cómo se toma la decisión de despido, y el otro lo que hay que decir después sobre ella.