Il Senato della California ha approvato gli emendamenti dell’Assemblea al SB 947 con 28 voti favorevoli e 10 contrari il 31 agosto, inviando il disegno di legge del senatore Jerry McNerney al governatore. La norma vieta ai datori di lavoro di basarsi esclusivamente su un sistema decisionale automatizzato quando sanzionano o licenziano un lavoratore.
Il meccanismo effettivo
Quando un ADS è stato il fondamento principale dell’azione, un revisore umano deve indagare in modo indipendente e confermare la conclusione del sistema — non basta esaminare l’output; il revisore deve arrivare da sé alla valutazione. I lavoratori ottengono il diritto a una comunicazione scritta e a una descrizione dei dati che il sistema ha utilizzato su di loro, esercitabile una volta ogni dodici mesi. La data di entrata in vigore nel testo è 1 luglio 2027.
Cosa perde il riassunto
Dire che "la California vieta l’IA nelle risorse umane" è sbagliato due volte. Il disegno di legge consente i sistemi automatizzati nelle decisioni occupazionali; vieta soltanto che siano l’unica base per quelle sfavorevoli. Ma il testo contiene anche due divieti che non riguardano affatto la revisione umana, e che i riassunti omettono sistematicamente: dedurre lo status protetto di un lavoratore e usare l’analisi comportamentale predittiva per decisioni sul lavoro. Si tratta di divieti assoluti, e nessuna supervisione umana può sanarli.
Applicazione ed esenzioni
Le sanzioni sono di 500 dollari per violazione, con indagine affidata al Labor Commissioner; i pubblici ministeri possono avviare azioni civili; sono previsti provvedimenti inibitori e il recupero delle spese legali. Le esenzioni riguardano le operazioni di difesa e aerospaziali, oltre agli accordi collettivi che rinuncino espressamente a tali diritti.
Collocazione del provvedimento
Ha superato entrambe le camere e non è ancora stato firmato. Le norme statunitensi esistenti sulla gestione algoritmica sono settoriali — quote nei magazzini, alcune ordinanze comunali sugli audit delle assunzioni. Uno standard generale di human-in-the-loop per i licenziamenti, applicabile a ogni datore di lavoro nello Stato, sarebbe il primo del suo genere; ed è precisamente per questo che la decisione del governatore entro il 30 settembre conta più del risultato del voto. L’SB 947 viaggia inoltre insieme all’SB 951, che obbligherebbe i datori di lavoro a rivelare il sistema di IA dietro un licenziamento collettivo — un disegno di legge disciplina come viene presa la decisione di licenziare, l’altro ciò che deve essere detto in seguito a riguardo.