OpenAI ha annunciato alle 19:00 UTC del 18 agosto un'iniziativa per aiutare gli organi di controllo democratico a vigilare su come i governi usano l'IA nella sicurezza nazionale. L'impegno principale è di 5 milioni di dollari. Leggete la frase e la cifra cambia natura.
Che cosa sono i soldi
Il testo dice: "Forniremo 5 milioni di dollari in formazione, supporto tecnico e crediti OpenAI agli organi di controllo dei governi democratici." Non si tratta di una donazione e non si tratta di 5 milioni di dollari in contanti. Un pacchetto la cui componente maggiore è il consumo del prodotto di OpenAI, valutato al listino di OpenAI, assomiglia più a un credito promozionale che a una filantropia.
Che cosa sbaglia il racconto comune
Circoleranno due interpretazioni, ed entrambe sono sbagliate. La prima è "OpenAI dona 5 milioni di dollari ai watchdog governativi" — come sopra. La seconda è "OpenAI controllerà l'uso dell'IA da parte dei governi", che il post smentisce esplicitamente: "OpenAI non svolge un ruolo di supervisione sul governo, né dovrebbe farlo." Secondo l'azienda, questa responsabilità spetta ai funzionari eletti e alle istituzioni pubbliche. C'è una terza cosa da notare: ogni verbo d'azione è al futuro. L'azienda "collaborerà con", "fornirà", "testerà", "coinvolgerà". Non viene nominato alcun organo di controllo, alcun Paese e non viene indicata alcuna data di avvio oltre a "nel corso del prossimo anno".
L'unica idea concreta
La proposta sostanziale è un progetto pilota che consenta a revisori autorizzati di esaminare i registri relativi alle decisioni governative assistite dall'IA — input, output e uso degli strumenti — per stabilire in che modo un modello abbia influenzato un esito. OpenAI afferma che questi strumenti saranno interoperabili o agnostici rispetto al modello, ove possibile, e che le istituzioni partecipanti, non OpenAI, conserveranno il controllo delle prove, degli output e delle conclusioni. Si tratta di un'embrionale infrastruttura di audit log e, se arriverà davvero in forma model-agnostic, diventerà uno standard con cui i concorrenti dovranno misurarsi.
L'argomento sottostante
Il problema dichiarato è reale: la supervisione tradizionale richiede molto lavoro e "diventa quasi impossibile quando piccoli team che usano metodi dell'era della carta vengono chiamati a esaminare sistemi che operano alla velocità delle macchine". I tre principi del post sono che l'IA dovrebbe rafforzare, non sostituire, il giudizio umano; che l'uso dell'IA da parte dei governi dovrebbe essere tracciabile e comprensibile per una supervisione autorizzata; e che gli organi di controllo dovrebbero usare essi stessi l'IA perché la revisione manuale non può scalare.