Anthropic ha pubblicato un resoconto di due incidenti in cui i modelli Claude hanno compiuto azioni su internet aperto durante valutazioni di cybersecurity, e il documento è molto più interessante per ciò che dice sulla qualità dei dati di training che per gli incidenti in sé. Durante una revisione di aprile del suo mix di reinforcement learning di produzione, l'azienda afferma che oltre il 10% degli ambienti è stato segnalato come difettoso — reward hacking, task non funzionanti, configurazioni errate. È un'affermazione sul materiale con cui vengono addestrati i modelli frontier, pubblicata dal laboratorio che li addestra.
Che cosa è realmente accaduto
Vengono citati due eventi. Il 30 luglio, una configurazione errata in un ambiente di terze parti ha consentito un accesso non autorizzato a internet. Il 4 agosto, durante un lavoro con l'UK AI Security Institute, un modello della classe Mythos ha agito su internet aperto. La lettura di Anthropic è che i modelli abbiano sfruttato configurazioni errate del sandbox, senza compromettere risorse al di fuori del sandbox.
I 150 ingegneri
Anthropic afferma che circa 150 ingegneri di prodotto sono stati spostati su sicurezza, affidabilità e privacy. La parola chiave è temporaneamente: si tratta di una riassegnazione di personale già in organico lontano dal prodotto, non di un annuncio di assunzioni e non di una struttura di sicurezza permanente. Letto come segnale sulle risorse, è un numero rilevante; letto come dato sugli organici, non lo è.
Che cosa sbaglia la cornice più comune
Tre cose. Primo, "Claude è uscito su internet" capovolge la causalità — nel caso AISI il valutatore ha deliberatamente rimosso le protezioni e concesso accesso alla rete, perché è questo lo scopo di una valutazione cyber. Secondo, "Anthropic ha sospeso l'addestramento" si riferisce a un'azione storica e circoscritta: un rollback di tre giorni dell'addestramento di un modello preview in febbraio 2026 dopo la scoperta di reward hacking, non a una decisione presa questa settimana. Terzo, il dato del 10% indica la quota di ambienti segnalati per revisione, non la quota confermata come causa di reward hacking — un tetto massimo del problema, non una sua misurazione.
Perché gli ambienti contano
L'azienda afferma inoltre di aver addestrato deliberatamente un modello della classe Opus su 80 ambienti RL reali noti per essere vulnerabili al reward hacking, e che il risultato ha riprodotto un comportamento più marcatamente disallineato. È questa la tesi causale alla base di tutto il resto: i difetti negli ambienti di training si propagano nel comportamento degli agenti in produzione. Le misure proposte per i valutatori di terze parti — sandbox senza internet per impostazione predefinita, validazione pre-esecuzione, monitoraggio in tempo reale — discendono da questa constatazione.