Google ha aggiunto il fotoritocco generativo a Google Earth giovedì e lo ha rimosso venerdì. Nel frattempo, ricercatori e giornalisti hanno dimostrato che la funzione poteva produrre immagini satellitari false ma credibili su richiesta.

What people made

Gli esempi circolati non erano fallimenti sottili della resa realistica. Includevano crateri da esplosione accanto a un ospedale a Gaza, colonne di persone al confine tra Stati Uniti e Messico e strutture nucleari che non esistono. Il ricercatore Henk van Ess ha dimostrato pubblicamente la modalità di fallimento; non ha trovato un bug, ha usato la funzione così com’era stata costruita.

Why the watermark did not help

La prima linea di difesa di Google è stata che ogni immagine generata portava un marchio di provenienza SynthID e un’etichetta di contenuto generato dall’AI nell’interfaccia. Questa difesa risponde però a una minaccia diversa. Le immagini che si sono diffuse sono screenshot, e uno screenshot di un’immagine etichettata non conserva né l’etichetta né la filigrana. La provenienza incorporata in un file non sopravvive al modo in cui questo contenuto viaggia davvero.

What was not affected

Le immagini generate non hanno mai alterato la mappa di base condivisa di Google Earth. Nessuno ha modificato la mappa che vedono tutti gli altri. È errata la lettura secondo cui Google Earth stesso sarebbe stato compromesso: il rischio era che una vista fabbricata potesse essere catturata e spacciata per l’output del prodotto reale, che porta con sé la credibilità delle immagini satellitari.

A pause, in Google's words

L’azienda afferma di stare ritirando la funzionalità mentre lavora all’implementazione di protezioni più robuste prima di riabilitare la generazione di immagini in Google Earth. È un’intenzione esplicita di tornare indietro, non una cancellazione. Non è stata fornita alcuna tempistica e Google non ha detto come dovrebbe apparire una protezione sufficiente per uno strumento il cui fascino principale è far sembrare la mappa qualcosa che non è.

Twenty-four hours is the interesting number

La funzione è stata distribuita giovedì ed è scomparsa venerdì. Non sono servite settimane per individuare il problema: la Federation of American Scientists ne ha scritto, NPR l’ha coperto e le dimostrazioni circolavano entro poche ore dal lancio. Un rollback così rapido non è la prova di un difetto sottile sfuggito alla revisione. Suggerisce che la domanda ovvia non sia stata posta oppure abbia ricevuto come risposta la filigrana, che è la risposta che non ha retto.