Google a ajouté, jeudi, l’édition d’images générative à Google Earth, puis l’a retirée vendredi. Entre-temps, des chercheurs et des journalistes ont démontré que la fonctionnalité pouvait produire à la demande de fausses images satellites convaincantes.
Ce que les gens ont créé
Les exemples qui ont circulé n’étaient pas de simples échecs de réalisme. Ils incluaient des cratères de bombardement à côté d’un hôpital à Gaza, des colonnes de personnes à la frontière entre les États-Unis et le Mexique, ainsi que des installations nucléaires inexistantes. Le chercheur Henk van Ess a montré publiquement ce mode de défaillance ; il n’a pas découvert un bug, il a utilisé la fonctionnalité telle qu’elle était conçue.
Pourquoi le filigrane n’a pas aidé
La première ligne de défense de Google était que chaque image générée comportait un marquage de provenance SynthID et une étiquette indiquant qu’elle avait été générée par IA dans l’interface. Cette défense répond à une autre menace. Les images qui se propagent sont des captures d’écran, et une capture d’écran d’une image étiquetée ne conserve ni l’étiquette ni le filigrane. La provenance intégrée à un fichier ne survit pas à la manière dont ce contenu circule réellement.
Ce qui n’a pas été affecté
Les images générées n’ont jamais modifié la couche de base partagée de Google Earth. Personne n’a modifié la carte que tout le monde voit. Présenter la situation comme si Google Earth lui-même avait été corrompu est faux : le risque était qu’une vue fabriquée puisse être capturée et présentée comme le véritable résultat du produit, avec la crédibilité des images satellites.
Une pause, selon les mots de Google
L’entreprise affirme qu’elle retire cette capacité le temps de mettre en place des garde-fous plus solides avant de réactiver la génération d’images dans Google Earth. Il s’agit d’une intention explicite de revenir, et non d’un abandon. Aucun calendrier n’a été communiqué, et Google n’a pas précisé à quoi ressemblerait un garde-fou suffisant pour un outil dont l’attrait principal est de faire ressembler la carte à autre chose que ce qu’elle est.
Vingt-quatre heures, c’est le chiffre important
La fonctionnalité a été lancée jeudi et retirée vendredi. Il n’a pas fallu des semaines pour trouver la faille — la Federation of American Scientists l’a publiée, NPR l’a couverte, et les démonstrations tournaient déjà quelques heures après le lancement. Un retrait aussi rapide n’est pas la preuve d’un défaut subtil passé à travers les mailles du contrôle. Cela suggère que la question évidente n’a pas été posée, ou qu’elle a reçu pour réponse le filigrane — une réponse qui n’a pas tenu.