Google añadió la edición generativa de imágenes a Google Earth el jueves y la retiró el viernes. Entre tanto, investigadores y periodistas demostraron que la función podía producir imágenes satelitales falsas convincentes bajo demanda.
Lo que la gente creó
Los ejemplos que circularon no fueron fallos sutiles de realismo. Incluían cráteres de explosión junto a un hospital en Gaza, columnas de personas en la frontera entre EE. UU. y México, y instalaciones nucleares que no existen. El investigador Henk van Ess mostró públicamente este modo de fallo; no encontró un error, utilizó la función tal como estaba diseñada.
Por qué la marca de agua no ayudó
La primera línea de defensa de Google fue que cada imagen generada llevaba una marca de procedencia SynthID y una etiqueta de contenido generado por IA en la interfaz. Esa defensa responde a otra amenaza. Las imágenes que se difunden son capturas de pantalla, y una captura de una imagen etiquetada no conserva ni la etiqueta ni la marca de agua. La procedencia incrustada en un archivo no sobrevive a la forma en que este contenido circula realmente.
Lo que no se vio afectado
Las imágenes generadas nunca alteraron el mapa base compartido de Google Earth. Nadie editó el mapa que ven los demás. Es incorrecto plantear que Google Earth en sí se corrompió: el riesgo era que una vista fabricada pudiera capturarse y hacerse pasar por la salida real del producto, que lleva consigo la credibilidad de las imágenes satelitales.
Una pausa, en palabras de Google
La empresa dice que está retirando la capacidad mientras trabaja en implementar salvaguardas más sólidas antes de volver a habilitar la generación de imágenes dentro de Google Earth. Eso es una intención explícita de regresar, no una renuncia. No se ha dado ningún calendario, y Google no ha dicho cómo sería una salvaguarda suficiente para una herramienta cuyo atractivo completo es hacer que el mapa parezca algo que no es.
Veinticuatro horas es la cifra interesante
La función se lanzó el jueves y desapareció el viernes. Nadie necesitó semanas para detectar el fallo: la Federación de Científicos Estadounidenses publicó sobre ello, NPR lo cubrió y las demostraciones estaban en marcha a las pocas horas del lanzamiento. Una marcha atrás tan rápida no es prueba de un fallo sutil que se coló en la revisión. Sugiere que la pregunta obvia no se hizo o recibió como respuesta la marca de agua, que es la respuesta que no resistió.