O Google adicionou edição generativa de imagens ao Google Earth na quinta-feira e a removeu na sexta. Entre esses dois momentos, pesquisadores e jornalistas demonstraram que o recurso produziria, sob demanda, imagens de satélite falsas e convincentes.

O que as pessoas criaram

Os exemplos que circularam não foram falhas sutis de realismo. Eles incluíam crateras de explosão ao lado de um hospital em Gaza, colunas de pessoas na fronteira entre os EUA e o México e instalações nucleares que não existem. O pesquisador Henk van Ess demonstrou publicamente esse modo de falha; ele não encontrou um bug, mas usou o recurso exatamente como foi construído.

Por que a marca d'água não ajudou

A primeira linha de defesa do Google era que cada imagem gerada trazia marcação de procedência SynthID e um rótulo de conteúdo gerado por IA na interface. Essa defesa responde a uma ameaça diferente. As imagens que se espalharam eram capturas de tela, e uma captura de tela de uma imagem rotulada não carrega nem o rótulo nem a marca d'água. A procedência embutida em um arquivo não sobrevive ao modo como esse conteúdo realmente circula.

O que não foi afetado

As imagens geradas nunca alteraram o mapa-base compartilhado do Google Earth. Ninguém editou o mapa que todos os outros veem. A interpretação de que o próprio Google Earth foi corrompido está errada — o risco era que uma visão fabricada pudesse ser capturada e apresentada como a saída do produto real, que carrega a credibilidade das imagens de satélite.

Uma pausa, nas palavras do Google

A empresa diz que está revertendo o recurso enquanto trabalha na implementação de salvaguardas mais fortes antes de permitir novamente a geração de imagens no Google Earth. Isso é uma intenção explícita de retornar, não uma retirada. Não há prazo informado, e o Google não disse como seria uma salvaguarda suficiente para uma ferramenta cujo apelo inteiro é fazer o mapa parecer algo que ele não é.

Vinte e quatro horas é o número interessante

O recurso foi lançado na quinta-feira e desapareceu na sexta. Ninguém precisou de semanas para encontrar a falha — a Federation of American Scientists publicou sobre o assunto, a NPR o cobriu, e as demonstrações já estavam em andamento poucas horas após o lançamento. Uma reversão tão rápida não é prova de uma falha sutil que passou pela revisão. Ela sugere que a pergunta óbvia não foi feita ou foi respondida com a marca d'água, que é a resposta que não se sustentou.