Google은 목요일 Google Earth에 생성형 이미지 편집 기능을 추가했다가 금요일 이를 제거했습니다. 그 사이 연구자들과 기자들은 이 기능이 요청만으로 그럴듯한 가짜 위성 이미지를 만들어낸다는 사실을 시연했습니다.

사람들이 무엇을 만들었나

유포된 사례들은 사실성의 미세한 실패가 아니었습니다. 가자지구의 한 병원 옆에 있는 폭발 분화구, 미·멕시코 국경의 사람들 행렬, 그리고 존재하지 않는 핵시설이 포함됐습니다. 연구자 Henk van Ess는 이 실패 양상을 공개적으로 시연했습니다. 그는 버그를 찾아낸 것이 아니라, 설계된 대로 기능을 사용한 것입니다.

워터마크가 도움이 되지 않은 이유

Google의 첫 방어 논리는 생성된 모든 이미지에 SynthID 출처 표시와 인터페이스상의 AI 생성 라벨이 붙는다는 것이었습니다. 그러나 그 방어는 다른 위협에 대한 답입니다. 확산된 이미지들은 스크린샷이었고, 라벨이 붙은 이미지의 스크린샷에는 라벨도 워터마크도 남지 않습니다. 파일 안에 내장된 출처 정보는 실제로 이 콘텐츠가 이동하는 방식에서는 살아남지 못합니다.

영향을 받지 않은 것

생성된 이미지가 공유 Google Earth 베이스맵을 바꿔놓은 것은 아니었습니다. 다른 모든 사람이 보는 지도를 누군가 편집한 것도 아닙니다. Google Earth 자체가 훼손됐다는 식의 해석은 틀렸습니다. 위험은 조작된 화면이 캡처돼 실제 제품의 출력물인 것처럼, 즉 위성 이미지가 갖는 신뢰성을 지닌 자료처럼 속여 퍼질 수 있다는 데 있었습니다.

Google의 표현으로는 일시 중단

회사는 Google Earth 안에서 이미지 생성을 다시 활성화하기 전에 더 강력한 가드레일을 구현하는 작업을 진행하는 동안 이 기능을 되돌리고 있다고 밝혔습니다. 이는 철회가 아니라 복귀 의사를 분명히 한 것입니다. 일정은 제시되지 않았고, Google은 지도를 본래 모습이 아닌 것처럼 보이게 만드는 것이 핵심 매력인 도구에 어떤 수준의 가드레일이면 충분한지도 설명하지 않았습니다.

24시간이 중요한 숫자

이 기능은 목요일 출시됐고 금요일 사라졌습니다. 결함을 찾는 데 몇 주가 걸린 것도 아니었습니다. 미국과학자연맹(Federation of American Scientists)이 이를 보도했고, NPR도 다뤘으며, 시연은 출시 수 시간 내에 돌아가고 있었습니다. 이 정도로 빠른 롤백은 정교한 결함이 검토를 빠져나갔다는 증거가 아닙니다. 명백한 질문이 아예 제기되지 않았거나, 워터마크가 그 답으로 제시됐다는 뜻인데, 그 답은 통하지 않았습니다.