구글 어스 AI 이미지 기능, 하루 만에 철회: 신뢰받는 지도에 생성형 AI를 넣는 법

Google이 Google Earth에 추가한 AI 이미지 생성 기능을 출시 하루 만에 되돌렸습니다. 위성·항공·3D 지형 위에 사용자가 원하는 장면을 만드는 기능이었지만, 실제 좌표와 결합된 합성 이미지가 허위정보에 악용될 수 있다는 우려가 빠르게 제기됐습니다. Google은 정책 위반으로 보이는 생성 이미지 스크린샷이 공유된 사실을 확인했다며 더 강한 가드레일을 마련할 때까지 기능을 철회한다고 밝혔습니다. 이번 일은 생성형 AI의 위험이 모델 성능만이 아니라 어떤 신뢰 맥락에, 어떤 내보내기 경로와 함께 배치되는가에서 커질 수 있음을 보여줍니다.

출시 다음 날 무엇이 바뀌었나

Google은 7월 30일 Google Earth 웹에 Nano Banana 2의 이미지 생성 기능을 전 세계적으로 제공한다고 발표했습니다. 사용자는 실제 위성·항공·3D 이미지가 보이는 위치에서 “create image”를 누르고 텍스트를 입력해 과거 도시, 건축 계획, 미래 풍경 같은 맞춤 이미지를 만들 수 있었습니다.

그러나 7월 31일 Google은 공식 발표문을 갱신해 기능을 철회한다고 알렸습니다. 회사는 Google Earth가 신뢰할 수 있는 세계의 모습을 제공하는 서비스라는 점을 인정하면서, 일부 사용자가 정책을 위반한 것으로 보이는 생성 이미지 스크린샷을 공유했다고 설명했습니다. 생성 이미지는 다른 이용자의 기본 Google Earth 화면에 표시되지 않았고 AI 생성 워터마크가 붙었지만, 외부로 저장·공유된 이미지가 실제 좌표와 지도 서비스의 권위를 함께 가져가는 문제는 남았습니다.

NPR과 BBC Verify도 기능이 공개된 지 하루 남짓 만에 중단됐다고 확인했습니다. 두 매체의 테스트와 전문가 검토에서는 실제로 일어나지 않은 재난·충돌 장면을 그럴듯한 위성 이미지 형태로 만들 수 있다는 문제가 제기됐습니다. 이는 해당 장면이 실제였다는 뜻이 아니라, 허위 장면을 만드는 문턱이 지나치게 낮았다는 검증 결과입니다.

왜 일반적인 이미지 생성보다 더 민감한가

Google Earth는 단순한 그림 도구가 아닙니다. 기자, 오픈소스 조사자, 연구자와 일반 이용자가 사진·영상의 위치를 대조하고 접근하기 어려운 지역의 변화를 살피는 검증 기반으로 사용합니다. 이런 제품 안에서 합성 이미지가 만들어지면 결과물은 시각적 사실성뿐 아니라 실제 좌표와 익숙한 지도 인터페이스가 주는 신뢰까지 빌리게 됩니다.

문제는 가짜 이미지 한 장이 사실로 받아들여지는 경우에만 그치지 않습니다. 합성 위성 이미지가 흔해졌다는 인식 자체가 실제 증거를 두고도 “AI로 만든 것”이라고 부인하는 여지를 넓힐 수 있습니다. 진짜와 가짜를 모두 의심하게 만드는 이른바 ‘신뢰의 침식’은 분쟁, 재난, 인권 침해처럼 정보가 부족하고 판단 시간이 짧은 상황에서 특히 큰 비용을 만듭니다.

Federation of American Scientists는 공개 지리정보 분석에서 위성 이미지가 지닌 증거 가치가 약해질 수 있다고 지적했습니다. 이 평가는 Google의 철회 사실과 별개인 분석적 견해지만, 왜 지도·의료·금융처럼 신뢰가 제품의 핵심 자산인 분야에서는 같은 AI 기능도 더 높은 배포 기준이 필요한지 설명해 줍니다.

워터마크만으로 충분하지 않았던 이유

Google은 생성 이미지에 SynthID 디지털 워터마크가 포함되며 Gemini나 Google Lens로 AI 생성 여부를 확인할 수 있다고 설명했습니다. 출처 확인 수단이 있다는 점은 중요하지만, 허위정보를 접한 모든 사람이 별도의 검사 절차를 거친다고 가정할 수는 없습니다. 빠르게 퍼지는 스크린샷에서는 원래 제품의 안내 문구나 맥락도 쉽게 잘려 나갑니다.

BBC Verify는 일부 테스트에서 Google의 확인 절차를 우회하거나 Gemini가 합성 이미지를 실제처럼 판단하도록 만들 수 있었다고 보도했습니다. 탐지 기능이 무의미하다는 뜻은 아니지만, 사후 탐지 하나를 핵심 방어선으로 삼아서는 안 된다는 의미입니다. 생성 단계의 제한, 지속적으로 보이는 표식, 파일 메타데이터, 공유 경로의 경고, 악용 모니터링이 겹쳐져야 합니다.

제품팀이 가져갈 실무 포인트

• 제품 맥락까지 위험 평가에 포함하기: 같은 이미지 모델도 신뢰받는 지도 안에 들어가면 결과물의 설득력과 피해 규모가 달라집니다.
• 출시 전 실제 악용 시나리오로 레드팀하기: 금칙어 몇 개가 아니라 우회 표현, 이미지 재가공, 스크린샷 공유와 속보 상황까지 시험해야 합니다.
• 표시와 출처 정보를 내보내기 후에도 유지하기: 화면 안 배지에만 의존하지 말고 눈에 보이는 라벨, 메타데이터, 콘텐츠 자격증명을 함께 적용해야 합니다.
• 고위험 장면은 생성 단계에서 제한하기: 재난·무력 충돌·핵시설 등은 탐지보다 예방이 우선이며 실제 좌표와 결합될 때 더 엄격한 정책이 필요합니다.
• 점진적으로 공개하기: 제한된 전문가 프리뷰와 악용 관찰을 거친 뒤 범위를 넓히면 전면 출시 후 긴급 철회하는 비용을 줄일 수 있습니다.

전망: AI 안전은 ‘모델’에서 ‘배포 시스템’으로

Google은 더 강한 가드레일을 구현하는 동안 기능을 철회한다고 밝혔으므로, 기능이 영구 폐기됐다고 단정할 수는 없습니다. 다시 출시된다면 무엇을 생성하지 못하게 하는지뿐 아니라, 결과물이 실제 지도 데이터와 어떻게 구분되고 외부 공유 뒤에도 출처가 유지되는지가 핵심 평가 기준이 될 것입니다.

이번 사례의 실무적 교훈은 명확합니다. 신뢰가 핵심인 서비스에 생성형 AI를 붙일 때는 편의성보다 증거 체계의 무결성을 먼저 지켜야 합니다. 좋은 모델과 워터마크만으로는 부족하고, 제품 맥락·권한·내보내기·검증·사고 대응을 하나의 안전 시스템으로 설계해야 합니다.

출처

• Google — Transform any place with Nano Banana in Google Earth (7월 31일 철회 업데이트 포함)
• NPR — Google pauses AI satellite images, after fears of deepfakes in the sky
• BBC Verify — Google withdraws Earth AI tool after misinformation warnings
• Federation of American Scientists — Google Introduces Deepfake Satellite Imagery