구글 어스 AI 긴급 철회…가짜 폭격·난민 사진 확산에 AI 신뢰성 논란

[푸른들]

구글도 막지 못한 AI 가짜 이미지의 위험성

생성형 AI의 발전이 놀라운 속도로 이어지는 가운데, 구글이 새롭게 선보인 구글 어스(Google Earth) AI 이미지 생성 기능​을 출시 하루 만에 긴급 철회했습니다. 이유는 충격적이었습니다. 이용자들이 실제 위성사진 위에 폭격 장면, 난민 캠프, 핵시설, 재난 현장 등을 사실처럼 합성한 이미지를 대량으로 만들어 공유하면서 허위 정보 확산 우려가 커졌기 때문입니다.

무슨 일이 있었나?

구글은 최근 AI를 활용해 위성사진과 3D 지도를 텍스트 명령으로 편집할 수 있는 기능을 공개했습니다. 예를 들어 "이 지역에 건물을 추가해 줘" 또는 "홍수 피해를 표현해 줘" 같은 문장을 입력하면 AI가 실제 위성사진처럼 자연스럽게 이미지를 생성했습니다.

하지만 출시 직후 일부 이용자들은 이 기능을 악용했습니다.

실제로 존재하지 않는 폭격 흔적, ​난민촌, ​가짜 군사시설, ​재난 현장 등을 매우 사실적으로 만들어 SNS에 공유했고, 일반 이용자가 실제 위성사진과 구분하기 어려운 수준이라는 지적이 이어졌습니다.

왜 문제가 됐을까?

구글 어스는 전 세계에서 가장 신뢰받는 지도·위성사진 서비스 가운데 하나입니다.

이 때문에 AI가 만든 허구의 장면이 실제 위성사진으로 오인될 경우 다음과 같은 문제가 발생할 수 있습니다.

• 전쟁 관련 허위 정보 확산
• 재난 상황 조작
• 국제 분쟁 악화
• 금융시장 혼란
• 사회적 불안 조성
• 오픈소스 정보(OSINT) 분석 신뢰도 저하

특히 전쟁이나 테러와 같은 민감한 사건에서는 단 한 장의 가짜 이미지가 여론과 국제사회에 큰 영향을 줄 수 있다는 우려가 제기됐습니다.

구글의 긴급 대응

논란이 커지자 구글은 기능 공개 하루 만에 서비스를 중단했습니다.

구글은 "Google Earth는 사람들이 신뢰하는 서비스이며, 정책을 위반하는 것으로 보이는 AI 생성 이미지가 공유되는 사례를 확인했다"며 더 강력한 안전장치(Guardrails)를 마련할 때까지 기능을 철회한다​고 밝혔습니다.

구글은 생성된 이미지에 디지털 워터마크를 삽입했으며, AI 이미지가 기본 Google Earth 지도에 반영된 것은 아니라고 설명했습니다. 그러나 캡처 이미지가 SNS를 통해 퍼질 경우 오해를 막기 어렵다고 판단했습니다.

AI 시대, 신뢰가 가장 큰 과제

이번 사건은 생성형 AI 기술의 발전 속도가 안전장치보다 앞서갈 경우 어떤 문제가 생길 수 있는지를 보여주는 대표 사례입니다.

AI는 도시 개발, 재난 시뮬레이션, 건축 설계, 교육 등 다양한 분야에서 활용 가치가 크지만, 동시에 허위 정보 생산에도 악용될 수 있습니다.

전문가들은 앞으로 AI 서비스에는 다음과 같은 장치가 필요하다고 지적합니다.

• AI 생성 여부를 쉽게 확인할 수 있는 표시
• 민감한 주제에 대한 생성 제한
• 허위 정보 탐지 기술 강화
• 플랫폼의 신속한 대응 체계 구축

마무리

구글의 이번 긴급 철회는 AI 기술이 단순히 성능 경쟁을 넘어 신뢰성과 책임성을 확보해야 한다는 점을 다시 한번 보여준 사례입니다.

생성형 AI는 우리의 삶을 크게 변화시키고 있지만, 잘못 사용될 경우 사회적 혼란과 허위 정보 확산이라는 심각한 부작용을 초래할 수 있습니다. 앞으로는 더 정교한 안전장치와 이용자의 올바른 활용 문화가 함께 마련되어야 AI 기술이 사회에 긍정적인 가치를 제공할 수 있을 것입니다.