‘역사적 인물과 달라’…구글 AI 제미나이, 이미지 생성 기능 중단

[박수빈(경영학과)]

https://www.donga.com/news/It/article/all/20240223/123664338/1

‘역사적 인물과 달라’…구글 AI 제미나이, 이미지 생성 기능 중단

구글이 인공지능(AI) ‘제미나이’의 이미지 생성 기능을 서비스 시작 20일 만에 중단했다. 역사적 인물을 실제와 다르게 생성하는 등의 오류가 발견된 데 따른 조치다.

22일(현지 시간) 구글은 X(옛 트위터) 계정을 통해 “제미나이의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있다”며 “인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 다시 출시할 예정”이라고 밝혔다.

제미나이는 텍스트와 이미지, 음성, 영상 등을 생성하는 구글의 멀티모달 AI 모델이다. 최근 소셜네트워크서비스(SNS) 등에서는 제미나이가 ‘미국 건국의 아버지’와 같은 역사적 인물을 유색인종으로 잘못 생성한다는 지적이 있었다.

정보통신(IT) 매체 더버지에 따르면 ‘1800년대 미국 상원의원을 생성해달라’고 요청하자 제미나이는 흑인 및 아메리카 원주민 여성으로 보이는 결과물을 내놨다. 역사상 미국 첫 여성 상원의원은 1922년 나왔고 백인이었다는 점을 고려하면 잘못된 결과물을 보여준 셈이다.
이미지 생성 기능 중단에 앞서 구글은 X 계정을 통해 “제미나이의 AI 이미지 생성 기능은 사람을 광범위하게 만들어낼 수 있다”면서도 “제미나이가 일부 역사적 이미지 생성 묘사에서 부정확하다는 점을 알고 있다”고 밝힌 바 있다.

생성형 AI 오류 논란은 이번이 처음이 아니다. 지난해 구글이 AI를 탑재한 새 검색 엔진 ‘바드’를 출시하고 기능을 시연했을 당시에도 오답을 내놔 구글 주가가 하루만에 9% 폭락하기도 했다.

---

아직은 인간이 AI의 이런 거짓말 혹은 오류를 알아챌 수 있지만, 앞으로 AI의 수준이 높아져 거짓된 정보를 구별하기 어려워지면 정말 큰 문제가 생길 수도 있을거라는 생각이 듭니다.

최근 기업들은 AI가 가진 데이터를 다른 데이터와 비교해 다른 갑견을 검증하게 하는 기술(RAG)을 개발하거나, 소프트웨어 보안을 담당하던 '레드팀'을 업그레이드 해 'AI 레드팀'을 만들어 AI에 일부러 틀린 답을 유도해 그걸 수정하고 있다고 합니다. 

아직 AI가 실생활에 접목된 지 얼마 되지 않은 만큼 그 윤리 문제가 기업의 자율에만 맡겨저 있는데 이것을 규제할 법이 필요할 것 같습니다.

[이리나(경영)]

AI로 인한 편리함도 중요하지만 이를 무분별하게 사용하고 악용하면 안되는 것 같아요
AI로 인한 윤리 문제를 규제할 법이 빨리 생겨나면 좋겠습니다!

[김승혁(경영)]

가끔 AI가 영화에서 나오는 것처럼 인류를 위협하지 않을까 하고 걱정을 하기도 합니다 ㅎㅎㅎ 무섭네요

[현승용]

근본적으로 AI는 광범위한 정보 수집과 빅데이터 처리를 통해 작동되는 거로 알고 있단다.
그렇다면 널리 유포되고 있는 거짓과 왜곡 선동된 정보로 인하여 파생되는 어긋난 결과에 나 역시 의구심을 가지고 있으며 매우 우려스럽기도 하단다.