구글AI가 ‘흑인 아인슈타인’을 그린 배경

[서해원당]

구글AI가 ‘흑인 아인슈타인’을 그린 배경

인터넷 이미지는 우리가 세상을 보는 방식에 어떤 영향을 미칠까

                                                                                                                          2024.02.29 09:00 권예슬 리포터

•  

                                                             ▲ 구글의 이미지 생성 인공지능 제미니가 생성한 흑인 아인슈타인. ⓒGoogle Gemini

최근 흑인 아인슈타인 이미지가 인터넷을 떠들썩하게 했다.

구글의 이미지 생성 인공지능(AI) 제미니가 아인슈타인을 흑인으로 묘사한 것이다.

구글 측은 제미니의 인물 이미지 생성 기능을 잠시 중단한다고 발표하며

“AI의 편견을 바로잡고 다양성을 키우려는 과정에서 발생한 오류”라고 발표했다.

다양성 지침이 오히려 과잉 보정을 초래했다는 것이다.

그간 AI 서비스들이 성별과 인종 등을 차별하고 편견을 키운다는 지적이 끊이지 않았다

. 이미지 생성형 AI 서비스들이 본격 도입되며, 다시 한번 AI의 성별·인종 차별 문제가 도마 위에 올랐다.

최근 연구에 따르면 온라인 이미지는 텍스트보다도 사람들의 편견을 더 키운다는 분석이 나왔다.

이미지로 통하는 세상

                                   ▲ 온라인 이미지는 텍스트에 비해 성별 편견이 더 강하며, 사람들에게 미치는 영향도 더 큰 것으로 나타났다. ⓒElla Maru

디지털 커뮤니케이션의 주인공이 텍스트에서 이미지로 변했다.

온라인 검색 엔진의 이미지 수는 20년 만에 수천 개에서 수십억 개로 늘어났다.

구글과 위키피디아 등 플랫폼에서 매일 수백만 명이 이미지를 다운로드한다.

시각적 콘텐츠 교환이 주목적인 ‘인스타그램’과 ‘틱톡’ 등 소셜 미디어를 통해 소통한다.

광고주들 역시 사람들이 텍스트보다 더 빠르고, 효과적으로 이미지를 기억한다는 점을 고려하여

이미지를 활용한 광고를 진행한다. 이미지로 통하는 세상이 된 것이다.

‘그림 우월 효과’에 따른 연구에 따르면 이미지는 텍스트보다 소비자들의 기억에 더 강인하게 남고,

텍스트를 이해하기 위한 기초가 되기도 한다. 가령, 텍스트는 성별 중립적인 용어를 활용하거나 성별에 대한 언급을 생략하는 식으로 성별 편견을 최소화할 수 있다. 가령, ‘의사가 수술을 시작했다’는 문장에서는 성별을 유추할 수 없다. 반면, 이미지는 의사의 성별이나 인종 등 인구통계학적 단서를 직접적으로 전달할 수밖에 없다.

미국의 노예 해방 운동을 이끌었던 인권운동가 프레더릭 더글러스는 이미 1861년 이미지가 사회적 편견을 전반적으로 강화할 수 있다고 경고했다. 대규모로 이미지를 생산하고 확산시킬 수 있는 기술이 마련되며, 이미지의 영향력은 점점 더 커졌다. 그럼에도 이미지가 유발할 수 있는 편견의 영향력을 면밀히 조사한 연구는 드물다. 온라인 성별 편견에 대한 대부분의 연구는 텍스트에 중점을 둬 이뤄졌고, 이미지도 포함해서 분석한 연구들조차 이미지와 텍스트의 심리적 영향을 비교하지 않아 표면적인 연구에 그쳤다.

텍스트와 이미지의 편향성 평가

                                               ▲ 직업 및 사회적 역할에 대한 온라인상에서의 성별 편견. 텍스트(회색 원)에 비해 이미지(빨간색 원)에서

                                                        성별 편향성이 더 큰 것을 확인할 수 있다. ⓒNature

미국 캘리포니아버클리대(UC버클리) 연구진이 이끄는 국제 공동연구진은 지난 2월 15일 국제학술지 ‘네이처(Nature)’에 온라인 이미지는 텍스트보다도 더 강하게 사람들의 성별 편견에 영향을 미친다는 연구 결과를 발표했다.

우선 연구진은 온라인 이미지와 텍스트에서 성별 편견의 정도를 조사하는 연구를 진행했다. 연구진은 구글, 위키피디아, IMDb 등 플랫폼에서 이미지 100만 개와 텍스트를 수집했다. 그리고 의사, 변호사, 공장 근로자와 같은 직업과 이웃, 친구, 동료 등 사회적 역할을 포함해 약 3,500개의 사회적 범주에 관한 성별 편견을 조사했다.

조사 결과 텍스트보다 이미지에서 성별 편향의 정도가 훨씬 강한 것으로 나타났다. 텍스트의 56%에서 남성 편향성이 드러났지만, 이미지에서는 62%가 남성에 치우쳐있었다. 남성을 대표하는 이미지의 수가 여성을 대표하는 이미지보다 많다는 의미다. 나아가 각 사회적 범주는 특정 성별과 강하게 연관되어 있었다. 가령 배관공, 경찰서장, 목수 등에 대한 검색 결과는 남성으로 묘사되며, 발레리나, 헤어스타일리스트, 간호사는 여성으로 더 자주 묘사되는 식이다.

논문과 함께 실린 논평에서 바스 호프스트라 네덜란드 라드바운드대 교수는 “온라인 이미지에 노출된 개인의 무의식적인 편견이 불평등·다양성 부족 등에 관한 오프라인 패턴을 재생산하고 심지어 악화시킬 수 있다”며 “현대인이 삶의 상당 부분을 온라인에서 보낸다는 점을 고려하면 매우 심각한 문제”라고 말했다.

온라인 이미지가 삶에 미치는 영향

                                                                   ▲ 직업 및 사회적 역할에 대한 온라인상에서의 성별 편견.  ⓒNature\

이어 연구진은 이미지가 사람들에게 어떤 심리적 영향을 미치는지 분석하기 위한 추가 실험을 진행했다.

423명의 참가자를 세 그룹으로 나눠 실험했다.

한 그룹은 구글 뉴스(텍스트)를 통해 특정 직업을 검색하고,

다른 그룹은 구글 이미지 검색을 통해 직업을 검색했다.

마지막 그룹은 직업 목록을 보고 알아서 검색하도록 했다.

일정 시간이 지난 뒤 연구진은 참가자들에게 특정 직업과 가장 연관성이 높은 성별이 무엇인지 물었다.

그 결과, 이미지를 검색한 참가자들이 텍스트를 검색한 참가자들이나 대조군에 비해 더 강한 성별 편견을 나타내는 것을 확인할 수 있었다. 더 큰 문제는 편견의 지속성이다. 텍스트 검색 그룹이나 대조군과 달리 이미지를 검색한 그룹은 성별 편견이 실험 이후 최대 3일 동안 지속됐다.

연구를 이끈 더글러스 길뷰 미국 UC버클리 교수는

“인스타그램, 스냅챗, 틱톡과 같은 이미지 기반 소셜 미디어 플랫폼이 인기를 끌면서 이미지의 대량 생산과 유통이 가속화되고 있다는 점을 고려하면, 우리 연구 결과가 주는 시사점이 더 크다”며 “생성형 AI들이 구글, 위키피디아와 같은 공개 플랫폼을 기반으로 훈련하기 때문에 당연히 생성형 AI의 성별 편견이 발생할 수 밖에 없다”고 말했다.

미국 캘리포니아버클리대(UC버클리) 연구진이 이끄는 국제 공동연구진은

지난 2월 15일 국제학술지 ‘네이처(Nature)’에 시각적 성 고정관념에 자주 노출될수록 사람들의 성 편견에도

더 강하게 영향을 미친다고 분석했다.