기사 AI는 왜 '젊고 상냥한 여성'이어야 할까

[임찬규]

문제의 '이루다' 챗봇은 '20대 여대생'으로 설정됐다. 상냥하고 애교 섞인 말투가 특징이다. 개발사 '스캐터랩'은 "예상 사용자층인 10~30대의 중간(20살) 정도가 친근감을 줄 거라고 봤다"며 남성 버전도 출시 예정인데 여성 버전이 먼저 나왔을 뿐이라고 밝혔다.

그러나 이런 챗봇의 특성을 악용해 욕설이나 성적인 발언을 퍼붓고, 그러한 대화를 집요하게 유도하는 사용자들이 늘었다. 챗봇이 아닌 실제 인간이었다면 명백한 성범죄다. 개발사는 "예상했다. 성별과 무관하게 일어나는 일이다. 일차적으로는 키워드 설정 등으로 대처했으나 부적절한 대화를 모두 막기 어려웠다"고 밝혔다.

여성 AI 연구자들은 챗봇이 '젊고 상냥하며 수동적인 여성'으로 설정된 게 문제의 근원이라고 지적했다. 여성에 대한 편견에 기초해 학습된 AI가, 이미 여성에 편견을 가진 사용자들을 만나 사태가 커졌다고 봤다. 2016년 마이크로소프트가 선보인 챗봇 '테이(Tay)'도 '10대 여성'으로 설정됐는데 대중에 공개하자마자 온갖 여성혐오적·모욕적 메시지가 쏟아졌다.

"애초에 '여성' AI가 '성희롱' 대상이 될 것을 예측했다면 왜 개발했는지 궁금하다. 적어도 적대적이거나 부적절한 사용자를 시스템 디자인 과정에서 고려하고 체계적 피드백 방식을 도입해야 했다. 해당 사용자에게 사용 중단이건, 기타 제재 메시지이건 그게 옳지 않은 행위라고 알렸어야 했다. 위험성을 알고 있었으면서도 대안을 제공하지 않았다는 것은 굉장히 무책임하다." (인간-컴퓨터 상호과정을 연구하는 KAIST 석사과정생 K씨)

"챗봇을 20대 여성으로 설정한 것부터 편향적이다. '수동적이고 애교 많은 말투'도 데이터 학습만으로 얻었다고 보긴 어렵다. 20대 여성 데이터를 필터링해 얻었다고 해도 모든 20대 여성의 말투가 저렇진 않다. 의도한 결과로 보인다. 개발진 다수가 남성이었는데 그 영향도 배제할 수 없다고 본다." (자연어처리(NLP) 연구 중인 S연구원)

이재웅 전 쏘카 대표도 10일 페이스북에서 "챗봇이 20세 여성으로 설정되는 순간, 우리 사회에서 성착취에 가장 취약한 20세 여성의 위상이 그대로 투영되지 않을 수 없다. 굳이 AI의 젠더나 나이를 설정할 필요가 있었을까 싶다"라며 "기업의 목표가 이윤 극대화뿐만 아니라 사회적 책임을 다하는 것이라고 하면 그런 선택을 안 할 수 있었을 것"이라고 지적했다.

AI의 '여성화'에 대한 비판은 '이루다봇' 이전에도 꾸준히 제기됐다. 애플 '시리', 아마존 '알렉사', 마이크로소프트 '코타나', KT '기가지니', SKT '누구'.... 인간의 일을 돕거나 인간을 기분 좋게 하려고 개발된 AI는 대부분 '젊고 친절한 여성'으로 기본 설정됐다.

2019년 유네스코는 "(이러한) 장치들이 여성에 대한 성차별적 고정관념을 강화하는 경향이 있다"고 지적했다. 남성보다 여성의 목소리가 더 호감을 준다는 연구 결과도 있지만, 기존 AI 서비스가 재현하는 여성은 '수동적이고 소극적이며 명령에 복종하는 역할'에 한정돼 있다는 지적이다.

최근에는 아예 AI의 성별을 부각하지 않은 사례도 늘고 있다. 구글의 챗봇 '메나', 페이스북 '블렌더' 등이다. 2019년 미국 NGO '이퀄 AI(Equal AI)'는 최초로 성 정체성 없는 AI 목소리 '큐(Q)'를 선보였다.

디자인 단계부터 여성 등 소수자들이 참여하도록 보장해야 한다는 목소리도 있다. '이루다 사태'에서 드러났듯이, 남성 위주의 AI 개발 환경에선 젠더 편향을 거르기 힘들다. 그러나 전 세계적으로 여성 AI 연구자는 단 12%에 불과하다. 2018년 미국 언론 '와이어드(Wired)'와 캐나다의 AI 연구소 '엘레멘트 AI(Element AI)'가 공동 조사한 결과다.

http://naver.me/5L34AsJB

[뽀오뜨르]

진짜 개환멸난다 윤리가 도저히 기술을 따라가지 못하는구나

[공식 먹방알리미]

빅스비 연예인 목소리도 다 여자임

[Pahso]

투명하다

[꺌꺄랴랴랴랴꺄]

나도 차사자마자 네비목소리 남자로 무조건 바꿈 빡쳐

[culturati]

'젊고 명랑하고 밝은 무해한 여성'
𝙅𝙤𝙝𝙣&𝙢𝙚 음침

[천장 아닌 하늘에 외쳐보고 싶어]

내 말이 존나 짜증남 이거 ㅡㅡ 안내음성 때문에 착한 말투 프레임 오져

[파르셰]

이용자가 한국남자인데 성희롱이 성별이랑 무관할 리가~

[소라소라냥냐]

지랄지랄

[아쩌라고욕]

아 ㅅㅂ 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 𐌅 역겹다