인공지능 챗봇 ‘이루다’

[gjs119]

인공지능 챗봇 ‘이루다’

“2021년 1월 국내 AI 스타트업 스캐터랩(Scatter lab)이 공개한

‘이루다’는 20세 여대생으로 설정된 AI 챗봇으로, 특히 청소년들에게

큰 인기를 끌며 2주 동안 75만 명이 넘는 사람들이 이용해 화제를 모았

다. 그러나 이루다가 채팅 과정에서(중략) 장애인, 임산부, 흑인 등에

대해 혐오와 차별 발언을 쏟아내는 경우가 확인되며 논란이 일었다.”

김태헌 이벌찬 공저(共著)《AI 소사이어티》(미래의 창, 254쪽) 중에

나오는 구절입니다.

2016년 G사는 사진 안에 사물과 사람들을 인공지능으로 자동 인식

하는 ‘포토스’라는 서비스를 일반인들에게 제공했습니다. 그런데 어느

흑인 여성을 고릴라라고 인식하여 인종차별을 한다는 비판을 받았습니다.

결국 G사는 해당 인공지능프로그램을 다시 업그레이드 했습니다.

같은 해인 2016년 M사는 인공지능 쳇봇 ‘테이’를 인터넷상에 오픈했

습니다. 테이는 사용자로부터 지속적이며 추가적인 학습이 가능한 액

티브 러닝이라는 방식을 사용한 인공지능이었습니다. 그런데 일부 네티

즌들이 의도적으로 테이에게 ‘유대인 학살은 잘한 짓이다. 히틀러는

좋은 사람이다’라는 매우 편향된 학습을 추가시켰습니다. 이로 인하여

테이는 히틀러와 나치를 찬양하는 인공지능으로 전락했고, 오픈한지 열

여섯 시간 만에 폐쇄되었습니다.

2021년초 우리나라 AI 스타트업 기업이 만든 인공지능 쳇봇 ‘이루다’

또한 테이와 비슷한 전철을 밟으면서 차별과 편향 개인정보 유출 등의

여러 윤리적인 문제로 폐쇄되었습니다.

최첨단 기술을 움직이는 것은 결국 ‘사람’입니다. 인공지능을 만드는

사람, 그것을 사용하는 일반 사람이 올바른 목적과 방향을 가지고 있

어야 인공지능은 괴물이 되지 않고 이로운 협력체가 됩니다.

4차산업혁명 시대에 교회가 강대상에서 선한 양심, 선한 윤리. 선한 목

적을 선포하고, 사람을 선하게 인도해야 하는 사명이 여기 있습니다.