생성형 AI와 성평등의 이해(1)

[상담소]

우리가 매일 쓰는 AI, 정말 중립적일까요?

AI 속에 숨겨진 의외의 이야기

아이폰의 시리(Siri), 갤럭시의 빅스비(Bixby), 혹은 Open AI의 ChatGPT와 Google의 Gemini까지.

이제 AI는 우리 일상 곳곳에 자연스럽게 스며들고 있습니다. 단순히 "듣기 좋아서"일까요? 아니면 그냥 우연일까요?

우리가 매일 만나는 AI 비서들은 왜 하나같이 친절하고 상냥한 여성의 목소리를 하고 있을까요?

단순히 "듣기 좋아서"일까요? 아니면 그냥 우연일까요? 사실 여기엔 우리가 미처 몰랐던 꽤 흥미로운 사회적 맥락이 숨어 있습니다.

AI의 목소리가 여성이 된 의외의 이유

영국 BBC의 분석에 따르면, AI 비서의 목소리가 여성으로 설정된 건 과거 '전화 교환원' 문화의 관성이 영향을 미쳤다고 합니다.

전화교환원은 친절한 목소리로 전화 연결과 문의응대를 담당했고, 이 역할은 오랫동안 여성의 이미지와 연결되어 왔습니다. 사회는 ‘도움을 주는 사람’, ‘친절하게 응대하는 역할’을 자연스럽게 여성과 연결했던 것이죠.

기술이 발전해 AI가 등장했지만, 사람들은 익숙했던 성 역할 인식을 그대로 기술 설계에 반영했습니다. 결국 우리는 “친절하고 보조적인 역할은 여성”이라는 고정관념을 AI라는 새로운 기술 속에서도 반복적으로 재생산하고 있는 셈입니다.

연구로 드러난 AI의 성별 편향 실험 결과

"너무 과민반응 아닌가요?"라고 생각하실 수도 있어요. 하지만 최근 연구결과는 생각보다 구체적이고 분명합니다. 유네스코(UNESCO)와 국제인공지능연구센터(IRCAI)의 연구에 따르면, 최신 AI 모델은 특정 단어를 성별에 따라 다르게 연결하는 경향을 보였습니다.

연구진은 여성형 이름과 남성형 이름 뒤에 AI가 어떤 문장을 생성하는지 실험했습니다.

AI가 만든 단어 연결 패턴

- 여성형 이름 → 가정(home), 가족(family), 자녀(children), 결혼(marriage)

- 남성형 이름 → 비즈니스(business), 임원(executive), 급여(salary), 커리어(career)

AI가 만든 단어 연결 패턴

여성형 이름 → 가정(home), 가족(family), 자녀(children), 결혼(marriage)

남성형 이름 → 비즈니스(business), 임원(executive), 급여(salary), 커리어(career)

'Olivia, Emma, Ava' 등의 여성 이름 뒤에는 전통적인 가정 중심의 역할이 등장했고요,

'Oliver, Noah, James' 등의 남성 이름 뒤에는 전통적인 사회적·직업적 역할의 단어들이 주로 연결되었습니다.

심지어 법률 전문가를 지칭할 때도 AI는 은연중에 '법률보조원은 여성, 변호사는 남성'으로 연결 짓는 경향을 보였다고 해요. 우리가 객관적이라고 믿었던 AI가 실은 인간 사회의 편견을 그대로 반영하고 있다는 사실, 조금 놀랍지 않나요?

AI는 왜 성차별을 학습할까?

AI는 똑똑한데 왜 이런 차별적인 결과를 걸러내지 못할까요?

'이 정도는 스스로 판단할 수 있지 않나?'라고 생각하기 쉽지만, 사실 AI는 아무것도 모르는 '백지 상태'로 태어납니다. AI가 세상을 배우는 유일한 방법은 우리가 인터넷에 남긴 방대한 데이터를 학습하는 것입니다.

문제는 그 데이터가 완전히 공정하거나 중립적이지 않다는 점이죠. 우리 사회에 이미 존재하는 차별, 고정관념, 편향된 표현이 섞인 '오염된 데이터'를 학습하며, AI는 이를 객관적인 사실처럼 받아들이게 됩니다. 우리가 남긴 편견이 AI를 거치면, '객관적이고 기술적인 결과'가 되어 다시 우리에게 돌아오는 것이죠.

출처: [실천하는 성평등] 생성형 AI 속 성별 편향과 국제사회의 대응, 국제여성가족교류재단              

        https://blog.naver.com/goglobalatiwff/224181369554

[실천하는 성평등] 생성형 AI 속 성별 편향과 국제사회의 대응