생성형 AI와 성평등의 이해(2)

[상담소]

현실에서 드러난 알고리즘의 성차별 사례

그렇다면 현실에서 AI는 어떤 방식으로 차별을 '자동화'하고 있을까요?

[사례 1] 아마존 AI 채용 시스템, '여성 지원자는 자동 감점?'

AI 편향성 문제를 이야기할 때 빠지지 않는, 가장 대표적인 사건이 있는데요. 바로 2018년 아마존(Amazon)의 AI 채용 시스템 사건입니다. 아마존은 이력서를 자동 평가하는 AI 채용 도구를 개발했으나 테스트 결과, AI가 여성 지원자의 이력서를 조직적으로 감점하고 있다는 사실이 밝혀졌습니다.

아마존 AI는 왜 '여성'을 낮게 평가했을까?

원인은 AI가 공부한 '학습 데이터' 때문이었습니다. 아마존은 지난 10년간 회사에 제출된 이력서를 AI에게 학습시켰습니다. 그런데 당시 IT 업계는 남성 비중이 압도적으로 높았죠.

AI는 과거 데이터를 분석하며 “과거에 많이 뽑힌 사람이 남성이니, 이런 특징을 가진 사람이 좋은 지원자겠구나.” 라고 잘못된 기준을 스스로 만들어냈습니다.

결국 AI는 과거 채용 시장의 편향된 구조를 그대로 학습했고, 남성 지원자의 특징을 더 우수한 기준으로 인식하게 됐습니다.

'여성의 흔적'을 찾아 감점한 알고리즘

남성을 우수하다고 인식한 AI는 이력서에 성별을 쓰지 않아도 교묘하게 '여성'을 찾아내 불이익을 줬습니다. 이력서에 'Women Chess Club', 'Women Footboll Team'과 같은 단어가 있으면 점수를 깎았습니다.

특정 여대를 졸업했다는 정보가 있으면 은근슬쩍 낮은 점수를 줬죠. executed, captured 등 공격적이고 강한 표현이 많은 이력서에는 가산점을 줬습니다. 결국 아마존은 이 프로젝트를 공식적으로 폐기했습니다.

필터를 걸고 수정을 거듭해도, AI가 데이터 이면에 숨겨진 '편견'을 자꾸만 찾아내 학습했기 때문이죠. ​이 사건은 AI 편향성 문제가 본격적으로 사회적 논쟁으로 떠오른 계기가 됐습니다.

[사례 2] '구글 알고리즘'이 편집한 세계, 검색창 너머의 유리천장

우리가 정보를 찾을 때 가장 먼저 찾는 곳, 바로 구글(Google)이죠. 많은 사람들이 구글의 결과를 객관적인 정보라고 믿지만, 사실 이 알고리즘 속에도 꽤 견고한 차별이 숨어 있습니다.

​글 광고 알고리즘, 고연봉 광고는 남성에게만?

이미 2015년부터 구글의 광고 알고리즘(AdSense)은 성별에 따른 차별 논란에 휩싸여 왔어요. 구글 광고 알고리즘은 똑같은 조건의 사용자라도, 남성에게 고연봉의 임원·전문직 광고를 훨씬 더 많이 노출했습니다. STEM(과학·기술·공학·수학) 분야의 구인 광고 역시 여성보다 남성에게 더 자주 노출되었죠. 알고리즘은 과거의 데이터를 바탕으로 "이런 직업은 남자가 더 좋아하겠지?"라는 편향된 예측을 반복하고 있었습니다.

​이것은 단순한 광고 추천의 문제를 넘어 '기회의 차별'로 이어집니다. 여성은 고임금·고위직 정보를 덜 접하게 되고, 남성은 더 많은 기회를 선점하며 결국 노동시장의 격차가 알고리즘에 의해 더욱 공고해지기 때문입니다.

​구글 이미지 검색 속, 또 다른 편견

2025년 10월, <Nature>지의 연구에 따르면, 구글의 알고리즘 편향은 광고 뿐 아니라 검색 결과에서도 발견됩니다. 수천 개 직업 키워드로 구글 이미지 검색을 분석한 결과, 대부분의 직업에서 여성은 남성보다 더 ‘젊은 모습’으로 묘사되고 있었습니다. 실제 노동시장에서는 남녀 연령 분포가 비슷한데도, 온라인 이미지에서는 여성만 유독 젊게 나타난 것입니다.

구글 이미지는 남성은 전문직일수록 숙련되고 권위있는 모습으로, 여성은 직업의 전문성과 상관없이 비현실적으로 젊고 외모 중심적으로 표현했는데요. 이는 '귄위있는 직업 = 남성', '여성의 경쟁력 = 젊음' 이라는 왜곡된 인식을 강화합니다.

​문제는 여기서 끝나지 않습니다. 더 심각한 건 이 차별적인 이미지와 데이터가 생성형 AI의 학습 재료가 된다는 점입니다. 색 알고리즘의 편향이 다른 AI 시스템으로 확산되며 편견이 계속 증폭될 수 있다는 것이죠.

​우리가 매일 보는 검색 결과와 추천 정보는 정말 객관적인 현실일까요, 아니면 알고리즘이 만든 또 하나의 ‘편집된 세계’일까요? 구글 이미지에 'nurse'를 검색했을 때 vs 구글 이미지에 'doctor'를 검색했을 때 우리가 정확하다고 믿었던 AI가, 사실은 과거의 편견을 가장 성실하게 복사하고 있었습니다.

아마존(Amazon)은 과거의 데이터를 바탕으로 '여성'을 지워 불이익을 주었고, 구글(Google)의 알고리즘은 우리가 보는 '성공의 자격'은 남성으로, '여성의 가치'를 젊음으로 편집해 보여주고 있습니다.

이러한 방식으로 기술이 우리 사회의 차별을 '자동화'하고 있는 셈이죠. 하지만, AI는 이제 선택이 아닌 필수가 되어가고 있습니다. 앞으로 우리가 현재보다 AI를 덜 사용하는 세상이 올 가능성은 낮습니다. 그렇다면 AI와 공존해야 하는 지금, 우리는 AI를 어떻게 더 현명하게 사용할 수 있을까요?

AI 시대, 차별을 줄이기 위한 움직임

AI 시대의 성평등은 저절로 업데이트되지 않습니다. 우리가 어떤 가치를 중요하게 여기는지, 그리고 어떤 기술을 선택하고 설계하는지에 따라 AI의 방향은 달라집니다. 지금 이 순간에도 국제사회와 기술 현장에서는 AI의 편향과 차별을 줄이기 위한 다양한 노력이 진행되고 있는데요. 이 파트에서는 현재 국제사회가 어떤 노력을 기울이고 있는지, 우리가 AI를 더 공정하고 윤리적으로 활용하기 위해 어떤 방향으로 나아가야할지 알아봅시다.

Human - in - the - Loop 전략

​전 자동화된 AI가 위험하다는 인식이 확산되면서 최근에는 Human-in-the-Loop(HITL) 전략이 중요하게 논의되고 있습니다. 이 방식은 AI가 분석과 추천을 하더라도 최종 판단은 반드시 사람이 검토하도록 하는 구조입니다.

AI의 학습 또는 의사결정 과정 중간에 사람이 직접 개입해 결과를 검수하고, 차별적이거나 편향된 결과가 발견될 경우 즉시 수정합니다.

​예를 들어, 채용 AI가 후보자를 추천하더라도 사람 HR 담당자가 최종 결정을 내리고, 의료 AI가 진단을 제안해도 의사가 마지막 판단을 담당하는 방식입니다. 콘텐츠 필터링이나 금융 심사에서도 AI 결과를 사람이 재검토하는 방식이 점점 늘어나고 있습니다.

SK AX에 따르면, 최근 기업들은 AI 자체보다 AI를 어떻게 운영하느냐가 그 기업의 경쟁력이 된다고 말합니다. 전문가가 데이터와 결과를 해석하고, 윤리 기준과 조직의 의사결정 구조에 맞게 AI를 조정하는 능력이 중요해진 것이죠.

즉, AI가 인간을 대체하는 존재가 아니라, 인간의 전문성을 확장하는 보조도구로 설계하는 것이 휴먼인더루프(Human in the Loop) 전략의 핵심입니다. 이처럼 국제사회에서는 AI와 공존하기 위한 다양한 가이드라인을 제시하는 동시에, 현장에서도 기술 자체를 개선하려는 시도가 이어지고 있습니다.

출처: [실천하는 성평등] 생성형 AI 속 성별 편향과 국제사회의 대응, 국제여성가족교류재단              

        https://blog.naver.com/goglobalatiwff/224181369554