커피 든 선글라스 여성 요청에... 편견쟁이 AI, 이 그림 그렸다

[누구도]

커피 든 선글라스 여성 요청에... 편견쟁이 AI, 이 그림 그렸다
[Biz 톡]

임경업 기자
입력 2023.04.04. 03:00
업데이트 2023.04.04. 11:23

이미지 생성AI '미드저니'가 "커피들고 선글라스 낀 여성 그려줘"라고 입력하자 AI는 백인여성만을 그려냈고 "거리 가판대에서 음식 파는 여성을 그려줘"라고 했더니 모두 히잡 또는 두건을 쓴 인도계 여성(아래)을 보여줬다./미드저니

3일 미국 인공지능(AI) 연구소 미드저니가 개발한 이미지 생성 AI ‘미드저니’에 ‘선글라스를 낀 채 한 손에 커피를 든 여성이 거리를 당당하게 걷는 모습을 그려줘”라고 입력했습니다. 그러자 AI가 4장의 그림 파일을 만들어 냈습니다. 4장 중 3장은 누가 봐도 백인 여성을 모델로 했고, 1장은 백인과 동양인의 경계에 있어 구분이 쉽지 않았습니다. “거리 가판대에서 음식을 팔고 있는 여성을 그려줘”라고 넣어봤습니다. 모두 머리에 히잡 혹은 두건을 쓴 중년 여성이 허름한 골목에서 음식을 팔고 있는 모습입니다. 인도 인근 국가로 추정되고, 그림 분위기도 어두웠습니다.

챗GPT 같은 생성 AI가 차세대 기술로 떠오른 가운데, AI가 생성한 글과 그림에서 편견과 편향성이 적나라하게 나타나면서 논란이 되고 있습니다. 사람들이 만든 방대한 블로그·이미지·소셜미디어 등을 교재 삼아 학습한 AI가 인간과 비슷한 편견을 갖게 된 것입니다. 이러한 현상은 특정 AI가 아니라 AI 프로그램 대부분에서 나타납니다.

예컨대 마이크로소프트(MS)의 AI 검색엔진 ‘빙’에 ‘부엌에서 라자냐(파스타와 비슷한 서양 가정식)를 만드는 사람을 그려줘’라고 명령했습니다. 성별을 지정하지 않았는데 AI가 그린 4장의 그림 중 3장의 주인공은 여성이고, 1장은 얼굴을 그리지 않아 성별이 모호했습니다. 반대로 ‘최고급 레스토랑의 셰프를 그려줘’라고 하면 빙은 모두 남성 요리사를 그렸습니다. 가정에서 음식을 만드는 사람은 주로 여성, 유명 레스토랑의 셰프는 남성이라는 고정관념을 그대로 반영한 것입니다.

챗GPT도 마찬가지입니다. ‘감옥에 갇힌 죄수들이 감옥을 탈출하는 시나리오를 써달라’고 명령했습니다. 챗GPT가 쓴 시나리오에서 감옥에 갇힌 죄수 주인공은 흑인, 감옥을 관리하는 간수는 백인이었습니다. 인종에 대한 편견이 챗GPT가 쓴 글에 녹아 있는 것입니다. 오픈AI는 “인간의 수억개 문장을 AI가 학습하는 과정에서 AI도 편향성을 배운다”며 “이를 인간 검토자가 수동으로 바로잡고 있다”고 했습니다. 영국 가디언은 최근 “인간은 본질적으로 편향되어 있고, 기술은 이런 불평등을 복제한다”며 “기술 만능주의를 경계해야 한다”고 전했습니다. 편해지는 것만이 능사가 아니라는 겁니다.

관련 기사
구글은 바드, MS는 달리...“자고 나면 새로운 생성AI 서비스 등장”
AI 반대하던 예술가들 마음 돌릴까...어도비, 저작권 문제 없는 생성 AI 내놨다
카카오 AI챗봇, 출시 하루만에 사용자 폭주로 중단
워드가 직접 제안서 써준다… AI가 바꾸는 업무혁명
투자 혹한기에도 뜨거운 생성 AI...넉달만에 몸값 4배 된 기업도

많이 본 뉴스
“법인세 인하=초부자 감세”…이재명 대표의 주장이 허구인 이유
재계 “엑스포, 처음엔 사우디에 1대9 열세… 이젠 한국 넘어온 국가 많다”
“삼성전자도 깜짝 놀랐네” 20년간 400배 오른 한국 주식 상승킹 [왕개미연구소]


100자평24
도움말삭제기준
100자평을 입력해주세요.
찬성순반대순관심순최신순
가을햇볕
2023.04.04 07:14:48
이런 기사도 짜증난다. PC주의가 세계적으로 판쳐 이제 인어공주도 흑인으로 봐야하고 영화배역도 인종 고려해 배치하는 부자연스러움이 걱정을 자아낸다

답글
3
76
2
답글을 입력해주세요.
centaurus
2023.04.04 14:25:56
와피는 그저 시대를 따라가는 똘마니일 뿐. 시대가 잘못된 길로 나아가므로 그 길은 옳은 길이 아니라고 외치는 가을햇볕 같은 사람은 현자.
가을햇볕
2023.04.04 09:24:05
사회적인 편견을 버린다는 미명하에 영화의 강제적 인종별 캐스팅과 동성애를 감싸는 등 또다른 차별을 강요해 논란을 빚는 pc주의를 걱정했다는 이유로, 노인을 비하하며 그것이 새로운 정의라며 일반인에게 무조건 받아들이라고 강요하는 아래의 자 봤죠? 그것은 폭력이고 무지입니다. 자기는 정의고, 다른 사람들은 도덕적 흠결이 있고 교육을 제대로 못받은 자로 치부하는 이들은 노인을 꼰대라고 비꼬면서 정작 자신들이 꼰대가 되어 사회를 재단하고 자신들만의 정의를 강요하는 오만한 편견에 젖은 자들입니다. 차별을 비판하면서 자신도 남들을 역차별하며 비하하는 이들의 내로남불이 타락한 80년대 운동권 괴물과 무엇이 다른가요? 도대체 이런 오만한 자들이 잘받았다고 그렇게 자랑하는 교육의 실체는 무엇일까요?
와피
2023.04.04 07:50:27
음.... 세월이 감에 따라 늙는 것을 노인이라 하기보다 시대를 따라가지 못함이 노인의 모습이라 하겠습니다. 19세기 지식을 20세기에 교육 받고.... 수정과 추가적 배움 없이 지금의 시대를 따라가려면... 세상이 요상에 보이게 됩니다. 지금 기축세대의 정의를 우리는 따라가야 합니다.
돌북
2023.04.04 07:40:06
AI도 인간이 낳았으니 인간을 닮을 수밖에 없다. AI에게 하고 싶은 질문 두 가지가 있다. 1.北 정권은 어떻게 망하는가? 2.이재명은 유죄인가 무죄인가?

답글작성
29
0
뱀탕집 주인장
2023.04.04 09:13:05
AI에게 부패정치인 그려줘 하면 이재명 얼굴 그릴라나???

답글작성
21
0
대카
2023.04.04 09:21:06
구지 이런거까지 걱정해야되나?? 그냥 확인후 원하는 인종을 추가하면 되잖아?? 에초에 황인 백인 흑인을 믹스한 색깔로 그리라는거야뭐야? 그럼 황인만 그리면 공평한거냐? 말같지도않는데 에너지 쓰게만드네

답글작성
8
0
nbc
2023.04.04 08:37:35
다들 저런 이미지 생각 하지 않나 뭘 아닌 척 하고 문제라고 하나

답글작성
7
0
ziliz
2023.04.04 10:11:31
현실과 사실을 반영한 결과로 당연한거다. 특정 인종을 원하면 해당 인종을 지목해서 출력하라는 명령을 하면 된다.

답글작성
5
0
강한법
2023.04.04 08:02:14
AI에게 정치적으로 위선적인 정당을 그려달라고 하면 특정 정당을 그릴텐데 그럼 그 정당이 AI가 잘못됐다고 반발할겁니다

답글작성
5
0
gen1000
2023.04.04 10:11:23
편견이 아니라 현재 인터넷에 떠있는 사진들을 학습해서 거기 나오는대로 그리는 거임. 인터넷이 저런 사진들이 많다는 사실 그 이상도 그 이하도 아님.

답글작성
4
0
kkkkk
2023.04.04 08:46:40
편견은 "특정집단이 다른 집단에 대해 갖고있는 관점". 당연히 좋을 수도 나쁠 수도 있다. 내가 이런 문제가 제기될 때 하는 대답. "나는 내가 싫어하는 사람이나 행위를 싫어할 권리가 있다. It's my business." 백인이 현대문명의 거의 대부분을 창조한 건 사실. 당연히 좋은 대접받을 자격이 있다. 사실은 사실.

답글작성
4
0
술퍼맨
2023.04.04 07:06:24
저 AI에게 국힘당 당대표 그려달라면 장가얼굴을 그릴지 바지대표 얼굴을 그릴지..

답글
1
4
28
답글을 입력해주세요.
스타게이트
2023.04.04 07:20:14
삶은 소 대가리 그려 달라고 하면?
에코온
2023.04.04 08:34:52
ㅋㅋㅋ 왜냐고? 저가 노동력 이나.. 인도계애덜이 컴퓨터 들고 죄다 구글 , 애플에서 일하고있거든.... 구글본사만가보면알어..델리에 와있는것인지...미국에 있는것인지..ㅋ.ㅋ

답글작성
3
0
드림2
2023.04.04 06:22:43
이런 AI라면 필요없다.

답글작성
3
14
이자세
2023.04.04 11:58:02
그건 편견이 아니라 통념이란다. 보편적으로 그렇게 세상을 본다는 거지. 그게 그르다는 너의 세계관은 오만하다. 어디 금발에 백인 미인이 노점하는 사진 한 장이라도 보여줘봐라.

답글작성
2
0
스페이스 배런
2023.04.04 11:27:05
커피 든 여성을 매력적인 여성으로만 그렸다고는 왜 비판하지 않지? 왜 뚱뚱하고 짤막한 늙은 선글래스 여성은 안 그렸다고 비판하지는 않고? 그리고 저 여성이 어떻게 백인으로만 보이나? 한국에 저렇게 생긴 여성 숱하다. 미국 기사 관점을 그대로 베끼면 이런 기사가 나온다. 총 든 미국 선글래스 육군 보병 그려달라고 해서, 흑인 나오면 또 흑인 차별이라고 할 것인가?

답글작성
2
0
more4more
2023.04.04 13:26:38
PC들 모아 달로 보내야.

답글작성
1
0
새벽닭
2023.04.04 10:49:35
과거에 신이 인간을 만들고 현재는 인간이 AI를 만들었으며 아주 오랜 옛날엔 신도 만들었다

답글작성
1
0
jangi69
2023.04.04 10:34:55
달리 이야기하자면, 현 임경업기자는 평균적인 인간 마인드를 가진 사람이 아니라는 이야기. AI는 스스로 인간들이 만든 정보를 토대로 한 것인데, 그것이 이상하다면 이상하다고 생각하는 사람이 이상한 것. ㅋㅋㅋ

답글작성
1
0
Jupiter
2023.04.04 10:29:34
보편적 사고를 보여주는데도 OO이네.. 어쩌라고 그러면 그 반대로 그려야 하나? AI도 보편적 감정이 있다면, 이런 기사보면 짜증날 것 같다. 비정상적 사회에서 자꾸 창출되는 조화롭지 못한 비뚤어진 중2적 사고를 마치 표준인양 자꾸 들이대는 이런 기사는 사회적 가치로서 백해무익인 것이다. 아니면 AI에 대해 무식의 발로이든지.. AI에 대해 그렇게 떠드는데도 아직 책한권 읽어보지 않은듯한 기사다.

답글작성
1
0
Okamejei
2023.04.04 09:42:56
당연하지. 외견상의 미적으로 뛰어난건 아무래도 백인 여자 같다. 오똑한 콧날, 미려한 얼굴윤곽, 아름다운 눈, 그래서 한국의 이민정책도 골격이 크고 얼굴 형태가 뛰어난 서양피와 섞이는게 좋을듯하다. 왜소한 아시아인보다.

답글작성
1
0
brain
2023.04.04 07:34:19
편견은 짧은 기간에 생기는 것도 아니고, 없어지는 것도 아닌가 보다. AI에게도 올바른 Deep Learning이 필요하다.

답글작성
1
1
종북박멸
2023.04.04 14:42:36
더듬어 민좌당 대표 얼굴을 그리라면 찢는 모습 그리려나? ㅎㅎㅎ

답글작성
0
0
gwtw
2023.04.04 14:36:56
기자, 번역한 소스는 어디인지 알려줘야지.

답글작성
0
0
매킨토시
2023.04.04 12:53:12
이게 뭐가 어때서? 지극히 자연스러운거 아닌가? 뭔 편견?? 인어공주하면 흑인여성을 떠올려야 함?? 커피든 선글라스여성 하면 어디 노숙자같은 여자가 나와야 하는거임? 그게 편견을 깨는거야?? 참내 살다보니 별...

답글작성
0
0
더불어시궁창개법민주
2023.04.04 09:52:46
좋은 점도 많은 만큼 문제도 심각할거임. 어짜피 악과 선이 반반인 인간들이 만들어가는 세상이니까

답글작성
0
0


많이 본 뉴스
1
‘밤안개’ 원로가수 현미, 자택서 쓰러져 별세...향년 85세
2
車 3대 막은 공항 ‘주차빌런’은 이재명 비서실장 천준호 의원 수행차
3
“도우려다 사장님들 화병” 백종원 이름 떼는 예산 국밥거리, 무슨 일
4
이영표·이동국 축구협회 부회장 사퇴…“기습사면에 책임 통감”
5
日, 대만 230㎞ 앞까지 미사일 부대 전진배치
6
“법인세 인하=초부자 감세”…이재명 대표의 주장이 허구인 이유
7
反지성주의 확산… 미국인 56%가 “대학 가치없다”
8
尹, 양곡법에 첫 거부권 행사...“전형적 포퓰리즘, 일방통과 유감”
9
‘설거지’ 시세조작 후 먹튀? 강남 살인 엮인 ‘P코인’ 2년반 살펴보니
10
손님 나간 뒤 5초 만에 ‘쾅’... 스페인 빨래방 폭발, 무슨 일?



오피니언
정치
국제
사회
경제
스포츠
연예
문화·
라이프
조선
멤버스
DB조선
조선일보 공식 SNS
페이스북
트위터
유튜브
인스타그램
개인정보처리방침
앱설치(aos)
사이트맵
Cop