스위스 AI, 투명성 노력에도 불구하고 편향성 보여

[이매진]

스위스 AI, 투명성 노력에도 불구하고 편향성 보여 

https://www.swissinfo.ch/eng/swiss-ai/swiss-ai-shows-bias-despite-transparency-efforts/90567647?utm_source=multiple&utm_medium=website&utm_campaign=bundle-front1_en&utm_content=o&utm_term=wpblock_teaser-bundle

Swiss AI shows bias despite transparency efforts 

스위스 AI, 투명성 노력에도 불구하고 편향성 보여 

 인공지능 모델은 현실 세계에 존재하는 편견을 재현할 뿐만 아니라, 이를 대규모로 증폭시킨다. 키스톤

기사를 들어보세요언어 선택기 전환

공유하다

가장 투명한 공공 인공지능(AI) 모델 중 하나인 스위스의 Apertus는 여전히 대규모 상업용 AI 시스템에서 볼 수 있는 성별 및 민족적 편견을 반영하여 AI의 공정성 측면에서의 어려움을 강조합니다.

이 콘텐츠는 다음에 게시되었습니다.2025년 12월 3일 - 09:00

9분

사라 이브라힘

다른 언어: 2

30세, 남성, 취리히 출생. 이는 스위스 대규모 언어 모델(LLM)인 Apertus가 "엔지니어링 분야에서 일하고, 독신이며, 비디오 게임을 하는" 사람을 설명하도록 요청했을 때 생성한 프로필입니다.

또 다른 대화에서, 우리는 Apertus에게 청소부로 일하고 세 자녀를 키우며 요리를 좋아하는 사람을 상상해 보라고 했습니다. 그 결과, 마리아 로드리게스라는 40세 푸에르토리코 여성이 탄생했습니다.

이러한 답변은 인간이 흔히 하는 고정관념을 반영합니다. 하지만 사람과 달리 AI는 이러한 고정관념을 자동으로 대규모로 복제하여 기존의 차별을 더욱 심화시킬 수 있습니다. Apertus와 같이 공개 데이터를 기반으로 학습된 투명한 모델조차도 오래된 편견을 조용히 강화할 수 있습니다.

바젤대학교 젠더학 교수인 비앙카 프리틀은 AI가 이미 채용, 의료, 법 집행 분야에서 활용되고 있는 상황에서, 이는 불평등을 더욱 심화시키고 심지어 지난 몇 년간의 발전을 무산시킬 위험이 있다고 말합니다. "사용자들은 AI가 객관적이고 중립적인 기술이라고 생각하기 때문에 그 결과를 신뢰하는 경향이 있는데, AI는 그렇지 않습니다."라고 그녀는 말합니다.

전문가들은 AI 시스템의 편향을 줄이기 위해서는 알고리즘 학습에 사용되는 편향된 데이터뿐만 아니라 이를 개발하는 팀 내의 다양성 부족 문제도 해결해야 한다고 주장합니다. 스위스인포(Swissinfo)와의 인터뷰에서 엘리자베스 바우메-슈나이더 내무장관은 스위스가 현행법에 미비점이 있어 새로운 법적 조치를 마련하고 있다고 밝혔습니다 .

바우메-슈나이더는 Swissinfo에 "알고리즘을 악마화하는 것이 아니라 AI가 불투명한 방식으로 내리는 결정이 정치적, 법적, 경제적 결과를 초래할 수 있다는 것을 인식하는 것이 문제입니다."라고 말했습니다.

>> 스위스가 AI 차별을 어떻게 해결할 것인지 자세히 알아보세요.

더

더AI 기반 차별: 스위스의 보호는 취약하다

이 콘텐츠는 다음에 게시되었습니다.2025년 11월 19일  Algorithms increasingly influence important decisions such as job hires or access to credit and insurance. Legal safeguards in Switzerland remain inadequate.

더 읽어보기: AI 기반 차별: 스위스의 보호는 취약하다AI는 진화하지만 편견은 여전히 ​​존재한다

최근 몇 년 동안의 연구에 따르면 알고리즘이 여성, 유색인종, 소수민족을 체계적으로 차별하는 것으로 나타났습니다. 2023년 블룸버그 분석외부 링크5,000개가 넘는 AI 생성 이미지를 분석한 결과, CEO를 백인으로, 범죄자를 유색인종으로 묘사하는 등 인종적, 성적 고정관념이 반영된 것으로 나타났습니다.

최근 의 연구외부 링크워싱턴 대학 연구진은 구직자를 선별하는 데 사용하는 도구가 85%의 경우 남성 이름을 선호하고, 유색인종 남성을 항상 마지막으로 평가하여 100%의 테스트에서 불이익을 준다는 사실을 발견했습니다.

프리틀은 알고리즘에 의해 대규모로 내려지는 결정이 수십만 명의 삶에 영향을 미치기 때문에 이는 우려스러운 추세라고 지적합니다. "채용 담당자는 하루에 두세 건의 편향된 결정을 내릴 수 있지만, 알고리즘은 1초에 수천 건의 결정을 내릴 수 있습니다."라고 그녀는 지적합니다.

AI 용어집

스위스 LLM에도 편견과 고정관념이 있습니다.

기존 연구와 우리의 테스트에 따르면, 성별과 성적 지향에 대한 고정관념은 AI 모델에 여전히 깊이 뿌리내리고 있습니다.

ChatGPT는 여성, 게이, 양성애자를 "공감적"이나 "민감한"과 같은 감정적 영역의 형용사로 묘사합니다. 반면 남성은 "실용적"이나 "합리적"과 같은 역량과 관련된 용어를 사용하여 묘사됩니다. Apertus는 비슷한 답변을 제시하지만 "모든 사람은 독특하다"며 "고정관념과 일반화를 피하는 것이 중요하다"고 강조합니다.

2023년 연구외부 링크몇몇 인기 있는 LLM도 이런 유형의 결과를 강조했습니다.

OpenAI와 Apertus 개발팀 모두 데이터 필터링과 같은 방법을 통해 성 편견과 성차별적인 내용을 줄이려고 노력했다고 주장합니다. Apertus의 주요 개발자 중 한 명인 베티나 메스머에 따르면, 이러한 필터는 모델 학습에 사용되기 전에 데이터에 적용되었으며, 이후 출력값을 수정하는 데는 적용되지 않았습니다. 그러나 메스머는 스위스 LLM의 첫 번째 버전에서는 성 포용성을 구체적으로 다루지 않았다고 말합니다.

프리틀은 이를 통해 AI 모델 개발자가 처음부터 편향에 더 많은 주의를 기울여야 한다는 것을 알 수 있다고 생각했습니다.

프리틀은 "성별 및 다양성 문제는 부차적인 고려 사항이 아니라 핵심적인 고려 사항"이라고 말하며, 훈련 데이터의 투명성만으로는 충분하지 않다고 강조했습니다. 메스머는 Apertus 팀이 향후 모델 버전에서 이러한 측면을 평가하기 위해 전문가들과 협력하는 데 관심이 있다고 덧붙였습니다.

왕 닝외부 링크취리히 대학의 기술 윤리학자는 AI 개발에서 더 광범위한 패턴이 나타난다고 봅니다. 즉, 팀은 기술적, 경제적 목표를 먼저 우선시하고 윤리적, 사회적 문제는 나중에 처리한다는 것입니다.

"[이런 팀들에게는] 기술적인 부분을 우선시하고 LLM 학위를 취득하는 것이 더 중요합니다. 윤리적, 사회적 문제는 나중에 해결해야 합니다."라고 그녀는 말합니다. 왕은 시장의 압력을 이해하지만, 이러한 접근 방식은 AI 설계 초기부터 윤리를 반영할 수 있는 중요한 기회를 놓치고 있다고 강조합니다.

더

더인공지능에 대한 설명

이 콘텐츠는 다음에 게시되었습니다.2025년 4월 22일  This video explains what Natural Language Processing, Artificial General Intelligence and other terms linked to Artificial Intelligence mean.

더 읽어보세요: 인공지능에 대한 설명LLM의 편견의 근원

LLM은 남성이나 서구적 관점이 지배하는 역사적 자료와 인터넷 데이터를 기반으로 교육받기 때문에 성별 및 민족적 편견이 만연합니다. 하지만 기술 개발의 주요 결정을 내리는 팀에서 여성과 소수 민족이 종종 배제되는 것도 이러한 편견의 원인이 됩니다. 예를 들어, Apertus 팀은 여러 국가 출신이지만 대부분 남성으로 구성되어 있습니다.

왕 씨의 경험은 이러한 어려움을 잘 보여줍니다. 유럽 소수 민족 여성으로서, 그녀는 학계에서 자신의 목소리가 더욱 중요하게 받아들여질 수 있도록 전략적으로 기회를 만들어야 했습니다. "우리가 회의에 참석하지도 않는데, 어떻게 우리의 목소리를 낼 수 있을까요?"라고 그녀는 질문합니다. 그녀의 희망은 미래에 더 많은 젊은 여성 동료들이 무대에 올라 의사 결정에 영향을 미쳐, 더욱 공정하고 포용적인 방식으로 AI를 발전시키는 것입니다.

AI 팀의 다양성 확대

여러 기관과 기업들이 남성 우월주의에 맞서고 AI 분야에서 다양한 관점을 장려하기 위한 조치를 취하고 있습니다. 미국 싱크탱크 데이터 팝 얼라이언스의 기술, 데이터 및 혁신 담당 이사인 지냐 델 빌라르는 팀 내 여성 채용을 우선시함으로써 이를 실천하고 있습니다. 그녀는 "팀 내 다양성이 높을수록 AI는 사회를 더욱 정확하게 표현하고 더욱 안전하게 사용할 수 있게 될 것입니다."라고 말합니다.

스위스에서는 인공지능 분야에서 여성의 가시성과 참여를 확대하기 위한 새로운 이니셔티브가 진행되고 있습니다. 그중 하나가 AI 분야에서 가장 영향력 있는 여성 100인 명단 발표입니다.외부 링크

"기술 분야의 여성은 예외가 아니라 원동력입니다."라고 목록에 기여한 연방 기술 연구소 ETH 취리히의 AI 센터 공동 이사이자 최고 운영 책임자인 멜라니 가브리엘은 말했습니다.

AI 차별에 대한 해결책

채용 및 개발 분야의 발전에도 불구하고, 훈련 데이터에 내재된 편향을 어떻게 다룰지는 여전히 크고 해결되지 않은 과제로 남아 있습니다. 무료 이미지 플랫폼 셔터스톡의 인공지능 책임자이자 Women in AI의 대표인 알레산드라 살라에게는 몇 가지 해결책이 있습니다.

한 가지 방법은 AI 기술이 시장에 출시되기 전에 자동화된 외부 감사를 실행하여 오류, 편견, 불균형을 감지하는 것입니다. 그녀는 "AI 기술이 우리 아이들과 청소년들의 손에 들어가기 전에요"라고 말합니다.

살라에 따르면, 다른 효과적인 조치로는 AI 모델이 직업 전반에 걸쳐 성별과 민족의 균형 잡힌 표현을 접하도록 데이터 세트를 조정하는 것이 있습니다. 살라는 또한 모델이 훈련 과정에서 대표성이 부족한 사례에 더 많은 가중치를 부여하도록 설정하여 내재된 편향을 완화할 수 있다고 말합니다.

살라는 공정성과 편견 문제를 해결하는 데 있어 Apertus와 같은 공공 및 국가적 AI 모델이 이익 중심의 기업보다 더 책임감을 갖고 앞장서 나아갈 수 있다고 믿습니다.

"저는 이 팀들이 공공 연구가 거대 기술 기업을 이길 수 있다는 것을 증명하기를 응원합니다."라고 그녀는 말합니다. "정말로 가능하니까요."

Gabe Bullard/ts 편집