AI의 다양성 위기가 중요한 이유와 해결 방법

[이매진]

AI의 다양성 위기가 중요한 이유와 해결 방법

https://www.nature.com/articles/d41586-023-01689-4

AI의 다양성 위기가 중요한 이유와 해결 방법

소외된 그룹의 기계 학습 연구자들은 기술이 모두에게 제공되도록 보장하기 위해 이 분야에 그들과 같은 사람들이 더 많이 필요하다고 말합니다.

• 레이첼 크로웰

• 트위터 
• 페이스북 
• 이메일

새로운 직업 찾기

포괄성 그룹은 미래의 인공 지능 프로젝트를 위한 다양한 빌더를 홍보하는 데 중점을 둡니다. 신용: 셔터스톡

인공 지능(AI)은 다양성 위기에 직면해 있습니다. 신속하게 해결하지 않으면 AI 작업 문화의 결함으로 인해 결과 기술에 스며드는 편견이 지속되어 전체 그룹의 사람들을 배제하고 해를 끼칠 것입니다. 게다가 그 결과로 생기는 '지능'은 다양한 사회-정서적, 문화적 지식이 결여되어 결함이 있을 것입니다.

뉴욕 대학교 AI Now Institute의 2019년 보고서 에서 연구자들은 AI 교수의 80% 이상이 남성이라고 언급했습니다. 또한 흑인 개인은 Google 직원의 2.5%, Facebook 및 Microsoft 직원의 4%에 불과했습니다. 또한 보고서 작성자는 AI의 다양성 문제를 논의할 때 "'기술 분야의 여성'에 대한 압도적인 초점"이 "너무 편협하고 다른 사람보다 백인 여성에게 특권을 부여할 가능성이 있다"고 언급했습니다.

일부 연구자들은 변화를 위해 싸우고 있지만 그들의 노력에 저항하는 문화도 있습니다. VDI/VDE Innovation + Technik의 과학 컨설턴트인 Sabine Weber는 "'아, AI는 미래이고 우리는 이 모든 반짝이는 좋은 것들을 가지고 있습니다'라는 겉치장 아래 AI 학계와 AI 산업은 모두 근본적으로 보수적입니다."라고 말합니다. 베를린에 본사를 둔 기술 컨설팅 회사. 두 분야의 AI는 “대부분 부유한 배경을 가진 중년 백인 남성이 지배하고 있습니다. 그들은 현상 유지에 정말로 애착을 가지고 있습니다.”라고 옹호 그룹 Queer in AI 의 핵심 조직자인 Weber는 말합니다 . Nature는 현 상태를 바꾸고 AI 생태계를 보다 공평하게 만들기 위한 노력을 주도하고 있는 5명의 연구원과 이야기를 나눴습니다.

DELALI AGBENYEGAH: 아프리카 AI 강화

조지아주 애틀랜타에 있는 Shopify의 선임 데이터 과학 관리자이자 2023 Deep Learning Indaba 컨퍼런스의 총재입니다.

저는 원래 가나 출신이며 2011년에 오하이오에 있는 University of Akron에서 통계학 석사 학위를 받았습니다. 저의 배경은 고객 경험 관리에서 비즈니스 문제를 해결하기 위해 기계 학습을 사용하는 것입니다. 저는 분석 기술을 적용하여 고객 타겟팅 추천 시스템, 리드 스코어링 측면(잠재 고객 순위 지정, 다양한 커뮤니케이션을 위해 연락할 고객의 우선 순위 지정) 등 고객 행동을 유도하는 모델을 구축합니다.

올해 는 매년 다른 아프리카 국가에서 열리는 아프리카 기계 학습 및 AI 커뮤니티의 모임인 Deep Learning Indaba 의 총재이기도 합니다 . 작년에는 튀니지에서 개최되었습니다. 올해는 9월에 가나에서 열립니다.

우리 조직은 아프리카 전역을 위해 만들어졌습니다. 지난해에는 52개국이 참가했다. 목표는 54개 아프리카 국가를 모두 대표하는 것입니다. Deep Learning Indaba는 각 국가가 로컬에서 사물을 운전하는 사람들의 네트워크를 가질 수 있도록 합니다. 우리는 연례 회의인 플래그십 이벤트와 국가별 IndabaX 이벤트(TED 및 TEDx 토크를 생각해보세요)가 있습니다.

가나의 IndabaX 컨퍼런스 동안 우리는 프로그래밍 방법과 다양한 종류의 데이터를 처리하는 방법에 대해 사람들을 교육합니다. 우리는 또한 가나 외부의 산업에서 일어나고 있는 일과 가나가 어떻게 참여해야 하는지에 대한 워크숍을 진행합니다. IndabaX는 기금을 제공하고 Deep Mind, Microsoft 및 Google과 같은 회사에서 일하는 저명한 연구자인 연사를 추천합니다.

가나에서 머신 러닝과 AI 및 포용성을 강화하려면 젊은 연구자와 학생들이 이 분야에서 탁월하기 위해 필요한 기술과 준비를 이해하도록 교육하여 역량을 구축해야 합니다. 우리가 직면한 가장 큰 문제는 리소스입니다. 우리의 경제적 지위는 정부와 대부분의 가나인의 초점이 사람들의 일용할 양식에 있는 것과 같습니다. 대부분의 가나인들은 기술 혁신에 대해 생각조차 하지 않습니다. 많은 지역 학자들은 학생들을 가르치고 AI와 기계 학습에 실제로 기반을 둘 전문 지식이 없습니다.

오늘날 우리가 사용하는 대부분의 알고리즘과 시스템은 아프리카 밖에 있는 사람들이 만든 것입니다. 아프리카의 관점이 누락되어 결과적으로 편견이 아프리카에 영향을 미칩니다. 이미지 관련 AI를 할 때 사용 가능한 아프리카 이미지가 많지 않습니다. 아프리카 데이터 포인트는 대부분의 산업 기계 학습 데이터 세트의 1%를 넘지 않습니다.

자율주행차의 경우 미국의 도로망은 훌륭하고 깨끗하지만 아프리카의 도로망은 구멍이 많고 울퉁불퉁합니다. 미국이나 영국 도로에서 훈련된 자율주행차가 실제로 아프리카에서 작동할 수 있는 방법은 없습니다. 우리는 또한 AI를 사용하여 질병 진단을 돕는 것이 사람들의 삶을 변화시킬 것으로 기대합니다. 그러나 사람들이 데이터를 수집하고 아프리카 의료 및 관련 사회 지원 시스템, 질병 및 사람들이 살고 있는 환경을 이해하기 위해 그곳에 가지 않는다면 이것은 아프리카에 도움이 되지 않을 것입니다.

오늘날 AI 및 기계 학습 분야의 아프리카 학생들은 장학금을 찾고 공부하기 위해 본국을 떠나야 합니다. 저는 이러한 변화를 보고 싶고 아프리카인들이 의사 결정에 참여하여 기계 학습 및 AI 연구에서 엄청난 돌파구를 개척하는 것을 보고 싶습니다.

아프리카 외부의 연구원은 기존 아프리카 노력에 대한 멘토링 및 협력을 통해 아프리카 AI를 지원할 수 있습니다. 예를 들어 영어를 30개 이상의 가나 언어로 번역하는 알고리즘을 구축하는 데 중점을 둔 이니셔티브인 가나 NLP가 있습니다 . 아프리카 특정 연구에 자신의 기술을 제공하기 위해 자원 봉사하는 글로벌 연구원은 이와 같은 노력에 도움이 될 것입니다. Deep Learning Indaba 에는 연구원이 멘토로 등록할 수 있는 포털이 있습니다.

Maria Skoularidou는 주요 인공 지능 회의에서 접근성을 개선하기 위해 노력했습니다. 크레딧: Maria Skoularidou

MARIA SKOULARIDOU: AI의 유능한 문화 해체

영국 케임브리지 대학의 생물 통계학 박사 과정 학생이자 {Dis}Ability in AI의 설립자이자 회장입니다.

저는 2018년에 {Dis}Ability in AI를 설립했습니다 . 장애인이 회의에 대표되지 않고 옳지 않다는 것을 깨달았기 때문입니다. 회의가 포괄적이고 접근 가능하고 저와 같은 장애인이 참석할 수 있도록 그러한 운동을 시작하고 싶었습니다.

그해 캐나다 몬트리올에서 열린 NeurIPS(신경 정보 처리 시스템에 관한 연례 회의)에는 최소 4,000명이 참석했으며 눈에 보이는 장애로 분류될 수 있는 사람은 단 한 명도 식별할 수 없었습니다. 통계적으로 장애가 있는 참가자가 없는 것으로 합산되지 않습니다.

또한 많은 접근성 문제를 관찰했습니다. 예를 들어, 색맹에 대해 경솔한 포스터를 보았습니다. 장소가 너무 붐비기 때문에 휠체어, 흰색 지팡이 또는 안내견과 같은 보조 장치를 사용하는 사람들은 포스터 세션을 탐색할 공간이 없었을 것입니다. 엘리베이터가 있긴 했지만 거동이 불편한 사람은 행사장의 규모를 감안할 때 모든 세션룸에 접근하기가 쉽지 않았을 것입니다. 수화 통역사도 없었습니다.

2019년부터 AI의 {Dis}Ability는 NeurIPS에서 더 나은 접근성을 촉진하는 데 도움이 되었습니다. 청각 장애가 있는 사람들을 위해 통역사와 자막이 제공되었습니다. 거동이 불편하거나 도움을 요청한 시각 장애인을 위한 자원 봉사 에스코트가 있었습니다. 대규모 회의가 부담스러울 수 있기 때문에 핫라인 상담원과 조용한 방이 있었습니다. 아이디어는 이것이 우리가 지금 제공할 수 있는 것이지만 우리는 윤리적이고 공정하며 평등하고 정직하기를 원하기 때문에 무언가에 대해 배려하지 않는 경우 연락해 주십시오. 장애는 사회의 일부이며 대표되고 포함되어야 합니다.

많은 장애 연구원들이 AI에서 직면하는 장벽에 대한 두려움과 우려를 공유했습니다. 어떤 사람들은 자신의 만성 질환에 대한 세부 정보를 공유하는 것이 안전하지 않을 것이라고 말했습니다. 공유할 경우 승진, 동등 대우, 동료와 동일한 기회, 동일한 급여 등을 받을 수 없기 때문입니다. 나에게 연락한 다른 AI 연구원들은 괴롭힘을 당했고 자신의 상태에 대해 다시 이야기하면 일자리를 잃을 수도 있다고 느꼈습니다.

소외 계층의 사람들은 AI 프로세스의 모든 단계에 참여해야 합니다. 장애인이 포함되지 않으면 커뮤니티를 고려하지 않고 알고리즘이 훈련됩니다. 눈이 먼 사람이 눈을 감는다고 해서 눈먼 사람이 무엇을 해야 하는지 이해하지 못합니다. 우리는 이러한 노력의 일부가 되어야 합니다. 친절함은 비장애인 연구자들이 이 분야를 보다 포괄적으로 만들 수 있는 한 가지 방법입니다. 비장애인은 장애인을 초대하여 강연을 하거나 연구원 또는 공동 작업자를 방문할 수 있습니다. 그들은 공정하고 평등한 수준에서 우리 커뮤니티와 상호 작용해야 합니다.

WILLIAM AGNEW와 SABINE WEBER: 퀴어링 AI

William Agnew는 시애틀에 있는 University of Washington의 컴퓨터 과학 박사 과정 학생입니다. Sabine Weber는 독일 에르푸르트에 있는 VDI/VDE Innovation + Technik의 과학 컨설턴트입니다. 그들은 옹호 단체인 Queer in AI의 조직자입니다.

Agnew: 저는 2018년 NeurIPS를 위한 첫 번째 Queer in AI 워크샵을 조직하는 것을 도왔습니다. 기본적으로 AI 분야는 다양성과 포용성을 심각하게 받아들이지 않습니다. 모든 단계에서 이러한 영역에 대한 노력은 자금이 부족하고 과소 평가됩니다. 현장은 종종 괴롭히는 사람을 보호합니다.

Queer in AI에서 일하는 대부분의 사람들은 저를 포함하여 대학원생입니다. “왜 선임교수가 아니지? 부통령이 아닌 이유는 무엇입니까?” 선임 회원의 부족은 우리의 운영과 우리가 옹호할 수 있는 자원을 제한합니다.

우리가 옹호하는 것들은 아래에서 위로 일어나고 있습니다. 우리는 성중립 화장실을 요구하고 있습니다. 회의 등록 배지, 연사 약력 및 설문 조사에 대명사를 넣습니다. 퀴어 AI 경험 설문 조사를 실시하고 인구 통계, 피해 및 배제 경험, 퀴어 AI 커뮤니티의 요구 사항을 수집할 수 있는 기회 추출 데이터 정책에 반대합니다. 우리는 퀴어성에 의해 소외되고 우리 분야에서 가장 후배인 퀴어 무리로서 그 위치에서 옹호해야 합니다.

설문 조사에서 퀴어들은 커뮤니티, 지원 및 동료 그룹의 부족을 AI 분야에서 계속 경력을 쌓는 데 방해가 될 수 있는 가장 큰 문제로 꼽았습니다. 우리 프로그램 중 하나는 사람들이 대학원에 지원할 수 있도록 장학금을 제공하여 지원 비용, 대학원 기록 시험(GRE) 및 대학 성적 증명서와 같은 표준화된 입학 시험 비용을 충당합니다. 어떤 사람들은 GRE를 보기 위해 다른 나라로 날아가야 합니다. 특히 가족으로부터 재정적 지원을 받을 가능성이 적고 억압적인 법적 환경을 경험하는 퀴어에게는 큰 장벽입니다. 예를 들어, 미국 주 의회는 우리 멤버십에 영향을 미치는 트랜스젠더 반대 및 퀴어 반대법을 통과시키고 있습니다.

AI의 퀴어와의 작업 덕분에 저는 로봇 공학자에서 윤리학자로 전환했습니다. 퀴어 사람들의 데이터가 어떻게 사용되고 수집되고 오용되는지가 큰 관심사입니다. 또 다른 우려는 기계 학습이 근본적으로 항목과 사람을 분류하고 과거를 기반으로 결과를 예측하는 것에 관한 것이라는 것입니다. 이러한 것들은 정체성이 유동적이고 종종 중요하고 큰 방식으로, 그리고 종종 평생 동안 변화하는 퀴어니스의 개념과 정반대입니다. 우리는 반발하고 퀴어함을 억압하지 않는 기계 학습 시스템을 상상하려고 합니다.

“이 모델은 퀴어함을 나타내지 않습니다. 우리는 그것들을 고칠 것입니다.” 그러나 퀴어는 오랫동안 우리를 외면하거나 통제하거나 억압하기 위한 다양한 형태의 감시의 대상이었으며 퀴어를 잘 이해하는 모델이 그들을 더 잘 감시할 수도 있습니다. 우리는 이러한 피해를 고착시키는 기술 구축을 피하고 퀴어 커뮤니티에 힘을 실어주는 기술을 위해 노력해야 합니다.

Weber: 이전에는 기술 회사에서 엔지니어로 일했습니다. 나는 상사에게 60명 정도의 개발자 팀 전체에서 시스젠더 친구가 아닌 유일한 사람이라고 말했습니다. 그는 “자격이 있는 직장에 지원한 사람은 당신뿐이었다. 자격을 갖춘 사람을 찾기가 너무 어렵습니다.”

그러나 회사는 분명히 열심히 보지 않습니다. 그들에게는 “우리는 높은 곳에 앉아 있습니다. 모두가 우리에게 와서 자신을 제공합니다.” 대신 기업은 퀴어 조직, 페미니스트 조직에서 사람들을 모집할 수 있습니다. 모든 대학에는 기업이 쉽게 갈 수 있는 STEM(과학, 기술, 공학 및 수학) 그룹 또는 컴퓨팅 그룹의 여성 여성이 있습니다.

그러나 “우리는 항상 그렇게 해왔습니다. don't rock the boat”라는 말이 널리 퍼져 있습니다. 답답하다. 사실 보트가 멍청하기 때문에 보트를 흔들고 싶습니다. 이러한 장벽에 부딪히는 것은 정말 실망스러운 일입니다.

Laura Montoya는 자신과 마찬가지로 비전통적인 경로를 통해 인공 지능 분야에 온 사람들을 격려합니다. 크레딧: Tim McMacken Jr(tim@accel.ai)

LAURA MONTOYA: 라틴계 커뮤니티의 요구 사항을 충족하도록 진화

캘리포니아주 샌프란시스코에 있는 Accel.AI Institute 및 LatinX in AI의 전무 이사.

2016년에 저는 AI 분야에서 소외되거나 소외된 사람들을 돕는 교육 회사로 Accel.AI Institute를 시작했습니다. 이제는 사회적 영향 이니셔티브를 위해 AI를 추진하는 사명을 가진 비영리 조직입니다. 또한 이 분야에서 라틴 아메리카 배경을 가진 사람들을 위한 전문 단체인 LatinX in AI 프로그램을 공동 창립했습니다 . 우리 가족은 콜롬비아에서 이민을 왔기 때문에 저는 미국에서 1세대입니다.

제 배경은 생물학과 물리학입니다. 저는 소프트웨어 엔지니어로 경력을 시작했지만 기존의 소프트웨어 엔지니어링은 저에게 보람이 없었습니다. 그때 기계 학습, 데이터 과학 및 AI의 세계를 발견했습니다. 대학원에 가지 않고도 AI와 기계 학습을 배울 수 있는 가장 좋은 방법을 조사했습니다. 저는 항상 대안적 사상가였습니다.

저와 같이 전형적인 경로를 택하지 않고, 자신을 여성으로 식별하고, 유색인종으로 식별하고, 이러한 도구와 기술로 작업하기 위한 대안적 경로를 추구하는 저와 같은 사람들을 위한 대체 교육 옵션이 필요하다는 것을 깨달았습니다. .

나중에 대규모 AI 및 기계 학습 컨퍼런스에 참석하면서 나와 같은 사람들을 만났지만 우리는 인구의 작은 부분을 차지했습니다. 저는 이 몇 명의 친구들과 함께 “어떻게 이것을 바꿀 수 있을까요?”에 대해 브레인스토밍을 했습니다. 이것이 바로 AI의 LatinX가 탄생한 방식입니다. 2018년부터 우리는 주요 컨퍼런스에서 연구 워크숍을 시작했고 NeurIPS와 함께 자체 논문 모집을 주최했습니다.

또한 라틴 아메리카를 떠나 북미, 유럽 및 아시아로 향하는 연구자들의 두뇌 유출 문제를 해결하기 위한 3개월 멘토링 프로그램도 있습니다. 우리 커뮤니티의 더 많은 선배 회원들과 심지어 LatinX가 아닌 동맹자들도 멘토 역할을 할 수 있습니다.

2022년에 우리는 슈퍼컴퓨터 프로그램을 시작했습니다. 라틴 아메리카의 많은 지역에서 계산 능력이 심각하게 부족하기 때문입니다. 파일럿 프로그램을 위해 멕시코 몬터레이 공과대학의 과달라하라 캠퍼스에서 고성능 컴퓨팅 리소스에 대한 연구 액세스를 제공하기 위해 캘리포니아 산타클라라에 본사를 둔 기술 회사인 NVIDIA는 기본적으로 대형 서버인 DGX A100 시스템을 기증했습니다. 컴퓨터. 멕시코 Jalisco 주의 혁신을 위한 정부 기관이 시스템을 호스팅할 것입니다. 현지 연구원과 학생들은 AI 및 딥 러닝 연구를 위해 이 하드웨어에 대한 액세스를 공유할 수 있습니다. 우리는 연구소에 등록하거나 과달라하라 지역에 위치하지 않고도 이 하드웨어를 사용하려는 라틴계 구성원이 50% 이상 포함된 팀에 대한 제안을 전 세계적으로 요청했습니다.

지금까지 8개 팀이 첫 번째 코호트에 참여하도록 선정되어 라틴 아메리카를 위한 자율 주행 애플리케이션과 동물 보호를 위한 모니터링 도구를 포함하는 프로젝트에 참여했습니다. 각 팀은 요청한 기간 동안 복잡한 그래픽 및 시각적 데이터 처리 작업을 병렬로 처리하도록 설계된 하나의 그래픽 처리 장치 또는 GPU에 액세스할 수 있습니다. 이는 연구원들이 함께 모여 큰 문제를 해결하고 기술을 선하게 사용할 수 있는 상호 협력의 기회가 될 것입니다.

도이: https://doi.org/10.1038/d41586-023-01689-4