인공지능 윤리의 필요성과 윤리 가이드라인

[배광욱]

"인공지능(AI) 활용에 앞서 윤리가 우선시돼야 한다." 이는 지난 달 방한했던 마이크로소프트(MS) 최고경영자(CEO)인 사티아 나델라가 기조 연설을 통해 한국에 던진 화두였다. 인공지능을 중심으로 한 4차 산업혁명은 인류 사회 전체에 큰 변혁을 예고하고 있다. 이러한 변혁이 인류의 행복을 위한 것이 되기 위해서는 시작 단계인 지금부터 인공지능 윤리에 대한 진지한 고민을 해야 한다. 이번 보고서 리뷰에서는 김명주 (2017), 「인공지능 윤리의 필요성과 국내외 동향」 논문을 통해 기업들을 비롯한 우리 사회가 인공지능 윤리를 왜 중요하게 다루어야 하는지에 대한 필요성을 알아보고, 지능정보사회 윤리 가이드라인(안)을 살펴보고자 한다.

◎ 인공지능, 왜 윤리가 필요한가?

왜 기업을 비롯한 우리 사회는 인공지능 윤리를 중요하게 다루어야 하는가? 대중에게 아직은 모호한 인공지능 윤리의 필요성에 대해 논문의 저자는 다양한 근거를 토대로 크게 다섯 가지 요소를 설명한다.

인공지능의 특성을 감안한 필요성첫 번째 필요성은 인공지능 고유의 특성에서 찾을 수 있다. 인공지능은 고도의 자율성과 우월한 지능을 가진 소프트웨어이다. 이 같은 자율성과 지능이라는 특성은 인공지능이 발전함에 따라 인간과 대등한 지식을 축적하거나 더 나아가 인간의 지식과 예측, 제어를 뛰어넘는 상황을 야기할 수도 있다. 이러한 상황에서 인공지능을 인간이 제작하는 단순한 부산물로 보지 않고 하나의 인공적 도덕행위자로 간주한다면, 그에 따른 윤리적, 법적 책임에 대한 고려도 시작해야 하는 것이다. 충분한 사전적 대비 없이 변화를 받아들일 경우 인류가 겪을 가치관 혼동과 사회적 파장은 막대할 것이기 때문이다.

이미 발생한 사건에 근거한 필요성두 번째 요소로는 이미 발생한 여러 사례를 통해 인공지능 윤리 구축에 대한 필요성이 강조되고 있다는 점이다. 먼저 올해 발생한 다수의 자율주행자동차 사고로 인해 인공지능의 자율적 결정에 의해 인명 피해가 발생할 시, 누가 어디까지 책임을 질 것인가에 대한 논의 필요성이 대두되었다. 이 뿐만 아니라 자산관리 및 주식투자에 사용되는 ‘로보 어드바이저’가 일으킨 주식투자의 큰 손실 등에 대한 책임공방 문제도 주요 사례이다. 한편, 인공지능의 편견과 관련된 사건도 있다. 2015년 구글이 제공하는 포토 서비스에서 흑인 여자를 고릴라로 인식한 사건이 발생하는 등의 사례가 그 중 하나이다. 이로 인해 인공지능의 편견을 없애고 공정성을 확보하는 윤리적 보완책도 미리 세워져야 할 필요가 있다.

발생 가능한 상상을 근거로 한 필요성인공지능 활용은 일반 대중들 사이에서는 아직 본격화되지 않았기 때문에 우리는 장차 발생 가능한 문제를 찾아내는 데 있어서 미래 사회를 주제로 상상력을 동원한 영화나 드라마를 근거로 생각해볼 수 있다. 영화 <그녀(Her)>에서 인공지능 운영체제 사만다가 데오도르와 우정과 사랑을 나눈다. 그러나 사만다는 다중사용자 운영체제였으며 데오도르 외 수천명의 고객과 동시에 대화하는 중이었다. 인공지능을 인격체로 간주하여 반응하는 현상에 대해 앞으로 어떻게 바라보고 공존해가야 하는지 고민해야 한다는 시사점을 던져준다. 그 외 영화 <엑스 마키나> 혹은 드라마 <웨스트월드> 등 예는 셀 수 없이 많다. 과거 인류의 역사를 돌이켜봤을 때, 영화 속 내용이 현실화된 경우가 무시할 수 없을 만큼 많기에 영화를 통한 미래 사회에 대한 고민은 충분히 유의미하다.

인터넷 윤리의 연장선으로의 필요성4차 산업혁명이라는 거대한 물결 속에 위치한 인공지능 윤리는 인터넷 윤리의 심화, 확대판이라고 할 수 있다. 이는 4차 산업혁명이 3차 산업혁명의 심화, 확대판으로 보는 것과 같은 맥락이다. 대표적인 예는 인공지능이 취득한 개인정보와 사생활 정보에 대한 유출이나 인공지능 서비스 이용에 대한 빈익빈 부익부 현상 등이다. 이는 인터넷 윤리에서 다루어온 주요 이슈이기도 하다. 이런 점에서 많은 인공지능 윤리적 이슈는 현재의 인터넷 윤리가 심화되고 확산되는 형태를 취하고 있다. 특히 인터넷 윤리가 정보화의 역기능에 대한 후발적 조치 성격이 강했다는 점을 생각하면, 앞으로 더 논의될 인공지능 윤리는 선제적인 대응 차원에서 준비할 필요가 있다.

경쟁력 확보 인공지능 윤리 논의는 윤리 가이드라인 수립 등 “인공지능 윤리의 표준화”와 밀접한 관계가 있다. 글로벌 경쟁에 있어 ‘글로벌 표준화’에 우리 기업과 사회가 어떻게 준비하고 대응하냐에 따라 경쟁력에 대한 희비가 갈릴 수 있다. 인공지능이 미래 사회의 핵심 플랫폼으로 굳어지는 상황에서 인공지능 윤리를 앞세워 글로벌 표준화가 더 진행될 경우, 우리 사회와 기업은 시작 단계인 지금부터 인공지능 윤리 정립에 대해 진지하게 고민하고 실천해야 한다.

◎ 인공지능 윤리의 필요성과 윤리 가이드라인

지능정보사회 윤리 가이드라인(안)인공지능 윤리와 관련하여 정부에서는 과학기술정보통신부, 산업통상자원부, 방송통신위원회를 필두로 가이드라인에 대한 논의를 진행 중이다. 정부 차원의 가이드라인이 수립되면, 우리 기업들 역시 큰 틀 내에서 방향성을 공유하게 될 것이다. 이번 보고서 리뷰에서는 이 중 국내 정보문화포럼 산하 지능정보화사회 윤리분과위원회가 연구해온 지능정보사회 윤리 가이드라인(안)의 대원칙과 세부지침을 간략하게 살펴보겠다.

윤리 가이드라인 대원칙(PACT) 과 세부지침