인간지능 기술이 갖는 사회적 의미(한상기)

[아레테]

인간지능 기술이 갖는 사회적 의미(한상기), 전산업에 걸쳐서 인공지능 기술 도입이 빨라지고 있다. 인간과 인공지능 사이에 권력의 변화가 일어날 것이다. 그러면 이러한 인공지능 사회의 시스템이나 규범 등이 어떻게 변화되어야 할 것인가? 인간을 넘어서는 수준의 인공지능은 언제 나타날 것인가? 인공지능 사회가 사람들의 일자리와 생활에 어떤 영향을 미치고 우리는 인공지능 윤리에 대하여 어떻게 생각해야 할 것인가?

1. AI(로봇)을 구현하게 된다면 그것은 인류에게 축복인가 위협인가. 일본 후꾸시마현에서 일어난 원전사고 때 당시 개발된 첨단로봇이 투입되었지만 제대로 임무를 수행한 로봇이 없었다. 세계 로봇계는 큰 충격이었다. 그 결과 이젠 로봇이 재난현장까지 스스로 차를 운전하고 장애물이 깔린 도로를 걸어가서 현장의 문을 열고, 밸브를 잠그거나 사람을 구하는 등 사물인식이나 인간과 유사한 역할을 할 수 있는 로봇이 개발되고 있다. 이러한 로봇을 개발하는 것이 다르파 로봇챌린지 대회다. 그러나 이러한 로봇은 영화 터미네이터의 로봇, 즉 사람을 찾아서 죽이는 그 기능은 똑같다. 여기서 우리는 기계 윤리, 즉 기계가 어떤 윤리적 판단을 하게 할 것인가 하는 인공지능 윤리가 필요하다는 것이다. 실제로 이러한 로봇과 사람이 공존하게 될 때 인격의 문제, 윤리적, 법적 사회적 임팩트 등을 감안한 정책이 나와야 한다는 것이다.

2. AI(로봇)이 갖는 데이터 안에는 왜곡과 편협이 숨어 있다. 이제 우리는 AI(로봇)에 의해 평가받는 시대에 살 것이다. 당신이 은행에서 대출을 받는 다면 AI(로봇)이 당신이 사는 동네, 친구, 누구랑 무슨 애길 주고 받는지까지 당신의 쇼셜 크레딧을 스코아링 할 것이다. 쇼핑몰 CCTV는 당신이 어떤 사람인지 스캔하고 거기에 맞는 퀄리티를 제공할 것이다. 구글에 이미지가 들어오면 자동으로 태깅한다. 어떤 사람이 여자친구 사진을 올렸는데 고릴라라고 태깅이 되었다. 남자친구가 항의하자 구글은 사과했다. 기술자 입장에서는 인식율의 에러이다. 이걸 수정할려면 유사한 사진을 많이 학습시켜야 하는데 그럴려면 그러한 이미지를 구해야하고 어렵다. 그래서 구글은 얼굴 디텍트하는 프로그램에서 고릴라를 아예 없애버렸다. 이제는 고릴라가 고릴라 사진을 올려도 고릴라라는 태깅을 받지 못한다. 페이스북은 사진을 올려놓으면 자동으로 슬라이드 쇼를 만들어준다. 문제를 아주 슬픈 사진도 행복한 음악을 배경으로 올려준다는 것이다. 네이버 뉴스 읽어주기도 그러하다. 행복한 뉴스나 슬픈 뉴스나 다 명랑하고 행복한 목소리로 읽어준다는 것이다. 구글에서 프로페셔널 우먼 헤어스타일을 찾으면 대부분 백인 여성이 나오지만 언 프로페셔널 우먼 헤어스타일을 찾으면 흑인여성이 나온다. 그동안 사람들이 그렇게 태그(tag)하고 평가하고, 뷰한 것의 결과지만 명백히 차별이 숨어 있다. 따라서 데이터를 수집하고 그것을 학습에 사용하고 분석, 검증하는 과정에서 잘못된 면이 반영되지 않도록 해야 한다. 그리고 또 하나는 인공지능 개발자는 대부분 남자이기 때문에 남성적 시각에서 로봇이 학습된다는 문제점도 있다.

2. AI(로봇)이 도덕적 판단을 할 수 있는가? 하는 점이다. 정의란 무엇인가에 트롤리 딜레마가 나온다. 급속하게 내려오는 트롤리 앞에는 5명 옆에는 1명이 지나가고 있다. 당신은 스위치를 변경할 것인가? 이미 자율주행자동차가 시범운영하고 있고 앞으로 그렇게 될 것이다. 자율주행자동차가 주행하다 갑자기 간판이 떨어졌다 그대로 직진하면 승객이 죽고 왼쪽은 다른 승용차, 오른쪽은 보행자가 있다. 이 로봇은 어떤 판단을 해야 하는가? 공리주의에 따라 많은 사람을 살리는 것으로 판단을 해야 하는가 아니면 액션을 하지 않는 것인 좋은가? 이런 결정은 회사가 아니면 개발자가 아니면 국회가 과연 누가 할 수 있는가? 그리고 그 책임은 누구에게 있는가? 과거에는 운전자에게 있었다. 그리고 그러한 판례도 많다. 앞으로는 누구의 잘못인지 판단하기 쉽지 않다.

3. AI(로봇)과 의사소통의 문제, 우리는 횡단보도에서 차를 만나면 그 차의 운전자를 보면서 그가 나를 보호해줄 것이란 믿음을 갖고 운전자와 교감하면서 안전하게 횡단보도를 건넌다. 그런데 자율주행자동차는 아무도 없다. 그 때 보행자는 판단이 어렵다. 그 차가 움직이지 말라는 법이 있는가? 보행자는 불안하다. AI(로봇)과 사람이 상호작용하고 교감할 수 있는 장치가 필요하다. 예를 들면 주행중표시와 정지시 표시, 보행자를 위한 스마일 표시 등 말이다.

4. AI(로봇)의 모랄 코드, 테크놀러지 윤리가 필요하다. 테크놀러지가 이 사회에 이득이 되고 혜택이 되도록 모든 연구가 이뤄져야한다는 것이다. ① 로봇은 인간을 보호해야 한다. 그런데 인간이 뭐냐. 내가 로봇이 아니고 인간이라고 어떻게 판단할 것인가? 이 세상에는 서로 다른 수억명의 인간이 존재한다. 이들 하나하나를 어떻게 인간이다. 아니다를 로봇이 과연 판단할 수 있겠는가? 그리고 인간을 보호한다고 희대의 살인마를 보호한다면 그것은 윤리에 맞는가? AI(로봇)이 판단하게 하는 것이 어렵다는 것이다. ② 인간의 명령에 복종해야 한다. 직장에 갔다 와서 아! 힘들어 죽어버리는 게 났겠어, 했더니 로봇이 와서 나를 죽였다면 이것은 명령인가 아닌가? 날 죽여, 날 죽여 이게 진짜 죽이라는 건 아니다. ③ 모든 인류에게 해를 끼치면 안 된다. 그렇게 하기 위해 AI(로봇)에게 관찰하고 학습하게 하자는 것이다. 윤리적 판단은 먼저 직관이 있고 그 다음에 추론과 남이 평가하는 시그널을 가지고 내가 과연 바른 일을 했는지 윤리적 판단을 한다. 그런데 AI(로봇)은 이런 판단을 하는 것이 어렵다는 것이다. 웃으면서 하급생에게 삥 뜯는 것 우리는 다 안다. 그런데 AI(로봇)은 그렇게 판단하기 어렵다. 이러한 판단력을 길러주기 위해 동화를 가지고 학습을 시키고 데이터를 주고 학습을 시키자고 한다. 그러나 착한 것은 다수결로 정할 수 없는 노릇이다.  

5. 사람은 쇼셜(social) AI(로봇)와 감정표현을 하고 사회적 윤리가 바뀔 것이다. 우리들은 살아가면서 네비게이터, 강아지, 고양이, 나무, 등 사물과 생물체에 감정을 이입하고 애착을 한다. 우리는 네비게이터와 이야기하고 강아지와 대화를 하고 고양이에게 성경책을 읽어준다. 심지어 AI(로봇)의 장례식을 치러주고 애는 우리 가족이었어요. 하고 슬퍼하고 강아지에게 유산을 물려주기까지 한다. 그러면 쇼셜(social) AI(로봇) 페퍼를 발로 차 망가뜨렸다면 그것은 장난감을 부순걸까. 아니면 쇼셜(social) AI(로봇)을 학대하고 살해한 걸까? 과거에는 강아지를 발로 차는 것은 범죄가 아니었다. 앞으로는 쇼셜(social) AI(로봇) 학대죄가 생길 것이다.

6. 쇼셜(social) AI(로봇)의 세상, 부정적 사고들, 테슬라 오토파일럿이라는 자율주행자동차가 운행 중 사람이 사망하는 일이 있었다. 용감하게도 잠을 자다, 신문을 읽다, 영화를 보다 사망했다. 아직 안정성이 확보되지 않았다는 것이다. 그리고 경비로봇이 아이를 인식하지 못하고 치었다. 러시아에서는 최근에 집 나온 로봇 때문에 도로 교통이 1시간 가량 마비되었다. 긍정적 쇼셜(social) AI(로봇), 음식점 음식 딜리버리 로봇, 마켓의 재고관리 로봇, 호텔룸서비스 로봇, 아마존의 물류창고 키바로봇(7억 7천만불), 중국의 아디다스는 독일로, 필립스는 네덜란드로 다 로봇공장이다. 공장에 사람이 없다. 심지어 골드만삭스의 애널리스트들이 해고 되고 투자분석을 켄쇼로봇이 하고 있다. 켄쇼로봇을 이용하면 애널리스트들이 2틀 정도 걸리는 일을 단 5분만에 해낸다. 따라서 전문가보다 더 정확하고 더 빠르게 보고서를 만들어낸다. 의사, 변호사 일은 물론이다. 이제 AI(로봇) 때문에 사람들의 일자리가 없어진다. 기업들은 AI(로봇)을 통해 많은 수익을 창출한다. 그리고 그 부는 소수의 사람들이 가져간다. 그러면 어떻게 해야 할까. 제리 카플란의 <인간은 필요 없다.>는 AI(로봇)가 인간의 노동을 대체하고 일자리를 빼앗을 뿐만 아니라 그런 세계의 경제적 불평등은 지금과는 비교할 수 없을 만큼 심화될 것이라고 했다.

7. 로봇과 인간은 공존할 수 있는가? 낮은 레벨이든 고도의 레벨이든 로봇의 시대 우리는 윤리적, 법적인 모든 것을 열어두고 고민하고 연구해야 할 것이다. 

새로운 용어

페퍼- 소프트뱅크에서 출시한 세계최초의 감정인식 로봇

아이보-일본의 애완용 강아지 로봇(로봇 장례식) 

딥마인드(DeepMind)-2010년에 데미스 허사비스가 만든 인공지능(AI) 개발 회사(알파고 개발)