인공지능 디스토피아는 없다

[시냇물]

https://m.dongascience.com/news.php?idx=7433

PART 1. 인공지능 디스토피아는 없다

PART 1. 인공지능 디스토피아는 없다
2015.06.29

[과학동아 7월호] <특집> 터미네이터는 없다

각종 SF 영화와 문학 작품에는 인간보다 훨씬 똑똑해진 인공지능이 인간을 공격한다는 설정이 등장한다. 최근 여러 글로벌 기업이 앞다퉈 놀라운 성과를 내놓으면서 이런 상황이 현실에서도 곧 일어날지 모른다는 예측이 설득력을 얻고 있다. 그러나 과학자들은 섣불리 막연한 두려움을 가질 필요는 없다고 말한다.

다들 웃기부터 했다. ‘지겹게 또 그 얘기야?’라는 속마음이 담겨 있는 웃음 같았다. 그래도 꿋꿋하게 물었다. “정말 터미네이터가 개발돼서 인류가 위협 당하는 날이 올까요?” 이성환 고려대 뇌공학과 교수가 맞받아쳤다.

“어떤 종류의 인공지능인가요? 인공지능도 여러가지가 있는데 아직 용어도 제대로 정리돼 있지 않거든요. 연구가 아직 초창기라는 뜻이에요. 터미네이터의 등장이라면…, 모른다고 얘기할 수밖에 없습니다.”

영화 ‘그녀’ 속 사만다는사람과 지능이 거의 똑같은 강한 인공지능이다. 자의식을 가졌다는 게 가장 큰 특징이다.미국 예일대 연구팀이 만든 로봇 ‘니코’(사진)는 자기인식능력을 알아보는 거울테스트를 로봇 최초로 통과했다. - Justin Hart 제공

● 로봇은 자의식을 가질 수 있을까

인공지능은 크게 ‘약한 인공지능(weak AI)’과 ‘강한 인공지능(strong AI)’으로 나뉜다. 약한 인공지능은 인간의 다양한 능력 가운데 일부만 구현할 수 있다.

사람과 똑같은 지능을 갖고 있지 못해 어떤 문제를 실제로 생각할 수는 없지만, 사람 입장에서 봤을 때 똑똑한 행동을 한다. 애플의 ‘시리’나 구글의 검색 시스템이 이에 해당한다.

반면 강한 인공지능은 지성, 이성, 감성 등 인간의 다양한 능력을 모두 갖추고 있다. 인간과 대화하고 함께 생활하는 데 장벽이 없다. 영화 ‘그녀’ 속 사만다가 예다.

여기서 한 단계 더 나아가 인간의 지능을 훌쩍 뛰어넘으면 ‘초지능(super AI)’이라고 부른다. 영화 ‘어벤저스’의 울트론이 이에 속한다. 우리가 기대하고 또 두려워하는 것은 강한 인공지능이나 초지능이다.

서두에 언급했듯, 많은 전문가가 강한 인공지능이 개발될 가능성에 대해 확답하기를 주저했다. 그래도 과학 안에서 미약한 실마리라도 찾아볼 수 있지 않을까.

예컨대, 강한 인공지능이 약한 인공지능과 다른 대표적인 특징은 ‘나는 로봇이구나’라고 생각할 수 있는 자의식이다. 만약 과학적으로 자의식을 가진 로봇을 만들 수 있다면, 강한 인공지능이 개발될 가능성도 커진다는 의미다.

놀랍게도 이런 연구가 실제로 있다! 2012년에 거울테스트를 통과한 로봇이 나왔다. 미국 예일대 저스틴 하트 박사팀이 만든 로봇 ‘니코’다. 니코는 두 눈과 두 팔을 갖고 있다. 거울에 비친 자신의 팔을 보면서 그것이 자기 앞에 있는 물건이 아니라 자기 몸에 달려있다는 것을 안다.

이런 거울테스트는 1970년대에 개발돼 오늘날까지 쓰이고 있는 자기인식 테스트로, 인간이 아닌 종 가운데서는 지금까지 일부 영장류, 코끼리, 돌고래 등만이 통과했다. 하트 박사는 “로봇이 스스로를인식할 수 있다는 첫 증거”라고 주장했다.

하지만 이 정도로 사람과 같은 수준의 자의식이라고 보기는 어렵다. 일본의 미래학자 미치오 카쿠는 저서 ‘마음의 미래’에서 “자의식이란 주변 환경에 자신을 대입해 모형을 만들고, 이 모형의 미래를 시뮬레이션 해 목표를 성취하는 능력”이라며 “이 능력을 발휘하려면 다양한 사건을 예측할 수 있어야 하며, 고도의 상식을 갖춰야 한다”고 밝혔다. 거울 속 자신의 모습을 인지하는 데서 더 나아가, 자기를 인식한 정보를 이용해 자신의 미래 계획을 세울 수 있어야 한다는 뜻이다.

그렇다면 인공지능이 완벽한 자의식을 갖는 일은 아직 요원한 걸까. 영화 ‘터미네이터’에서는 복잡하게 연결된 인터넷 네트워크가 갑자기 자의식을 가지면서 사건이 벌어진다. 최근 개봉한 영화 ‘어벤져스: 에이지 오브 울트론’에서 울트론도 어느 날 갑자기 초지능을 갖는다.

이를 과학에서는 ‘지능의 창발(emergence)’이라고 한다. 창발이란, 충분히 많은 컴퓨터를 하나로 연결했을 때 새로운 정보를 넣어주지 않았는데도 컴퓨터 지능이 갑자기 높아지는 현상이다.

실제로 컴퓨터공학의 ‘진화연산’ 분야에는 지능 창발이 가능하다고 주장하는 연구들이 있다. 진화연산이란 생물의 실제 진화 현상을 모방한 알고리듬이다. 예컨대, 대표적인 진화연산인 유전 알고리듬은 풀고자 하는 문제에 대해 가능한 해를 임의로 정한 뒤, 생물 진화의 돌연변이나 교배 등에서 차용한 수학 모델로 해를 조금씩 변형한다. 바꾼 해가 최종 목표에 얼마나 가까워졌는지 확인한다. 이 과정을 반복해 점점 더 좋은 해들을 만들어 낸다.

특정 능력이 특출난 약한 인공지능인 애플 ‘시리’와 모든 면에서 인간보다 뛰어난 초지능인 ‘터미네이터 T-3000’. 전문가들은 지능 창발의 기본인 뇌과학과 실제 지능을 구현하는 물리계인 양자컴퓨터가 더 발달해야만 약한 인공지능을 넘을 수 있을 거라고 전망한다.

● 뇌과학과 양자컴퓨터 더 발달해야

장병탁 서울대 컴퓨터공학부 교수는 최근 애니메이션 ‘뽀로로’를 학습한 뒤 다음 편을 만들어내는 ‘상상력 기계’를 개발했다. 이 인공지능은 우유를 말하면 들판에 있는 젖소를 떠올리고, “뽀로로야 놀자”라고 하면 축구공을 떠올리는 연상 작용을 한다. 장 교수는 “이 같은 연상 작용이 거듭되면 지능이 창발하는 것도 가능하다고 본다”고 말했다.

그러나 장 교수는 “현재 발표된 창발 현상의 일부는 기계가 우연히 내놓은 결과를 사람이 자의적으로 ‘지능이 생겨났다’고 말하는 것”이라며 “연구 결과를 과도하게 해석해서는 안 된다”고 말했다. 이성환 교수도 “실제로 공학적 관점에서 창발이 가능하다고 발표된 논문을 보면 아직은 매우 기초적인 수준에 불과하다”고 말했다.

세계적인 로봇공학자 로드니 브룩스는 미치오 카쿠와의 인터뷰에서 “어느 날 갑자기 인간을 지배하려는 로봇이 만들어질 확률은 누군가가 창고에서 마차를 수리하다가 우연히 747 점보제트기를 만들 확률과 비슷하다”고 말했다. 지능 창발을 어떻게 구현할 건지 구체적인 중간 단계가 생략돼 있다는 의미다.

실제로 인간은 지능 창발의 기본이 되는 물리계인 두뇌에 대해서 아는 게 거의 없다. 이성환 교수는 “인간이 뇌를 연구한 지 100년이 넘었지만, 두뇌 전체 기능을 밝히는 연구는 아직도 걸음마 수준”이라고 평가했다. 과학자들은 302개의 뉴런과 7000개의 시냅스를 가진 예쁜꼬마선충의 신경계를 뉴런 단위로 해독하는 데 성공했는데, 연결상태가 너무 복잡해서 신호전달경로 사이의 관계를 밝히는 데는 더 긴 시간이 걸렸다.

대략 1000억 개의 뉴런이 있고 각 뉴런이 1만 개 이상의 시냅스와 연결돼 있는 인간의 뇌를 해독하는 데는 얼마만큼의 시간이 걸릴지 예상하기 어렵다. 이 교수는 “설사 한 사람의 뇌 지도가 만들어져도 뇌에는 개인차가 많기 때문에 이를 인공지능 연구에 보편적으로 활용하기는 어려울 것”이라고 말했다.

게다가 현재로서는 두뇌를 모방할 컴퓨터 칩도 없다. 이승민 한국전자통신연구원 미래사회연구실장은 “2013년 구글이 유튜브에 있는 고양이 얼굴을 구분하는 데 중앙처리장치(CPU) 1만6000개가 필요했다”며 “인간 수준의 지능을 구현하려면 연산 시간이 상상하기 어려운 수준으로 늘어날 것”이라고 말했다.

문제는 컴퓨터 성능이 곧 한계에 도달한다는 점이다. 전문가들은 반도체 칩 용량이 18개월에 2배씩 향상된다는 ‘무어의 법칙’이 수십 년 안에 끝날 것으로 본다.

이런 한계를 타파하기 위해 다양한 컴퓨터가 시도되고 있지만, 아직은 그 성능이 기대에 못 미친다. 미국 IBM사는 지난해 8월 뉴런과 시냅스 구조를 모방해 인간 두뇌와 같은 원리로 동작하는 컴퓨터용 마이크로 프로세서 ‘트루노스’를 개발해 학술지 ‘사이언스’에 발표했다. 일반 마이크로프로세서의 1cm2당 전력소모량이 전구를 켜는 수준인 50~100W인 데 비해 트루노스는 블루투스 송수신기 두 개를 작동시키는 수준인 20mW다.

연구팀은 이 칩으로 사람과 자동차 등의 물체를 실시간으로 식별하는 데 성공했다. 괄목할만한 성과지만, 비슷한 전력량으로 두뇌가 처리하는 정보량에 비하면 턱없이 작다. 박전규 한국전자통신연구원 음성처리연구실장은 “사람은 초당 1.8페타바이트를 계산한다”며 “현존하는 슈퍼컴퓨터로 이 정도계산은 어림도 없다”고 말했다. 페타바이트(PB)는 1테라바이트(TB)짜리 외장하드 1000개에 해당하는 용량이다.

지금까지의 물리 법칙과 완전히 다르게 움직이는 양자컴퓨터가 후보로 꼽히지만, 아직은 이렇다 할 성과가 나오지 않았다. 양자컴퓨터는 0 또는 1의 이진수를 기본으로 하는 디지털 컴퓨터와 달리 0과 1이 동시에 존재하는 양자역학의 특성을 이용한다.

따라서 수많은 계산을 동시에 수행해 정답을 내놓을 수 있다. 캐나다의 ‘디-위에브’사가 2013년 양자컴퓨터 제품을 내놨지만, 이 컴퓨터가 실제로 양자컴퓨터인지에 대한 논란이 지금까지도 해소되지 않았다.

인간은 지능 창발의 기본이 되는 물리계인 두뇌에 대해서 아는 게 거의 없다. 현재로서는 두뇌를모방할 만한 성능을 내는 컴퓨터도 없다. 백 번 양보해서 초지능이 나온다 한들, 좁은 지구에서 인간과 아웅다웅할 이유가 없다. 그들은 더 좋은 행성을 찾아 지구를 떠날 것이다

● 멀었다=아직 시간은 충분하다

백 번 양보해서 강한 인공지능이 나왔다고 치자. 과연 그들이 인간을 공격할까?

이에 대해 로드니 브룩스는 TED강연에서 “대안을 마련할 시간이 아직은 충분하다”며 “누군가 ‘최고 악당 로봇’을 만들기 전에 ‘그리 나쁘지 않은 로봇’을 먼저 만들 것”이라고 밝혔다.

지금까지의 논의는 인공지능이나 뇌과학, 양자컴퓨터, 로봇공학이 수많은 세금을 낭비하면서 성과를 못 내고 있다는 의미가 아니다.

악한 의도를 가진 기계가 나타나 인간을 멸종시킬 것이라는, 지금으로서는 뜬구름 잡기에 불과한 걱정을 앞세워 인공지능 연구에서 얻을 수 있는 이득을 포기하기엔 너무 시기상조라는 뜻이다.

갓 태동한 이 분야에 대해 앞으로 공학적, 사회적, 법적, 윤리적으로 거듭 숙고해야 한다. 지금 우리 생활을 편리하게 만들어 준 모든 과학기술은 초기 개발 당시 그 시대의 양날의 검이었다는 역사를 기억할 필요가 있다.

○ 인공지능은 진정한 의미의 지능일까

앨런 튜링은 1950년에 발표한 ‘계산 기계와 지능’이라는 논문에서 “철학자들이 지능의 본성에 대해 합의하고 있는 바가 없다”고 강조했다. 지능이 뭔지 정확히 모르니까 개발한 인공지능이 정말 지능을 가졌는지 정확히 알 수 없었던 것이다.

튜링은 학자들이 적어도 ‘인간은 지능을 가지고 있다’는 사실에 대해서는 이견이 없다는 데 주목하고 “어떤 존재든 인간과 비슷한 지적 행위를 보여주면 지능을 가졌다고 인정해주자”며 튜링검사를 제안했다. 이때부터 인간을 닮은 인공지능을 만들려는 노력이 시작됐다.

그러나 이런 방식의 인공지능 연구는 늘 철학자들의 공격을 받았다. 인공지능은 진정한 의미의 지능이 아니라는 것이다. 미국의 철학자 존 설이 제시한 ‘중국어방 논증’이 대표적이다. “밀폐된 방에 중국어를 전혀 할 줄 모르는 사람이 중국어-영어 답변 매뉴얼을 갖고 들어간다. 종이가 들어오면 이 사람은 매뉴얼을 참고해 글자를 판독한 뒤, 답이 될 글자를 알아낸다.
그대로 따라 그려 문밖으로 내보낸다. 방 바깥 사람은 방 안에 중국어를 할 줄 아는 사람이 있다고 생각할 것이다.” 즉, 기계가 설사 튜링 검사를 통과하더라도 대화를 실제로 ‘이해’한 게 아니므로 진정한 지능으로 볼 수 없다는 얘기다. 인공지능은 세상에 존재하는 다양한 종류의 지능 중 하나다.

그러나 과학철학자 다니엘 데닛은 저서 ‘의식에 대한 설명’에서 “마법의 불꽃이나 영혼이 없다면 인간은 기계에 불과하다”며 “인간이라는 기계가 지능에 대해서만 다른 기계와 다르게 특별취급 받아야 할 이유가 무엇인가”라고 묻는다. 즉, 존 설의 주장이 힘을 얻으려면 인간 지능이 다양한 종류의 지능 가운데서 가장 핵심적이라는 게 증명돼야 한다.

이상욱 한양대 철학과 교수는 ‘인공지능의 한계와 일반화된 지능의 가능성’이라는 논문에서 “피부색은 인간의 존엄성과 본질적 연관이 없지만, 인종차별주의자는 피부색을 근거로 다른 인간을 차별한다”며 “마찬가지로 ‘이해하는 느낌’ 역시 지능의 본질과는 관련이 없지만, 이를 바탕으로 인간 이외의 지적 대상(동물이나 인공지능)을 차별하는 사태가 벌어질 수 있다”고 밝혔다.

실제로 인공지능 연구자들은 기계가 자의식을 가질 수 있는지 여부에 별 관심이 없다. 실용적인 측면에서 의미가 없기 때문이다. 최근 연구자들은 인간의 지능을 똑같이 모방해야 한다는 강박에서 벗어나 보다 실용적인 문제를 해결하려고 약한 인공지능을 개발하고 있다.

이 교수는 “인간과 정확히 똑같은 방식의 지능만 지능이라고 여기는 건 인간중심적 사고”라며 “인간 지능이 수많은 다양한 지능 중 하나라는 관점을 받아들여야 한다”고 말했다. 여기서 잃을 것은, 기껏해야 영화 속에 등장하는 완벽한 휴머노이드를 당분간 기대하기 어렵다는 점 정도다. 인간과 동물과 기계의 지능은 분명 차이가 있지만, 지적 능력의 다양한 스펙트럼 위에 있다.