기타 인류의 발전, 인공지능의 시대를 맞이할 우리 (약인공지능 : 1편)

[오오오오오오오오오오오오오오오뎅]

BGM정보 : 브금저장소 - http://bgmstore.net/view/a8GGJ

왜 최근에 빌 게이츠, 엘론 머스크, 스티

븐 호킹 등 많은 유명인들이 인공지능을 

경계하라고 호소하는가?

저자: Tim Urban

번역: coolspeed

Translated in 27 December, 2015

내용 출처: waitbuywhy.com

원문링크:

Part I: The AI Revolution: The Road to Superintelligence

Part II: The AI Revolution: Our Immortality or Extinction

---

우리는 지금 격변의 변두리에 서있다. 이런 격변은 인류의 출현과 맞먹을 만큼 의미가 중대하다. — Vernor Vinge

인공지능은 인류의 영생이나 멸종을 초래할 수 있는데 이 모든 것은 모두 우리가 살아있을 때 일어날 수 있다고 합니다. 번역하는데 굉장히 오래 걸렸습니다. 이렇게 한 원인은 제가 이 글이 매우 가치가 있다고 생각했었기 때문입니다. 독자들도 인내심있게 다 읽기 바랍니다. 읽고 나면 당신의 세계관이 모두 바뀔지도 모릅니다.

당신이 여기 서있다면 무슨 느낌 이겠는가?

짜릿한 느낌이겠지? 하지만 기억해둬, 당신이 정말 시간 차트위에 서 있을 때 그래프의 오른편을 볼 수 없을 것이다. 왜냐면 당신은 미래를 볼 수 없으니까. 즉 당신의 진정한 느낌은 아마 이럴 것이다:

평범하고 시시하다.

---

요원한 미래는 바로 코앞에 있다.

타임머신 타고 1750 년의 지구로 돌아간다고 생각해봐라. 그 시대에는 전기도 없도 원거리 통신이란 외치는 것과 봉화를 태우는 것 밖에 없고, 교통수단이라 할만한 것은 짐승의 힘을 이용하여 끄는 것 뿐이었다. 당신이 그 시대에서 철수란 사람을 초대하여 2015 년으로 놀러 와서 “미래”구경 좀 시킨다고 가정하자. 우리는 아마도 1750 년에서 온 철수의 멘탈충격을 상상하기 어려울 것이다 — 금속뚜껑들이 넓은 도로에서 질주하고 태평양 건너편의 사람과 채팅을 하고, 수천킬로 밖에서 진행되고있는 체육경기를 감상하며 반세기 전에 열린 콘서트를 감상할 수 있으며 주머니에서 검은색 장방형 모양의 물건을 꺼내서 눈앞에 벌어지고 있는 일들을 기록하고, 지도를 생성하여 하나의 파란 점이 당신이 있는 위치를 알려주고, 지구 반대편의 사람의 얼굴을 바라보며 채팅을 하고, … 기타등등 모든 과학기술의 흑마법들. 그런데 이 모든 것들이 철수에게 인터넷이 무엇이고 국제 우주 정거장(ISS)이 무엇이며 대형 강입자 충돌기가 무엇이며 핵무기가 무엇이며 상대성이론이 무엇인지를 설명해주기 전에 말이다.

이때 철수는 무슨 느낌일까? 경악, 쇼크? 이런 단어들은 터무니없이 부족하다. 그는 아마도 놀라 쓰러질 것이다.

하지만 철수가 1750 년으로 돌아가서 놀라 쓰러지는게 부끄러운 일이여서 다른 사람도 당해봐라는 생각이 들어 다른 사람을 놀라게 하고 싶다고 하자. 이러면 무슨 일이 일어날 것인가? 하여 철수는 250 년 전의 1500 년으로 돌아가서 1500 년에 사는 바둑이를 초대해서 1750 년 투어를 시켜준다. 바둑이는 아마 250 년 후의 많은 문건들에 깜놀하겠지만 놀라서 쓰러지지는 않을 것이다. 같은 250 년이란 시간인데 1750 년과 2015 년의 차이는 1500 년과 1750 년의 차이보다 훨씬 훨씬 크다. 1500 년의 바둑이는 많은 물리학 지식을 배울 수 있고 유럽 제국주의 투어에 신기해할 수 있겠고 심지어 세계 지도에 대한 인지도 크게 바뀌겠지만 1750 년의 교통, 통신 등을 보고 놀라서 쓰러지지는 않을 것이다.

즉 1750 년의 철수에게 있어서 다른 사람을 놀라 쓰러지게 할려면 더욱 먼 고대로 돌아가야 한다 — 예를 들어서 기원전 1,2000 년, 제1차 농업혁명 전에. 그 시대에는 아직 도시도 없고 문명도 없었다. 수렵채집 시대의 인류이고 당시 많은 종들 중의 한 종일 뿐이였다. 그 시대에 사는 영희는 1750 년의 방대한 인류제국을 보고 바다에 떠있는 거대한 함선을 보고 “실내” 에 거주하는 것을 보고 수많은 소장품들을 보고 신기한 지식들과 발견들을 보면 — 영희는 아마도 놀라서 쓰러질 것이다.

영희도 놀라 쓰러진 후 같은 짓을 하고 싶다면은? 그는 아마도 기원전 24,000 년으로 돌아가서 그 시대의 짱구에게 기원전 1,2000 년의 삶의 모습을 구경시켜줄 것이다. 그러면 짱구는 이건 밥먹고 할일 없는 짓 아닌가는 생각을 하게 될 것이다 — “이건 내가 사는 시대랑 거기서 거기 아니냐, ㅇㅇ”. 영희가 다른 사람을 놀라서 쓰러지게 할려면 십만년 전이나 더 멀게 가야 할 것이다. 거기로 가서 인류의 불과 언어에 대한 장악으로 상대방을 놀라서 쓰러지게 해야 할 것이다.

즉 어떤 사람이 미래로 가서 “놀라 쓰러지게” 할려면 하나의 “놀라 쓰러지는 단위” (Die Progress Unit, DPU) 가 필요하다. 이하 “놀쓰단”이라고 약칭하겠다. “놀쓰단”의 시간 간격은 일치하지 않다. 수렵채집 시대에 하나의 놀쓰단은 십만년을 넘는다. 하지만 산업혁명이후 하나의 놀쓰단은 200 여년이면 충분하다.

미래학자 레이 커즈와일 (Ray Kurzweil) 은 인류의 이런 가속발전을 수확 가속의 법칙 (Law of Accelerating Returns) 이라고 부른다. 이런 법칙이 발생하게 된데는 보다 발달된 사회는 지속 발전의 능력이 더욱 강하기에 더욱 빠르게 발전한다는 것이다 — 발전능력이 강하다는 것 자체가 사실 더욱 “발달되였다” 의 한가지 지표요구중 하나이기도 하다. 19 세기 사람들은 15 세기 사람들보다 아는게 훨씬 훨씬 많으니까 19 세기 사람들은 15 세기 사람들보다 발전이 빠를 수 밖에 없다.

보다 짧은 시간 단위를 놓고 보더라도 이 법칙은 여전히 성립된다. 유명한 영화 <빽 투 더 퓨쳐> (Back To The Future, 1985) 에서 1985 년에 사는 주인공이 1955 년으로 돌아갔는데 그는 TV 가 출현했을 때 사람들의 신기함, 탄산음료의 싼 가격, 전기기타를 좋아하는 사람이 적은 사실과 속어(俗語, slang)들의 차이들로 놀람을 금치 못한다.

하지만 만약 이 영화가 2015 년에 일어났다면 30 년 전으로 돌아간다면 주인공이 느낄 놀람은 이것보다 훨씬 클 것이다. 2000 년 좌우에 태어난 사람이 PC 도 없고 인터넷도 없고 휴대폰도 없는 1985 년으로 돌아간다면 1985 년에서 1955 년으로 돌아간 주인공보다 더욱 많은 차이에 더욱 많이 놀랄 것이다.

이것 역시 수확 가속의 법칙 때문이다. 1985 년 – 2015 년의 평균 발전 속도는 1955 년 – 1985 년의 평균 발전 속도보다 빨랐다. 왜냐하면 1985 년의 세계는 1955 년보다 더욱 선진적이였고 출발점이 더 높았기 때문에 지난 30 년의 발전은 30년 전의 지난 30년보다 발전이 빨랐던 것이다.

진보가 지속적으로 빨라지고 있다면 우리의 미래가 아주 기대해볼만 한 것 아니겠는가?

미래학자 커즈와일은 지난 20 세기의 100 년 발전은 2000 년 시각의 발전속도로는 20년이면 다 발전해버릴 수 있을 것이라고 한다 — 2000 년의 발전 속도는 20 세기 평균 발전 속도의 5 배이다. 그는 또 2000 년부터 시작하여 14 년이면 지난 20 세기 백년동안의 발전한 만큼을 달성할 수 있고 2014 년 후에는 7년이면 (2021년)  20 세기 100 년 발전량을 달성할 수 있다고 한다. 수십년 후이면 우리는 해마다 “20세기 전체 발전”만큼의 몇배를 발전할 수 있다고 한다. 계속 뒤로는 아마 몇개월이면 한번 달성할 수 있을지 모른다. 수확 가속의 법칙에 의하여 커즈와일 은 인류의 21 세기의 발전은 20 세기의 1000 배가 될 것이라고 한다.

만약 커즈와일 등 학자들의 생각이 맞다면 2030 년의 세계는 아마도 우리를 놀라 쓰러지게 할 것이다 — 다음 “놀쓰단”은 아마 십여년정도밖에 안될 것이다. 그럴뿐만 아니라 2050 년의 세계는 우리가 상상할 수 없을 만큼 달라질 것이다.

당신은 아마도 2050 년의 세계가 상상도 못할 만큼 달라질 수 있다는 말이 아주 우스울지 모른다. 하지만 이건 SF 가 아니라 당신이나 필자보다 훨씬 똑똑한 과학자들이 믿고 있는 바이다. 그리고 역사적으로 봤을 때와 로직상으로 봤을 때 예상 가능한 부분이다.

그렇다면 당신은 왜 “2050 년의 세계는 우리가 상상할 수 없을 만큼 달라질 것이다” 라는 말이 이렇게 우습게 느껴지는 것일까? 여기에는 세가지 원인이 당신의 미래에 대한 예측을 빗나가게 하고 있는 것이다:

1.  우리의 역사에 대한 사고방식은 선형적이다.

우리가 앞으로의 35 년의 변화를 사고할 때 우리가 참조하는것은 과거 35 년동안 발생한 일이다. 마치 우리가 21 세기에 일어날 변화들을 예상할 때 20 세기의 변화를 참조하는 것처럼. 마치 1750 년의 철수가 1500 년의 바둑이가 1750 년으로 구경오면 놀라 쓰러질 것이라고 착각하는 것과 마찬가지이다. 선형적인 사고는 본능적인 것이다. 하지만 우리가 미래를 생각할 때는 지수적으로 (기하급수적으로) 생각해야 한다. 총명한 사람은 과거 35 년의 발전으로 앞으로의 35년을 예측하지 않을 것이다. 반면에 현재의 발전 속도를 기반으로 예측할 것인데 이것이 보다 정확할 것이 뻔하다. 물론 이렇게 예측하는 것도 정확하지가 않다. 보다 정확할려면 당신은 발전 속도가 점점 빨라진다는 점까지 고려해야 한다.

2. 최근의 역사는 사람을 잘못 인도하기 쉽다.

우선 아무리 가파른 지수함수 그래프라도 당신이 충분히 짧은 구간을 절취한다면 아마 보기에 선형적으로 보일 것이다. 마치 원의 아주 작은 구간을 절취한다면 직선처럼 보이는 것과 같은 도리이다. 뿐만 아니라 지수적 발전은 매끈하지가 않으며 늘 S 형 그래프를 보이기 때문이다.

S 형 그래프는 새로운 패러다임이 세계에 퍼질 때 일어난다. S 형 그래프는 세 부분으로 나뉘다.

• 느린 성장 (지수적 성장의 초기)
• 빠른 성장 (지수적 성장 폭발시기)
• 새로운 패러다임의 성숙과 정착으로 인한 평온 발전기

당신이 최근 역사만 회고한다면 아마도 S 형 그래프의 어느 구간만 보일 것이다. 하지만 이 부분은 우리의 발전이 얼마나 빠른가를 보여줄 수 없기 마련이다. 1995 – 2007 년 사이는 인터넷이 폭발적 성장을 한 시기이다. 마이크로소프트, 구글, 페이스북이 대중의 시야에 들어왔고 수반된 것은 SNS, 휴대폰의 출현과 보급, 스마트폰의 출현과 보급이였는데 이 구간이 바로 S 형 그래프의 빠른 성상시기이다. 2008 – 2015 년 사이의 발전은 그다지 빠르지 않았다. 적어도 기술영역에서는 그러했다. 만약 지난 몇년동안의 발전속도를 두고 현재의 발전 속도를 가늠한다면 매우 그릇될 수 있다. 다음의 폭발정 성장시기가 싹을 틔우고 있을 수도 있기 때문이다.

3. 개인 경험의 틀에서 벗어나지 못하고 우리는 미래에 대해 틀에 박힌 예측을 하기 마련이다.

우리는 자신의 경험을 토대로 세계관을 형성하는데 이러한 경험은 발전의 속도를 우리의 머리속에 낙인시켜놓았다 — “발전은 원래 이런 속도인거야.” 뿐만 아니라 우리는 자신의 상상력에 제한을 받는다. 상상력은 과거의 경험에 의하여 미래에 대한 예측을 하기 때문이다 — 하지만 우리가 알고 있는 것들은 미래를 예측하는데 도움이 되기엔 역부족이다. 우리가 우리의 경험에 위배되는 미래 예측을 들었을 때 우리는 이 예측이 빗나갓다는 느낌이 들 것이다. 만약 내가 당신에게 150살, 250 살 심지어 장생불로할 수 있다고 하면 내가 뻥까고 있을 것이라고 하겠지 — “자고로 모든 사람은 죽게 되여있다. ” 물론이다. 하지만 비행기가 발명되기 전에는 비행기를 타본 사람도 없지 않았나?

아래 내용들을 읽으면서 당신은 아마도 맘속으로 “뻥까지 마라”고 생각할 수도 있을 것이다. 그리고 이 내용들이 정말 틀릴지도 모른다. 하지만 우리가 정말 역사의 패턴으로부터 논리적인 판단을 하게 된다면 결론은 다가올 수십년내에 우리가 예상했던것 보다 훨씬 훨씬 훨씬 훨씬 많은 변화가 일어날 것이라는 것이다. 또한 같은 논리로 도달할 수 있는 내용은 인간이라는 이 지구상에서 가장 발달한 종이 점점 더 빠르게 나아간다면, 어느순간, 지금까지의 인류의 삶을 송두리채 바꾸고“인류란 무엇인가”에 대한 인식조차 완전히 달라지게 될 것이다. 마치 자연의 진화를 통해 지능을 향해 한발작 한발작 발전하다가 드디어 중요한 발을 내디뎌 인간이 탄생한 것처럼 말이다. 그리고 당신이 최근의 과학과 기술의 발전 동향을 살피는데 조금만 시간을 투자한다면, 우리가 알고 있는 삶이 앞으로 다가올 도약을 막을 수 없다는 수많은 징조를 보게 될 것이다.

---

초지능으로 가는 길

인공지능이란 무엇인가?

만약 당신이 지금까지 인공지능(AI) 를 SF (과학환상) 으로 여겨왔는데 최근에는 많은 멀쩡한 사람들이 이 문제를 진지하게 토론하는걸 보았다면 아마 당황스러웠을 것이다. 이러한 당황스러움은 아래와 같은 원인에서 비롯된다.

1. 우리는 늘 인공지능을 영화에 연상시킨다.

<스타 워즈>, <터미네이터>, <2001 스페이스 오디세이> (1968) 등. 영화는 허구였고 영화 캐릭터들도 허구였다. 그래서 우리는 늘 인공지능에서 현실감을 느끼지 못했다.

2. 인공지능은 광범위한 문제이다.

휴대폰에 있는 계산기로부터 자동주행 차량 뿐 아니라, 미래에 세계를 크게 바꿔놓을 중대한 변혁까지. 인공지능은 수없이 많은 것들에서 언급되기에 혼란스럽다.

3. 우리 일상에서는 이미 매일 인공지능을 사용하고 있다.

우리는 그저 인식하지 못했을 뿐이다. John McCarthy 가 1956 년에 최초로 인공지능 (Artificial Intelligence) 란 단어를 사용했다. 그는 늘 이런 불평을 했었다. “어떤 것이 인공지능으로 구현되기만 하면 사람들은 그누구도 더이상 그것을 인공지능이라고 부르지 않았다.”

이런 효과 때문에 사람들은 인공지능이란 말을 듣기만 하면 우리 주변에 이미 존재하는 현실이 아니라 항상 미래의 어떤 신비한 존재로만 생각해왔다. 동시에 이런 효과는 우리들로 하여금 인공지능은 아직 실현되지 못한 예전부터 유행해왔던 개념이라고만 생각하게 한다. 커즈와일이 말하기를 사람들은 늘 인공지능이  80 년대때 이미 버림을 받았다고 말하는데 이는 마치 “인터넷은 21세기 닷컴버블 파멸때 같이 죽어버렸다” 고 말하는 것과 마찬가지로 황당하다.

그래서, 우리는 처음부터 다시 살펴보기로 하자.

우선, 인공지능이란 소리만 나오면 로봇을 떠올리지 말라. 로봇은 인공지능의 용기일 뿐이다. 로봇은 가끔은 사람모양이고 가끔은 아니다. 하지만 인공지능은 그저 로봇안에 있는 컴퓨터일 뿐이다. 인공지능이 두뇌라면 로봇은 신체인 셈이다 — 그리고 이 신체는 꼭 필요한게 아니다. 예를 들어 Siri 뒷단에 있는 소프트웨어와 데이터가 인공지능이지 Siri 가 말을 할 때의 소리는 그저 이 인공지능의 인격화 구현일 뿐이다. 하지만 Siri 자체는 로봇이라는 구성부분이 없는 것이다.

둘째로, 당신은 “특이점” 또는 “기술적 특이점” 이란 개념을 들어봤을 수도 있다. 이 용어는 수학에서 점근선과 유사한 개념을 나타내는데 이런 경우에 일반 규칙들은 적용되지 않는다. 이 용어는 물리학에서도 비슷하게 사용되는데 무한으로 작은 높은 밀도의 블랙홀을 나타내는데 마찬가지로 일반적인 규칙은 더이상 적용되지 않는다. 커즈와일은 특이점을 아래처럼 정의한다: 수확 가속의 법칙이 극에 달해 기술 발전이 무한대의 속도로 발전하며 특이점 이후로 우리는 완전 다른 세상에 살게 될 것이다. 하지만 최근 인공지능에 대해 생각하는 사람들은 더이상 “특이점”이란 용어를 잘 안쓴다. 그리고 이 용어는 많은 사람을 헷갈릴 수 있게 할 수 있기 때문에 이 글에서는 최대한 사용을 자제하겠다.

마지막으로, 인공지능은 광범위한 개념이기 때문에 여러가지로 나눌 수 있다. 여기서는 인공지능의 능력에 따라 세가지로 나누겠다:

1. 약인공지능 (ANI, Artificial Narrow Intelligence): 약인공지능이란 어느 특정 방면에서만 잘하는 인공지능을 말한다. 예를 들어 세계 체스 챔피언을 이기는 인공지능. 하지만 그것은 그냥 체스만 잘할 뿐이다. 만약 당신이 그 인공지능한테 어떻게 해야 하드디스크에 데이터를 더 잘 보존할 수 있을 것인가를 붇는다면 걔는 어떻게 대답해야 할지 모를 것이다.
2. 강인공지능 (AGI, Artificial General Intelligence): 인간급의 인공지능. 강인공지능은 여러 방면에서 모두 인간과 겨룰 수 있는 인공지능이다. 인간이 할 수 있는 지능적인 일은 그들도 모두 할 수 있다. 강인공지능을 만들기는 약인공지능을 만들기보다 훨씬 어렵다. 그래서 우리는 아직도 만들어내지 못하고있다. Linda Gottfredson 교수는 지능을 아래와 같이 정의한다: 일종의 광범위한 심리적 능력, 사고할 수 있고 계획할 수 있으며 문제를 해결할 수 있고 추상적인 생각을 할 수 있으며 복잡한 이념을 이해하고 빠르게 학습할 수 있으며 경험속에서 학습을 할 수 있는 능력이다. 강인공지능은 이런 활동들을 함에 있어서 사람과 동등하게 능숙해야 한다.
3. 초인공지능 (ASI, Artificial Super Intelligence): 옥스포드 철학가, 유명한 인공지능 사상가인 Nick Bostrom 은 초지능을 아래와 같이 정의한다: 과학기술 창조, 일반적인 지식, 사회적 능력 등을 포함한 거의 모든 영역에서 모두 제일 총명한 인류의 두뇌보다 훨씬 총명한 지능이다. 초인공지능은 여러 방면에서 모두 인류보다 조금 강할 수도 있고 모든 방면에서 인류보다 만억배 강할 수도 있다. 초인공지능이란 개념이 바로 왜 인공지능이란 화제가 이처럼 핫해질 수 있는가 하는 원인이며 영생불로와 멸종이란 두 단어가 이 글에서 여러번 등장하는 원인이다.

현재 인류는 이미 약인공지능을 장악했다. 사실 약인공지능은 없는 곳이 없다. 인공지능 혁명은 약인공지능으로부터 시작해 강인공지능을 거쳐 최종 초인공지능에 도달하는 여정이다. 이 여정에서 인류는 살아남을 수도 있고 그렇지 않을 수도 있다. 어쨌든 세계는 완전히 달라질 것이라는 것이다.

자, 이 영역의 사상가들이 이 여정에 대해 어떻게 생각하고있는가를 봐보도록 하자. 그리고 왜 인공지능혁명이 당신이 생각한 것보다 훨씬 빠르게 들이닥칠 수 있는지 봐보도록 하자.

우리 현재의 위치 — 약인공지능으로 둘러싸인 세상

약인공지능이란 특정 영역에서 사람과 비슷하거나 사람의 지능이나 효율을 초과하는 기계 지능을 말한다. 흔한 예들로:

1. 자동차상에는 많은 약인공지능들이 있다. 잠금 방지 브레이크 시스템으로부터 기름의 주입 파라미터를 컨트롤하는 컴퓨터까지. 구글이 지금 테스트하고있는 무인 자동주행 자동차를 예로 들어도 많은 약인공지능들이 포함되여있다. 이런 약인공지능들은 주변 환경을 감지하고 그에 대해 반응할 수 있다.
2. 당신의 휴대폰에도 많은 약인공지능이 있다. 당신이 지도를 꺼내 내비게이팅 할 때나 음악어플의 추천을 받아들일 때나 내일의 날씨를 찾아볼 때나 Siri 와 대화할 때나 기타 많은 어플들에는 사실 다 약인공지능이 존재한다.
3. 스팸 메일 필터가 사실 전형적인 약인공지능이다 — 그것은 처음부터 여러가지 스팸 메일을 식별할 수 있는 지능을 가졌으며 지속적으로 학습할 수 있고 당신의 사용 습관에 의해 경험을 얻을 수 있다. 스마트 온도 컨트롤 장치도 마찬가지이다. 당신의 일상 습관에 맞추어 스마트하게 조절할 수 있다.
4. 당신이 웹서핑을 할 때 나타나는 여러가지 인터넷 쇼핑몰 상품의 추천들, 그리고 SNS 의 친구추천, 이 모든 것들이 모두 약인공지능으로 구현된 것이다. 약인공지능은 인터넷에 연결하여 당신의 정보를 이용하여 추천을 한다. 웹서핑할 때 “이 물건을 산 고객들은 저 상품들도 샀어요” 하고 추천하는 것, 사실은 수백만 유저의 행위를 수집하여 생긴 데이터들로 당신에게 물건을 팔아먹는 약인공지능인 것이다.
5. 구글 번역기도 사실 전형적인 약인공지능이다 — 얘는 이 영역은 꽤 잘한다. 음성인식도 한가지이다. 많은 어플들에서는 이 두가지 지능의 조합으로 당신이 휴대폰에 대로 한국말을 하면 휴대폰이 직접 영어로 번역해줄 수 있게 해주고있다.
6. 비행기가 착륙할 때 비행기가 어느 게이트에 가서 독킹을 해야 하는가를 인간이 결정하는게 아니다. 마치 당신이 인터넷이서 물건을 살 때 영수증이 인간이 타이핑하는 것이 아닌 것처럼.
7. 다이아몬드 게임, 체스, 틱택토, 백개먼, 오델로 등 게임의 세계 챔피언은 모두 약인공지능이다.
8. 구글 검색은 거대한 약인공지능이다. 그 뒤에는 매우 복잡한 정렬과 내용 검색 알고리즘이 있다. SNS 의 핫이슈 기능도 마찬가지이다.
9. 위에 이 모든 것들은 모두 소비자 제품의 예들이였다. 군사, 제조업, 금융업 (극초단타매매 (high frequency trading) 은 미국 주식 거래의 절반을 차지한다) 등 영역에서는 모두 여러가지 복잡한 약인공지능이 활용되고있다. 전용 시스템도 있다. 예를 들어 의사를 도와 병을 진단하는 시스템도 있다. 그리고 IBM 의 그 유명한 왓슨(Watson), 저장된 대량 데이터를 토대로 사회자의 질문을 이해하고 퀴즈 프로그램에서 제일 강한 인간 선수를 이길 수 있다.

현재의 약인공지능은 아마 그렇게 무섭지 않을 수도 있다. 최악상 상황이라 해봤자 고작해야 코드에 버그가 있어서 프로그램이 고장나서 단독적인 재난이 발생하는 것이다. 이를테면 정전, 원자력발전소 고장, 금융시장 붕괴 등이다.

비록 현재의 약인공지능은 우리의 생존을 위협할 능력이 없지만 우리는 여전히 점점 경계한 눈길로 점점 더 커지고 더욱 복잡해지고있는 약인공지능의 생태계를 바라보고있다. 약인공지능의 하나하나의 작은 혁신들은 모두 강인공지능으로 통하는 길에 조용히 벽돌을 보태고 있는 셈이다. Aaron Saenz 의 관점에 의하면 현재의 약인공지능들은 지구 초기의 진흙속에 있는 아미노산들과 마찬가지다 — 기척이 없던 물질들이 갑자기 생명으로 조합된다.

약인공지능에서 강인공지능으로 통하는 길

왜 이 길이 그토록 험난한가

오직 인간 수준의 지능을 가진 컴퓨터를 만드는게 얼마나 어려운가를 이해해야 우리 인간의 지능이 얼마나 불가사의한지를 느낄 수 있을 것이다. 하늘을 찌르는 빌딩을 짓고 인간을 우주에 보내고 우주 빅뱅의 디테일을 이해하는 것 — 이 모든 것은 인간의 뇌를 이해하고 유사한 것을 만드는 것보다 훨씬 쉽다. 현재까지 인간의 뇌는 우리가 알고있는 우주안에서 가장 복잡한 사물이다.

그리고 인공지능을 만드는 어려움은 당신이 직감적으로 생각할 수 있는 그런 것들이 아니다.

• 순간에 열자리 수를 곱할 수 있는 컴퓨터를 만들기 — 매우 쉽다.
• 한 동물이 고양이인지 개인지 식별할 수 있는 컴퓨터를 만들기 — 극도로 어렵다.
• 세계 체스 챔피언을 이길 수 있는 컴퓨터를 만들기 — 성공한지 오래다.
• 6살 아이가 읽는 그림책속의 문자를 읽을 수 있고 그 뜻을 이해할 수 있는 컴퓨터를 만들기 — 구글이 수십억달러를 퍼부어서 연구하고있지만 아직 성공하지 못했다.
• 일부 우리가 어렵게 여기는 일들 — 미적분, 금융지장 책략, 번역 등등은 컴퓨터에게 있어서 매우 쉽다.
• 일부 우리가 쉽다고 느끼는 일들 — 시각, 움직임, 직감 — 컴퓨터에게는 개어렵다.

컴퓨터 과학자 Donald Knuth 의 말로 “인공지능은 이미 모든 생각이 필요한 영역에서 인간을 초월했다. 하지만 인간이나 기타 동물이 생각을 하지 않아도 완성할 수 있는 일들에서는 아직 멀었다.”

독자들은 아마 느꼈을 것이다. 그런 우리가 쉽다고 느끼는 일들은 사실 매우 복잡한 것이다. 그것이 쉽게 보이는 것은 동물진화과정에서 수억년동안 최적화되였기 때문이다. 당신이 어떤 물건을 쥘려고 할 때 당신의 어깨, 팔꿈치, 손목안의 근육, 힘줄과 뼈는 순식간에 일종의 아주 복잡한 물리동작을 완성하는데 이러는 동시에 눈의 동작까지 뒷바쳐줌으로 당신의 손이 직선운동을 할 수 있게 해야 한다. 그런 행동이 당신에게 쉽게 느껴지는 이유는 이런 “소프트웨어”들이 이미 아주 퍼펙트하기 때문이다. 같은 이유로 컴퓨터가 웹사이트의 비틀어진 입력문구들을 인식하지 못하는 것은 컴퓨터가 너무 우둔해서가 아니라 반대로 입력문구를 구별하는 일이 굉장히 쩌는 일이기 때문이다.

반면에 큰 수를 곱하기, 체스하기 등등은 우리가 진화과정 중 겪어보지 못한 생명체의 입장에선 새로운 일인 셈이다. 그래서 컴퓨터는 별로 힘들이지 않고도 우릴 박살낼 수 있다. 상상해봐라, 당신이 프로그램을 짠다면 큰 숫자의 곱하기를 해결하는 프로그램을 짜는게 어렵겠는가 아니면 천천만만가지의 폰트와 서체로 씌여진 영문 알파벳을 식별하는 프로그램을 짜는게 더 어렵겠는가?

예를 들어서 아래의 그림을 보았을 때 당신과 컴퓨터는 모두 이 그림이 두가지 색의 작은 직사각형으로 이루어진 하나의 큰 직사각형이라는 것을 인식해낼 것이다.

그러면 당신과 컴퓨터는 한판 비긴다. 계속하여 그림상의 까만 부분을 없애버려보자.

당신은 어렵지 않게 그림중의 투명이거나 불투명인 기둥이나 3D 도형들을 설명할 수 있을 것이다. 하지만 컴퓨터는 그러지 못한다. 컴퓨터는 2D의 그림자 차이 정도나 말할 수 있지만 인간의 뇌는 이런 그림자들이 나타내고 있는 깊이, 그림자의 겹침, 실내 빛의 위치 등등까지도 읽어낼 수 있다.

또 아래의 그림을 봐보도록 하자. 컴퓨터가 보기에는 검은색, 흰색, 회색이지만 우리가 본 것은 하나의 완전히 검은 입체적인 돌이다.

심지어 우리가 지금까지 토론한건 오로지 정적이여서 움직이지 않는 정보들 뿐이였다. 인간 수준의 지능을 갖기 위해서 컴퓨터는 반드시 더 어려운 것을 이해해야 한다. 예를 들어서 얼굴 표정의 미세한 변화, 기쁨, 편안함, 만족, 기쁨 등 유사한 정서들 사이의 차이 그리고 왜 <브레이브하트>(1995)는 갓 영화이고 <패트리어트>(2000)은 쓰레기 영화인가를 이해할 수 있어야 한다.

생각만 해봐도 어렵겠지?

우리는 어떻게 해야 이런 수준의 인공지능을 만들 수 있을 것인가?

강인공지능으로 통하는 첫걸음: 컴퓨터의 처리 속도를 높여야 한다.

강인공지능에 도달하기 위해 꼭 만족해야 할 조건은 컴퓨터 하드웨어의 계산능력이다. 인공지능이 인간의 뇌와 겨룰 만큼 총명하려면 최소한 인간의 뇌만큼의 처리능력을 갖추어야 한다.

처리 능력을 다루는 단위는 cps (calculations per second, 초당 계산수) 이다. 인간 두뇌의 cps 를 구하려면 그 속의 모든 구조물의 최고 cps 를 구하고 그것들을 모두 더하면 된다.

레이 커즈와일 (Ray Kurzweil) 은 하나의 구조물에 대한 최대 cps 를 구하고 그것이 전체 뇌에서 차지하는 무게의 비중으로 나누어 인간 두뇌의 총 cps 를 구했다. 뭔가 부족한 것처럼 들리지만 그는 몇번이나 서로 다른 영역을 다양한 전문측정법을 통해 같은 방식으로 계산을 했는데 그 결과들이 항상 아주 근접한 수치에 도달하였다 — 대략 10의 16승 cps, 즉 매초당 1경번의 계산이다.

현재 세계에서 제일 빠른 컴퓨터인 중국의 텐허 2호 (Tianhe-2, http://www.reuters.com/article/us-china-supercomputer-idUSKCN0J11VV20141117 ) 는 사실 이미 이만큼의 처리능력을 가졌는데 그 처리능력이 3.4경 cps 이다. 물론 톈허 2호는 720 제곱미터 면적을 차지하고 2400 만 와트의 전력을 소비하며 3.9억 달러의 돈을 들여 만든 것이다. 광범위한 응용은 막론하고 대부분의 상업적이나 공업적 사용도 굉장히 비싸다.

커즈와일은 컴퓨터 발전정도의 지표는 1000달러로 얼마만큼의 cps 를 살 수 있는가라고 생각한다. 1000 달러로 인간 두뇌급인 1경 cps의 계산능력을 살 수 있을 때에야 강인공지능이 우리 삶의 일부가 될 수 있다고 한다.

무어의 법칙이 제시한바로는 전 세계의 컴퓨터 계산 능력은 2년마다 배로 늘어난다. 이 법칙은 역사 자료가 뒷받침해주고 있는데 왜 컴퓨터의 하드웨어가 인류발전과 마찬가지로 기하급수적으로 발전하는가를 제시하고 있다. 우리는 이 법칙을 통해 언제쯤 1000 달러로 1경 cps 를 살 수 있을 지를 계산해보자. 지금 1000달러로 약 10조 cps 를 살 수 있는데 지금까지의 추세는 무어의 법칙 그래프의 예측에 부합한다.

그 뜻은 지금 1000 달러 살 수 있는 컴퓨터는 이미 쥐의 뇌보다 강하며 이미 인간의 뇌의 1000분의 1의 수준에 해당된다는 뜻이다. 아직도 너무 약해보인다. 하지만 생각해봐라 1985 년에 같은 돈으로 인간 두뇌의 1조분의 1만큼의 cps 밖에 살 수 없었고 1995 년에는 10억분의 1, 2005년에는 백만분의 1, 2015 년에는 이미 천분의 1이나 된다. 이런 추세로 발전한다면 우리는 2025 년에는 1000달러로 인간의 뇌에 해당되는 계산처리속도의 컴퓨터를 살 수 있을 것이다.

적어도 하드웨어상에서 우리는 강인공지능의 문턱에 들어섰으며 (중국의 톈허 2호) 10년이내 우리는 저렴한 가격으로 강인공지능 지원 가능한 컴퓨터 하드웨어를 살 수 있을 것이다.

하지만 계산 능력만으로 컴퓨터가 똑똑해지게 할 수 없다. 다음 문제는, 우리는 어떻게 이 계산능력으로 인간수준의 지능을 만들겠는가 이다.

강인공지능으로 통하는 두번째 걸음: 컴퓨터를 더욱 스마트하게 만들기

이 스텝이 정말 어렵다. 사실상 아무도 어떻게 만드는지 모른다 — 우리는 아직 어떻게 컴퓨터가 <패트리어트>가 쓰레기영화라는걸 감별해낼 수 있게 할 수 있을것인가에 머무르고있다. 하지만 지금 일부 방안들이 효과가 있을 수는 있다. 아래것들이 가장 흔한 세가지 접근이다:

1) 인간의 뇌를 베끼기

마치 당신의 반에 공부 잘하는 애가 한명 있는 것 처럼 당신은 그가 왜 똑똑한지, 왜 시험마다 만점을 맞는지 모른다. 당신도 열심히 공부하지만 걔보다 공부를 못한다. 결국 당신은 “젠장, 나 공부 안할래” 하고 포기하고 그의 답안을 직접 베끼게 된다. 이런 “베낌”은 도리가 있는 것이다. 우리는 아주 복잡한 컴퓨터를 만들려는게 아닌가. 우리는 이미 인간의 뇌라는 좋은 설계도가 있지 않는가.

과학계에서는 지금 인간의 뇌를 리버스 엔지니어링하여 자연진화가 어떻게 이런 신기한 물건을 만들어냈는가를 밝히기 위해 힘쓴다. 낙관적인 예견으로 우리는 아마도 2030 년 즈음에 이 임무를 끝낼 수 있다고 한다. 이 목표를 달성하기만 하면 우리는 왜 인간의 뇌가 이렇게 효율이 높고 이렇게 빠르게 실행되는지 밝혀내고 그걸 따라서 영감을 그려내고 혁신을 훔칠 수 있다. 컴퓨터로 인간의 뇌를 시뮬리에팅하는 한 예가 바로 인공 신경망 (NN, Neural Network) 이다. 이것은 트랜지스터로 이루어진 “신경”을 연결한 망에서 출발한다. 트랜지스터는 그저 입출력을 가지고 서로 연결되어 있을뿐 그 자체는 아무것도 모른다 — 갓난애기의 뇌처럼 말이다. 이어서 문제해결을 위해 “학습”이라는 방법을 시도하는데, 필기 인식을 하려면, 처음엔 신경전달과 문자 결정을 위한 추측과정이 완전히 랜덤하게 이뤄진다. 하지만 맞혔다는 피드백을 받으면 관련된 트랜지스터들 사이의 연결이 강화된다. 반면에 그릇됐다는 피드백을 받으면 관련된 연결은 약화된다. 일정한 시간의 테스트와 피드백을 거쳐 이 네트워크 자체는 스스로 스마트한 신경 경로를 형성하게 되고 머신은 해당 문제해결에 최적화된다. 인간의 뇌의 학습 과정도 유사하다. 다만 이것보다 좀 더 복잡할 뿐이다. 우리가 인간의 뇌에 대한 연구가 심화됨에 따라 우리는 더욱 좋은 신경망 구축법을 얻게 될 것이다.

더욱 극단적으로 “베끼”는 방법은 바로 전체 뇌를 에뮬레이팅 하는 것이다. 자세하게 설명하자면 인간의 뇌를 많은 얇은 조각 (으로 나뉜 것으로 보고) 소프트웨어로 하나의 완정한 3D 모델을 만들어서 이 모델을 강력한 컴퓨터에 입력시키는 것이다. 이것이 성공한다면 이 컴퓨터는 인간의 뇌가 할 수 있는 모든 일을 완성할 수 있을 것이다. 그것이 학습하고 정보 수집만 할 수 있게 해주면 된다. 만약 이 일을 해낸 엔지니어 능력이 더욱 대단하다면 그들이 시뮬레이팅해낸 뇌는 심지어 원래 인간의 인격과 기억까지 갖고 있을 것이다. 컴퓨터가 시뮬레이팅해낸 지능이 원래의 인간의 뇌랑 같다는 것은 “강인공지능”의 정의 자체에 상당히 부합된다. 그러면 그뒤로 우리는 그것을 더욱 강한 초인공지능으로 개조할 수 있게 된다.

우리가 전체 두뇌 에뮬레이팅과 얼마나 멀리 떨어져 있을까? 재 우리는 302개의 신경세포로 이뤄진 1밀리미터 길이의 편형동물의 뇌를 에뮬레이팅 할 수 있게 되였다. 인간 두뇌는 1000억개의 뉴런으로 이뤄져 있다. 그다지 희망적이지 않은 숫자처럼 보인다면, 기억하자 기하급수적인 발전을  — 우리는 이미 작은 벌레의 뇌를 에뮬레이팅 할 수 있게 되였다. 개미의 뇌는 멀지 않았다. 이어서 쥐의 뇌이다. 그때 가면 인간의 뇌를 에뮬레이팅 한다는 것은 그리 비현실적인 얘기가 아닐 것이다.

2) 생물 진화를 시뮬레이팅하기

공부짱의 답을 베끼는 것이 물론 한가지 방법이지만 공부짱의 답을 베끼기가 너무 어렵다면? 그러면 우리는 공부짱이 시험을 준비하는 방법을 좀 따라 배워볼 수 있지 않을까?

우선 우리가 확신할 수 있는 사실! 인간의 뇌만큼 똑똑한 컴퓨터를 만드는 것은 가능한 일이다 — 우리의 뇌가 바로 증거이다. 만약 인간의 뇌가 에뮬레이팅하기 너무 어렵다면 우리는 인간의 뇌를 탄생시킨 진화를 시뮬레이팅 할 수 있을 것이다. 사실상 우리가 정말 완전하게 인간의 뇌를 에뮬레이팅 할 수 있다고 해도 결과는 새들이 날개를 푸덕이는 방식을 그대로 베껴서 비행기를 만들려고 (발명하려고) 하는 식이 되어버릴 수 있다 — 기계를 설계하는 방법이 생물설계를 그대로 베끼는 것이 아닌 경우가 많다.

그래서 우리는 진화를 시뮬레이팅하여 강인공지능을 만들 수 있을 것인가? 이런 방법을 “유전 알고리즘” (genetic algorithm) 이라고 부른다. 원리는 대충 이러하다: 반복하여 표현 / 평가 과정을 할 수 있는 프로세스를 만든다. 마치 생물들이 생존이라는 방식으로 표현을 하고 번식을 평가 방식으로 하는 것처럼. 컴퓨터에게 여러가지 임무를 수행시키고 제일 성공적인 프로그램들만 “번식”을 하는데 그 방식은 각자의 프로그램을 융합시켜서 새로운 프로그램을 만들고 그다지 성공적이지 않은 프로그램들은 버려지는 것이다. 여러번 반복을 거치면 이 선택과정은 점점 강한 프로그램을 만들어낼 것이다. 이 방법의 난점은 자동화된 평가와 번식 과정을 만듬으로서 전체 프로세스가 인간의 관여 없이 자율실행되게 하는 것이다.

이런 방법의 단점도 명확하다. 자연진화는 수십억년의 시간을 들였는데 우리는 수십년이란 시간만 사용하려고 하고 있기때문이다.

하지만 자연진화에 비해 우리의 우세도 많다. 첫째로 자연진화는 예견 능력이 없고 랜덤적이다 — 그것이 탄생시킨 쓸모 없는 변화는 쓸모있는 변화보다 훨씬 많다. 하지만 인공적인 진화는 과정을 컨트롤할 수 있어서 유익한 변화에 치중하게 할 수가 있다. 둘째로 자연진화는 목표가 없다. 자연진화의 산물인 지능도 그것의 목표가 아니다. 하지만 우리는 진화의 과정을 지휘하여 더욱 스마트한 지능쪽으로 발전하도록 할 수 있다. 셋째로 지능을 탄생시킬려면 자연진화는 많은 다른 부가적인 조건들을 탄생시켜야만 한다. 예를 들어서 세포의 에너지 생산 능력을 개선해야 한다 등등. 하지만 우리는 전력으로 이 추가적인 부담들을 해소해낼 수 있다. 결론적으로 인간 주도적인 진화는 자연진화보다 훨씬 빠를 수가 있다. 하지만 우리는 아직도 이런 우세들이 진화 시뮬레이팅을 가능하게 해줄 수 있는지 여부는 모른다.

3) 컴퓨터가 이 모든것을 해결하도록 하기

만약 공부짱의 답을 베끼는 것과 공부짱의 시험 준비 방법을 따라하기가 다 통하지 않는다면, 시험문제가 시험문제 자체를 해결하게 하는 방법은 어떤가? 이런 생각이 병맛같지만 실은 가장 희망있는 한가지 방법이다.

이 아이디어는 우리가 두가지 중요한 스킬을 가진 컴퓨터를 만드는 것이다 — 인공지능을 연구하는 기능과 자신의 코드를 수정할 수 있는 기능. 그러면 우리는 컴퓨터 자체를 컴퓨터 과학자 ( Computer Scientist ) 로 만든 셈이다. 그러면 컴퓨터의 지능을 높이는 것은 컴퓨터 자체의 몫이 됐다.

이상의 모든 것은 머지않아 이뤄지게 된다.

하드웨어의 빠른 발전과 소프트웨어의 혁신은 늘 병렬적으로 발생한다. 강인공지능은 우리가 예상한 것보다 더욱 일찍 들이닥칠 수 있다. 왜냐면:

1. 기하급수적 성장의 초반은 달팽이처럼 느릴 수 있지만 후반으로 가면 굉장히 빠르다. 아래의 GIF 움짤이 이 도리를 잘 설명해줄 것이다.
2. 소프트웨어의 발전은 일견 매우 느려보일 수 있지만 한번의 “깨달음”은 진보의 속도를 영원히 바꿔놓는다. 마치 인류가 아직 지구중심설을 믿고 있을 때에는 과학자들이 우주의 운동방식을 계산할 방법을 설계할 수 없지만 태양중심설의 발견으로 모든게 쉬워진 것처럼. 자체 개선을 할 수 있는 컴퓨터를 만든다는게 지금의 우리에게는 요원하게 느껴질 수 있지만 어느 한번의 수정만으로 전체 시스템이 천배나 강력해지게 할 수도 있는 일이다. 그럼으로써 인간지능 레벨로의 빠른 질주의 서막을 열어놓을 수도 있는 일이다.

강인공지능에서 초인공지능으로 가는 길

언젠가는 우리는 인간의 지능정도의 인공지능을 만들어낼 것이며 그리고 인간과 컴퓨터는 평등하고 모두 행복하게 쭉 살았답니다.

는 개뿔.

인간지능과 완전히 똑같고 정보처리능력도 인간만큼 강한 강인공지능이더라도 인간보다 두드러진 많은 장점을 가지고 있다.

하드웨어면에서:

• 소도면에서: 인간 신경세포의 계산속도는 200 HZ 이다. 오늘날의 컴퓨터 마이크로칩만 봐도 2 GHz 로 실행될 수 있는데 이는 신경세포의 1000만배의 실행속도이지만 우리가 강인공지능 구현에 필요한 하드웨어 스펙보다는 훨씬 뒤떨어져있다. 신경세포에서 정보의 전파속도는 약 초당 120 미터이지만 컴퓨터의 정보 전파 속도는 빛의 속도이다. 이 둘 사이에는 수개 수량급의 차이가 벌어져있다.
• 용량과 저장공간 면에서: 인간 두뇌의 크기는 고정되어 있으며 후천적으로 더 크게 늘릴 수 없다. 가령 정말로 더 크게 늘릴 수 있다고 해도 120 m/s 의 정보전달속도는 큰 병목으로 작용해 다른 구역으로 전달을 방해할 것이다. 컴퓨터의 물리적 사이즈는 매우 자유로울 수 있어서 더욱 많은 하드웨어, 더 큰 메모리, 내구성이 더욱 좋은 저장매체를 사용할 수 있다. 인간의 뇌보다 용량이 훨씬 커질 수 있을뿐만 아니라 인간의 뇌보다 더 정확하다.
• 신뢰성과 내구성 면에서: 컴퓨터의 기억은 더욱 정확할 뿐만 아니라 트랜지스터도 신경세포보다 더 정확하며 인간의 세포만큼 잘 위축되지가 않는다 (정말 망가지더라도 고치기가 쉽다). 뿐만아니라 인간의 뇌는 쉽게 피로를 느낀다. 하지만 컴퓨터는 24시 쉼없이 최고속력으로 달릴 수 있다.

소프트웨어면에서:

• 수정 가능, 업그레이드 가능, 보다 많은 가능성: 인간의 뇌와 달리 컴퓨터 소프트웨어는 더욱 많은 수정과 업그레이드를 할 수 있으며 테스트하기도 쉽다. 컴퓨터의 승급은 인간의 뇌의 비교적 큰 단점을 보완할 수 있다. 인간은 시각 소프트웨어가 최고등급일 때 복잡한 공학 능력은 매우 저질등급이 된다. 하지만 컴퓨터는 시각 소프트웨어가 인간과 동급일뿐만 아니라 공학이나 다른 부분까지 동시에 최적화할 수 있다.
• 집단적 능력: 인간은 집단 지성에 있어서 모든 기타 종을 크게 앞서고있다. 초기의 언어와 대형 커뮤니티의 형성, 문자와 인쇄기술의 발명으로부터 인터넷의 보급에 이르기까지. 인간의 집단 지성은 우리가 기타 종을 통치하데 된 중요한 원인중 하나이다. 하지만 컴퓨터는 이 면에서 우리보다 훨씬 강하다. 특정 프로그램을 실행하는 인공지능 네트워크는 전세계 범위내에서 동기화를 할 수 있으며 이로 인해 하나의 컴퓨터가 한가지 능력을 습득하게 되면 전세계 모든 기타 컴퓨터에게도 전파되여 그들 모두 습득하게 된다. 뿐만아니라 컴퓨터 클러스터는 공통적으로 한가지 임무를 협업 집행할 수 있는데 인간사회에서 흔히 발생하는 이견, 동기부여, 자기이익중심 등 특성들은 컴퓨터에게는 발생하지 않을 수도 있다.

자체 개선을 거쳐 강인공지능에 도달한 인공지능은 인간수준의 지능을 중요한 마일스톤으로 여길 것이지만 그 이상 그 이하도 아니다. 그 수준에 멈출 이유가 없다. 강인공지능의 인간에 비한 여러가지 장점들을 고려한다면 인공지능은 “인간수준” 이란 정도에 아주 짧게만 머무를 것이며 그후로는 초인공지능이라는 레벨로 큰 걸음으로 성큼성큼 걸어나갈 것이다.

이 모든것이 발생할 때 우리는 아마도 놀라 쓰러질 것이다. 왜냐면 우리가 보기에는 a) 동물의 지능에는 높고 낮음이 있지만 모든 동물의 지능의 공통된 특점은 인간보다 훨씬 낮다는 것이다. b) 우리가 생각하기에는 제일 총명한 사람은 제일 우둔한 사람보다 훨씬훨씬훨씬훨씬 총명하다.

그래서 우리는 인공지능이 인간 레벨로 쫓아오고 있을 때 점차 총명해지고 있음을 볼 수 있을 것이라고 생각하게 된다. 마치 하나의 동물처럼. 그러다 갑자기 가장 우둔한 인간 정도의 지능 정도로 발전하는 것을 보고 우리는 아마 “봐 이 인공지능 마치 멍청한 인간처럼이나 똑똑해. 귀엽구나.” 라고 생각할 수도 있을 것이다.

하지만 문제는 지능의 전반적인 분포로부터 볼 때 인간과 인간의 지능의 차이, 예를 들어서 가장 우둔한 인간으로부터 아인슈타인까지의 지능의 차이는 사실 그다지 크지 않다는 것이다. 그래서 인공지능이 우둔한 인간 정도만큼 발전한 뒤에는 금방 아인슈타인보다 더 총명하게 되여버릴 것이다:

그 다음은 뭐냐?

지능폭발

여기서부터 이 화제는 좀 섬뜩해진다. 여기서 독자분들께 알려드려야 할 것은 필자가 여기서 얘기하고있는 것들이 다 사실이라는 것이다 — 많은 존경받는 사상가들과 과학자들이 미래에 대한 성실한 예측이다. 당신이 아래에서 비상식적인 내용을 읽었을 때 꼭 기억해둬야 한다. 이 결론들은 당신이나 필자보다 훨씬 총명한 사람들이 생각해낸 것이라는 점을.

위에서 말했다시피 우리가 현재 강인공지능에 도달하기 위해서 사용한 방법은 대체적으로 모두 인공지능의 자체개선에 의존한다. 하지만 그것이 강인공지능에 달하기만 하면 그 자체개선에 의해 도달한 것이 아닌 부분 마저도 모두 충분히 똑똑해지고 전부 자체개선을 해나갈 능력을 갖게 될 것이다.

여기서 우리는 하나의 무거운 주제를 이끌어내야 한다 — 재귀적인 자체 개량. 이 개념의 뜻은: 특정 지능 수준, 예를 들어서 제일 멍청한 인간의 지능수준, 을 가진 인공지능이 자체개량 능력을 가졌을 때 한번의 자체 개진을 통하여 원래보다 더 총명해졌다고 가정하자. 예를 들어서 아인슈타인의 지능만큼 총명해졌다고 가정하자. 이때 그것이 계속 자체개량을 하게 되는데 이때의 그것은 아인슈타인 수준의 지능을 가졌기 때문에 이번 개량은 저번보다 더 쉽고 효과도 더 좋을 것이다. 두번째의 개선은 그것이 아인슈타인보다도 훨씬 총명해지게 함으로 계속되는 개선이 더욱 많은 진보를 가져오게 한다. 이런 과정이 반복되면이 이 강인공지능의 지능수준은 점점 빨리 발전하게 되여 결국은 초인공지능의 수준에 달하게 한다 — 이것이 바로 지능폭발의 정의이다. 이것은 또한 수확 가속의 법칙의 궁극적 체현이다.

현재 인공지능이 언제 인간수준에 달할 수 있을지에 대해서는 아직 쟁론이 치열하다. 수백명 과학자들에 대한 통계조사에서 그들이 생각하는 강인공지능 출현의 중앙치 연도수가 2040 년이라고 한다 — 지금으로부터 25 년밖에 남지 않았다. 이게 그렇게 놀랍게 들리지 않을 수도 있을지 모른다, 하지만 기억하자, 이 영역의 많은 사상가들은 강인공지능에서 초인공지능으로의 전환이 훨씬 빠를 것이라고 생각하고있다. 아래 시나리오가 일어날 확률이 굉장히 높다: 한 인공지능이 수십년이란 시간을 들여 인간 수준의 지능을 얻었는데 이때 그 컴퓨터의 세계에 대한 지식은 네살 애기 수준이다; 하지만 그후 한시간내에 컴퓨터는 광의적 상대성 이론과 양자물리학을 추론해낸다; 그뒤 한시간 내에 이 강인공지능은 초인강지능으로 발전해버리는 그 지능수준은 무려 일반 인간의 17 만배이다.

이 수준의 초인공지능은 우리가 이해할 수 있는 영역이 아니다. 마치 꿀벌이 케인즈 경제학을 이해할 수 없는 것처럼. 우리의 언어에서 130 의 IQ 를 똑똑하다고 하고 85 의 IQ 를 우둔하다고 한다. 하지만 우리는 12952 의 IQ 를 뭐라고 해야 할지 모른다. 인간의 언어에는 이런 개념이 아예 없다.

하지만 우리가 알 수 있는 것은 인간이 지구를 지배하면서 우리가 알게 된 한가지 사실 — 바로 지능이 곧 파워라는 도리이다. 즉 하나의 초인공지능이 탄생하기만 하면 지구 역사상 가장 강력한 존재가 될 것이며 인류를 포함한 모든 생물들은 모두 그 파워에 거역할 수 없을 것이다. — 그리고 이 모든 것이 미래 수십년 내에 발생할 수 있다는 것이다.

생각해보라, 우리의 뇌가 WIFI 를 발명해낼 수 있다면 우리보다 100배, 1000배, 심지어  10억배 총명한 뇌는 세상의 모든 원자들의 위치를 맘대로 조종할 수 있을지도 모른다. 우리에게 있어서 불가능하여 전지전능의 하느님만이 가질 수 있는 능력이 그 초인공지능한테는 전등 스위치를 누르는 것만큼 간단한 일일 수도 있다. 인간의 노화를 해결하고 각종 불치병을 치료해주며 전세계적으로 기아와 빈곤을 해결해줄 수 있다. 심지어 인류가 영생하게 하거나 기후를 컨트롤해 지구의 미래를 보호해준다거나, 이 모든 것이 가능해질 수도 있다. 그만큼 가능한 것은 지구상의 모든 생명의 종말일 수도 있다.

하나의 초인공지능이 출생한다는 것은 우리에게 있어서 전능의 신이 지구에 강림하는 것과 다름 없다.

이럴때 우리가 관심하게 되는 것은:

---

이상 이 글의 1편은 끝입니다. 물 한모금 마시고 다시 2편으로 떠나볼까요? 혹은 팝콘과 콜라를 준비하시는 것도 좋을 것 같습니다.

BGM 은 베토벤의 <운명> 교향악으로 추천드립니다:

[나는호두까기]

우와... 연어 하다가 왔는데 이 엄청난 글이야.. 지금 인공지능 뿐만 아니라 이과에 대한 관심도 가 높은데 이거 다시 막이슈에 올리면 폭발적인 반응 일으킬거같아. 고마워 좋은 글 줘서