[도서정보] 인공지능의 시대, 인생의 의미 / 리하르트 다비트 프레히트 / 열린책들

[좋은소식]

📜 목차

들어가는 글

01 두 개의 선(線)
02 인공 지능의 타자로서 인간
03 일단 디지털화부터, 의심은 그다음에?
04 인간에서 초인(超人)으로
05 잘못 측정된 인간
06 미리 정해져 있는 것은 없다
07 나쁜 기계
08 삶과 문제 해결
09 기계와 도덕
10 차가운 심장
11 죽음의 알고리즘
12 스마트한 매트릭스
13 우주에서

주
옮긴이의 글
찾아보기


��‍🏫 저자 소개

리하르트 다비트 프레히트
현대 독일 철학의 아이콘으로 불리는 철학자. 1964년 독일에서 태어나 인습에 얽매이지 않는 중산층 가정에서 유년을 보냈다. 졸링겐 지역의 유서 깊은 김나지움인 슈베르트슈트라세에서 대학 입학 자격 시험을 통과한 후 교구 직원으로 대체 복무했다. 이후 쾰른 대학교에서 철학, 독일 문화, 예술사를 공부했다. 1994년 독일 문화 연구로 박사 학위를 취득한 후, 1991년부터 1995년까지 인지 과학 연구 프로젝트 조교로 일했다. 현재 뤼네부르크 대학교, 베를린 한스 아이슬러 음악 대학에서 철학 및 미학과 초빙 교수로 재직 중이며 독일어권의 가장 개성 넘치는 지성인들 중 한 명으로 평가받고 있다.
2007년 발표한 『나는 누구인가』가 100만 부 판매, 32개 언어로 번역 출간되며 세계적 베스트셀러 작가로 자리 잡았다. <철학하는 철학사> 시리즈는 35만 부, 『사냥꾼, 목동, 비평가』 23만 부, 『의무란 무엇인가』 14만 부 등 프레히트의 책은 현재까지 총 300만 부 이상 팔렸다. 그는 2012년부터 독일 공영 방송 ZDF에서 자신의 이름을 딴 철학 방송 「프레히트」를 진행하면서 철학적 주제를 바탕으로 한 대중서 집필에 열중하고 있다.


📖 책 속으로

이 책은 인공 지능이 우리의 자아상을 어떻게 바꾸고, 우리의 자기실현에 장차 어떤 영향을 끼칠지 묻는 철학자의 에세이다.
---「첫 문장」중에서

코로나 바이러스를 통해 테크노토피아의 단잠에서 깨어나면서, 희망은 무작정 위로 치닫는 발전에 있는 것이 아니라 어쩌면 그 상승을 막는 것에 있을지도 모른다는 것을 깨달았다. 팽창은 그 자체로 결코 가치가 아니다. 감속만이 안전감을 높일 수 있다. 인공 지능은 우리에게 무엇을 해야 하는지 가르쳐 주지 않고, 디지털 기기는 삶의 실존적 위험으로부터 우리를 지켜 주지 못한다.
--- p.11

눈덩이처럼 커지는 기후 위기와 가속화되는 생태적 재앙의 시대에 많은 징후가 바뀌었다. 우리는 더는 과거에 그랬던 것처럼 미래를 말하지 못한다. 테크놀로지의 역할에 대해서도 마찬가지다. 과학 기술의 역사는 우리 인간을 배려하지 않는 자연에 맞서 싸운 호모 사피엔스의 성공사였다. 이제 우리 인간이 자연을 배려해야 할 상황이 된 것은 매우 현대적인 경험이다.
--- p.16

보스트롬은 〈지능 폭발이 전 세계를 화염에 휩싸이게 할 거〉라고 염려한다. 하지만 실제로 그런 일이 일어나는 것에 굳이 인간에게 반기를 드는 나쁜 인공 지능까지 끌어들일 필요는 없어 보인다. 향후 몇십 년 안에 인류를 몰락의 위험에 빠뜨릴 요소는 탈선한 나쁜 컴퓨터 말고도 많다.
--- p.25

〈인공 지능은 《생각》이 필요한 영역에서는 이미 인간을 훌쩍 뛰어넘었지만, 인간이나 동물이 《아무 생각 없이》 하는 일에서는 아직 한참 멀었다. 사실 그게 한층 더 어려운 일이다.〉
--- p.31

인간 지능 속에는 감정과 직관, 자발성, 연상이 스며들어 있다. 〈건강한 인간 오성Common Sense〉은 합리성과 동의어가 아니다. 여기선 공감 능력도 합리성만큼이나 중요하다. 인간은 인공 지능 연구자들이 생각하는 것보다 훨씬 덜 논리적으로 사고한다. 아니, 논리적일 때가 드물다. 인간성을 이루는 것은 결코 논리적 사고가 아니다.
--- p.32

오늘날 점점 성능이 좋은 인공 지능을 대량으로 투입시키려는 동력을 이해하려면, 자본주의의 발전 과정을 돌아보아야 한다.
--- p.50

디지털화를 다룬 대부분의 책에서는 자본주의와 자본주의적 규제가 거의 언급되지 않는다. 디지털화가 마치 자연 현상인 것처럼 인간의 성취를 서술할 따름이다. 그러나 인공 지능의 발전을 이끄는 것은 앎에 대한 동경도 아니고 자연법칙도 아닌, 경제적 과정이다. 즉 인공 지능을 활용해 세계와 인간 속으로 깊이 침투하려는 목적은 인간의 삶을 개선하는 것이 아니라 이윤을 증대하는 것이다.
--- p.57

종교 재판소, 스탈린주의, 기관총은 개발될 당시에는 의심의 여지없이 지극히 혁신적이었다. 그렇다고 그게 진보일까? 무언가를 진보라고 평가하는 것은 말 그대로 하나의 평가일 뿐이다. 파시즘과 스탈린주의는 스스로를 명명백백하게 진보적인 것으로 보았다. 그것도 천년 동안 지속될 인류의 미래 또는 역사의 종착점으로서 말이다. 하지만 오늘날 대부분의 사람은 다르게 본다. 당시에 아무리 새로웠다고 해도 휴머니즘의 파괴는 결코 진보가 아니라는 것이다.
--- p.58

오늘날 우리가 알고 있는 인간은 해결이나 구원이 필요한 문제 덩어리가 아니다. 만일 그런 인간을 획기적으로 바꾼다면 얻는 것보다 잃는 것이 훨씬 많다. 왜냐하면 그것을 시도하는 트랜스휴머니즘적 또는 포스트휴머니즘적 혁명은 인간의 본질을 이루는 요소, 즉 인간성을 감소시킬 게 분명하기 때문이다. 완전화와 냉정한 합리성, 그리고 막대한 정보의 신속한 처리는 정말 놀라운 일이기는 하지만, 그것이 인간을 원칙적으로 행복하게 해주고 인생에 의미를 부여할지는 아무리 신중하게 생각해도 개연성이 없어 보인다.
--- p.85

인간은 진화하기 위해 아무 의지 없이 끌려가는 존재가 아니다. 일반적으로 인간에게 중요한 것은 〈최적화〉가 아니라 만족한 삶이다. 합리성, 효율성, 진보는 생물학적 자연법칙이 아니고, 〈그 자체로 가치〉가 있는 것이 아니다. 이것들은 인간 존엄성, 정의, 자유 같은 가치와 비교하면 당연히 하위에 그칠 수밖에 없다.
--- p.126

지능은 권력 장악의 욕망을 일으키는 촉발제가 아니다. 지능을 이용해 이 목표에 도달하려면 먼저 그렇게 하겠다는 욕망이 있어야 한다. 만에 하나 초지능이 무언가를 욕망한다고 하더라도, 그게 무엇인지는 인간의 머리로는 도무지 상상이 안 간다. 우리에게는 너무 낯설 것이 분명하기 때문이다. 초지능이 미세하게나마 인간적 특성을 보인다고 해서 권력을 욕망의 목표로 삼아야 할까?
--- p.141

기계가 문제를 해결하는 방식은 일반적이다. 즉 투명하고 전이가 가능하다. 반면에 기계의 지능은 특수하다. 다시 말해 정선된 목표 기능으로 제한된다. 인간은 정반대다. 인간의 문제 해결 패턴과 전략은 무척 개인적이다. 즉 모든 뇌는 각각 다르게 생각한다. 한편 인간의 지능은 보편적이다. 굉장히 유연하고 모든 가능한 영역에 적용 가능하다. 인생은 디지털이 아니고, 흑백이 아니고, 1과 0으로 이루어진 것도 아니다.
--- p.157~158

도덕에서 본질적으로 자율성이 중요하다는 사실은 잘 알려져 있다. 자유롭고 독자적으로 행동할 수 없는 사람은 도덕적 결정도 내릴 수 없다. 위원회의 철학자들은 〈인공 지능 시스템이 윤리적으로 행동하기 위해 칸트적 의미에서〉 얼마만큼의 〈자율성을 가질〉 수 있는지에 대해 고민하는 모양이다. 솔직히 답하면 그건 당연히 불가능하다. 인간과는 달리 명확한 목표에 따라 프로그램화된 존재는 결코 자율성을 가질 수 없다. 컴퓨터 프로그램은 자율적으로 움직이는 것이 아니라 프로그래밍에 종속되는 게 본질이다.
--- p.178

자동차에 윤리적 프로그래밍이 이루어져야만 완전 자율 주행이 가능하다는 생각도 순진하기 그지없다. 꼭 그래야 할 이유가 없다. 만일 브레이크를 밟을 수 없을 만큼 순식간에 사람이 차도에 나타나는 끔찍한 상황이 발생하면 운전자는 어떻게 할까? 순간적으로 도덕적 결정을 내릴까? 그럴 리 없다. 대신 반사적으로 행동할 가능성이 높다.
--- p.209

한편으로 인공 지능은 일하는 사람을 〈프로세스의 노예〉로 만들 잠재력이 있지만, 다른 한편으론 그다지 의미 없는 노동에서 인간을 해방시킬 막대한 자유의 잠재력도 있다. AI의 투입이 빈부 격차를 가속화하고 수백만 명의 낙오자를 양산할지, 아니면 다른 사회 보장 제도와 다양한 사회적 인정 시스템을 갖춘 완전히 새로운 활동 사회를 만들어 낼지는 프로그래머가 아닌 정치인의 손에 달려 있다.
--- p.258


🖋 출판사 서평

인공 지능과 인간에 대한 철학적 탐구

인공 지능은 이미 일상생활 깊숙이, 그리고 널리 관여되어 있다. 인공 지능의 시대를 바라보는 시각은 다양하다. 레이 커즈와일, 스티브 워즈니악, 닉 보스트롬, 일론 머스크 등 테크놀로지 유토피아주의자들은 인공 지능 기술의 무한한 발전을 예찬할 뿐만 아니라, 똑똑한 인공 지능이 결함 많은 인간을 지배하게 되는 미래에 우려를 내비친다. 과연 인공 지능은 얼마만큼 진보적이고 혁신적인 미래를 선사할까? 정말 인간은 가파르게 진행되고 있는 기술의 발전을 두려워하며, 인공 지능이 인간을 뛰어넘는 〈특이점〉을 대비해야 할까?

현대 독일 철학의 아이콘으로 불리는 이 책의 저자 리하르트 다비트 프레히트는 가장 시의성 있는 주제와 문제를 논하는 대중적 철학가이다. 프레히트가 이번에는 점점 고도화되는 〈인공 지능의 시대〉를 살아가는 우리에게 〈인간 실존〉과 〈인생의 의미〉를 묻는다. 그는 인공 지능의 발전을 이끄는 것은 앎에 대한 동경도 아니고 자연법칙도 아닌, 자본주의적 계산이라고 지적한다. 즉 특정 집단이 인공 지능의 도움으로 세계와 인간 속으로 깊이 침투하려는 목적은 인간의 삶 전반을 개선하기보다는 이윤을 증대하는 데 있다는 것이다. 그 과정에는 경제적 이익을 얻기 위한 이기적인 의도와 속임수가 필연적으로 깃들어 있을 수밖에 없다. 더불어 그들이 말하는 트랜스휴머니즘과 포스트휴머니즘은 인간 존엄성과 개성, 사회학 등 삶의 토대를 이루는 중요한 가치들을 전혀 통찰하지 못하고, 오직 〈진보〉에만 매달린 허황된 신념일 뿐이라고 비판한다.

일반적으로 인간에게 중요한 것은 최적화가 아닌 만족감이다. 그렇기에 인생의 목적은 〈완성〉이 아니며, 인간은 〈완벽〉을 추구해야 하는 존재도 아니다. 이는 정답을 찾으려는 인공 지능이 의미를 좇는 인간을 결코 초월할 수 없는 이유이기도 하다. 인공 지능은 분명 어떤 능력 면에서 인간을 훨씬 앞질렀다. 오차 없이 정확하고 명료한 결과를 도출할 수 있는 영역에 해당하는 것만 그러하다. 하지만 우리 모두가 알다시피 인간과 인생은 너무나도 복잡하다. 인공 지능이 접근하거나 해석하는 것이 아예 불가능할 정도로 말이다. 그러므로 우리는 맹목적으로 테크놀로지의 발전을 기대하는 대신, 왜, 무엇을 위해 테크놀로지의 발전을 원하는지 생각해 볼 필요가 있다.

명료한 인공 지능과 복잡한 인간

인류는 계속 진화되어 왔다. 이 인류의 진보사를 단순히 테크놀로지의 발달사로 환원할 수는 없다. 하지만 몇몇 사람들은 인류의 발전에 기술 혁명이 가장 지대한 영향을 끼쳤다고 맹신하며, 인공 지능 기술의 발전과 인류의 발전을 동일시하는 오류를 범한다. 이에 그치지 않고, 인공 지능과 인간을 동일 선상에 두기도 한다. 예를 들어 보자. 인공 지능이 왜 악의를 가지고 인간을 지배할지도 모른다며 걱정할까? 초지능을 이용해 목표에 도달하려면 우선 욕망이 존재해야 하는데, 인공 지능은 아무것도 욕망하지 않는다.

그저 입력된 프로그램에 따라 수동적인 수행만 할 수 있을 뿐이다. 설사 무언가를 욕망한다고 하더라도, 꼭 그 대상이 인간처럼 권력일 것이라는 상상은 과도하게 허무맹랑해 보인다. 반대의 경우도 마찬가지다. 인간은 왜 인공 지능보다 문제 해결에 취약하다며 평가 절하할까? 사실상 인간은 문제를 해결하기 위해 살아가는 존재가 아닌데도 굳이 비교를 해가면서 말이다. 근래에는 인공 지능에 〈윤리적 프로그래밍〉을 해야 한다는 목소리가 커지고 있다. 인간에게 위험하지 않고 유익한 쪽으로 작동할 수 있도록 도덕적 판단 기준을 정해, 인공 지능에 입력하자는 것이다. 이는 인공 지능에 인간성을 부여하려는 시도로도 볼 수 있다. 하지만 이는 지극히 까다로운 문제다. 인간의 도덕적 행동에 결정적인 역할을 하는 요소가 다양한 가치관, 저마다의 우선순위, 상황에 따라 달라지는 맥락적 이해 등이라는 점을 떠올려 보면 그것이 얼마나 위험한 일인지 더욱 분명해진다. 그러므로 오늘날에는 윤리적 프로그래밍을 금지하는 구속력 있는 협정이 더욱 간절하다.

『인공 지능의 시대, 인생의 의미』를 통해서 인간은 기계처럼 합리적인 존재가 될 수 없으며, 그럴 필요도 없다는 사실을 알게 될 것이다. 더불어 그 기계적 합리성이 할 수 없는 일이 무엇인지도 똑똑히 깨닫게 될 것이다. 테크놀로지는 분명 우리 삶을 보다 편하게 만들어 주는 측면이 있다. 하지만 삶을 보다 풍요롭게 가꿔 줄 수는 없다. 우리는 더 늦기 전에, 기계에 무엇을 허용하고 무엇을 허용하지 말아야 할지 숙고해야 한다.