김재인, 인공지능, 인공지능의 시대 인간을 다시 묻다, 인공지능의 철학적 담론

[방랑객]

김재인의 <인공지능의 시대, 인간을 다시 묻다>

1. 인공지능과 인간지능의 철학적 조망

이 책은 기계의 발달이 아니라 인공지능과 인간지능을 철학적으로 고찰하고 있다.  이에 대해 저자는 다음과 같이 말하고 있다. ​“철학의 문제를 다루고 있고, 철학은 원리의 문제를 주로 다루기 때문에 그런 속도에 얽매일 필요가 없다” 즉, 인공지능과 인간지능은 철학을 통해 거시적 조망을 할 수 있는 것이다.

2. 기계가 생각할 수 있을까?

이 책은 튜링이 던진 질문을 살피는 것으로부터 시작한다. 논의는 “기계가 생각할 수 있을까?” 하는 질문을 핵심으로 한다. 컴퓨터에 관한한 튜링은 시대를 앞서 간 인물이다.

그는 컴퓨터를 처음 개념적으로 발명하였으며, 1950년의 논문에서 처음으로 인공지능에 대한 개념적 제안을 하였다. 거기에서 기계는 디지털 컴퓨터(오늘날의 컴퓨터)를 가리켰다.

그는 ‘생각하다’를 우회적인 방식으로 접근하고 있다. 즉, ‘의미를 이해하고 있는지’ 또는 ‘의식이 있는지’를 검사하는 방법이다. 그 것이 바로 튜링 검사다.

‘흉내 게임을 만족스럽게 잘해내서 인간 심문자가 보기에 어떤 에이전트가 인간인지 아닌지 30% 이상 헛갈리게 하는 프로그램이 만들어지면, 그 프로그램은 생각한다고 보자’

3. 나의 궁금증

최근의 챗GPT는 그 조건을 충족하지 않았을까 싶기도 하다. 챗GPT는 우리가 요구하는 그림도 그리고,

법원의 판결문은 물론, 목사의 설교문을 비롯해서, 신문기자를 대신해서 기사까지 멋지게 써내고 있지 않은가.

“인간지능이란 무엇인가?”

인공지능은 기계로 지능을 구현하는 것을 말한다. 그렇기 때문에 당연히 인공지능 연구는 인간지능 연구와 밀접히 관련된다. 그런데 우리는 정작 인간지능이 무엇인지 아직 잘 모른다. 저자는 잘 모르는 것을 어떻게 구현할 수 있을까라는 의문을 제기한다.

저자는 컴퓨터가 바둑에서 인간을 이겼다는 사실은 놀랄 일이 아니라고 한다. 본래 인간은 계산을 잘 못한다. 그런데 컴퓨터는 ‘계산기’이고, 계산 기능은 발전을 거듭해왔다. 컴퓨터가 잘 하는 분야는 당연히 컴퓨터가 인간보다 ‘원리상’ 잘 할 수밖에 없다.

알파고 이후, 

인공지능이 의료 정보를 학습한 후 임상에서 진단과 처방을 내렸으며, 상당히 높은 정확도로 언어 간 번역을 해냈으며, 포커 게임에서 인공지능이 인간 챔피언에게 이겼다. 그리고 그후 챗GPT라는 경천동지할 인공지능까지 탄생했다.

4. 여기서 저자는 다시 의문을 제기한다. 

이러한 사례들에 활용된 기계학습이 계산의 영역에 속하는가?

계산의 영역에 속하는 것이라면,  인공지능이 인간을 능가하리라는 건 너무도 당연하다.

컴퓨터는 계산을 잘 하도록 만들어진 특화된 기계이기 때문이다.

그런데 계산과 상관없는 사안이라면 문제는 달라진다는 것이다.

이는 자연과 사회의 모든 현상은 다 계산 가능한가라는 물음으로 환원된다. 이 우주는 인간이 아직 다 계산해내지 못했지만 본래는 계산 가능한 것인가? 그리고 인공지능이 풀 수 있는 그런 성질을 지녔을까? 하는 물음에 답해야 한다.

"인간의 마음이란 무엇일까?"

인간지능의 다른 부분 마음의 문제도 제기할 수 있다. 마음은 객관화되지 않는다. 지금 내 옆에 있는 사람이 로봇인지 인간인지 알 수 있는 방법이 있을까?

마음을 갖고 있어야 인간일 텐데, 마음이 있는지 없는지는 객관적으로 검증이 안 된다.

객관적으로 입증할 수 없다는 것과 아예 존재하지 않는다는 것은 별개의 문제다. 없다는 건 본래 증명이 어렵다. 현실적으로 증명이 불가능하다. 그러나 바로 옆 사람이 마음이 있는지는 확인 불가다.

그런데도,

인간은 인간지능을 기계적으로 구현하겠다고 인공지능을 연구하고 있다. 물론 인공지능이 인간지능과 똑같은 본성을 지닐 필요는 없다. 인간중심주의에 갇힐 필요는 없다는 말이다. 인공지능이 탁월한 계산기여도 상관이 없기 때문이다.

미래에는...

어떻든 앞으로 우리는 이런 뛰어난 인공지능과 함께 살아갈 것이다. 그 속에서 잘 살 수 있는 방법이 무엇일까?

이런 문제를 깊이 생각해보고 길을 찾아보는 것이 지금 우리들의 숙제일 것이다. 새로운 시대에 인간만이 할 수 있는 일, 또는 인간이 더 잘 할 수 있는 일을 고민해 봐야 한다.

최근 인공지능과 관련한 모든 분야에서 유례없는 발전이 일어나고 있다. 많은 사람들이 예측하기 힘든 미래에 대해 불안을 느낀다. 인공지능의 군림을 우려하는 목소리도 들린다.

5. “인공지능에 대한 불안한 의문”

작동 규칙을 스스로 바꿈으로써 논리적 역설을 극복하는 일이 프로그램에게 가능할까?

또는 시간이 흐름에 따라 새로운 작동 규칙을 생성하는 일이 프로그램에게 가능할까?

다시 말해 알고리즘은 시간을 품을 수 있을까?

그러나 분명한 것은,

컴퓨터는 난수를 스스로 생성하지 못한다는 사실이다. 알고리즘은 그 안에 버그가 존재하면 작동하지 않는다.

반면 생물은 버그나 고장에도 불구하고, 아니 어쩌면 그런 것들을 통해 작동한다. 진화를 이를 확인시켜 준다.

그렇다면, “초인공지능의 출현은 가능할까?”

이와 관련하여 도밍고스는 다음과 같이 말하고 있다.

“인간 대 기계의 대결이 아니다. 기계를 가진 인간 대 기계가 없는 인간의 대결이다. 데이터와 직관력은 말과 기수와 같다. 강신은 말을 앞지르려 노려할 필요 없다. 당신은 말을 탄다.”

결국,

“초인공지능은 불가능하다”는 것이다.

앞에서 살핀 대로,  인공지능은 인간지능을 대신하거나 그 이상으로 발전할 가능성이 없다는 말이다.

특히 인간의 마음은 더욱 인공지능이 넘볼 수 없는 영역이다.

이는 저자가 이 책을 통해 드러내고자 하는 말이기도 하다.

저자는 인공지능과 관련한 명사들-스티븐 호킹, 빌 게이츠, 엘론 머스크 등-의 묵시록적 전망은 과장된 것이라는 것이다.

-그들은 모두 인공지능 구현을 위해 노력하는 현장의 전문가가 아니라는 것이다.

자료 : https://search2.kakaocdn.net/argon/656x0_80_wr/Dql1KxE4VcV

6. 무엇을 배워야 할까?

인공지능의 발전은 점점 더 인간의 일을 잠식해 올 것이 분명하다. 그렇다면 이런 상황에 어떻게 대처해야할까?

-인공지능이 할 수 없는 일을 하면 된다. 이것이 제1원리다. 

창조적인 일은 인공지능의 몫이 아니다.

-문제를 제기하는 일, 목표를 세우는 일 등

“모든 혁신적이고 창조적인 시스템은 발산적이다. 역으로 예측 가능한 사건들의 연쇄는 그 자체로 수렴적이다.”

즉, 수렴적이 아니라 발산적이 되면 창조성이 발현될 여지가 생긴다는 말이다.

그러나,

-지금가지 받아온 교육들은 대부분 우리를 수렴적이게 만드는 경향이 있었다.

-암기하는 데 그치는 교육이었던 것이다.

“창조적 활동의 공통점은?”

남들이 안 간 길을 간다는 것이다.

예술가의 삶을 그 전형으로 삼을 수 있을 것이다.

예술가는 남들이 만들어낸 것들뿐 아니라 이전에 자기 것도 넘어서려 한다.

-요즈음 k-컬처도 그런 관점에서 살펴볼 수 있을 것이다.