김재인, AI 빅뱅, 인공지능 시대, 창조성, 알고리즘 버그, 인공지능의 한계

[방랑객]

"김재인, AI 빅뱅"

가. 책의 구성

이 책은 크게 1부, 2부, 부록 등 세 부분으로 구성된다.

1부는 생성 인공지능의 현황과 원리 차원의 한계를 다룬다. 아무리 어려운 기술이라 해도  ‘원리’ 수준에서 접근하지 않으면 한계를 짐작하기 어렵다.

1장과 2장은 각각 그림 생성과 언어 생성의 문제를 살피고, 3장은 생성 인공지능의 특징과 한계를 논한다.

특히 언어 생성 인공지능이 활성화한 문제들, 가령 이해, 생각, 요약, 번역, 의식, 창조 같은 민감한 주제에 있어

인간과 기계의 차이를 드러낼 것이다.

2부는 창의력과 창작, 학문과 교육의 본질과 미래를 궁리한다. 인공지능의 등장은 인간을 다시 묻게 했고, 이제 생성 인공지능은 인간의 가장 본질적인 특징과 능력을 돌아보게 하고 있다.

4장은 창조성과 창의성의 본질을 ‘협력’의 관점에서 살피고, 이 능력을 기를 방안을 제안한다.

5장과 6장에서는 인간의 본질을 협업자로 보면서, 이를 강화하기 위한 새로운 인문학과 그에 어울리는 새 교육과정을 제안한다.

각장의 끝에는 ‘Q&Af 짚어보기’라는 꼭지를 두고 있다. 그 동안 강의와 인터뷰에서 제기되었던 물음 중 대표적인 것을 꼽아 답하는 형식으로 정리한 것으로 이 방면에 관심이 있는 독자에게는 상당한 도움이 된다. 저자는 이곳을 먼저 읽어보는 것도 좋을 것이라고 조언한다.

나. 창작과 생성 인공지능

“창작과 관련한 가능한 질문들”

-창작의 진짜 의미는 무엇일까?

-생성 인공지능이 과연 창작하는 걸까?

-생성 인공지능 시대에 전문가의 위상은 어떻게 될까?

-전문가가 할 일은 무엇일까?

인공지능이 이미지나 영상을 그럴듯하게 생성한다. 언어로 명령을 주면 이를 그림으로 표현하여 출력해준다.  분명히 인공지능이 그 작업을 한 것이다.  하지만 예술작품 창작 작업에서 가장 결정적인 존재는 작품을 만들어낸 작가다.

작품을 경험하는 감상자나 거래가 이루어지는 시장이나  작품의 의미를 설명하는 평론가와는 다른, 작가만의 독특함은 무엇일까? 작품을 창작할 때 가장 중요한 건 자기 작품을 평가해서 남에게 제시하는 순간이다. 이것이 결정적인 차이다.

예술작품 창작을 비롯한 창작의 진정한 의미는 평가에 있다. 이는 언어 생성 인공지능에도 적용된다. 인공지능은 자기가 무슨 일을 하는지, 한 일이 좋은지 나쁜지 아름다운지 평가하는 치명적 약점을 내재하고 있다.

윤리, 법, 예술, 사상 등 지금까지 존재했던 것을 넘어서는 새로운 가치의 창조, 즉 가치 평가 활동이 인간의 핵심 능력으로 남을 것이다. 그런가 하면 인간은  끊임없이 새로 탐구할만한 가치가 있는 영역을 과거 유산을 바탕으로 새롭게 탐구하려고 시도한다.

그리고 그로부터 뭔가를 끌어내는 사람도 있다. 이들은 기존 지식의 평균치를 넘어서는 사람이라고 할 수 있다. 다시 말해 새롭게 정립될 학습 자료의 채굴자 같은 역할이 우리에게 필요하다.  이러한 능력은 인공지능이 흉내 낼 수 없는 인간의 고유한 능력이다.

다. 생성 인공지능을 항한 물음

인공지능을 인간과 비교하는 것 중의 하나가 창조성과 관련한 것이다. 그래서 저자는 인공지능에 대해 다음과 같은 의문을 제기한다. 그리고 이러한 물음은 인간과 인공지능을 본성과 능력 차원에서 구별한 중요한 기준이라고 본다.

-‘인공지능은 발표문을 만들 수 있을까?

-논문을 쓸 수 있을까?

-영화를 편집할 수 있을까?

-거짓말을 할 수 있을까?

-농담을 할 수 있을까?

-컴퓨터가 생성한 그림은 누구의 창작품일까?

-그림을 만든 행위는 창작 행위일까?

-컴퓨터는 붓이나 물감 같은 도구에 불과할까?

-오직 인간만이 창의적일까?

페이스북 인공지능 연구소의 학자들은 알고리즘 AICAN으로 예술작품을 창작했다고  주장했지만 저자는 이를 반박한다. 저자가 직접 서해안의 한 바닷가 사진을 찍고 이를 고흐의 ’별이 빛나는 밤‘ 스타일로 이미지를 생성해 보였다. 그것은 분명 모작이거나 짝퉁이었다.

“이른바 인공지능의 예술창작은 기계학습, 특히 지도학습에 바탕을 두고 있다. 인간에 의해 설정된 알고리즘에 따라 작동하면서 기존의 데이터에서 어떤 유사성이나 패턴을 발견해서, 그걸 토대로 작품을 만들기 때문이다.”

결국 작품의 주도권은 작가에게 있다고 볼 수 있다. 또한 작가는 똑같은 작품을 다시 그릴 수 있지만 인공지능은 똑같은 질문을 입력해도 절대로 이전과 똑같은 그림을 그릴 수 없다. 이는 무의식적인 행동일 뿐이다. 창조성은 의식적인 행위임이 분명하다.

결국 다소 역설적이기는 하나 인공지능이 그린 작품은 예술일 수 있다고 해도 인공지능은 예술가가 될 수 없다. 결국 인공지능으로 인해 예술이 위협받는 일은 벌어지지 않을 것이다.

라. 알고리즘과 인간의 버그 대처 방식

순수 논리로 구성된 알고리즘은 모든 경우의 수와 모든 작동 경로를 인간이 미리 짜놓았다. 예외는 일어날 수 없고, 혹시라도 외부에서 예외가 개입하면 그 즉시 고장이 난다. 기계학습을 통해 만들어진 알고리즘도 마찬가지다.

알고리즘은 그 안에 버그가 존재하면 작동하지 않는다. 반면 생물은 버그나 고장에도 불구하고, 아니 어쩌면 그런 것들을 통해 작동한다. 진화는 이를 확인시켜 준다.  진화는 생물의 기존 데이터베이스에 손상이 생기고 큰 변형이 일어나는 걸 전제로 한다.

생물에게는 일종의 고장이지만 동시에 이런 고장은 진화를 추동하는 힘이 된다. 그러나 알고리즘은 고장이 나면 작동을 멈춘다. 그렇다면 버그나 고장을 스스로 고쳐가면서 유지될 수 있는 프로그램이 논리적, 수학적으로 성립할 수 있을까?

저자는 그런 일은 있을 수 없다고 단언한다. 고장이 나면 인간의 손이 개입하지 않을 수가 없다는 것이다. 진화에서는 ’강한 자가 살아남는 것‘이 아니라  ’살아남는 것이 강자‘라는 지혜의 터득이 중요해진다.

최강이 되기 위해 애쓰는 것보다 변화무쌍한 환경에 적응할 수 있는 다양성을 최대화하는 것이 진화에서 더 유리하기 때문이다. 지능은 그런 진화 전략의 연장선에서 생성되었다. 그래서 인공지능과 차별되는 마음의 능력이란

곧 자기 자신에 대한 내적 성찰 능력이라고도 할 수 있다.

https://search4.kakaocdn.net/argon/656x0_80_wr/8p1Y14QgD7U

“인간은 고민을 한다. 고민은 문제를 포착했다는 의미다. 고민이 시작이라면 다음 단계는 궁리다. 궁리란 해결책을 찾으려는 갖가지 노력과 시도다. 인공지능은 궁리하지 못한다. 주어진 명령을 따라갈 뿐이다.”

마. 인공지능의 한계

평가자로서의 작가의 역할이 중요하다. 인공지능이 만들어내는 고품질의 이미지나 동영상은 훌륭한 창작 보조도구일 뿐이다. 인공지능이 작품을 생성할 때 프로그래머의 미세 조정과는 별개로 작품은 순전히 우연히 그리고 무작위로 생산된다.

“인간은 왜 예술이 필요할까? 왜 예술 창작을 시작했을까? 예술이 없다면 인간이 결코 경험할 수 있는 그 무엇을 느낄 수 있기 때문이다. 그 무엇은 죽음과 유한성에 닿아있다. 인간은 미리 죽음을 느낄 줄 아는 존재이다... 삶은 죽음의 연습이고 죽음과의 중첩이다.”

“죽음이라는 극한을 직시하면서, 어떻게 살아야 하고 타인과 우주와 어떻게 관계해야 하고 어떻게 살려야 하고 무엇을 남길 수 있는지 인간은 고민한다. 문학과 예술은 그 고민에서 나온다.”

인간은 세상과 대상에 자신을 투영해서 이간을 읽어낸다. 세상과 대상에 없는 그 무엇을 인간이 부여하고 창출한다. 이처럼 저자가 보는 인공지능과 예술 창작과 관련한 저자의 입장은 단호하다.

https://search4.kakaocdn.net/argon/656x0_80_wr/CZD6UyeLHQC

“보석이 보석일 수 있는 건 인간이 거기에 가치를 주었기 때문이다. 본래적 가치란 없다. 가치를 평가하고 표현하는 일이 예술과 문학의 원천에 있다면, 통계 처리를 통해 창작을 도와주는 인공지능은 아주 세련되고 훌륭한 도구 그 이상이 될 수 없다.”

저자의 결론은 분명하다. 인공지능이 빅뱅이라 할 만큼 질적 발전을 하더라도 결코 인간의 창조성에는 이르지 못할 것이라는 말이다.  인공지능의 현재까지의 발전 수준은 과거 데이터를 활용한 새로운 조합 수준이다. 결국 인공지능이 우리에게 준 충격은 말 그대로 빅뱅이라 할 만 하지만 그것은 과대포장된 것이다.

냉철하게 따져보면 인공지능은 인간을 보조하는 기계일 뿐이다. 그 기계를 잘 활용하는 것은 분명 우리 인간의 일이다.