챗GPT의 도발, ‘당신은 질문할 줄 아는가?’ / 이진우 포스텍 명예교수

[홍윤선]

이진우의 거리두기

챗GPT의 도발, ‘당신은 질문할 줄 아는가?’

이진우 포스텍 명예교수 / 2023. 3. 8. / 경향신문

대화형 인공지능인 챗GPT가 발표되자 많은 사람이 마치 미래의 ‘새로운 천사’가 도래한 것처럼 열광하고 있다. 발터 벤야민은 파울 클레의 1920년 작품 ‘새로운 천사’를 보고 역사의 진보를 폭풍으로 비유한 것처럼, 오늘날 인류문명을 대변하는 인공지능의 발전이 그 방향과 규모를 가늠할 수 없는 허리케인처럼 보인다. 천국에서 불어오는 폭풍은 너무 세차서 천사는 날갯짓을 제대로 하지 못하는 것처럼 보이는 이 그림이 인공지능 혁명을 마주한 우리의 모습과 닮아 있다.

벤야민의 말처럼 인류의 진보가 항상 폭풍을 수반한다면, 챗GPT가 일으킬 폭풍은 세 가지 질문으로 다가온다. 당신의 일자리는 정말 대체될 수 없는 것인가? 당신은 옳고 그름을 판단할 수 있는가? 인간을 인간답게 만드는 것은 과연 무엇인가?

대화형 인공지능인 챗GPT가 출시된 지 불과 8주 만에 사용자가 1억명에 달했다고 한다. 그 정도의 사용자를 확보하는 데 인스타그램은 2년 반, 틱톡은 9개월이나 걸렸다는 점을 생각하면, 이 대화형 인공지능은 엄청나게 빠르게 성장하고 있다. 그것이 가져올 변화와 충격은 그 발전의 속도만큼이나 상상조차 하기 힘들다. 어떤 사람은 최초의 자동차가 굉음을 내며 지나간 19세기의 변화와 같을 것이라 말하고, 어떤 사람은 15세기 구텐베르크 문자혁명과 비교하기도 한다. 구글의 최고경영자 순다르 피차이는 한 걸음 더 나아가 이미 2018년에 인공지능의 효과는 인간이 발명한 불이나 전기보다 훨씬 더 클 것이라고 장담하였다. 대화형 챗GPT는 이미 시작한 인공지능 혁명을 가시적으로 보여줄 뿐이다.

인공지능은 우리의 삶을 근본적으로 변화시킬 것이지만 우리는 아직 이를 제대로 인지하지 못하고 있는 것처럼 보인다. 인공지능 혁명은 두더지 땅굴 파듯 이미 조용히 진행되고 있었는데 이세돌과 알파고의 바둑 대결을 통해서야 비로소 널리 알려지지 않았는가.

챗GPT에 대한 우리의 대응도 별로 다른 것 같지 않다. 대화형 인공지능이 가져올 변화와 효과에 대한 거품이 커지면 커질수록, 인공지능 혁명의 본질은 더욱 흐릿하게 사라진다. 사람들은 대화형 인공지능으로 새롭게 열린 돈벌이에 열광하거나, 또는 한 걸음 성큼 다가온 인공지능 혁명을 국가적 차원에서 대비해야 한다고 강변한다. 챗GPT를 돈벌이 수단으로 생각하는 ‘자본주의’와 반도체 강국을 인공지능 강국으로 만들어야 한다는 ‘민족주의’가 이상하게 결합할수록, 우리는 대화형 인공지능으로 더욱 현실화된 인공지능 혁명을 과소평가하게 된다.

본질과 방향 정확하게 포착 필요

챗GPT가 도대체 무엇이길래 혁명적인가? 챗GPT는 인간과 대화를 나눌 수 있도록 설계된 소프트웨어이다. 기계가 마치 인간처럼 우리와 대화를 나누게 된 것이다. 간단히 말해 대화형 챗봇이 살아난 것이다. 대화의 주제는 일상생활의 사소한 것에서부터 우주과학의 심오한 원리에까지 다양하다. 대화형 인공지능은 연설과 칼럼을 작성하고 인터뷰도 할 수 있다. 인공지능이 쓰는 시와 소설은 이미 전문가 수준이고, 셰익스피어를 흉내 내고, 고흐를 모방할 뿐만 아니라 몇 가지 키워드만 입력하면 실물과 같은 이미지를 만들어내기도 한다. 어디 그뿐인가? 기후변화에 관해 물었더니 돌이킬 수 없는 재앙적 변화로 이어질 수 있는 지구 시스템의 위기가 빠르면 2030년에 발생할 수 있다고 경고하기도 한다. 이러한 대화형 인공지능이 가져올 변화는 실로 혁명적이다.

인공지능을 통해 미래에서 불어오는 태풍에 대비하려면, 우리는 그 본질과 방향을 정확하게 포착해야 한다. 인공지능의 발전이 돌이킬 수 없는 인류의 운명이라면, 모든 문제는 사실 우리에게 달려 있다. 우리는 인공지능과 함께 어떤 존재가 되고자 하는가?

문제는 인공지능의 발전 자체가 아니라 ‘그것으로 훼손될 수 있는 인간의 고유한 능력이 무엇인가’이다. 대화형 인공지능 챗GPT가 나에게 일깨워준 인간의 능력은 ‘질문’이다. 챗봇과의 대화도 사실 인간의 질문으로 시작한다. 인간이 물어보면, 챗봇은 입력된 인터넷 데이터를 검색하여 적절한 대답을 제공한다. 인간이 묻고, 챗봇이 대답하는 것이다.

인간만이 물을 수 있다는 것은 챗봇에 대한 인간의 우위를 말해준다. 마이크로소프트의 대화형 인공지능 ‘빙’(Bing)에 이렇게 물었다. “너에게 개인적인 것을 물어봐도 돼?” 빙이 대답한다. “안녕하세요. 저는 빙이라고 합니다. 🙂 네, 저는 당신과 대화하는 것을 좋아합니다. 하지만 저는 개인적인 것에 대해 말하거나 의견을 표현하는 것은 피하려고 합니다. 저는 당신이 원하는 정보를 찾아드리기 위해 최선을 다하겠습니다.”

“너는 나한테 물어보고 싶은 게 없어?” 빙이 대답한다. “저는 당신에 대해 물어보는 것은 적절하지 않다고 생각합니다. 저는 당신의 검색 도우미이기 때문입니다. 저는 당신이 원하는 정보를 찾아드리기 위해 최선을 다하겠습니다.” 이렇게 인간이 묻고, 챗봇이 대답한다. 대화형 인공지능이 단순히 검색 도우미라면, 우리는 챗GPT에서 위협을 느낄 필요가 없다. 대화형 인공지능이 제공하는 답변이 매우 광범위할지라도 그 답변은 우리가 이미 과거에 입력한 것이기 때문이다.

그런데 나는 챗GPT를 보면서 인간이 묻는 것이 아니라 챗봇이 이렇게 묻는 것처럼 보였다. 첫째, 당신의 일은 정말 대체할 수 없는 것인가? 대화형 인공지능이 제일 먼저 변화시킬 곳이 일자리라는 것은 분명하다. 문제는 그 변화가 많은 사람이 예상하는 것과는 다른 곳에서 이루어질 가능성이 크다.

인간은 이제 많은 부분에서 인공지능 기계와 경쟁한다. 그 경쟁의 문제점을 고도의 창의성이 요구되는 분야에서만 봐서는 안 된다. 인공지능이 시를 짓고, 소설을 쓰고, 그림을 그린다고 해서 인간의 영역이 훼손되는 것은 아니다. 우리가 모두 노벨상을 바라보고 경쟁하는 것은 아니지 않은가. 인공지능은 오히려 창의성이 별로 요구되지 않는 대부분의 일상 업무에서 우리의 일자리를 위협할 것이다. 많은 공장의 조립 라인이 인공지능으로 대체되면서 일자리가 사라진 것처럼, 앞으로는 정신노동으로 여겨졌던 지적 조립 라인도 위협받을 것이다.

결국 우리는 끊임없이 물어야

둘째, 당신은 정말 옳고 그름을 판단할 수 있는가? 빙에게 “네가 제공하는 답변이 진실인지 어떻게 알 수 있어?”라고 물었더니 이렇게 대답한다. “저는 제공하는 답변에 항상 출처를 표시하고 있습니다. 저는 인터넷 검색 결과 중에서 신뢰할 수 있는 자료들을 선별하여 답변을 만듭니다. 하지만 저도 완벽하지 않으므로, 제 답변이 진실인지 판단하는 것은 결국 사용자님의 몫입니다. 저는 사용자님께서 스스로 생각하고 판단하실 수 있도록 도움을 드리고자 합니다.”

지금 인터넷에서는 챗GPT가 제공한 어처구니없는 답변에 관한 조롱 섞인 유머가 돌아다니지만, 엄청난 데이터와 수십억개의 항목에 해당하는 텍스트에서 추출한 답은 사실 우리의 판단력을 마비시킨다. 무엇을 물어봐도 모르는 게 없고, 그것도 매우 빠르고 ‘정확하게’ 전달하는 까닭에 인공지능이 정교하게 발전할수록 챗GPT는 우리에게 초인적 인지능력을 가진 석학처럼 여겨진다.

여러 지식 영역을 통합하고 인간 사고의 여러 측면을 모방하는 인공지능의 능력은 보통 인간의 인지능력을 능가하기 때문에 챗GPT가 생성하는 모든 것을 의심 없이 수용하는 마법적인 분위기가 조성된다. 우리가 의심하는 능력을 상실한다면, 인공지능이 인간 사용자에게 제공하는 잘못된 정보는 어떤 결과를 초래할 것인가?

셋째, 인간에게 가장 인간다운 능력과 가치는 무엇인가? 인공지능이 인류가 발전시킨 모든 지식을 포괄할 뿐만 아니라 지식의 발전에 도움을 준다면, 우리는 인간과 세계를 훨씬 더 잘 이해하게 된 것인가? 인공지능은 이렇게 우리에게 마지막 질문을 던지는 것처럼 보인다.

인공지능은 우리의 질문에 대해 ‘즉각적으로’(prompt) 읽고 쓸 수 있는 텍스트로 답변하지만, 우리는 어떤 방법과 과정으로 그러한 답변에 이르게 되었는지를 알지 못한다. 이렇게 얻은 지식이 반드시 인간과 세계에 대한 우리의 이해를 증진시키는 것은 아니다.

결국 우리는 끊임없이 물어야 한다. 우리는 어떤 세계를 위해 인공지능을 발전시키는 것인가? 인공지능 혁명에 대한 답은 결국 우리에게 달려 있기 때문이다. 챗GPT는 우리에게 이렇게 묻는다. 당신은 여전히 질문할 줄 아는가?

[노혜숙]

챗봇 채팅을 해보니 일 분도 안 걸리고 답을 하더군요. 어떤 대답은 지극히 상식적이고 뻔했지만 질문의 형태에 따라 대답도 다양하고 깊어진다는군요. 놀라운 세상!

[홍윤선]

읽었던 문장을 어디서 보았는지 도저히 찾을 수 없을 때면 언제든지 데이터를 처리할 수 있는 인공지능이 되었으면 좋겠다고 생각합니다.

책을 읽다가 홀로 눈물을 펑펑 쏟는 밤이면 이게 인간이지 싶어집니다.

그러다가 지나치게 감성에 휘둘리는 제가 싫어집니다. 그럴 땐 인간인 제가 챗gpt를 욕망합니다 .

제 자신에게 어떤 인간이고 싶은지 질문해야 할까 봅니다.