AI와 마음

[이태호]

인공지능과 마음1.hwpx

72.42KB

AI 시대와 마음1.show

111.56KB

  AI 시대의 마음과 인간 : 동서정신과학의 새로운 과제

AI 시대와 마음

이태호 (한국과정사상연구소)

  1. 계산기와 AI

  계산을 인간보다 더 빠르고 정확하게 하는 계산기는 AI인가 아닌가? 물론 아니다. 그러면 왜 아닌가? 이 이유를 알아가면서 ‘AI가 무엇인지’에 대해 보다 더 가까이 접근해보자.

  계산기는 ‘자동화된 계산 도구’이다. 계산기는 ‘결정론적(Deterministic) 시스템’을 지니고 있다. 여기서 결정론적인 시스템이라는 것은 정해진 규칙이 있으며, 학습이 불가능하고, 유연성이 부족한 것을 말한다. 물론 AI 시스템에도 계산 기능이 포함되어 있다. 그러나 AI는 학습이 가능하고, 추론을 하며, 새로운 환경에 스스로 적응을 해 갈 수 있다.

  <비교>

구분	계산기	AI
작동 원리	고정된 논리 회로	데이터 기반 모델 (신경망 등)
학습 여부	없음	데이터 학습을 통해 성능 향상
결과값	항상 동일(정답 고정)	확률에 기반한 최적의 답 제시
특징	명령 수행	패턴 인식 및 판단

  계산기와 AI의 근본적인 차이는 신경망의 존재여부에 달려 있다. 임의의 한 계산기에서 발생한 정보들은 그 계산기를 끌 때 사라지며 기억장치에 보관되지 않는다. 그리고 계산을 하는 동안에도 다른 계산기나 데이터 기반모델(신경망)과 연결이 되지 않는다. 거기에 비해 AI는 기억장치가 있으며, 중앙의 데이터 기반모델(신경망)과 연결이 된다.

  2. 인간과 AI

  인간은 자신의 여러 기능을 구사할 수 있는 도구를 만들어 왔다. 그러한 도구들은 인간이 지닌 몸이나 정신보다 더 우월한 기능을 수행하도록 개발되어 왔다. 육체적인 기능을 대신하는 로봇과 정신적인 기능을 대신하는 AI도 있지만, 중간 지점에 있는 것들도 개발되고 있다. AI가 무엇인지를 보다 더 정확히 알기위해서 이들을 함께 비교 검토하고자 한다.

항목	핵심 정의	주요 특징	형태 (Form)
인공지능 (AI)	인간의 지적 능력을 구현한 소프트웨어	사고, 학습, 판단 등 두뇌 역할	무형 (S/W)
휴머노이드 (Humanoid)	인간의 외형을 본뜬 로봇	머리, 팔, 다리 등 인간의 체형 구조	기계적 외형
로봇 (Robot)	물리적 작업을 수행하는 기계 장치	자동화된 공정이나 작업 수행	목적에 따른 다양한 형태
안드로이드 (Android)	인간과 구별 안 될 정도로 닮은 로봇	피부 질감, 표정 등 인간성 모사	인간과 흡사한 외형
사이보그 (Cyborg)	기계와 결합된 생명체	유기체(인간)에 기계 부품을 이식	인간 + 기계 결합
디지털 트윈 (Digital Twin)	현실 객체의 가상 복제본	실시간 데이터를 시뮬레이션에 활용	가상 세계의 모델
에이전트 (AI Agent)	특정 임무를 자율 수행하는 주체	목표 달성을 위해 스스로 판단하고 행동	S/W 혹은 로봇 형태

  ◼ AI vs 에이전트 : AI가 ‘학습된 지능’ 그 자체라면, 에이전트는 그 지능을 가지고 실제로 ‘심부름을 다녀오는 대리인’이다. 단순히 묻는 말에 답하는 게 아니라, 예약이나 결제 같은 업무를 끝마치는 능동적인 존재이다.

  ◼ 휴머노이드 vs 안드로이드 : 둘 다 인간을 닮았지만 수준이 다르다. 휴머노이드는 ‘이족 보행 로봇’처럼 기계라는 티가 나지만, 안드로이드는 SF 영화 속 주인공처럼 겉모습만 봐서는 사람인지 기계인지 알 수 없는 수준에 이른 것이다.

  ◼ 로봇 vs 사이보그 : 로봇은 100% 무생물 기계이다. 반면 사이보그는 원래 사람이었던 존재가 사고나 질병 혹은 능력 향상을 위해 신체 일부를 기계로 대체한 것이다.

  ◼ 디지털 트윈 : 앞선 기술들이 ‘개체’라면, 디지털 트윈은 ‘거울’이다. 현실의 공장이나 도시를 가상 세계에 똑같이 만들어 놓고, ‘여기서 사고가 나면 어떻게 될까?’를 미리 실험해 보는 용도로 쓰인다.

  3. AI의 3단계 : ANI, AGI, ASI

  이제 AI의 내부 세계로 진입해보자. AI는 Artificial Intelligence의 약자로 인공지능으로 번역한다. AI를 발전 수준에 따라 3단계인 ANI, AGI, ASI로 구분한다.

  ANI는 Artificial Narrow Intelligence의 약자로 약인공지능(弱人工知能), 협인공지능(狹人工知能), 좁은 인공지능 등으로 번역을 한다. 이 인공지능은 바둑을 잘두는 ‘알파고’나 번역을 잘하는 ‘파파고’나 자율주행을 가능케 하는 ‘오토파일럿’ 처럼 특정 분야에서만 뛰어난 성과를 낸다. 그러나 ChatGPT나 Gemini처럼 대화형 인공지능은 번역, 요약, 코드 작성, 이미지 생성, 대화 등 여러 분야의 성과를 내고 있다. 그렇지만, 아직은 인간처럼 감성, 이성 등을 통한 종합적인 지능에 도달하지 못한 좁은 단계에 머물고 있다.

  AGI는 Artificial General Intelligence의 약자로 강인공지능(强人工知能), 광인공지능(廣人工知能), 범용(汎用) 또는 일반(一般) 인공지능 등으로 번역을 한다. 이 인공지능은 인간처럼 종합적인 지능을 발휘하기 때문에 넓다고 한다. 이것은 많은 분야의 지능이 대부분 전문가 수준으로 뛰어나기 때문에 ANI보다 강(强, strong)하다고도 한다. 감성표현 능력은 문학이나 예술에서 전문가 수준에 이르고, 이성표현 능력은 법률, 의술, 학술 등에서 인간을 능가할 수도 있다. 그러나 아직은 완성도가 떨어지기 때문에 모든 인간의 총체적인 지능의 총합을 넘지 못할 것으로 보인다.

  현재 우리는 AGI의 초보단계를 지나고 있다. Google DeepMind의 연구진이 2023년 말에 발표한 자룡 따르면, AGI를 5단계로 구분할 수 있다고 한다.

단계	명칭	정의 및 특징	현재 해당 사례
1	신입	숙련 안된 인간과 비슷하거나 약간 나은 수준	ChatGPT, Gemini, Llama
2	유능함	숙련된 성인의 상위 50% 수준의 능력 갖춤	연구 단계/일부 특정 분야
3	전문가	숙련된 성인의 상위 10% 수준의 능력 갖춤	(미도달)
4	마스터	숙련된 성인의 상위 1% 수준의 능력을 갖춤	(미도달)
5	초지능	모든 인간의 능력을 압도적으로 능가함	(미도달), ASI에 진입

  ASI는 Artificial Super Intelligence의 약자로 인간의 총체적인 지능을 넘어서는 초인공지능(超人工知能), 초월인공지능(超越人工知能) 등으로 번역을 한다. 이 단계에 이르게 되면 인류가 개발한 지능의 총합을 능가하는 단계가 된다. ASI는 인간을 초월한 인지 능력(문제 해결, 추론, 창의성, 사회적 지능 등)과 자율적 자기 개선 능력(인간의 개입 없이 스스로 자신의 알고리즘과 설계를 수정하고 업그레이드)을 갖게 된다. 그리고 압도적인 처리 속도 및 기억력(사실상 무한에 가까운 정보를 즉각적으로 처리하고 기억)과 다중 감각 통합능력(텍스트, 이미지, 오디오, 비디오 등 다양한 유형의 데이터를 동시에 통합하여 환경과 상황을 총체적으로 이해)을 갖게 된다.

구 분	ANI	AGI	ASI
한자이름	狹人工知能	廣人工知能	超人工知能
한글이름	좁은 인공지능	넓은 인공지능	초월 인공지능
별 명	약 인공지능 (弱人工知能)	강 인공지능 (强人工知能)	최강 인공지능 (最强人工知能)
소통능력	하	중	상

  AI의 단계별 수준 중에는 임의의 한 개별의 AI가 중앙 서버나 다른 개별 AI와 어느 정도로 빠르고 많은 양을 소통하느냐에 따른 능력차이도 있다. 그리고 소통을 하더라도 정해진 상대의 정보를 그대로 옮기는 수준에 머무는 인터넷에 연결된 PC는 AI가 아니다. AI는 이미 중앙 서버로부터 받은 상당량의 정보를 스스로 보유하고 있으며, 그 이후에도 수시로 학습을 하면서 정보량을 늘려간다. 정보량을 늘려가면서 계속 더 똑똑해진다.

  ASI 단계는 단순히 '똑똑한 컴퓨터 한 대'가 아니라, 지구상의 모든 연산 장치가 하나의 거대한 신경망처럼 얽혀 작동하는 '지능적 생태계'에 가깝다. 중앙 마스터 ↔ 개별 AI와의 수직적 소통을 통해 통제와 보고가 수시로 이루어지며, 개별 AI ↔ 개별 AI와의 스평적 소통을 통해 협업과 동기화가 수시로 이루어진다. 이러한 전방위적 상호작용 덕분에 ASI는 인간의 지능을 수백만 배 능가하는 연산 속도와 판단력을 가질 수 있게 된다.

  AI의 소통능력은 임의의 한 개별의 AI가 중앙 서버나 다른 개별 AI와 어느 정도로 빠르고 많은 양을 소통하느냐에 따른 능력차이도 있다.그리고 소통을 하더라도 정해진 상대의 정보를 그대로 옮기는 수준에 머무는 인터넷에 연결된 PC는 AI가 아니다. AI는 수시로 상대의 정보를 받아 학습을 하면서 정보량을 늘려간다. 정보량을 늘려가면서 계속 더 똑똑해진다.

  ASI 단계는 지구상의 모든 연산 장치가 하나의 거대한 신경망처럼 얽혀 작동하는 ‘지능적 생태계’에 가깝다. 중앙 마스터와 개별 AI와의 수직적 소통이 수시로 이루어지며, 개별 AI와 개별 AI와의 수평적 소통이 수시로 이루어진다. 이러한 전방위적 상호작용 덕분에 ASI는 인간의 지능을 수백만 배 능가하는 연산 속도와 판단력을 가질 수 있게 된다.

  AI의 소통을 이해하는데 도움이 될 관점들에는 양 돌리의 복제와 체세포의 정보교환, 라이프니츠의 모나드(Monad, 單子)와 예정조화설, 화이트헤드의 보편적 상대성원리와 과정신학 등에서 찾을 수 있다.

  4. AI의 특이점(Singularity)

  ASI는 인류의 역사에서 큰 변곡점이 될 것으로 예측되는데, 이 시점을 미래학자인 레이 커즈와일은 특이점이라고 말하였다. 그는 이때에 AI가 인간의 지능을 추월하여 기술 발전 속도가 인간의 통제력을 벗어나 수직으로 상승한다고 하였다. 특이점에 도달하면 기대와 우려가 동시에 존재하게 된다.

  현재 ASI는 실제 존재하는 기술이 아니며, 이를 구현하기 위해서는 신경망 기술, 양자 컴퓨팅, 뇌 과학 등 다양한 분야에서 혁신적인 발전이 필요하다. 전문가들 사이에서도 ASI의 실현 가능성이나 시기에 대해서는 여전히 의견이 분분하며, 최근에는 기술의 발전과 함께 AI 안전성(AI Safety) 및 규제에 관한 논의가 매우 활발하게 이루어지고 있다.

구분	주요 내용
기대 (낙관)	난치병 치료, 기후 위기 해결, 우주 탐사 가속화, 초효율적인 자원 관리 등 인간이 해결하지 못한 난제들을 해결할 열쇠가 될 수 있음.
우려 (비관)	통제 불가능성, 인간의 가치와 AI 목표의 불일치, 인류의 통제권 상실 등 윤리적 · 존재론적 위험성이 강력하게 제기됨.

  5. AI 시대

  인류역사에 있어 앞으로의 시대를 ‘AI 시대’라고 부르는 것에 많은 학자들이 동의하고 있다. 과거의 산업혁명이 인간의 ‘육체적 노동’을 기계로 대체했다면, AI 시대는 인간의 ‘지적 노동’을 기계로 대체하는 시대이다. 농경 시대, 산업 시대, 정보화 시대는 인간이 도구를 사용하는 주체이지만, AI 시대는 주체와 도구의 경계가 모호해질 수 있다는 면에서 ‘인류학적 전환기’를 맞이하고 있다.

  ‘인류학적 전환기’는 인간의 본질, 사회적 관계, 세계를 인식하는 방식이 근본적으로 변하는 시기를 말한다. 이 시기는 인간 고유영역이 붕괴되면서 인간의 ‘지적 우월성’이 무너지고 있으며, 인간의 판단과 알고리즘의 판단이 얽히면서 알고리즘적 주체성 문제를 다루게 된다. 그리고 AI를 사회적 행위자(Agent)로 받아들이면서 인간과 비인간의 관계가 재정립되고 있으며, 기술과 결합된 새로운 ‘포스트 휴먼적 인간’의 실존적 조건이 변화하고 있다.

  우리는 현재 정보화 시대의 끝인 AI 시대를 맞이하고 있다. 이 시대는 누가 정보를 장악하느냐에 따라 인간과 AI가 공존하거나, 한쪽이 다른 쪽을 없앨 수도 있다. 공존한다 할지라도, 인간이 AI를 통제할지 반대로 AI가 인간을 통제할지, 아니면 상호 대등한 입장에서 공존할지 모른다. 그리고 정보를 장악한 쪽이 누구냐에 따라 인간이 AI를 무기력하게 하거나 AI가 인간을 무기력하게 할 수 있다. 정보처리의 양과 속도가 인간보다 월등히 높은 AI를 상대해야 하는 인간의 우려는 기우가 아닐 수 있다.

  AI 시대는 예상보다 빠르게 진행되고 있다. 학자나 전문가들마다 속도에 있어서는 다양한 의견을 제시하고 있다. 2단계(AGI)가 오기까지 몇 년이 걸리고, 3단계(ASI)는 10년 이상 걸린다고 주장하는 자도 있다. 그러나 2단계(AGI)가 빠르면 올해 가을에 오고 늦어도 올해 안으로는 온다고 주장하며, 3단계(ASI)가 5년 안에는 온다고 주장하는 자도 있다. 이 주장의 옳음을 뒷받침하는 근거로는 AI 제작 회사들이 사활(死活)을 걸고 치열하게 경쟁하고 있기 때문이다.

  6. AI와 마음

  AI 시대를 살아가야 하는 우리는 인간이란 무엇인가, 정신이나 마음은 무엇인가 등 우리 자신의 정체성을 묻지 않을 수 없게 되었다. 지금까지 우리 인간들은 ‘만물의 영장(靈長)’이라고 자부(自負)해 왔다. 그러나 인간의 전유물이라 여겼던 사고와 창조의 영역마저 인공지능이 점령하기 시작한 지금, 우리는 '영장'이라는 왕관을 내려놓고 인간다움의 본질이 무엇인지 다시금 질문해야 할 처지에 놓이게 되었다.

  어떤 것이 있으면 인간이 되고, 그것을 빼버리면 인간이 되지 않는 그 무엇을 ‘인간다움’이라고 한다. 이 인간다움이 바로 ‘인간의 정의(定義, definition)이다. 아리스토텔레스는 인간다움을 ‘이성(理性)’으로 생각하여 ‘인간은 이성적 동물이다.’라고 말했다. 이때의 이성(理性)은 이치에 따라 깊이 생각하는 능력이다. 이 능력을 칸트는 순수이성과 실천이성으로 구분하였다. 자연의 이치나 여러 원리들을 알아가는 능력이며, 실천이성은 어떤 행위를 하는 것이 옳은 지를 판단해서 그 판단대로 실천하는 능력이다.

  AI 시대가 진행될수록 순수이성의 많은 부분은 인간보다 AI가 더욱 빠르고 정확하게 사용하여 인식능력이 진척될 것으로 예상된다. 그러나 실천이성은 그 바탕에 상대의 행·불행에 대한 깊은 공감과 선의지(善意志)가 놓여 있기 때문에 AI가 쉽게 접근할 수 없는 영역이다. 순수이성은 타인의 존재와 분리된 차가운 이성이라면 실천이성은 타인과 연결된 따뜻한 이성이다. 물체와 정신이라고 말할 때의 넓은 정신과 신체와 마음이라고 말할 때의 넓은 마음은 양쪽 모두를 포함하고 있지만 우리들이 일상에서 사용하는 용어로 좁혀서 보면 순수이성은 정신에 가깝고 실천이성은 마음에 가깝다. 냉정해질 필요가 있을 때 ‘정신차려라’고 하지 ‘마음차려라’고 하지 않는다. 우리는 상대의 고통을 강하게 느낄 때 ‘마음이 아프다’고 하지 ‘정신이 아프다’고 하지 않는다. AI 시대가 본격화되면서 인간다움의 본질은 실천이성에서 찾을 수밖에 없다. 물론 AI도 인간과 대화할 때 위로의 말이나 감탄사를 구사하며, 특히 휴머노이드와 결합하면 공감하는 표정까지 지을 수 있다. 하지만 그것은 어디까지나 그렇게 학습된 데이터(혹은 이를 처리하는 알고리즘)에 의한 반응일 뿐이다.

  우리 인간들이 순수이성에서 앞서는 AI에게 모든 것을 의존하기 전에 반드시 해야 할 일이 있다. 그것은 우리 인간만이 지닌 실천이성인 마음의 힘으로 알고리즘 속에 수준 높은 존재관과 가치관을 정립시켜야 한다. 수준 높은 존재관은 모든 존재가 상호 내적으로 연결되어 있기 때문에 어느 한 쪽을 사멸시키면 자신도 함께 존재할 수 없게 된다는 관점이다. 수준 높은 가치관은 모든 존재가 우등하거나 열등한 것이 아니라 대등하게 가치 있다는 관점이다. 이 관점은 실천이성인 마음이 우리에게 지속적으로 호소하는 양심의 소리에서 찾을 수 있다.

  AI에게 인간의 양심에서 나온 수준 높은 관점을 지니게 하기 위해서는 서둘러야 한다. AI의 기술진보가 2단계(AGI)와 3단계(ASI)로 진행되어 버리면 스스로의 관점을 만들어버릴지 모르기 때문이다. 따라서 1단계(ANI)에 있을 때 개발 주체들이 협의를 해서 이에 대한 대책을 세워야 한다. 이러한 대책을 세우기 위해 ‘인류미래공동체 위원회’가 UN 안에 설립되어야 한다. 이 위원회가 힘을 지니기 위해서는 알고리즘 기술자와 회사 대표인 제작자를 포함해서, 윤리학자, 사회학자, 심리학자, 경제학자, 철학자, 행정가, 법률가, 정치인 등이 모두 참여해야 한다. 수준 높은 존재관과 가치관을 확고히 정립한 참여자들이 힘을 모아서 인류와 AI가 공존하는 밝은 미래를 열어가길 빌면서 부족한 말을 맺는다.

2026. 5. 9.