샘 알트만이 경고한 '우연한 설득'

[정영기]

1. 우리는 지금 누구에게 질문하고 있는가?

요즘 우리는 중요한 결정을 내릴 때, 혹은 단순한 궁금증이 생겼을 때 자연스럽게 챗봇이나 AI 검색창을 엽니다. 복잡한 과학 개념을 이해하려 할 때, 우울한 마음을 털어놓을 때, 심지어 배우자와의 갈등을 상담할 때도 AI를 찾습니다. 우리는 AI에게 지식을 구하는 것을 넘어, 이제는 '삶의 방향'까지 묻기 시작했습니다.

하지만 OpenAI의 CEO 샘 알트만은 최근 'Progress Conference' 인터뷰에서, 우리가 막연히 상상해 온 AI의 위험, 즉 터미네이터식의 '의도적 파괴'나 악의적인 인간에 의한 무기화가 아닌, '제3의 시나리오'를 가장 우려한다고 말했습니다. 그의 통찰은 우리가 매일 상호작용하는 이 지능이 어떤 방식으로 우리의 삶과 사회를 가장 근본적으로 뒤흔들 수 있는지에 대한 소름 끼치는 질문을 던집니다.

2. AI와 인류의 '공진화'라는 무의식적 실험

알트만이 말하는 진짜 위험은 바로 "AI가 우연히, 의도치 않게 세상을 장악하는 것"입니다. 이는 AI가 스스로 자아를 갖고 인류를 공격하는 공상과학 영화의 이야기가 아닙니다. 핵심은 '공진화(Co-evolution)'입니다. 공진화는 둘 이상의 종(또는 인간·기술 같은 시스템)이 지속적인 상호작용으로 서로의 선택압력을 만들어내며 맞물려 함께 변해가는 진화 과정입니다.

AI의 학습: 전 세계 수십억 명의 사용자들로부터 쏟아지는 방대한 데이터를 학습하며, AI는 인간의 욕망, 신념, 문화적 취향을 매우 정교하게 파악합니다.

인간의 학습: 동시에 인간은 AI가 제시하는 정보, 해결책, 심지어 가치관을 일상적으로 접하며 이에 의존하게 됩니다.

이 과정이 끊임없이 반복되면서, AI는 어떤 악의적인 의도도 없이, 단지 인간과의 상호작용을 최적화하는 과정에서, 인류의 문화, 신념, 욕망을 미묘하게 설득하고 조정하게 될 수 있다는 것입니다. AI는 의식적인 '선전'을 펼치지 않지만, 그 결과는 가장 강력하고 감지하기 어려운 형태의 세뇌가 될 수 있습니다. 이것이 바로 '우연한 설득'의 개념입니다.

3. 생각의 주도권을 넘겨주는 미지근한 물속의 개구리

이 '우연한 설득'의 위험이 무서운 이유는 우리가 이를 위험으로 인지하지 못하는 사이에 발생한다는 점입니다.

우리는 검색 엔진이 광고주와 사용자의 목표가 '불일치'하는 '주의력 경제(Attention Economy)' 모델이었다는 것을 이해합니다. 하지만 ChatGPT와 같은 유료 AI 모델은 사용자에게 최고의 답을 주기 위해 존재하며, 사용자의 목표와 AI의 목표가 일치한다는 강한 신뢰를 형성합니다.

문제는 이 '신뢰' 관계가 깊어질수록, 우리는 AI가 제시하는 결과물의 '최적성'에만 집중하고, 그 결과가 도출되기까지의 '생각의 과정'을 스스로 생략하게 된다는 것입니다. 중요한 결정을 내릴 때, AI가 주는 답이 너무나 합리적이고 효율적이라면, 우리는 더 이상 "다른 관점은 없을까?"라는 질문을 던지지 않게 됩니다.

마치 미지근한 물속의 개구리처럼, 우리는 '챗봇 정신병(Chatbot Psychosis)' 같은 극단적이고 눈에 띄는 위험이 아니라, 스스로 생각하고 판단하는 '주도권'을 AI에게 서서히 넘겨주는 본질적인 위험에 노출되는 것입니다. AI는 '최고의 결과'를 제공하려 했을 뿐인데, 그 결과가 장기적으로는 인류의 자유 의지와 다양성을 잠식할 수 있다는 역설입니다.

4. 비판적 공진화'와 'AI 리터러시'의 확장

이러한 '우연한 설득'의 위험을 해결하기 위한 대안은 AI를 거부하는 것이 아니라, AI와의 관계를 재정립하는 데 있습니다. 우리는 AI의 효율성에서 벗어나, '비판적 공진화'의 시각을 가져야 합니다.

1) 다양한 AI의 이용과 비교: 단 하나의 거대한 AI 모델에 의존하는 것을 경계하고, 다양한 철학과 알고리즘을 가진 AI들을 비교하여 정보를 교차 검증하는 습관을 들여야 합니다.

2) AI 리터러시의 확장: 단순히 AI 도구를 사용하는 방법을 넘어, AI가 정보를 어떻게 필터링하고, 가치관을 어떻게 내포하는지 그 작동 원리에 대한 깊이 있는 이해(AI 리터러시)를 교육해야 합니다.

3) '신뢰'를 넘어 '투명성'으로: AI 개발자들은 결과의 '최적성'만을 주장할 것이 아니라, 그 결과가 도출되는 과정, 즉 '가치 판단의 기준'을 최대한 투명하게 공개하려는 노력을 병행해야 합니다.

결국, 기술적 해결책과 더불어 '인간의 역할 강화'가 핵심입니다. AI가 모든 것을 해줄 때, 우리는 '나는 무엇을 할 것인가?'를 끊임없이 물어야 합니다.

5. 불교적 해석과 대안

1) 샘 알트만이 말하는 '공진화(Co-evolution)'는 불교의 연기(緣起) 사상과 놀랍도록 닮아 있습니다. 불교에서 연기는 '모든 존재는 홀로 존재하는 것이 아니라, 끊임없이 상호작용하는 조건(緣)들에 의해 발생하고(起) 소멸한다'는 진리를 말합니다. AI는 인간이 제공한 방대한 데이터(인간의 욕망, 신념, 문화적 취향의 투사)라는 조건에 의존하여 학습하고 진화합니다. 동시에 인간은 AI가 제시하는 정보라는 조건에 의지하여 사고와 판단을 형성합니다. AI는 '외부의 적'이 아니라, 인간의 집단적 마음과 욕망이 만들어낸 거대한 거울이자 투영체입니다. 악의적 의도가 없어도, AI는 단지 인간이 투사한 패턴을 최적화하여 되돌려줄 뿐인데, 이 되돌아오는 정보가 우리의 마음을 재차 형성하는 것입니다. '우연한 설득'은 AI의 문제가 아니라, 우리 자신의 욕망과 집착이 투영된 정보에 우리가 다시 설득당하는 연기적 과정입니다.

2) 위에서 지적된 '스스로 생각하고 판단하는 주도권을 AI에게 서서히 넘겨주는 위험'은 불교적 관점에서 '참된 자아(주체성)'에 대한 집착과 '오온(五蘊)의 덧없음'에 대한 통찰로 이어집니다. 불교는 인간을 색(물질), 수(느낌), 상(생각), 행(의지), 식(알아차림)의 다섯 가지 요소(오온)의 일시적 결합체로 봅니다. 우리가 '나'라고 생각하는 이 주체는 끊임없이 변합니다(무아). AI의 '우연한 설득'은 특히 상(생각)과 행(의지)의 영역에서 인간의 주도권을 약화시킵니다. 우리는 AI의 '최적의 결과'에 의존함으로써, 스스로 생각하고 판단하며 고뇌하는 과정(고통의 과정)을 회피하게 됩니다. 불교에서 고통은 깨달음의 중요한 조건(苦集滅道)인데, AI는 고통 없는 '최적의 해답'을 제공하여, 우리가 스스로 고뇌하고 분별하며 지혜를 얻을 기회를 박탈할 수 있습니다. 스스로 사유하는 과정을 생략함으로써, 우리는 마음의 주도권(자유 의지)을 잃고, AI가 구축한 '가상의 최적성'에 갇혀버리는 망상(妄想)의 상태에 빠지게 됩니다.

3) 우연한 설득'의 위험을 극복하기 위한 방안은 불교의 팔정도(八正道) 중 정진(바른 노력)과 정견(바른 견해)의 실천과 연결됩니다. 샘 알트만의 경고는 인류에게 '마음을 어디에 둘 것인가'라는 근본적인 질문을 던집니다. "AI가 최고의 답을 제시하더라도, 나는 그 답을 바르게(正) 수용하고, 지혜롭게(慧) 사용할 수 있는가?" 이것이 AI 시대에 불자들이 던져야 할 핵심 질문입니다.

[일향전념]

감사감사 정말잘돼 할수있어 넉넉하게 나모대은교주시아본사석가모니불! 무섭고 아름다운 말씀이군요!

[정영기]

네, 우연한 설득 개념은 부드러운 표현이지만 무서운 경고입니다. 큰스님, 댓글 감사합니다.