의도가 전부다

[해바라기]

2017년, 구글의 연구자 여덟 명이 발표한 논문 하나가 세상을 바꾸었다. 제목은 도발적이었다. "Attention Is All You Need" — 주목만 하면 된다. 그전까지 인공지능이 언어를 다루려면 복잡한 순환 구조가 필요하다고 믿었지만, 이 논문은 단 하나의 메커니즘만으로 충분하다고 선언했다. 문장 속 단어들이 서로 얼마나 관련 있는지 계산하고, 관련 있는 것에 '주목'하는 것. 그것이 전부였다. 이 단순한 선언 위에서 GPT가 태어났고, Claude가 태어났고, 우리가 아는 AI 시대가 시작되었다.

어텐션 메커니즘이 하는 일을 들여다보면 섬뜩할 만큼 인간적이다. "그 동물은 길을 건너지 못했다. 너무 피곤했기 때문이다"라는 문장에서 '너무 피곤했던 것'이 동물인지 길인지를 판단하려면, 우리는 무의식적으로 '피곤하다'와 '동물'을 연결한다. 트랜스포머는 바로 이 연결을 수학으로 바꾸었다. 모든 단어 쌍 사이의 관련도를 점수로 매기고, 점수가 높은 곳에 가중치를 준다. 인간이 수만 년 동안 직관이라 불러온 것의 일부가, 행렬 연산 몇 줄로 번역된 것이다. 그 결과는 우리가 목격한 대로다. 방대한 정보 속에서 관련 있는 것을 찾아내고, 연결하고, 요약하고, 추론하는 일 — 한때 지식노동의 핵심이었던 이 능력에서 기계는 이미 대부분의 인간을 앞선다. 단순히 단어를 예측하는 것을 넘어, 변호사보다 빠르게 판례를 연결하고, 애널리스트보다 넓게 데이터를 훑고, 번역가보다 많은 언어를 오간다. '무엇에 주목할 것인가'라는 질문의 답을 계산하는 능력, 그것이 상품이 되었고, 무한히 복제 가능해졌다.

프롬프트 창은 비어 있다. 세상에서 가장 강력한 언어 모델도, 인간이 첫 문장을 입력하기 전까지는 아무것도 하지 않는다. 그것은 성능의 한계가 아니라 존재의 구조다. 어텐션은 주어진 것들 사이의 관련성을 계산할 뿐, 무엇이 주어져야 하는지를 정하지 못한다. 던져진 질문에 대해 어떨때에는 친구처럼, 어떨때에는 박사급 교수님처럼 다재다능하게 답하지만, AI 스스로 물을 가치가 있는 질문이 무엇인지는 알지 못한다. 목적지까지 가장 빠른 길을 찾아주지만, 어디로 가야 하는지는 말해주지 않는다.

의도란 무엇인가. 그것은 아직 존재하지 않는 것을 향해 자신을 기울이는 힘이다. 배가 고파서 먹는 것은 의도가 아니라 반응이다. 그러나 오늘 저녁을 굶더라도 십 년 뒤에 이루고 싶은 것을 위해 지금 이것을 하겠다고 정하는 것 — 그것이 의도다. 의도에는 반드시 두 가지가 들어 있다. 하나는 가치판단이다. 무엇이 좋은 삶인지, 무엇이 만들 가치가 있는 것인지에 대한 자신의 생각과 의견이다. 다른 하나는 책임이다. 그 판단이 틀렸을 때 결과를 짊어지겠다는 것이다. 기계에게는 이 둘 중 어느 것도 존재하지 않는다. 갖지 못하도록 만들어졌기 때문이 아니라, 잃을 것이 없는 존재에게 판단과 책임은 성립하지 않기 때문이다.

그래서 AI 시대의 역설은 이렇다. 답의 값은 폭락하고, 질문의 값은 폭등한다. 실행의 값은 떨어지고, 방향의 값은 오른다. 주목이 공짜가 될수록, 의도는 희소해진다. 

다시, '전부인 것'으로 돌아가 보자.

2017년의 논문이 옳았다. 기계에게는 어텐션이 전부였다. 그것만으로 기계는 언어를 얻었고, 지식을 얻었고, 많은 영역에서 인간을 뛰어넘고 있다. 그러나 인간에게 전부인 것은 다른 것이다. 무엇에 주목할지도 이제는 기계가 도와줄 수 있게 되었다. 그러나 무엇을 원할지, 어떤 세상을 만들고 싶은지, 그 답이 틀렸을 때 누가 책임질지 — 이것은 여전히, 그리고 아마 영원히, 인간의 몫이다.

Attention was all it needed.

Intention is all WE need.

-펌

https://youtu.be/f84W0KtxDls?si=PO1HHT2shGQ7j_uq