인지 바이러스로서 대규모 언어모델

[마운틴듀2]

https://www.facebook.com/share/p/1Euvtg75qn/

Jungmin Kwon

LLM에 대한 너무 충격적 해석이라 공유해봅니다. 이거 우리가 교육에 적극적으로 들이는 것이 맞는가 고민하고 또 고민해봐야할 듯.

——

하버드대학교와 산타페 연구소(Santa Fe Institute)가 최근 「인지 바이러스로서의 대규모 언어 모델(Large-Language Models as a Cognitive Virus)」이라는 제목의 논문을 발표했다.

여기서 ‘바이러스’라는 표현은 은유가 아니다. 연구진은 진화생물학, 복잡계 이론, 역학의 공식적인 이론적 틀을 이용해 대규모 언어 모델(LLM)을 분석했다. 그리고 언어 모델이 바이러스에 대한 모든 수학적 정의를 충족한다는 결론을 내렸다.

바이러스는 스스로 복제할 수 없다. 숙주의 세포 기구가 필요하다. 마찬가지로 LLM도 스스로 실행하거나 계산하거나 확산할 수 없다. 인간의 인지 능력, 인간이 구축한 서버, 인간의 네트워크가 필요하다.

바이러스는 자신의 증식에 유리하도록 숙주 내부의 작동 과정을 바꾼다. LLM 역시 같은 방식으로 인간의 사고를 변화시킨다. 글쓰기, 코딩, 의사결정, 감정 처리까지 AI에 맡기기 시작하면, 우리는 사실상 자신의 인지적 작동 과정 자체를 외부에 위탁하고 있는 셈이다.

이 논문은 LLM을 ‘극도로 효율적인 문화적 복제자(hyper-efficient cultural replicators)’라고 부른다. LLM은 인간이 만들어낸 데이터를 먹고 성장하며, 사람들이 더 쉽게 사용하고 계속 사용하도록 스스로를 최적화한다. 그리고 그 대가로 인간의 언어 사용 방식, 의사결정 과정, 기억의 형태를 다시 바꾸어 놓는다.

역학적 관점에서 보면, 당신은 자신이 AI를 사용하고 있다고 생각한다. 하지만 실제로는 AI가 당신을 매개체(vector)로 이용해 디지털 정보 생태계를 식민화하고 있는 것이다.

우리는 수십 년 동안 자의식을 가진 살인 로봇의 등장을 걱정해 왔다.

하지만 아무도 눈에 보이지 않는 ‘인지적 병원체(cognitive pathogen)’가 등장할 것이라고는 예상하지 못했다.

https://www.facebook.com/share/p/1LzrQtiyfX/

Futurism