[237th] 인공지능은 왜 정치적일 수밖에 없는가

[가을햇볕]

[아름두리]

   이 책은 얼마 전 '오픈에이아이'의 샘 올트먼 창립자가 쫓겨났다 돌아온 일이 있었다. 이런 과정에서 이슈가 된 것들이 있었는데 예컨대 회사의 이익, 윤리적인 안전성, 경쟁사와의 관계 등이 그것이다. 그래서 이와 관련된 책이 있나 찾아보았다. 관련 도서들은 정말로 많았고 그 중에 최근에 나온 책들 중 가장 어렵지 않은 것으로 골라서 선정하게 되었다.

아래의 내용 정리는 감사하게도 아름두리님이 직접 해서 보내주셨습니다. 정리하는 수고는 덜고 옮기는 수고만 하게 되었습니다^^

"인공지능은 왜 정치적일 수 밖에 없는가"는 마크 코켈버그가 저술한 책으로, 인공지능의 정치적 편향성 뿐만 아니라 인공지능 자체가 가지는 정치적 성격과 영향력에 대해 다루고 있습니다. 책은 다음과 같은 내용으로 구성되어 있습니다.

1장에서는 인공지능이 인간의 자유와 노예상태에 어떤 영향을 미치는지, 인공지능에 의한 감시와 조종, 인공지능을 이용한 착취와 로봇 노예의 문제, 인공지능에 관한 결정권과 참여의 자유 등을 논의합니다.
2장에서는 인공지능이 평등과 정의에 어떤 영향을 미치는지, 인공지능에 의한 편향과 차별, 인공지능의 정치적 중립성, 영어권 자유주의 정치철학과 계급과 정체성 이론의 관점에서의 평등과 정의 등을 논의합니다.
3장에서는 인공지능이 민주주의에 어떤 영향을 미치는지, 민주주의와 지식과 전문성, 숙의적 · 참여적 민주주의와 경합적 · 급진적 민주주의, 정보 거품과 반향실과 포퓰리즘, 인공지능과 전체주의의 근원, 아렌트의 교훈 등을 논의합니다.
4장에서는 인공지능이 권력에 어떤 영향을 미치는지, 정치철학의 주제로서의 권력, 마르크스주의와 기술자본주의, 푸코와 인공지능, 규율과 감시, 지식과 권력, 주체와 자아, 기술수행과 권력 등을 논의합니다.
5장에서는 인공지능이 비인간과 자연환경에 어떤 영향을 미치는지, 인간중심 정치를 넘어서는 인공지능과 로봇 정치학, 동물과 자연의 정치적 지위, 인공지능의 정치적 지위 등을 논의합니다.
6장에서는 이 책의 역할과 결론, 앞으로 해야 할 일, 정치적 기술에 관한 문제 등을 논의합니다.

이 책은 인공지능의 정치학과 자유, 평등, 정의, 민주주의, 권력, 동물과 환경 등 오늘날 정치적으로 쟁점이 되는 가장 중요한 문제들을 관련지어 다루면서 그 위험성과 가능성을 제기합니다. 인공지능 문제는 이미 정치적이며 정치와 권력의 측면에서 중립적이지 않다는 것을 강조하고, 인공지능에 대한 정치적 기술을 요구합니다.

[크로]

   미안하게도 제대로 읽지 못했다. 아주 어려운 내용이 아니었음에도 불구하고 저자가 말하려는 바가 명확하게 들어오지 않으니까 중간중간 읽기에 매우 힘들었다. 순서대로 읽다가 힘들 경우 다음 장을 읽거나 건너 뛰기도 했고..... 결론 부분을 읽으면 대충 무슨 이야기인지는 알겠는데 그것도 명확하게 전달되지 않는 느낌이었다.

   실제로 이런 류의 책은 관심 분야도 아니고 워낙 방대하게(한나 아렌트, 정치 철학, 민주주의, 환경.....) 이야기를 전개하니 현실적으로 잘 와닿지 않았다. 그래서 다른 사람이 쓴 서평을 찾아봤는데 그마저도 거의 없었다. 어쨌든 잘 읽지 못해 죄송한 마음이다.

[여름숲]

   저자의 인공지능(AI)에 대한 우려는 충분히 알겠다. 그런데 나는  AI뿐만 아니라 뉴미디어, 신기술 등을 아직까지는 툴의 성격이 강하다고 본다. 이런 면에서 본다면 기술의 문제는, 거의 사용하는 사람이 어떻게 쓰느냐의 문제라고 볼 수 있다. 예컨대 뉴미디어도 보수 쪽에서 쓰면 보수적인 미디어가 되는 거고, 진보가 쓰면 진보적인 미디어가 되듯이 말이다. AI 역시 툴의 성격이 강하기 때문에 쓰는 사람이 어떻게 이용하느냐에 따라 전혀 다른 세상이 펼쳐질 거라고 본다.

   기술 발전이 정치적으로 편향될 수 있다는 것은 일정 부분 동의하지만 그렇다고 해서 미디어가 발전했다고 조작과 편향이 반드시 더 쉬워진다고는 생각하지 않는다. 저자가 이야기하는 조작, 편향보다 더욱 동의하는 내용은 AI의 발전으로 빈부격차가 더 심해질 수 있다는 것이다. 이는 AI 역시 툴의 성격을 가지고 있으니 그 툴을 가져다 잘 쓰는 사람이 훨씬 더 큰 힘(부, 권력)을 낼 수 있기 때문이다. 

  AI와 민주주의에 대한 부분은 저자의 우려는 알겠으나 아직 AI가 어떤 영향을 미칠까는 아직 잘 모르겠다. '넛지'와 관련해서도 AI와 인간 중, 어느 쪽이 더 선하고 더 편향되었는지, 혹은 더 공정하다고 말할 수 없다. 결국은 인간이 하기 나름 아닐까 생각한다. 중복해서 말하지만 저자의 우려는 이해하겠으나 온갖 걸 다 관련해서 말하기에는 시기상조라 본다. 차라리 특정 부분을 제한해서 제기하고 그 부분을 좀더 깊게 들어갔으면 하는 아쉬움이 있다. 

[가을햇볕]

   저자는 284쪽에서 이 책을 입문서로 의도했다고 말하는데 절대로 동의할 수 없다. 이틀간 집중해서 읽었기에 어느 정도 이해할 수 있었지만 모임이 아니라면 도중에 포기했을 만한 내용의 책이었다.

   저자는 기술 철학자이고 원제에 '정치 철학'이 들어가니 이 책은 당연히 철학책이라 본다. 그래서 정치 철학의 개념(사회 영역에 도덕철학에서 파생된 당양한 윤리적 개념을 적용, 어떠한 정부와 사회를 구성해야 정의롭고 공평할 수 있는지를 연구한다)을 찾아보았다. 이런 개념을 염두에 두니 저자의 AI에 대한 다양한 방면의 우려의 목소리를 들을 수 있었다. 

   저자가 AI에 대해 우려하는 것은 크게 두 가지로 볼 수 있을 것 같다(인간에서 확장된 비인간, 즉 환경, 동물에 대해서는 일단 언급을 자제해 보자) 첫째는 AI의 알고리즘을 조작하여 정치적으로 편향되거나 증오를 부추기며 잘못된 정보를 사람들에게 줄 수 있다. 둘째는 AI 기술을 선도하는 것이 정부와 기업이므로 자본주의 체제하에서 AI가 사람들의 해방보다 자본가를 훨씬 더 부유하게 만드는데 이용된다는 것이다. 기본적으로 저자의 시각에 동의한다. 

   저자는 위와 같은 우려때문에 이를 방지하기 위해 AI의 발전 과정과 발전 방향을 기술기업과 정부에만 맡겨놓아서는 안 된다고 주장한다. 그 발전 방향을 공론화하여 논의하고, 발전 과정에 일반인이 참여하여 감시하고 의견을 제시해야 된다고 말한다. 이 역시 저자의 시각에 동의한다. 

   저자가 일반인이 읽을 수 있는 교양서를 목적으로 이 책을 저술했다면 조금 더 친절했으면 어떨까 싶다. 저자가 툭툭 내뱉는 철학자들(누구세요?)과 그들의 이론과 개념(누구세요?)을 잘 알지 못하는 상태에서는 누구라도 난독 증상을 느끼며 책읽기를 포기하기에 충분한 텍스트였다.