생각 조종자들 - 당신의 의사결정을 설계하는 위험한 집단

[막내]

생각 조종자들에 맞서 내 생각을 지키는 방법!

당신의 의사결정을 설계하는 위험한 집단『생각 조종자들』. 2009년 12월 구글은 미국 내 사용자의 검색결과를 개인에게 맞춤화하기 시작했다. 똑같은 단어를 검색하더라도 누가 검색하느냐에 따라 서로 다른 결과가 나오게 된 것이다. 이 책의 원제이기도 한 ‘필터 버블’은 바로 이러한 정보 필터링 현상을 일컫는 말이다. 인터넷이 여론을 형성하는 데 얼마나 강한 위력을 가지고 있는지를 몸소 체험한 저자는 이 책에서 상업주의에 물든 인터넷의 실태를 적나라하게 밝혀낸다. 이 책을 통해 ‘필터 버블’의 존재를 명확히 인식함으로써 제공되는 검색 결과를 무조건 신뢰하기보다 다른 방향으로 사고하는 계기를 마련하며, 나의 선택을 한 번 더 의심하고 생각의 각도를 조금 더 비틀어 사안을 새롭게 바라볼 수 있도록 안내한다.

목차

서문

1장 관련 정보는 어떻게 돈이 되는가
01 숨어 있는 지능형 에이전트
02 관련 정보로 돈 벌기
03 모든 클릭을 저장하다
04 언제 어디서나 페이스북
05 데이터 시장이 열리다

2장 사용자가 곧 콘텐츠다
01 온라인과 미디어의 위험한 동거
02 중립적인 뉴스를 생산하려는 노력의 끝
03 새로운 중간자의 등장
04 입맛을 맞춰주는 아첨꾼이나, 원칙을 지키는 권위자냐
05 편집자와 장돌뱅이 사이의 장벽이 허물어진다

3장 약 권하는 사회
01 '사실'이라고 믿는 것이 과연 '사실'일까
02 호기심이 사라지는 세상
03 혁신은 우연으로부터
04 탐험할 곳이 점점 줄어들고 있다
05 캘리포니아를 섬이라 믿는 무지

4장 그들이 만든 순환 고리에 갇히다
01 당신을 좌지우지하는 인터넷
02 당신에 대한 잘못된 프로파일링
03 설득 프로파일의 숨겨진 힘
04 그들은 어떻게 당신을 깊고 좁은 길에 가두는가
05 사건과 모험이 없는 세계

5장 대중의 취향이 사라지고 개인의 취향만 존재한다
01 새로운 형태의 권력 집중화
02 여론 조작은 이제 선택의 문제일 뿐
03 공공의 문제는 외면받고 감정적 이슈에는 열광하고
04 보이지 않는 선거운동
05 개개인의 욕망을 파고드는 세분화 전략
06 민주주의를 만드는 것은 대화다

6장 기술은 세상과 어떻게 만나야 하는가
01 신이 되고 싶은 충동
02 규칙만 따라가는 삶은 충만함을 모른다
03 새로운 설계자들
04 걱정되면 쓰지 말라는 그들의 황당한 논리
05 500억 달러의 모래성
06 기술을 선하게 이용하는 프로그래머의 필요성

7장 당신은 무엇을 선택할 것인가
01 현실과 가상이 혼합되는 세상
02 기계에 설득당하다
03 무슨 질문을 던져야 하는가
04 인공지능은 무엇이든 할 수 있다?
05 가상 세계에도 공짜 점심은 없다
06 순진한 경험주의의 종말
07 기계가 인간보다 더 나은 결정을 할까?

8장 필터 버블을 깨뜨려라
01 인터넷은 끝나지 않았다
02 모자이크 도시가 답이다
03 개인은 무엇을 해야 하는가
04 기업은 무엇을 해야 하는가
05 정보는 무엇을 해야 하는가

참고문헌 및 자료

“누군가 당신의 생각을 조작하고 있다!”
필터 버블이 지배하는 세상에서 똑똑하게 살아남는 법

참 이상한 일이다.
언제부턴가 어떤 온라인 사이트에 접속하든 같은 광고가 따라붙기 시작했다. SNS 사이트에서는 어떻게 알았는지 내가 관심 있는 사람들, 좋아하는 사람들의 소식이 톱뉴스로 귀신 같이 정렬되어 있다. 그 뿐인가. ‘치킨 집’이라는 말을 검색하면 굳이 내가 사는 동네를 입력하지 않아도 우리 집과 가까운 순서대로 치킨 집 이름과 연락처가 줄줄이 뜬다.
이런 기가 막힌 상황을 한번이라도 인식해본 적 있는가? 그렇다면 당신은 드디어 ‘필터 버블Filter Bubble’의 존재를 감지한 것이다.
2009년 12월 구글은 미국 내 사용자의 검색결과를 개인에게 맞춤화하기 시작했다. 똑같은 단어를 검색하더라도 누가 검색하느냐에 따라 서로 다른 결과가 나오게 된 것이다. 이후 페이스북, 애플, 마이크로소프트 등 인터넷 거인들은 우리들 한 사람, 한 사람의 정치적 취향, 관심사, 취미, 성격 등에 관한 개인정보를 필사적으로 추적하고 분석하여 개인의 흥미를 끌만한 맞춤 정보를 제공하고 있다. 이 책 《생각 조종자들》의 원제이기도 한 ‘필터 버블’은 바로 이러한 정보 필터링 현상을 일컫는 말이다.
필터 버블의 세상에서 우리는 친근한 정보와 듣기 좋은 뉴스만을 편식한다. 문제는 이 필터가 보이지 않는다는 점이다. 어떤 기준으로 우리를 분석하는지 그 기준이 공개되지 않기 때문에 제공되는 정보를 믿을 수 없다. 혹 광고주나 특정한 정치세력이 필터버블에 개입할 경우 우리의 생각과 의견이 그들의 입맛대로 조종될 가능성이 상당히 크다. 필터가 제대로 작동한다 해도 그것은 우리의 과거 경험과 기호에 의한 것일 뿐이므로 창의성이나 혁신, 민주적인 의견 교환의 기회조차 박탈당할 수 있다.
저자는 이 책을 쓰는 과정에서 열린 생각의 보고인 인터넷이 상업주의의 압력에 어떻게 매몰되고 있는지를 적나라하게 확인한다. 그리고 이런 현실에 일조하는 알고리즘과 경영자의 본질을 조명, 디지털 시대의 새로운 권력을 파헤친다. 널리 아이디어를 펼치는 장이어야 할 인터넷의 원래 목적이 어떻게 전도되고 있는지, 우리가 어떻게 고립되고 있는지를 밝히고, 기술이 주는 혜택을 누리는 동시에 기술의 부정적인 영향을 차단함으로써 생각 조종자들의 시대에 내 생각을 지켜가는 방법에 대해 제시한다.

멀쩡한 사람들을 속이는 스마트한 세력의 출현

이 책의 저자인 엘리 프레이저는 온라인 정치시민단체의 선구자인 ‘무브온’의 이사장이다. 무브온은 2008년 미 대선에서 회원들의 투표를 통해 힐러리 클린턴에 비해 상대적으로 당선 가능성이 적었던 오바마를 지지하기로 하는 파격적인 결정을 내렸다. 이후 공개적으로 지지선언을 하면서 오바마 당선의 일등공신이 된다. 무브온이 아니었으면 오바마가 대통령이 되기는 어려웠을 것이란 평가가 지배적일 정도로 무브온의 정치적인 영향력은 막강하다.
이렇듯 저자는 인터넷이 여론을 형성하는 데 얼마나 강한 위력을 가지고 있는지를 몸소 체험한 인물이다. 그는 인터넷의 무한한 가능성을 누구보다 잘 알고 있으며 실상 그 혜택도 충분히 누렸다. 하지만 오랜 활동을 통해 인터넷이 얼마나 대중을 쉽게 조종할 수 있는 무기인지를 뼈저리게 느끼고, 이 위험한 무기를 장악한 자들이 대중의 생각까지 마음대로 조작할 수 있다는 무서운 진실에 눈 뜨게 되면서 이 책을 집필하게 되었다.
그는 이 책을 준비하면서 인기 웹사이트의 설립자에서부터 정보전문가에 이르는 인터넷 열광론자와 회의론자를 두루 만났다. 그 결과 우리가 전혀 인식하지 못하는 사이, 필터 버블이 이미 개인의 생활 구석구석에 영향을 끼치고 있음을 알게 되었다. 심지어 구글의 마리사 메이어 부사장은 개인에 따른 맞춤 검색에서 한 걸음 더 나아가 검색 없는 검색, 즉 자동 검색의 시대가 멀지 않았다고 말한다. 사용자가 검색을 시도하기 전, 그의 욕망을 체크하여 미리 필요한 정보를 가져다주는 것이 바로 자동 검색이다. 가히 소름 끼칠 만큼 ‘편한’ 세상이 되는 것이다.
저자는 필터 버블이 세 가지 현상을 불러온다고 이야기한다. 첫 번째는 외톨이 현상이다. 필터 버블의 세상에서는 걸러지지 않은 정보가 다수의 대중에게 동시에 제공되는 일이 없다. 즉, 내 정보는 오로지 나에게만 제공된다. 두 번째는 오리무중 헤매기 현상이다. 구글, 페이스북 등의 매체가 나를 분석하여 내게 꼭 맞는 정보를 제공한다지만, 사실 그 분석의 기준은 어느 누구도 알지 못한다. 나에 대한 그들의 가정이 맞는지 틀리는지 알 수 없는 것이다. 세 번째는 떠밀리기 현상이다. 나에게는 필터 버블에 들어갈지 말지를 선택할 결정권이 없다. 텔레비전을 켜거나 신문을 읽는 것은 세상이 어떻게 돌아가는지 알기 위해 스스로 필터를 결정하는 능동적인 행위이지만, 필터 버블은 나의 의견을 묻지 않고 알아서 나를 프로파일링 하기 때문이다.
나도 모르게 누군가가 나를 세세히 분석한 후 내게 무엇이 필요할지 판단하여 알려주는 세상. 필터 버블은 이미 우리의 의견도 묻지 않은 채 우리 생활의 상당 부분을 잠식하고 있다.

당신의 머릿속을 믿지 마라!

물론 선택지가 너무 많아도 문제이다. 무슨 넥타이를 매고 출근할지, 자가용을 가져갈지 지하철을 타고 갈지, 점심엔 무엇을 먹을지 등 사소한 것 하나까지 결정해야만 하는 세상에서, 필터 버블은 선택의 고민을 대신해주겠다고 소리친다. 얼핏 들으면 이보다 더 고마운 일이 없다. 작은 고민거리들이 사라지면 우리는 좀 더 중요한 일, 더 큰 선택에 집중할 수 있을 테니까.
그러나 과연 편한 것이 최선일까? 필터 버블을 깊이 파헤칠수록 수면 위로 떠오르는 심각한 문제들이 한두 가지가 아님을 쉽게 알 수 있다.
먼저 필터 버블은 무한한 가능성을 없애버린다. 필터 버블은 우리의 과거 경험과 기호에 의해 정보를 걸려 제공하므로 우리는 우연히 찾은 정보에서 번뜩이는 아이디어를 떠올린다거나 나와 다른 의견을 가진 목소리를 들으며 심정의 변화를 일으킬 기회를 차단한다. 필터 버블은 지도상의 빈 칸을 ‘아직 모르는 곳’이 아니라 ‘아예 모르는 곳’으로 바꿔버리는 것이다. 그 결과 우리는 점점 더 자신만의 편협한 세계에 갇혀버리게 되었다.
인터넷이 만약 우리를 멍청하다고 결론 내린다면 어떻게 될까? 우리에게 제공되는 뉴스는 쉽게 읽히는, 수준 낮은 내용의 것일 가능성이 높다. 각 개인의 지적 수준에 걸맞은 뉴스나 정보가 단기적으로는 그에게 큰 혜택이 될 수 있다. 그러나 수준 높은 정보를 통해 받는 ‘더 나아져야 한다’는 압력이 없다면, 우리는 오랫동안 삼류 세상에 머물 수밖에 없을 것이다.
정보 누수 현상도 심각하다. 필터 버블의 무대 뒤에서는 정보수집 산업이 활개를 치고 있다. 우리의 신상정보는 물론이요, 더 세세한 정보들이 실시간으로 광고주들에게 팔리고 있다. 온라인에서 운동화를 사려고 어떤 사이트를 방문했다고 하자. 물품을 구매하지 않고 사이트를 떠났다 해도, 그 웹 사이트는 인터넷에서 어디든 우리를 쫓아다닐 수 있다. 간밤에 로그인한 게임 사이트와 좋아하는 블로그 옆에 운동화 광고가 올라온다. 결국 그 사이트에서 운동화를 사면 그 사이트는 우리가 산 운동화의 정보를 스포츠웨어 사이트에 판다. 곧 우리는 인터넷 곳곳에서 “땀을 기가 막히게 흡수한다”라고 선전하는 기능성 양말 광고를 보게 될 것이다.
가장 큰 문제는 정치적인 부분에서 발생한다. 민주 정치의 새로운 장을 마련했다고 평가받는 인터넷이 오히려 더욱 교묘한 방법으로 진실을 왜곡하고 여론을 조작할 수 있다는 것이다. 중국에서 이루어지고 있는 1차적 검열, 즉 특정한 사이트를 차단하고 지정 단어나 의견을 금지하는 정도의 검열은 차라리 애교 수준이다. 필터 버블이 개입할 경우 정보의 내용과 배열을 조작하고 뉴스의 흐름과 대중의 관심을 왜곡하는, 보다 지능적인 2차적 검열이 행해진다. 구글 뉴스에서는 애플에 관한 뉴스가 아프가니스탄 전쟁에 대한 뉴스보다 많다. 애플 뉴스는 다수의 대중에게 흥미로운 이야기를 들려주지만 아프가니스탄은 외면하고 싶은 불편한 진실을 들려준다. 하지만 불편하다고 해서 덜 중요한 것은 아니다. 구글 뉴스의 통계는 인기 리스트와 필터 버블의 결합이 무엇을 사라지게 만들지 우리에게 예고한다. 바로 중요하지만 거북한 일들이다.

페이스북을 버리고 트위터로!

제3자에 의해 내 생각이 조종되는 필터 버블의 세상에서 온전히 내 생각을 지켜가려면 어떻게 해야 할까? 저자는 구체적으로 몇 가지 방안을 제시한다.
먼저 새로운 방향으로 관심사를 넓히라고 충고한다. 한 가지 관심사에만 몰두하는 사람은 프로파일링하기 쉽지만 오페라에도 관심이 있다가 만화를 보기도 하고, 아프리카 정치 기사를 클릭했다가 톰 크루즈의 다음 영화를 찾아보는 사람을 분석하기는 힘들다. 이러한 방법은 필터 버블을 무력화시킴과 동시에 새로운 정보와 아이디어를 얻는 좋은 기회를 주기도 한다.
인터넷을 사용하며 규칙적으로 쿠키를 삭제하는 것도 어느 정도 도움이 된다.
더 나은 방법은 필터가 어떻게 작동하고 개인 정보가 어떻게 사용되는지를 투명하게 공개하는 사이트를 선택하는 것이다. 예를 들어 페이스북은 필터링의 기준이 모호하지만 트위터는 간단하고 명확한 편이다. 트위터에서는 계정을 스스로 걸어 잠그지 않는 이상 나의 글이 모두에게 공개되며, 원하는 사람의 새로운 글을 누군가의 개입 없이 시간 순으로 업데이트해서 볼 수 있다.
저자는 이 모든 구체적인 방법보다 가장 중요한 것이 필터 버블의 존재를 명확히 인식하는 일이라고 말한다. 내게 제공되는 검색 결과가, 내 SNS페이지에 올라오는 글들이, 내 눈앞에 뜨는 뉴스들이 누군가에 의해 걸러진 것이라는 점을 알고 있는 사용자라면 주어지는 정보만을 신뢰하기보다 다른 방향으로 사고하는 것 또한 멈추지 않을 것이기 때문이다. 나의 선택을 한 번 더 의심하고 생각의 각도를 조금 더 비틀어 사안을 새롭게 바라보는 것. 이것이 바로 생각 조종자들에 맞서 내 생각을 지키는 가장 중요한 방법인 셈이다.

이 책이 인터넷을 이용해 미국의 역사를 뒤바꿔놓은 주역에 의해 쓰였다는 점은 커다란 아이러니가 아닐 수 없다. 어쩌면 인터넷을 가장 잘 활용해본 전문가였기에 그 문제점 역시 누구보다 잘 알아차릴 수 있었는지도 모른다. 입맛에 맞는 정보를 남이 떠먹여주는 편리함에 중독되기 전, 그의 경고를 곰곰이 되새겨봐야 하는 이유가 바로 여기에 있다.

책속으로

우리는 구글에서 검색을 할 때, 항상 같은 결과가 나온다고 생각한다. 그리고 구글이 자랑하는 페이지랭크PageRank 알고리즘은 다른 페이지들의 링크를 기반으로 한 가장 믿을 만한 결과를 제시한다고 여긴다. 그러나 2009년 12월부터 이 말은 더 이상 사실이 아니다. 지금 우리는 구글이 우리에게 최선이라고 추천하는 결과를 본다. 검색 결과가 사람마다 완전히 다를 수도 있다. 한마디로 이제 구글의 표준 검색 결과는 없다. … 많은 사람들은 검색엔진이 공정하고 타당한 결과를 보여준다고 생각한다. 그러나 이렇게 긍정적으로 평가하는 이유는 다름 아니라 검색엔진이 검색하는 사람의 비위를 슬슬 맞춰주고 있기 때문인지도 모른다. 검색엔진은 우리가 무엇을 클릭하는지 살펴서 우리가 원하는 것을 다시 보여준다. 즉, 컴퓨터 화면은 점점 더 우리를 비추는 거울이 되어가고 있다. -서문 /pp.6~7

새로운 세대의 인터넷 필터가 당신이 좋아하는 것을 살펴본다. 당신이 실제로 무슨 일을 했는지, 당신과 같은 사람이 무엇을 좋아하는지 살펴보고 추론한다. 예측 엔진들은 끊임없이 당신이 누구인지, 이제 무엇을 하려고 하고 또 할 것인지에 대한 이론을 만들어내고 다듬는다. 이를 통해 우리 각각에 대한 유일한 정보의 바다를 만든다. 우리가 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 이런 현상을 나는 ‘필터 버블filter bubble’이라고 부르고자 한다. -서문 /p.15

온라인 상점을 방문한 사람들의 98퍼센트는 아무것도 사지 않고 떠난다. 그러나 리타깃팅은 이런 무구매 행동이 헛방이 아니라고 해석한다. 온라인에서 운동화를 사려고 어떤 사이트를 방문했다고 하자. 당신은 사지 않고 사이트를 떠났다. 그러나 그 웹 사이트가 리타깃팅을 사용하고 있다면 인터넷에서 어디든 당신을 쫓아다닐 것이다. 간밤에 로그인한 게임 사이트와 좋아하는 블로그 옆에 운동화 광고가 올라온다. 결국 당신이 그 사이트에서 운동화를 사면 그 사이트는 당신이 어떤 운동화를 샀다는 정보를 다시 액시엄과 같은 회사를 통해 운동 의류 사이트에 판다. 곧 당신은 인터넷 곳곳에서 “땀을 기가 막히게 흡수한다”라고 하는 기능성 양말 광고를 보게 될 것이다. -1장_관련 정보는 어떻게 돈이 되는가/pp.61~64

구글 뉴스에서는 애플에 관한 뉴스가 아프가니스탄 전쟁에 대한 뉴스보다 많다. 나 역시 애플의 열광적인 팬이다. 그러나 아이폰과 아이패드에 관한 뉴스가 아프가니스탄 전쟁 상황보다 중요하다고 할 수는 없다. 구글 뉴스의 통계는 인기 리스트와 필터 버블의 결합이 무엇을 사라지게 만들지 우리에게 예고한다. 바로 중요하지만 거북한 일들이다. <워싱턴 포스트>의 옴부즈맨은 “트래픽이 중요하다고 해서 우리마저 ‘지루하지만 중요한 일’들을 모른 체할 것인가?”라고 자문한다. -2장_사용자가 곧 콘텐츠다/pp.99~100

2008년 대통령 선거에서 오바마 후보가 사실은 기독교인이 아니라 무슬림이라는 루머가 지속적으로 유포되었다. … 미국인들이 정치가들에 대해 제대로 안 적이 없었던 것을 감안하면 이 일은 별로 놀라운 것도 아니다. 하지만 선거가 끝난 후 오바마가 이슬람이라고 믿는 비율이 거의 두 배로 늘었다는 점은 특이하다. 이것을 조사한 퓨 자선신탁Pew Charitable Trusts에 의하면, 증가 현상이 대학 졸업자에게 두드러졌다고 한다. 대학 졸업장을 가진 사람들이 그렇지 못한 사람보다 어떤 경우에는 더 맹목적일 수 있음을 보여주는 이상한 현상이다. 왜 그럴까? 존 체이트Jon Chait는 미국의 시사 잡지 <뉴 리퍼블릭New Republic>에 쓴 글에서 그 답은 미디어에 있다고 설명한다. “맹목적인 정당원은 자신의 이념적 신념을 확인하는 뉴스 소스를 보는 경향이 많다. 교육 수준이 높을수록 정치 뉴스를 많이 본다. 따라서 교육을 많이 받은 사람이 실제로 더 맹신자가 될 수 있다.” 필터 버블은 이런 현상을 더욱 심화하고, 당신이 알고 있는 것을 더욱 정당화한다. -3장_약 권하는 사회/pp.118~119

개별화 필터 때문에 우리가 제대로 세상을 보지 못하는 이유가 또 있다. 필터 버블은 지도에 대한 우리의 생각을 바꿔버린다. 더욱 거북스러운 사실은 지도상의 빈 칸을 지워버림으로써 ‘아직 모르는 곳’이라고 알려진 곳을 ‘아예 모르는 곳’으로 바꿔버린다는 것이다. -3장_약 권하는 사회/p.141

물론 선택할 수 있는 것이 너무 많아도 문제이다. 우리는 선택할 수 있는 대안의 수에 압도되거나 선택의 역설에 쩔쩔맬 수도 있다. 그러나 핵심은 바로 필터 버블이 당신의 정체성을 반영하지 않고 선택지들을 보여준다는 것이다. 일류 대학에 다니는 학생들은 다른 대학 학생들은 절대로 받아 보지 못하는 취업 자료를 받아 볼 것이다. 전문적인 과학자들의 뉴스 피드는 아마추어들이 결코 알

[막내]

엘리 프레이저 지음 / 역자 이현숙 , 이정태 옮김 / 출판사 알키 | 2011.08.30