테크놀로지와 인간 협력으로 조작적 허위정보 문제 해결한다- ‘가짜뉴스 방지’

[이윤배]

- 과총‧한국정보과학회, ‘가짜뉴스 방지’ 위한 공동포럼 개최

 최근 고도화된 정보통신기술에 힘입어 조작적 허위정보가 사회 전반에 심각한 악영향을 주고 있다. 중앙선거관리위원회에 따르면, 지난 19대 대통령 선거에서 70건의 허위사실이 적발됐으며, 이는 단 한건에 불과했던 18대 대선에 비해 압도적으로 증가한 수치다. 특히 정치, 경제, 사회, 문화 모든 곳에서 기승을 부리는 조작적 허위정보는 사회 전반의 신뢰를 떨어뜨리면서 혼란을 일으켜, 사회․정치적 양극화 등을 우려케 한다.

 한국과학기술단체총연합회(이하 과총)은 지난 8월 27일 한국프레스센터에서 한국정보과학회와 공동으로 포럼을 개최했다. 이날 포럼에는 페이크 뉴스 방지를 위한 제도적․기술적 방안을 마련하고 언론학 및 컴퓨터과학 분야에서의 접근법과 대응방안을 모색하는 시간을 가졌다.

 최종원 한국정보과학회장은 개회사를 통해 “인터넷이 지난 20여 년 동안 다양한 플랫폼 서비스를 제공하면서 우리 사회에 많은 충격을 주었다. 그리고 이제는 4차 산업혁명 시대의 핵심기술인 인공지능 기술이 페이크 뉴스를 식별하는 데 사용될 것이다. 오늘 포럼을 통해서 사회적 물의를 일으키고 있는 조작적 허위정보에 대한 대응방안을 공유하는 좋은 시간이 되기를 바란다”고 밝혔다.

 김명자 과총 회장은 환영사를 통해 “유튜브가 편리한 접근성과 다양성으로 무장해 콘텐츠 시장에 새로운 패러다임을 제시하고 있다. 하지만 사회적 부작용 역시 확산되고 있다. 왜곡된 내용을 진실처럼 포장한 것에 그치지 않고 정치적 의도와 상업적 목적을 위해 꾸준히 재생산·확대되고 있어 그 폐해가 심각하다. 4차 산업혁명은 분명히 하나의 기회이다. 그러나 동시에 여러 가지 부작용을 함께 가지고 올 수 있기 때문에 양면성에 대해 잘 가늠하는 전문가들의 노력이 중요한 시점이라고 생각한다. 오늘 포럼이 우리 사회가 이 문제에 어떻게 대처하는가에 있어서 지혜를 모으는 좋은 자리가 되기를 기대한다”고 말했다.

허위정보 진위 여부, 내용은 물론 맥락까지 파악해야

▶ 주제발표. (왼쪽 사진부터) 오세욱 한국언론재단 선임연구원, 차미영 KAIST 전산학부 교수

 첫 번째 발제는 오세욱 한국언론재단 선임연구원이 ‘언론학 관점에서 조작적 허위정보에 대한 논의’를 주제로 발표했다. 오 선임연구원은 “사전적 의미로 사실이란 ‘실제로 있었던 일이나 현재에 있는 일’을 말한다. 그래서 언론은 사실임을 인정받기 위해 객관성이라는 규범을 준수해오고 있다. 그런데 이러한 객관성은 디지털 기술의 발달에 따라 투명성 논란으로 확장되고 있다. 즉 언론이 사실을 정확하게 전달해야 되고 만약에 출처가 있다면 링크를 달아서 확인할 수 있게 해야 한다. 언론에 있어서도 오보가 있을 경우가 있다. 그런데 단순히 사실 관계에 틀렸다고 해서 오보라고 규정하는 경우가 너무 많다. 의도적으로 사실을 왜곡하더라도 그것이 더 나은 원칙과 더 나은 것들을 위한 것이라면 그런 것들은 사실이다. 이처럼 사실에 대한 진위 여부를 판단하는 것은 상당히 어렵다”고 설명했다.

 이어 그는 ‘페이크 뉴스(fake news)’라는 단어가 불편하다고 말했다. “페이크 뉴스라는 단어가 처음 나온 곳이 페이크 뉴스 사이트다. 거짓된 뉴스 형식의 정보를 게재하는 사이트들이 범람하는 문제를 지적하며 페이크 뉴스 사이트에 걸린 정보들을 가리켜 그렇게 부르기 시작했는데 그것이 유입되고, 번역 되며 가짜뉴스라는 단어가 유행이 됐다. 특히 정치인들이 이 단어를 자주 사용하게 되면서 어느 순간 가짜뉴스가 조작적 허위정보 모든 정보를 통칭하는 일종의 상징처럼 쓰이게 됐고, 기존 언론의 뉴스조차 못 믿는 현상으로까지 이끌고 있다”고 말했다.

  또한 “허위정보의 진위 여부를 판단하기 위해서는 내용을 심층적으로 읽어보고, 거기에 대해 맥락까지 고려해 판단해야 한다. 지금 정치․경제적 목적에 의해 악의적으로 조작된 허위정보는 민주적 공동체 사회의 대화를 방해하고 있다. 또한 디지털 정보의 심층적 재조합으로 정보 원본의 식별이 불가능하고, 작성 주체도 불명확해지고 있다. 이 현상은 최종 검증 역할을 하던 언론이 다양한 이유로 신뢰를 잃게 됐다는 점이 크게 작용했다. 지금 우리 사회는 불확실한 정보 앞에서 나와 비슷한 생각을 하는 사람들의 얘기를 통해 검증하려는 경향이 강화되고 있다. 그러나 허위정보에 대응하기 위해서는 나와 다른 관점의 반대 목소리를 들어야 한다. 여기에 테크놀로지와 인간의 협력이 필요한 것이다. 즉 인공지능(AI) 등을 활용하여 페이크 뉴스와 같은 허위정보 등의 유포 특징을 잡아낸다면 대응 정보 또한 빠르게 제공할 수 있을 것”이라고 제안했다.

 오 선임연구원은 “우리가 허위와 사실을 판단하는데 있어서 인간의 결정과 사회적 담화, 그리고 합의를 통해 이루어지는 것이 무엇보다도 중요하다. 그렇기에 ‘기술’이라는 영역이 유효한 수단이기는 하지만 최종적으로는 사람의 판단이 필요하다”고 강조했다.

가짜뉴스의 파급력과 기술적 해법

 두 번째 발제는 차미영 KAIST 전산학부 교수가 ‘가짜뉴스를 다루는 전산학 기법 점검’을 주제로 발표했다. 차 교수는 “2013년 미국 AP 통신의 트위터 계정이 해킹당해 백악관 폭발설과 함께 오바마 대통령이 다쳤다는 소식이 순식간에 퍼져 뉴욕증시 지수가 급락하는 일이 있었다. 이후 곧바로 정정뉴스가 보도됐지만 가짜뉴스만큼 리트윗 되지는 않았다. 이 사건은 해커들이 주가조작을 노리고 일부러 만든 가짜뉴스였다. 2016년에는 미국 대선 당시 프란체스코 교황이 트럼프를 지지한다는 가짜뉴스가 퍼졌다. 이 소문은 대선기간 동안 구글에서 진짜뉴스보다 더 높은 랭킹에 올랐다는 분석결과가 있다”며 페이크 뉴스의 파급력을 보여주는 사례를 소개했다.

 차 교수는 “SNS와 인터넷에서는 정보의 검열이 제대로 이루어지지 않고, 퍼져나가기 때문에 생산속도가 빠르다. 지금도 1분에 300시간 이상 분량의 유튜브 영상이 업로드 된다. 이제는 인터넷의 모든 정보를 인간이 검증할 수 없는 시대가 된 것이다. 그렇다면 알고리즘과 같은 기술적 힘을 빌려서 검증해야 한다”고 제안했다.

 차 교수는 “MIT연구팀이 300만 트위터 사용자가 전파한 12만 6천 건의 루머를 분석한 결과 가짜뉴스가 진짜뉴스보다 더 빠르고, 깊고, 널리 퍼진다는 사실을 밝혀냈다. 특히 정치부문에서 트위터를 통한 가짜뉴스의 파급력이 크다고 확인했다. 또 미국국립과학원회보는 정치적 양극화를 줄이기 위해 다양한 뉴스를 노출하는 것이 좋은지 점검한 결과, 진보성향의 뉴스에 한 달간 노출된 보수성향의 사용자의 경우 실험 이후 더 극단적인 보수성향을 나타내 양극화가 가속화된다는 결론을 얻었다. 또한 전문가를 통한 뉴스의 팩트체크는 빠른 생성속도를 따라가지 못해 문제가 발생하므로 알고리즘과 일반 사용자, 그리고 전문가 사용자의 콜라보레이션 형태로 이루어져야 되고, 그러기 위해서는 데이터의 라벨링(labelling)이 필수”라고 조언했다.

허위정보 대응 위해 사회적 논의 활성화해야

▶ 패널토론. (사진 왼쪽부터) 양승현 ㈜코난테크놀로지 부사장 겸 CTO, 정은령 서울대 팩트체크센터장, 황용석 건국대 미디어커뮤니케이션학과 교수, 류현숙 한국행정연구원 선임연구위원, 권오성 한겨레신문 기자

 주제발표 후 이어진 패널토론에는 황용석 건국대 미디어커뮤니케이션학과 교수가 좌장을 맡고 권오성 한겨레신문 기자, 류현숙 한국행정연구원 선임연구위원, 정은령 서울대 팩트체크센터장, 양승현 ㈜코난테크놀로지 공동창업자/부사장 겸 CTO가 패널로 참석했다.

 권오성 한겨레신문 기자는 “아직까지 국내에서 디스인포메이션(disinformation:정부 기관에서 고의로 유포한 허위 정보) 현상은 단 한 번도 없었다고 생각한다. 그 이유는 국내의 경우 70% 이상의 뉴스 소비가 네이버라는 포털사이트를 통해서 일어나고 있어 이런 구조 안에서는 페이크 뉴스 내지 디스인포메이션 현상이 생길 수 없는 구조이기 때문이다. 교황이 트럼프를 지지했다는 가짜뉴스 사례에서 보듯이 해외에서는 뉴스형식을 갖춘 페이크 뉴스 사이트를 통한 문제가 심각한데 국내에는 아직 그런 사이트가 없다. 그렇지만 국내에도 언론을 가장한 정보가 엄연히 존재하고, 카카오톡이나 유튜브에서 기사 양식과 방송 양식을 빌린 허위정보들이 확산되고 있는 상황”이라고 말했다.

 류현숙 한국행정연구원 선임연구위원은 “사람들이 생산하는 데이터가 빅데이터가 되고, 빅데이터에 기반한 AI가 될 것이기 때문에 AI 기반의 자동 가짜뉴스 식별도 완전하게는 어렵다고 생각한다. 다양한 이력을 가진 20명의 성인을 대상으로 재난안전과 관련된 가짜뉴스 식별조사 실험을 했다. 그런데 제목과 요약문만 읽고, 본문 내용은 읽지 않았다. 또 국내에서는 소셜미디어 등에서 아무나 기사를 올리고, 허위정보를 올리는데 누구도 필터링하지 않고 있다. 해외에서는 테러, 총기난사, 폭탄 이러한 것들이 정치 쟁점화 되지 않는데 우리나라는 자연재난, 지진, 화재 등 모두가 정파적으로 해석되고 있다”는 점도 설명했다.

 정은령 서울대 팩트체크센터장은 “글로벌 팩트체크 커뮤니티에서 드러나는 세 가지 양상이 있다. 첫 번째는 오토메이티드 팩트체킹이다. 오토메이티드 팩트체킹은 사실인지 거짓인지 판단해주는 것이 아니라 보이스 투 텍스트(Voice To Text)로 음성을 텍스트로 만들어 기존의 검증된 데이터와 비교해 진위여부를 가리는 것이다. 두 번째는 국내외적 협력 강화이다. 실시간 펙트체크에 대한 연구를 하는 팩트스트림(FactStream) 팀들이 만든 모델을 한국, 아르헨티나, 스페인 등의 기관에 전파하는 노력이 일어나고 있다. 마지막은 이용자 중심이라는 점이다. 즉 아주 일반적인 대중의 수준에 맞춰서 진행되고 있다. 우리나라의 경우 데이터베이스 작업에 정부와 플랫폼 기업이 함께 나서야 한다. 특히 플랫폼 기업들의 역할이 굉장히 중요하다”고 밝혔다.

 양승현 ㈜코난테크놀로지 공동창업자/부사장 겸 CTO는 “대규모 데이터 속에서 빠르게 허위정보를 찾는 다양한 탐지기법들 즉 문서 내 탐지, 문서 간 분석매칭들이 계속 진화하고 있고, 이러한 다양한 기법을 통해 충분히 탐지되고 있다. 그러나 현재 서비스 사업자나 플랫폼 사업자들은 의무적인 제약이 많다. 데이터보호법과 같은 규제를 준수하면서 사업을 해야 하기 때문”이라며, 합리적인 수준에서 규제완화가 검토돼야 할 것이라고 제안했다.