=(2024.10.21.) 오정보를 잡아내지 못하는 AI

[문교식]

@@@@@@@@@@@@@@@@@@@@@@@@

'Garbage in, garbage out': AI fails to debunk disinformation, study finds
October 21, 2024 12:23 PM
By Jocelyn Mintz
https://www.voanews.com/a/garbage-in-garbage-out-ai-fails-to-debunk-disinformation-study-finds/7830414.html

쓰레기가 들어가면, 쓰레기가 나온다('Garbage in, garbage out')

미국 대선을 앞두고 AI가 선거 오정보를 가려내지 못하고 있다.
관련 연구 기관인 미국의 NewsGuard는 생성형 AI가 거짓 정보에 효과적으로 

대처하지 못하고 있다고 주장했다.
NewsGuard에 따르면, AI Chatbot들이 오정보를 구분하지 못하는

실패율이 40%에 달했다.
미국 국가 정보원(National Intelligence)에 따르면, 러시아, 이란, 중국은 

생성형 AI를 사용하여 미국 대선에 영향을 줄 수 있음을 시사했다. 
예를 들면, 러시아에서 생성된 오정보가 미국의 지방 방송에서 나온 것처럼 

가면을 쓴다면, AI 챗봇은 쉽게 믿을 수 있음을 NewsGuard가 지적했다. 
신뢰성있고 수준높은 뉴스 미디어들은 AI가 자신들의 콘텐츠에 접근하는 것을

허용하지 않는 경향이 있다. 
반면에 수준 낮은 방송이나 무료 사이트에서는 AI의 접근을 허용하는 경우가 많다. 
따라서 저급의 콘텐츠나 오정보가 AI를 통하여 유통되기가 쉽다. 
AI는 정보의 진위를 가리지 않기 때문에 가짜 뉴스가 유통될 가능성이 있다. 
NewsGuard는 AI가 콘텐츠의 정확성과 진실성을 검증할 수 있는 

표준을 만드는 것이 필요하다고 주장했다. 
그러나 미시간 주립대의 Anjana Susarla 교수는 AI가 취급하는 정보가 

너무 방대하기 때문에 오정보를 가려내는 것이 어렵다고 말했다. 
그리고 소비자들은 인간보다 AI를 더 신뢰하는 경향이 있는데, 
소셜미디어 플랫폼들이 가짜 뉴스를 규제하도록 정부가 힘써야한다고 말했다.
//

//