[아이티데일리] 카이스트(총장 이광형)는 전기및전자공학부 김용대 교수 연구팀이 국가보안기술연구소(국보연)와 협력해, 한국어 AI 생성 댓글을 탐지하는 기술 ‘XDAC’를 개발했다고 23일 밝혔다.
XDAC 데모, 탐지 및 식별 시연 예시 (출처=카이스트)
카이스트는 XDAC를 플랫폼 사업자가 의심스러운 계정이나 조직적 여론 조작 시도를 정밀 감시·대응하는 데 활용될 수 있으며, 향후 실시간 감시 시스템이나 자동 대응 알고리즘으로 확장될 것으로 기대하고 있다.
연구팀은 XDAC의 탐지 기술이 단순 판별을 넘어 심리적 억제 장치로도 작용할 수 있다고 설명했다. 마치 음주단속, 마약 검사, CCTV 설치 등이 범죄 억제 효과를 가지듯, 정밀 탐지 기술의 존재 자체가 AI 악용 시도를 줄일 수 있다는 것이다.
이번 연구는 설명 가능 인공지능(XAI) 기반 탐지 프레임워크를 제안한 것이 핵심이다. 연구팀은 △14종의 다양한 LLM 활용 △자연스러움 강화 △세밀한 감정 제어 △참조자료를 통한 증강 생성 등 네 가지 전략을 적용한 AI 댓글 생성 프레임워크를 개발했다. 이를 통해 AI 생성 댓글에 사람과 다른 고유한 말투 패턴이 있음을 확인했다.
첫댓글 헐 너무 필요한거다 요즘 ai댓글 너무많아서
에타로 모십니다
와 좋은거 하셨다
와 좋다!
그러면 설마 지피티가 써준 과제도…..?