[사설] 공천도 끝나기 전에 총선 ‘딥페이크’ 사기 129건 적발

[귀암(龜巖) 김재형]

오피니언사설

[사설] 공천도 끝나기 전에 총선 ‘딥페이크’ 사기 129건 적발

조선일보

입력 2024.02.20. 03:14

https://www.chosun.com/opinion/editorial/2024/02/20/4TUDLCIVG5BFFIDTS3CHOXYKBQ/

[사설] 공천도 끝나기 전에 총선 ‘딥페이크’ 사기 129건 적발

※ 상기 주소를 클릭하면 조선일보 링크되어 화면을 살짝 올리면 상단 오른쪽에 마이크 표시가 있는데 클릭하면 음성으로 읽어줍니다.

읽어주는 칼럼은 별도 재생기가 있습니다.

제22대 국회의원선거 90여일 앞둔 지난 1월 10일 경기 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있다./뉴스1

중앙선관위가 오는 4월 총선을 앞두고 AI 딥페이크(가짜 동영상·목소리)를 이용한 불법 게시물 129건을 적발했다고 한다. 19일간 감시한 결과가 이렇다. 선관위가 적발한 딥페이크는 상대방 후보가 나오는 동영상을 교묘하게 조작, 발언의 일부를 왜곡하거나 통째로 조작해 SNS에 유포시킨 것이 대부분이었다. 자세히 봐도 후보가 문제의 발언을 한 것처럼 속을 정도다. 2022년 지방선거 당시 윤석열 대통령이 국민의힘 경남지역 지자체의 특정 후보를 지지하는 듯한 가짜 영상이 나돌았는데, 이와 유사한 것들도 적발됐다고 한다.

선관위가 70명의 직원을 투입해 삭제한 딥페이크 129건은 모두 자체 모니터링을 통해서 파악한 것이다. 선관위가 구축한 딥페이크 감시 시스템은 민간보다 뒤처졌고 인력도 한계가 있어 이번에 적발되지 않은 총선 관련 딥페이크는 훨씬 더 많을 수 있다.

구글과 오픈AI 등 20개의 글로벌 빅테크 기업이 딥페이크가 선거의 공정성을 저해하지 않도록 ‘연합군’을 만들어 대응하기로 한 것은 딥페이크의 심각성을 보여준다. ‘2024년 선거 AI 기만적 사용 방지 기술 협약’을 맺은 이들 업체는 AI 콘텐츠의 위험 완화를 위한 기술 개발과 확산 방지 노력을 함께하기로 했다.

반면 네이버, 카카오톡 등 국내 대형 테크 기업들은 딥페이크를 막기 위해 적극적으로 나서지 않고 있다. 선관위로부터 신고가 들어오는 경우에만 처리하겠다는 입장이다. 이들 업체는 사실상 국내에서 인터넷 독과점을 누리면서 공익을 위해 나서야 할 때는 소극적인 태도를 보이고 있다. 이번 총선이 딥페이크의 왜곡된 정보에 영향받지 않도록 선관위가 이들 테크 기업과의 협력 체제를 구축할 필요가 있다.

여론조사를 왜곡해 퍼뜨리는 위법행위도 잇따르고 있다. 중앙선거여론조사심의위는 여야 후보 간 여론조사, 당내 경선 관련 여론조사 등을 조작한 범죄 5건을 수사 기관에 고발했다. 경선 통과를 위해 SNS 단체방에 여론조사 전화 응답 시 연령을 거짓으로 응답하도록 유도하는 글을 게시한 이들도 적발됐다. 디지털 기술의 발전이 선거를 위협하는 것은 이제 시작일 수 있다. 선관위와 관련 업계가 큰 책임 의식을 가져야 한다.

공정한 여론에 따른 총선이 보장되지 않으면 민주주의가 후퇴하는 것은 물론, 감당하기 어려운 혼란이 우리 사회를 휩쓸게 될 것이다.

밥좀도

2024.02.20 05:16:20

한국 나라가 너무도 멍멍이판이다. 미래와 후손이 걱정이다. 난세의 영웅인 엘리트 정치인 한동훈에게 한 가닥 희망과 기대를 거는 바이다.

답글작성

3

0

---

Hope

2024.02.20 03:28:54

왜곡 조작 미연에 방지하고 철저한 조사와 구속수사 강력한 처벌로 부정선거 방지하자 .

답글작성

3

0

---

무수옹

2024.02.20 03:42:20

범죄는 날고 있는데, 예방과 대책은 뛰고 있다. AI기술은 상상을 초월할 정도로 고도화 되는데, 그에 대한 악용 대비책은 미비 그 자체 아닌가? 적발했을 때는 이미 그 폐해가 형언할 수 없다. deep fake 범죄는, 특히 공직선거에서 발생하는 deep fake 범죄는, 신속한 입법으로 사후라도 무한 책임을 지우는 특별법을 제정 공포하여야 한다.

답글작성

2

0

---

북한산 산신령

2024.02.20 06:32:03

철저히 감시해서 공정선거를 하도록 해라

답글작성

1

0

---

둥이할머니

2024.02.20 06:08:01

첨단과학시대가 좋은것만도 아닌것같다.너무 가짜가 판을치니 무엇이,어떤것이 참인지를 가늠하기도 어렵다.순간에 집착하지말고 모두 정직하고 바른 선거운동 했으면 좋겠다.선거가 오십여일 앞으로 닥아오고있다.나라의 명운이 달려있는 선거일수도있다.대한민국에 필요한인물들이 선출되도록 우리국민모두 정신을 바짝 차려야 할것같다.

답글작성

1

0

---

블랙재규어

2024.02.20 05:56:38

이번 총선이 막장 선거가 되지 않기를 바란다.

답글작성

0

0

---

심연식

2024.02.20 05:05:37

정치인들은 자신의 홍보와 상대를 흠집내기 위한 가진 영상물 제작은 정상적이라고 본다 물론 상대를 음해하고 조롱 음해 하는 것도 허위사실이 아니라며는 당선을 위한 불가피하지마는 조선일보가 주장하는129건이 선정기준이 한쪽편이라며는 역시정치의 혼탁을 가저 올수 있다는 것을 경고한다

답글작성

0

1