미국의 허위 정보 급증, 스위스 직접 민주주의에 경각심을 일깨워

[이매진]

미국의 허위 정보 급증, 스위스 직접 민주주의에 경각심을 일깨워

https://www.swissinfo.ch/eng/democracy/us-disinformation-surge-rings-alarm-bells-for-swiss-direct-democracy/87613037

US disinformation surge rings alarm bells for Swiss direct democracy

미국의 허위 정보 급증, 스위스 직접 민주주의에 경각심을 일깨워

 AI가 만든 딥페이크 이미지에서 카말라 해리스는 공산주의 독재자로 묘사됩니다. X

기사를 들어보세요언어 선택기 전환

공유하다

미국이 대선을 앞두고 전례 없는 AI 생성 가짜 콘텐츠의 물결에 시달리고 있는 가운데, 전문가들은 스위스도 예외는 아니라고 경고합니다. 오히려 이 알프스 국가는 전 세계 유권자들을 위협하는 허위 정보 전술에 특히 취약합니다.

이 콘텐츠는 다음에 게시되었습니다.2024년 9월 26일 - 09:00

9분

사라 이브라힘

Claire Micallef의 입력을 받아

로잔에 있는 스위스 연방 공과대학의 교수이자 딥페이크 전문가인 투라지 에브라히미는 "스위스는 매우 취약한 나라입니다. 사람들이 잘못된 정보를 받으면 잘못된 결정을 내릴 가능성이 높기 때문입니다."라고 말했습니다. 

전문가는 정책 결정에서 시민에게 두드러진 역할을 부여하는 직접 민주주의가 인공 지능(AI)에 의해 주도되는 허위 정보와 딥페이크로 가장 큰 피해를 입을 것이라고 주장합니다. 이는 스위스와 대부분의 미국 주 에도 적용되는데 , 선출된 대표뿐만 아니라 국민도 중요한 결정을 내립니다.

외부 콘텐츠

진행 중인 미국 대선 캠페인은 AI가 정치적 토론의 물을 얼마나 흐리게 만들 수 있는지 보여줍니다. 우리는 올해 내내 온갖 것을 보고 들었습니다. 독재자로 묘사된 카말라 해리스의 이미지외부 링크공산당 대회에서 오디오 메시지외부 링크유권자들에게 투표하지 말라고 요청하는 조 바이든의 목소리, 70년대 음악에 맞춰 멋진 옷을 입고 흠잡을 데 없이 춤추는 일론 머스크와 도널드 트럼프의 영상외부 링크. 이는 X(이전의 Twitter)와 같은 소셜 플랫폼에서 온라인으로 유통되는 딥페이크(AI로 생성된 가짜 오디오비주얼 콘텐츠) 중 일부에 불과합니다.

목표는 큰 영향과 적은 노력으로 허위 정보를 생성하고 여론을 조작하는 것입니다. 실제로 수백만 명의 사람들이 이러한 딥페이크를 보고, 좋아하고, 리포스트했습니다. 미국에서는 상황이 너무 걱정스러워서 최소 20개 주 에서외부 링크딥페이크에 대한 규제를 통과시켰고 국토안보부는 경고했습니다.외부 링크대선에 대한 AI의 위험에 대해. 최근 캘리포니아주는 미국에서 가장 엄격한 법률 중 하나에 서명했습니다.외부 링크정치적 딥페이크에 반대합니다.

반면 스위스는 입법 면에서 뒤처져 있습니다. EU는 딥페이크를 규제했지만외부 링크EU AI법에서 스위스 정부는 다음과 같이 명시했습니다.외부 링크작년에 인위적으로 생성되고 조작된 콘텐츠에 대한 구체적인 규제는 필요 없다고 밝혔습니다.

그러나 입법적 노력에도 불구하고 미국이나 세계에서 가장 큰 민주주의 국가 중 어느 곳도 역사상 가장 많은 사람(최소 40억 명)이 투표에 나선 올해에 가짜 영상, 사진 및 뉴스의 피해를 면치 못했습니다.

AI가 생성한 허위 정보의 확산은 아직 정점에 도달하지 않았습니다. 미래에는 인공적으로 생성된 합성 미디어 콘텐츠가 점점 더 많아질 것이라고 Ebrahimi는 말합니다. 그리고 기술이 더욱 정교해짐에 따라 실제와 구분하기가 점점 더 어려워질 것입니다. SWI swissinfo.ch에서 상담한 다른 전문가들도 이 평가에 동의합니다.

스위스 민주주의가 AI 기반 허위 정보의 위험성을 과소평가해서는 안 되는 세 가지 이유는 다음과 같습니다.

1. 검색엔진과 챗봇은 편향적이고 부정확한 정보를 보여줍니다.

비영리 단체와 연구 그룹은 이미 스위스 민주주의에 대한 AI 소프트웨어와 알고리즘의 위험과 한계에 대해 경고했습니다. 스위스 NGO 알고리즘 워치 CH는 분석했습니다.외부 링크2023년 10월 스위스 연방 선거 전 Bing 검색 엔진 내 Microsoft Chatbot의 응답을 조사한 결과 선거 관련 응답의 3분의 1에 사실 오류가 포함되어 있었으며 AI가 스캔들을 조작 하기까지 했다는 사실이 밝혀졌습니다.외부 링크특정 정치적 인물에 대한 것입니다. Algorithm Watch CH의 이사인 Angela Müller는 "검색 엔진에 통합된 생성형 AI 챗봇은 사람들이 검색 엔진을 통해 수집한 정보에 의존하기 때문에 오해의 소지가 있을 수 있습니다."라고 말합니다.

하지만 웹 검색 엔진은 또한 오도할 수 있습니다. 백서외부 링크베른과 취리히 대학의 연구에 따르면 스위스에서 가장 많이 사용되는 검색 엔진인 Google은 특정 정보 출처에 대한 가시성이 불평등하고 검색 언어(독일어, 프랑스어 또는 이탈리아어)에 따라 주제에 대한 비판적 견해의 양이 다르다는 것을 발견했습니다. 예를 들어 2023년 6월 기후 보호법에 대한 국민 투표 전에 연구자들은 Google이 이탈리아어와 프랑스어로 된 질의에 대한 질의에 비해 독일어로 된 질의에 대한 법률에 더 비판적인 당사자의 정보를 선호한다는 것을 발견했습니다.

더

더스위스인, 가짜뉴스에 속기 쉬운 것으로 밝혀

이 콘텐츠는 다음에 게시되었습니다.2024년 9월 2일  OECD 연구에 따르면 스위스 사람들은 진실과 거짓을 구분하는 데 그다지 능숙하지 않은 것으로 나타났습니다.

더 읽어보세요: 스위스인이 가짜 뉴스에 대해 속기 쉬운 것으로 밝혀짐

"스위스와 같이 이미 양극화된 다국어 민주주의에서 이러한 결과는 우리를 걱정시킬 것입니다." 백서의 연구자 중 한 명인 미콜라 마호르티크의 말입니다. 그는 검색 알고리즘과 AI 소프트웨어가 어떻게 작동하는지에 대한 투명성이 없다는 사실과, 약속에도 불구하고 대형 기술 회사가 가짜 뉴스와 양극화에 맞서기 위한 효과적인 시스템을 구축하지 못한다는 사실에 경각심을 불러일으킵니다.

2. AI가 생성하는 허위 정보로 인해 미디어 환경이 덜 신뢰할 수 있게 되었습니다.

오늘날의 AI 시스템은 또한 허위 정보의 더 빠르고 쉬운 생성 및 배포를 허용한다고 Makhortykh는 말합니다. 점점 더 많은 뉴스 사이트가 권위 있는 또는 전통적인 미디어를 모방하고 있습니다.외부 링크, 하지만 실제로는 종종 부정확하고 때로는 완전히 조작된 자동 생성된 AI 콘텐츠로 가득 차 있습니다. 이러한 뉴스 기사는 주요 소셜 미디어 플랫폼의 페이지를 채우고 있으며, 조사에 따르면 스위스에서 유통되는 거짓 정보의 60% 이상을 차지합니다.외부 링크fög가 지휘함.

외부 콘텐츠

아주 작은 부분 이라도외부 링크인구의 1/3이 AI가 생성한 뉴스를 읽을 것이라고 하더라도, 그것이 너무 잘 되어서 사람들이 그것을 식별하고 가짜 뉴스를 피하는 것이 더 어렵다고 느낄 수 있습니다. 최근 OECD 조사에 따르면 스위스는 허위 정보를 인식하는 능력이 가장 낮은 국가 중 하나로 평가되었습니다.

"실제 저널리스트와 AI가 생성한 뉴스가 비슷해 보인다면, 이는 정말 위험합니다." 취리히 대학교의 정치 행동 및 디지털 미디어 교수인 카르스텐 도네이의 말입니다. 그는 사람들이 속았다고 느끼고 미디어 시스템 전체에 대한 신뢰를 잃을 수도 있다고 덧붙였습니다.

이 생태계는 이미 스위스가 정보를 얻는 방식을 바꾸도록 이끌었습니다. Reuters Digital News Report 에 게재된 최신 수치외부 링크 이 나라의 주요 정보 출처는 온라인 뉴스 사이트임을 보여줍니다. 텔레비전, 인쇄 매체, 라디오와 같은 전통적이고 더 신뢰할 수 있는 채널은 여전히 ​​중요하지만 2016년 이후 상당한 감소를 경험하고 있습니다.

 SWI 스위스인포.ch

보고서는 기존 미디어 소비가 감소한 한 가지 이유는 사람들이 뉴스에 폭격을 당하고 지쳤다고 말한다. 그 결과 스위스인들은 일반적으로 정보에 대한 관심을 잃고 있으며, 이는 세계적 추세의 일부이다. 스위스는 인구가 기존 미디어 플랫폼을 포기하는 데 가까운 미국과 같은 다른 일부 민주주의 국가보다 덜 극단적인 변화를 보였다.

하지만 이것이 스위스가 AI의 위험을 최소화할 가능성을 높이는 것은 아니라고 도네이는 말한다. 그는 검색 엔진과 챗봇이 정보의 원천으로서 계속해서 추진력을 얻을 것이라고 믿는다.

"사람들은 점점 더 많이 사용할 것이고 이것이 어디로 이어질지는 잘 모릅니다." 교수는 지적합니다. 그러나 그는 비저널리즘 정보 소스도 특정 표준을 준수하도록 하는 보호 장치를 마련하는 것이 너무 늦지 않았다고 추정합니다.

 SWI 스위스인포.ch3. 생성 AI 기술은 놀라울 정도로 설득력이 있습니다.

지금까지 AI가 생성한 허위 정보가 인구에 미치는 영향을 증명하는 것은 어려웠습니다.
취리히 대학교 정치 분석 교수인 파브리지오 질라르디는 "대규모 현상이 아닙니다. 허위 정보는 틈새 시장에서 유통됩니다."라고 말합니다. 그는 허위 정보가 항상 존재해 왔으며 가장 결정적인 연구에 따르면 사람들이 생각하는 것보다 영향력이 훨씬 적다고 말합니다. 그는 "인공지능이 상황을 크게 바꾸지는 않을 것"이라고 말합니다.

Meta와 협력하여 수행된 독립 연구외부 링크(페이스북 모회사)는 2020년 미국 대선 기간 동안 소셜 미디어에 유포된 허위 정보가 사람들의 태도와 행동에 큰 영향을 미치지 않았으며 양극화를 심화시키지 않았다는 사실을 입증했습니다.

하지만 ChatGPT와 같은 대화형 AI 플랫폼의 등장으로 이는 바뀔 수 있습니다. 연구외부 링크스위스 로잔 연방 공과대학(EPFL)이 미국에서 약 900명을 대상으로 실시한 실험 결과, ChatGPT가 우리의 의견을 형성하는 데 매우 능숙하다는 사실이 밝혀졌습니다.

더

더스위스에서도 소셜 미디어가 미국만큼 가짜 뉴스를 조장하는가?

이 콘텐츠는 다음에 게시되었습니다.2023년 7월 12일  Social media platforms are global, but that doesn’t mean they have the same effect everywhere.

더 읽어보세요: 스위스에서도 소셜 미디어가 미국만큼 가짜 뉴스를 조장하고 있을까?

연구 저자 중 한 명인 프란체스코 살비는 "생성 AI 모델의 설득력이 너무 높아서 선거에 영향을 미칠 수 있다"고 말합니다. 살비와 그의 팀은 ChatGPT-4가 인간보다 사람의 마음을 바꿀 확률이 82% 더 높다는 것을 보여주었습니다.

사용자의 개인 정보를 소유한 경우 ChatGPT-4는 개인화되고 설득력 있는 메시지를 생성할 수 있습니다. 이는 2018년에 밝혀진 Cambridge Analytica라는 회사가 정치적 영향력을 위해 수백만 명의 Facebook 사용자의 개인 데이터를 불법적으로 사용한 것과 같은 다른 유명한 허위 정보 사건 중에서도 전례가 없는 일입니다. Salvi는 "우리는 n승의 잠재적 Cambridge Analytica 사건에 직면해 있습니다. 그리고 저는 그것이 이미 일어나고 있다고 확신합니다."라고 주장합니다.

Benjamin von Wyl 및 Veronica De Vore/ds 편집

더

더뉴스레터

무료 뉴스레터에 가입하시면 최신 기사를 이메일로 받아보실 수 있습니다.

더 읽어보세요: 뉴스레터

인기 스토리

더

외교

유럽 ​​국가, 우크라이나 규제로 스위스산 무기 거부더 읽어보기: 유럽 국가, 우크라이나 규제로 스위스산 무기 거부

더

과학

스위스에는 이제 젠더 의학 교수가 있습니다. 그녀는 여기 머물 것입니다.  더 읽어보세요: 스위스에 이제 젠더 의학 교수가 있습니다. 그녀는 여기 머물 것입니다.  

더

스위스 정치

스위스, 생물다양성과 연금 개혁 제안 거부더 읽어보기: 스위스, 생물다양성 및 연금 개혁 제안 거부

더

알파인 환경

스위스 알프스에서 첫 번째 대규모 태양광 공원 건설 시작더 읽어보기: 스위스 알프스에서 첫 번째 대규모 태양광 공원 건설 시작

더

외교

파벨 두로프와 텔레그램에 대해 알아야 할 여섯 가지 더 읽어보세요: Pavel Durov와 Telegram에 대해 알아야 할 여섯 가지 

가장 많이 논의된

더

호스팅:도널 오설리번

스위스의 알랭 베르셋이 유럽 평의회에 무엇을 가져올 수 있다고 생각하시나요?

토론에 참여하세요

53

52

토론 보기

더

호스팅:야니스 마브리스

스위스 중립의 미래는 어떻게 될까?

토론에 참여하세요

148

104

토론 보기

더

호스팅:벤자민 폰 윌

오늘날 스위스와 미국은 서로에게서 무엇을 배울 수 있을까?

토론에 참여하세요

31

31

토론 보기

더 많은 토론

이 스토리의 기사

• 스위스인, 가짜뉴스에 속기 쉬운 것으로 밝혀

• 스위스에서도 소셜 미디어가 미국만큼 가짜 뉴스를 조장하는가?

• 뉴스레터

JTI 표준을 준수합니다

추가 정보: SWI swissinfo.ch는 Journalism Trust Initiative에서 인증을 받았습니다.

저희 저널리스트들과 진행 중인 토론에 대한 개요는 여기에서 확인하실 수 있습니다 . 저희와 함께 해주세요!

이 기사에서 제기된 주제에 관해 대화를 시작하거나 사실 오류를 보고하고 싶으시다면 english@swissinfo.ch 로 이메일을 보내주세요 .