스위스는 인공지능 딥페이크 위협에 어떻게 대처하고 있는가?

[이매진]

스위스는 인공지능 딥페이크 위협에 어떻게 대처하고 있는가?

https://www.swissinfo.ch/eng/swiss-ai/how-switzerland-is-tackling-the-ai-deepfake-menace/91666985?utm_source=multiple&utm_medium=website&utm_campaign=bundle-front1_en&utm_content=o&utm_term=wpblock_teaser-bundle

스위스는 인공지능 딥페이크 위협에 어떻게 대처하고 있는가?

 인공지능과 소셜 미디어 플랫폼은 딥페이크의 확산을 가속화했습니다. Copyright (C) 2026 Ascannio / Shutterstock.

온라인 딥페이크는 비방, 오도 또는 혼란을 조장할 목적으로 만들어졌으며, 스위스는 이러한 문제의 확산을 막기 위해 노력하는 여러 국가 중 하나입니다.

기사를 들어보세요언어 선택기 전환

구하다

공유하다

이 콘텐츠는 다음 날짜에 게시되었습니다.2026년 7월 7일 - 오전 9시

9분

매튜 앨런

최근 인공지능(AI) 도구의 발전으로 딥페이크의 규모와 범위가 급격히 확대되었습니다. 최신 AI 모델을 사용하면 전문적인 기술 없이도 누구나 집에서 가짜 이미지, 비디오 또는 오디오 콘텐츠를 쉽게 만들 수 있습니다.

최근 널리 퍼진 딥페이크 사례로는 미성년자를 포함한 사람들의 나체 사진을 생성하는 이른바 "누드화 앱"이 있습니다. 사기꾼들은 유명인의 영상을 조작하여 가짜 투자 상품을 홍보하는 것처럼 보이게 함으로써 사람들을 속여 돈을 갈취하고 있습니다.

정치인들은 자신의 이미지를 홍보하거나 정적을 공격하기 위해 딥페이크를 점점 더 많이 사용하고 있습니다. 또한 러시아와 같은 외국 국가들이 인공지능으로 생성된 딥페이크를 이용해 서방 국가의 민주주의 체제를 교란한다는

우려가 커지고 있습니다. 사이버 보안 회사 딥스트라이크에 따르면, 적발된 딥페이크 사례는 2023년 50만 건에서 지난해 800만 건 이상으로 급증했습니다. 사이버 괴롭힘과 아동 성학대 사례를 기록하기 위해 설립된 스위스 플랫폼 clickandstop.ch는 지난해 신고 건수가 63% 증가했다고 밝혔습니다 .

더

더딥페이크가 현실에 대한 우리의 인식에 미치는 영향

이 콘텐츠는 다음 날짜에 게시되었습니다.2021년 8월 13일  스위스 출신의 딥페이크 전문가 두 명이 사람의 눈을 속이고 허위 정보를 퍼뜨리는 것이 왜 그렇게 쉬운지 설명합니다.

더 읽어보기: 딥페이크가 현실에 대한 우리의 인식에 미치는 영향

"인공지능을 이용해 자신의 나체 사진이 만들어지고 유포된 사례가 늘어나면서 피해 사실을 알리는 사람들이 늘고 있습니다."라고 스위스 아동보호기관 등의 지원을 받는 해당 플랫폼은 밝혔습니다.

단순히 통계 수치만으로는 개별 피해자의 고통, 진실에 대한 대중의 신뢰 상실, 민주주의에 대한 위협을 제대로 측정할 수 없습니다. 예를 들어, 타 게스 안차이거 신문의 조사에 따르면 여성 인플루언서를 포함한 수많은 여성의 가짜 성관계 동영상과 누드 사진이 공개 텔레그램 포럼에서 유포되고 있는 것으로 드러났습니다.

이러한 사례들은 악화되는 문제에 대한 대응 속도와 집중도를 높여야 한다는 목소리를 더욱 거세게 했다. 타게스 안차이거 신문의 한 사설은 "만약 우리가 사회적으로 행동하지 않는다면, 이는 마치 실제 여성을 가상 세계의 성적 도구로 만드는 것이 용납될 수 있다는 재앙적인 메시지를 전달하는 것과 같다"고 지적 했다 .

딥페이크가 개인의 존엄성과 사회 결속에 위협을 가한다는 점에 대해서는 법이 대응해야 한다는 데 널리 공감대가 형성되어 있지만, 스위스를 비롯한 여러 나라의 입법자들은 구체적인 행동 방안에 대해서는 의견이 분분합니다.

법적 방어력 강화

스위스 정부 관계자들은 딥페이크 문제를 해결하기 위해 필요한 법 개정의 방향, 속도 및 범위에 대해 의견이 분분합니다. 작년에 스위스 의회는 녹색당 소속 라파엘 마하임 의원이 제안한 딥페이크 대응 법안을 부결시켰습니다.

하지만 올해 6월, 정부와 하원은 마하임 의원이 제출한, 성적인 내용을 담은 딥페이크를 구체적으로 겨냥한 후속 법안을 통과시켰습니다. 이 법안은 소셜 미디어 플랫폼 X에 통합된 AI 플랫폼 Grok이 생성한 노출 딥페이크 스캔들 이후에 나온 것입니다.

마하임 의원의 두 번째 동의안은 AI 플랫폼이 성적으로 왜곡된 딥페이크 콘텐츠에 대해 "위험 및 피해 평가를 수행하고 필요한 경우 보호 조치를 시행하도록" 강제하는 규칙을 마련할 것을 요구합니다. 또한, 이 동의안은 규칙을 준수하지 않는 플랫폼에 제재를 가할 수 있는 감독 기구 설립도 촉구합니다.

더

더스위스 과학자들이 딥페이크를 탐지하기 위해 사용하는 방법

이 콘텐츠는 다음 날짜에 게시되었습니다.2020년 3월 11일  전문가들 사이에서는 딥페이크 기술을 이용해 여론을 조작하는 사례에 대비해야 한다는 목소리가 점점 커지고 있다.

더 읽어보기: 스위스 과학자들이 딥페이크를 탐지하기 위해 노력하는 방법

앞서 열린 의회 토론에서 스위스 통신부 장관인 알베르트 뢰스티는 형법과 민법 체계만으로도 딥페이크 악용 문제를 충분히 해결할 수 있다고 밝혔습니다. 그는 또한 스위스가 인공지능 악용으로부터 민주주의, 법치주의, 인권을 수호하기 위해 유럽평의회의 인공지능 협약에 서명했다고 강조했습니다. 

법무부는 이러한 약속의 일환으로 스위스 법률의 일부 조항을 수정하는 방안에 대한 권고안을 제시할 예정입니다. 그러나 발더 비스 로펌의 파트너이자 데이터법 플랫폼 datenrecht.ch의 설립자인 데이비드 바셀라는 현 정부의 전략으로는 법률의 전면적인 개정은 없을 것으로 예상합니다.

바셀라 장관은 스위스인포와의 인터뷰에서 "기존 법률에 더해 딥페이크만을 위한 추가 법률을 제정하는 것은 법적 명확성에 새로운 문제를 야기할 수 있다"며, 중복되는 법률로 법규를 복잡하게 만드는 것에 대해 경고했다. 그는 "추가 규제를 요구하는 것은 쉽지만, 현명하게 시행하는 것은 어렵다"고 덧붙였다.

대신 바셀라는 개인 정보 오용으로부터 사람들을 보호하는 감독 기관인 연방 데이터 보호 및 정보 위원회와 같은 기구를 강화해야 한다고 주장합니다.  
그는 "적절한 집행력이 없는 새로운 법은 보기에는 좋지만 아무런 효과가 없다"며, "데이터 보호 기관의 자원을 두 배로 늘리는 것이 훨씬 더 큰 효과를 가져올 수 있다. 새로운 법을 제정하기보다는 기존 법을 더 잘 집행해야 한다"고 말했습니다.

인공지능은 민주주의에 위협이 될까요?

플랫폼에 책임을 묻다

스위스에서는 법 개정 과정이 모호하고 느리다는 비판이 제기되면서 일부 시민들이 불만을 표출하고 있습니다. 지난 3월, 초당파 의원들은 디지털 유해 요소로부터 국민을 보호하기 위한 규제 마련을 촉구하는 국민 발의안을 지지했습니다.

만약 충분한 지지를 얻게 된다면, "인터넷 이니셔티브"는 "디지털 공간에서 기본권과 민주주의를 보호하기 위한" 규정에 대한 전국적인 투표를 강행할 것입니다. 여기에는 허위 정보, 성폭력 및 사이버 범죄에 대한 조치가 포함됩니다.

기술 플랫폼은 대중의 불만을 조사하고 유해 콘텐츠에 대해 "필요한 대응 조치"를 취할 의무가 있다.

+ 인공지능 윤리에 관한 저희 시리즈를 읽어보세요

스위스 정부는 소셜 미디어 플랫폼과 검색 엔진이 악의적이고 허위적인 콘텐츠를 유포하는 데 책임을 지도록 하는 법안을 발의했습니다.

하지만 이 법안 초안은 이 분야의 더딘 진전을 단적으로 보여줍니다. 스위스 정부가 2023년에 처음 제안한 이 법안은 지난해 10월에야 의회에 제출되었으며 아직 의회에 상정되지 못했습니다. 주로 미국의 대형 기술 기업들을 겨냥한 이 법안 초안은 지난해 미국과의 관세 협상 과정에서 지연되었습니다.

이 법안은 주요 디지털 플랫폼들이 명예훼손, 모욕, 차별 및 증오 선동에 대한 공식적인 불만 접수 절차를 마련하도록 강제하는 것을 목표로 합니다. 기업들은 스위스에 법률 대리인을 선임하고 콘텐츠 삭제 또는 계정 차단 결정에 대한 정당성을 공개적으로 설명해야 할 의무를 지게 됩니다.

스위스 NGO인 알고리즘 워치는 이번 법안 초안을 "매우 중요하다"며 환영의 뜻을 밝혔습니다. 하지만 이 단체는 법안이 실효성 없는 종이호랑이에 그치지 않도록 효과적으로 시행되어야 한다고 경고했습니다.

기술을 활용하여 디지털 유해성을 줄이기

하지만 정치인들이 어떤 결정을 내리든, 기술 기업들 역시 딥페이크 확산을 막는 데 중요한 역할을 합니다. 스위스 기업들을 포함한 여러 기술 기업 들은 조작의 흔적을 추적하여 딥페이크를 탐지하는 데 특화되어 있습니다. 그러나 새로운 AI 모델들은 더욱 사실적인 딥페이크를 만들어내는 방법을 학습하고 있어, 탐지 업체들은 끊임없이 탐지 기법을 개선해야 합니다. 이로 인해 양측 모두 앞서나가기 위해 고군분투하는 숨바꼭질 같은 상황이 벌어지고 있습니다.

스위스 취리히 연방 공과대학(ETH Zurich)의 과학자들이 암호화된 디지털 서명을 활용하여 원본 콘텐츠의 진위 여부를 증명하는 새로운 접근 방식을 개발했습니다. 이 대학의 연구진은 카메라 및 기타 녹화 장치에 적용할 수 있는 새로운 유형의 센서 기술을 설계했는데, 이 기술은 디지털 콘텐츠가 생성되는 순간 일종의 워터마크를 삽입합니다. 이를 통해 사람들은 진본 콘텐츠와 향후 조작된 복제본을 구별할 수 있습니다.

"딥페이크는 '진실 부정' 공격입니다."라고 이더리움 취리히 공과대학(ETH Zurich) 암호화 디지털 서명 시스템의 공동 개발자인 페르난도 카르데스는 스위스인포(Swissinfo)에 말했습니다. "우리는 사람들이 무엇이 진짜이고 무엇이 가짜인지 정확하게 판단할 수 있도록 진위 여부를 확인할 수 있는 기준점을 제공하고 있습니다."

기본 원칙은 새로운 것이 아닙니다. 콘텐츠 출처 및 진위성 연합외부 링크(C2PA)는 기술, 미디어 및 출판 회사로 구성된 글로벌 컨소시엄으로, 2021년부터 암호화 서명을 포함한 다양한 디지털 콘텐츠 인증 방법을 개발해 왔습니다.

하지만 취리히 연방 공과대학(ETH Zurich) 연구진은 자신들의 출처 추적 시스템이 소프트웨어 플랫폼에 서명을 새기는 다른 시스템보다 개선된 것이라고 주장합니다. 카르데스에 따르면, 데이터 캡처와 서명 생성을 분리하면 악의적인 공격자가 하드웨어 해킹을 통해 두 과정 사이에 틈을 만들 수 있는 기회를 얻게 됩니다.

그는 "데이터를 수집하는 센서 칩에 서명을 생성하는 것이 중요하다"며 "이렇게 하면 데이터 변조가 훨씬 어려워지고 다른 접근 방식에 비해 보안 수준이 높아진다"고 말했다.

스위스 연구진은 자신들의 해결책을 공개적으로 발표한 후, 이제 카메라 제조업체와 다른 기업들이 이 기술을 채택하도록 설득하는 과제에 직면해 있습니다.