딥페이크 단속으로 언론의 자유 위협

[힘힘]

딥페이크 단속으로 언론의 자유 위협

형사 처벌부터 현상금 사냥꾼까지, 선거 관련 합성 미디어를 표적으로 삼는 주법은 수정 헌법 제1조에 대한 심각한 우려를 제기합니다.

2024년 11월 22일 • 해설

브렌트 스코럽 지음

공유하다

이 기사는 2024년 11월 22일에 Rea​son​.com 에 게재되었습니다 .

맨 위

오늘날 AI가 만든 미디어는 놀라울 정도로 고품질이며 현실과 거의 구별할 수 없는 이미지와 오디오를 생성하며 비디오도 그다지 뒤처지지 않습니다. 그러나 이러한 발전과 함께 새로운 법적, 윤리적 싸움이 일어납니다.

입법자들은 딥페이크(현실을 모방한 합성 미디어)에 경각심을 갖고 있으며, 특히 위험이 큰 선거 캠페인에서 평판을 파괴할 수 있는 잠재력을 두려워합니다. 그러나 새로운 주 딥페이크 법률 중 일부는 심각한 수정 헌법 제1조 우려를 제기합니다.

"정치적 허위 정보"가 지난 몇 년 동안 민주당의 초점이 되었지만, 공화당은 후보자의 평판을 해치기 위해 기회주의적으로 배치된 AI 지원 미디어에도 반대합니다 . 딥페이크에 대한 두려움은 드문 양당의 행동을 촉발했으며, 거의 3분의 1의 주가 선거 기간 동안 딥페이크 사용을 규제하는 법률을 통과시켰습니다.

딥페이크를 표적으로 삼는 대부분의 법률은 민사 처벌에 그치지만, 적어도 텍사스 와 미네소타는 한 걸음 더 나아가 "선거에 영향을 미치려는" 합성 미디어를 범죄화합니다. 텍사스의 법률은 형사적 명예 훼손법과 유사하며 위반 시 1년 징역형을 선고받을 수 있습니다.

형사 처벌부터 현상금 사냥꾼까지, 선거 관련 합성 미디어를 표적으로 삼는 주법은 수정 헌법 제1조에 대한 심각한 우려를 제기합니다.

미네소타의 법은 훨씬 더 가혹합니다. 단순히 딥페이크를 "유포"하는 것만으로도(소셜 미디어에 다시 공유하는 것으로 충분할 수 있음) 재범자는 최대 5년 동안 징역형에 처할 수 있습니다. 나아가 딥페이크를 유포한 혐의로 유죄 판결을 받은 공무원이나 지명자는 직위에서 해임될 수 있습니다.

모호한 용어("딥페이크", "유포")에서 가혹한 형사 처벌에 이르기까지 이러한 법률은 수정 헌법 제1조의 보호와 충돌합니다. 특히 패러디나 풍자를 면제하지 않기 때문입니다.

다행히도 9월에 주 항소 법원은 텍사스의 법률이 표면적으로 위헌이라고 선언했습니다 . 텍사스 법률의 지나친 범위에 대해 주 법원은 "선거에 영향을 미치는 것이 정치적 발언의 본질이라는 점을 감안할 때, 어떤 발언이 이 법률에 포함되지 않을지 상상하기 어렵다"고 말했습니다.

하지만 민사책임이 있는 주법조차도 많은 동일한 문제가 있습니다. 캘리포니아의 새로운 딥페이크 법률인 AB 2839를 살펴볼 가치가 있는데 , 이는 "합리적인 사람"을 오도할 수 있는 변경된 정치 미디어의 배포를 "악의적으로" 하는 경우 금지합니다. 이 법률은 인기 있는 정치 콘텐츠를 포함하도록 광범위하게 적용됩니다. 예를 들어 캘리포니아 주지사 뉴섬은 금지된 미디어에는 흔한 밈과 편집된 미디어가 포함된다는 것을 분명히 했습니다 .

캘리포니아의 법률은 패러디나 풍자 작가가 자신의 미디어에 그렇게 표시하도록 요구합니다. 방송사와 신문에는 예외가 있지만 소셜 미디어 회사에는 명시적인 예외가 없습니다. 소셜 미디어 회사는 정치적 밈과 딥페이크를 "유포"하므로 손해에 대한 책임이 있을 수 있습니다.

AB 2839의 논란이 되고 충격적인 반전은 "현상금 사냥꾼" 조항으로, "실질적으로 사기성이 있는 콘텐츠의 수신자"가 콘텐츠를 배포한 "개인, 위원회 또는 기타 단체"를 고소할 수 있도록 허용합니다. 승소 당사자는 변호사 비용도 획득하므로 이 법은 디지털 콘텐츠에 대한 잠재적인 소송 열풍을 조성합니다.

캘리포니아 법은 본질적으로 수백만 명의 소셜 미디어 사용자가 정치적 밈을 만들고 비디오를 편집한 사람들을 고소하도록 초대합니다. 소셜 미디어에 게시물을 공유하는 사람조차도 "유통"이 정의되지 않았기 때문에 책임을 질 수 있습니다.

미네소타와 텍사스의 법률처럼 캘리포니아의 법률도 심각한 수정헌법 제1조 문제가 있습니다. 이 법률은 정치적 온라인 미디어에 대한 사전 제한으로 기능하도록 설계된 것으로 보입니다. 이 법률 초안을 작성하는 데 도움을 준 한 비영리 기관 관계자는 TechCrunch에 다음과 같이 말했습니다 .

실제 목표는 실제로 손해 배상이나 가처분 명령이 아닙니다. 그저 사람들이 처음부터 그렇게 하지 않게 하는 것입니다. 사실 그게 가장 좋은 결과일 겁니다... 이런 딥페이크가 우리의 선거에 사기적으로 영향을 미치지 않게 하는 것입니다.

AB 2839는 9월에 서명되어 발효되었습니다. 보수적 밈 제작자이자 편집된 풍자 영상이 뉴섬 주지사에 의해 지적된 크리스토퍼 콜스는 이 법을 차단하기 위해 소송을 제기했습니다. 10월 초에 연방 판사는 Kohls v. Bonta 사건에서 거의 모든 밈 현상금 사냥꾼 법률의 시행을 금지했습니다 .

이러한 법률 중 일부는 특히 명확하고 간단한 공개만 요구하는 경우 살아남을 수 있습니다. 그러나 미네소타와 텍사스 법률은 선거 관련 콘텐츠를 범죄화하기 때문에 여전히 심각한 수정 헌법 제1조 우려를 제기합니다.

연방 판사의 말에 따르면, 이러한 딥페이크 법은 종종 "메스 대신 망치" 역할을 하여 지나치게 많은 발언을 억제합니다.

저자 소개

브렌트 스코럽

법률 펠로우, 로버트 A. 레비 헌법 연구 센터