'용납할 수 없다': AI 탐지기 점수 관련 작가 비난

[이매진]

'용납할 수 없다': AI 탐지기 점수 관련 작가 비난

https://www.swissinfo.ch/eng/swiss-ai/swiss-experts-explain-why-condemning-writers-over-ai-detector-scores-is-unacceptable/92246477?utm_source=multiple&utm_medium=website&utm_campaign=bundle-front1_en&utm_content=o&utm_term=wpblock_teaser-bundle

용납할 수 없다': AI 탐지기 점수 관련 작가 비난

아이티계 캐나다 작가 텔리손 오렐리앙이 인공지능을 이용해 소설 "C'était ça ou mourir"를 썼다는 의혹을 받고 있다. (AFP 또는 라이선스 제공자)

한 인공지능 탐지기가 베스트셀러 소설을 인공지능 창작물로 판정하면서 논란이 일었고, 이는 작가에게 심각한 결과를 초래했습니다. 스위스의 전문가들과 예술가들은 이러한 도구들이 실제로 얼마나 많은 것을 증명할 수 있는지, 그리고 그 결과가 창작 활동에 어떤 의미를 갖는지 살펴봅니다.

기사를 들어보세요언어 선택기 전환

구하다

공유하다

이 콘텐츠는 다음 날짜에 게시되었습니다.2026년 10월 27일 - 오전 9시

9분

사라 이브라힘

기타 언어: 2영어 원문

아이티계 캐나다 작가 텔리손 오렐리앙은 장래가 촉망되는 작가였다. 그의 소설 《죽느냐 사느냐》(C'était ça ou mourir)는 평단과 대중 모두에서 큰 성공을 거두었고, 공쿠르상을 비롯한 프랑스 최고 권위의 문학상 후보에 오르기도 했다. 그러던 어느 날, 익명의 X 계정이 그가 인공지능(AI)을 이용해 소설의 거의 모든 부분을 썼다고 폭로하면서 모든 것이 바뀌었다.

오렐리앙은 소설을 쓰는 데 인공지능을 사용했다는 혐의를 부인했습니다. 그러나 그를 비난하는 사람들에게는 증거가 명백해 보였습니다. 인공지능 콘텐츠 탐지 도구 중 가장 널리 사용되는 팡그램이 소설의 95% 이상을 인공지능이 생성한 것으로 분류했기 때문입니다.

그 후 오렐리앙의 상황은 악화일로를 걸었다. 그의 소설은 공쿠르상 후보에서 제외되었고, 언론에서는 그의 이전 작품에서 표절이 드러났다는 사실이 밝혀져 그는 사과했다. 캐나다 출판사는 외부 분석 결과 인공지능 사용 증거가 추가로 발견되자 그와의 계약을 해지했다. 오렐리앙은 인공지능을 이용해 책을 썼다는 사실을 계속 부인했지만, 창작 과정에서 역사 연구를 위해 인공지능을 참고한 것은 인정했다.

처음부터 이 논란은 문학계를 작가를 옹호하고 AI 탐지기의 신뢰성에 의문을 제기하는 측과 그를 비판하는 측으로 양분시켰다.

마누엘 플루린 헨드리는 스위스 출신의 감독, 시나리오 작가이자 강사입니다. 저작권 2017 파비안 프로스트

오렐리앙의 사례 외에도 스위스 영화 제작자, 시나리오 작가이자 강사인 마누엘 플루린 헨드리는 소프트웨어로 생성된 점수를 기준으로 작가의 명성을 훼손하는 것은 부당하다고 생각합니다. 헨드리는 10월 초 AI+X 서밋에서 스위스인포와의 인터뷰에서 "팬그램에 텍스트를 입력하고 그 점수로 작가를 사회적으로 매장시키는 것은 용납할 수 없다"고 말했습니다. 그는 예술가들이 자신에게 맞는 도구를 선택할 자유를 옹호합니다.

다른 스위스 작가와 예술가들도 인공지능을 공개적으로 실험해 왔습니다. 작가 찰스 르윈스키는 ChatGPT가 생성한 구절들을 자신의 소설 《 진정한 만남 》(Täuschend echt) 에 통째로 삽입했습니다 . 사진작가 마티유 가프소는 DALL·E와 같은 이미지 생성 도구를 자신의 예술 작품에 활용했습니다.

이것들은 스위스에서 인공지능이 창작 활동에 어떻게 활용되고 있는지 보여주는 몇 가지 명확한 사례일 뿐입니다. 하지만 공개되지 않은 채 광범위하게 사용될 가능성이 있는 인공지능에 어떻게 대응해야 할지는 훨씬 더 어려운 문제입니다. 예술 작품에 인공지능이 생성한 자료를 어느 정도까지 허용해야 하는지, 그리고 팡그램과 같은 도구가 사기 여부를 확실하게 증명하는 도구로 신뢰할 수 있는지에 대한 판단 또한 어려운 과제입니다. 

팡그램은 얼마나 신뢰할 수 있나요?

헨드릭 스트로벨트는 미국 IBM의 선임 연구원입니다. (사진 제공: 헨드릭 스트로벨트)

미국 IBM의 선임 연구원인 헨드릭 스트로벨트에게 있어 팡그램의 신뢰성 문제는 복잡한 사안입니다. 스트로벨트와 그의 동료들은 2019년에 언어 모델이 생성했을 가능성이 있는 텍스트를 식별하는 데 도움을 주기 위해 설계된 최초의 실험 도구 중 하나인 GLTR을 개발했습니다.

당시 오픈AI는 GLTR의 기반이 된 모델인 GPT-2를 막 출시한 상태였습니다. 스트로벨트는 AI 모델들이 스타일이 매우 유사하고 다소 지루한 텍스트를 생성하는 경향이 있었는데, 이는 그러한 유형의 콘텐츠가 가장 흔했기 때문이라고 설명합니다.

따라서 텍스트가 인공지능의 도움을 받아 생성되었는지 여부를 파악하는 것은 비교적 간단했습니다. 가장 가능성이 높은 단어들을 찾아보면 됐습니다.

그 후 언어 모델은 더욱 정교해졌습니다. 스트로벨트는 오늘날의 고도화된 AI 시스템으로는 AI가 생성한 텍스트와 인간이 쓴 글을 명확하게 구분하는 규칙을 정하기가 극히 어려워졌다고 생각합니다.

"이제 이러한 모델들은 훨씬 더 커졌습니다. 적절한 지시를 내리면 스타일을 모방할 수도 있습니다."라고 IBM 연구원은 말합니다.

스트로벨트가 개발한 이 도구는 통계적으로 가장 예측 가능한 단어(인공지능이 생성했을 가능성이 있는 단어)를 녹색으로, 덜 흔한 단어를 노란색으로, 그리고 가장 의외의 단어(인간이 생성했을 가능성이 높은 단어)를 빨간색이나 보라색으로 표시했습니다. (사진 제공: 헨드릭 스트로벨트)

Pangram과 같은 소프트웨어는 "지도 분류"라는 방법을 사용합니다. 이 소프트웨어는 생성형 AI가 널리 보급되기 전에 작성된 텍스트(인간이 작성한 것으로 추정됨)와 시중에 나와 있는 다양한 언어 모델이 생성한 동일 주제의 "대칭" 텍스트를 비교하고 분류합니다. 학습 과정에서 소프트웨어는 두 텍스트 간의 차이점을 식별하는 방법을 익힙니다.

논리는 만약 시스템이 주제가 매우 유사한 텍스트들을 구별할 수 있다면, 예측의 정확도가 더 높아질 것이라는 것입니다.

스트로벨트는 "어려운 과제부터 먼저 훈련할 수 있도록 서로 매우 유사한 것들을 훈련하는 것이 좋습니다."라고 설명합니다.

팡그램은 주장합니다외부 링크정확도 99.98%, 오탐률 0.01%를 기록했습니다. 이러한 높은 성능은 독립적인 연구를 통해서도 입증되었습니다.외부 링크연구를 포함하여외부 링크올해 출판되었습니다.

스위스 이탈리아 대학교(USI)의 인공지능 및 기계 학습 연구원인 파올로 이탈리아니에 따르면, 텍스트가 길수록 탐지기의 평가가 더 신뢰할 만해지는 경향이 있습니다.

그는 "적어도 [텍스트의] 일부는 인공지능이 생성한 것일 가능성이 매우 높다"고 말합니다.

AI 탐지기의 한계

하지만 이러한 도구들이 분류를 하기 위해 텍스트의 어떤 특징에 의존하는지 정확히 이해하기는 여전히 어렵다고 USI의 자연어 처리 교수인 로네케 반 데르 플라스는 말합니다.

그녀는 더 깊은 이해를 얻기 위해서는 해석 가능성 연구가 필요하다고 설명합니다. 하지만 팡그램과 같은 상용 도구는 내부 작동 방식이 독립적인 연구자에게 공개되지 않는 블랙박스와 같기 때문에, 이러한 도구들이 어떻게 결론에 도달하는지 연구하기는 어렵습니다.

Università della Svizzera italiana의 Lonneke van der Plas와 Paolo Italiani에 따르면 AI 탐지 도구는 영어가 아닌 텍스트와 AI와 공동으로 작성된 콘텐츠를 처리할 때 정확도가 떨어집니다. Universita' Della Svizzera Italiana

이론적으로는 지나치게 선형적인 논증 구조와 같은 특정 단서들이 텍스트가 인공지능에 의해 작성되었는지 아니면 인간에 의해 작성되었는지를 판단하는 데 도움이 될 수 있다고 연구진은 밝혔습니다 .외부 링크반 데르 플라스가 공동 저술한 이 책은 몇 가지 특징을 강조합니다. 하지만 그녀는 그러한 특징만으로는 텍스트의 출처를 확실하게 규명하기에 충분하지 않다고 경고합니다.

반 데르 플라스는 또한 탐지 도구가 영어 이외의 언어나 훈련 데이터에 충분히 포함되지 않았을 수 있는 특정 장르에서는 신뢰성이 떨어지는 경향이 있다고 지적합니다.

인간과 인공지능의 협업으로 텍스트가 만들어진 경우 문제는 더욱 복잡해집니다. 몇몇 테스트 결과는 다음과 같습니다.외부 링크이러한 경우 탐지기의 정확도는 약 20%포인트 정도 떨어집니다. (팡그램 자체 기술 보고서)외부 링크또한 해당 소프트웨어는 사람이 작성한 문장과 AI가 생성한 문장이 번갈아 나타나는 콘텐츠에 직면했을 때 정확도가 떨어진다는 점도 나타냅니다.

반 데르 플라스는 "이 소프트웨어는 대부분 완전히 사람이 작성한 텍스트나 기계가 생성한 텍스트로만 학습되었습니다. 그 중간 형태의 텍스트를 다루게 되면 문제가 발생합니다."라고 말합니다.

점수만으로는 충분한 증거가 될 수 없습니다.

법률적 관점에서 볼 때, 팡그램과 같은 도구로 생성된 결과는 저자가 사기를 저질렀다는 증거로 간주되지 않습니다.

자크 드 베라는 제네바 대학교의 지적재산권법 교수입니다. (사진 제공: 자크 드 베라)

제네바 대학교 지적재산권법 교수인 자크 드 베라는 "법적 결정은 단순히 그러한 기술에 의존할 수 없습니다. 왜냐하면 그 기술들은 부정확할 수 있기 때문입니다."라고 말합니다.

드 베라 변호사는 오렐리앙 사건과 같은 사례가 법정에 회부될 경우, 탐지기 점수 외에도 원고, 수정본, 심지어 AI 시스템과의 대화 내용 등 다른 증거들도 고려되어야 한다고 설명합니다. 또한 드 베라 변호사는 창작물에 AI가 관여했다고 해서 저작권자의 권리가 자동으로 무효화되는 것은 아니라고 지적합니다.

그는 "만약 어떤 사람이 입력, 창의적 자극, 그리고 결과물 사이에 충분히 밀접한 창의적 연관성이 있음을 입증할 수 있다면, 인간의 창의성을 주장할 수 있을 것"이라고 말한다.

핵심은 저자의 창의적인 기여도가 충분한가 하는 점입니다. 그러나 드 베라는 작품이 한 사람의 작품으로 인정받기 위해 얼마나 많은 부분을 직접 써야 하는지를 정하는 고정된 수치적 기준은 없다고 강조합니다.

만약 어떤 책이 당신을 감동시켰다면, 인공지능이 그 책을 쓰는 데 도움을 줬는지 여부가 중요할까요?

하지만 마누엘 플루린 헨드리에게 있어 이 문제는 법적 보호 이상의 의미를 지닙니다.

헨드리는 시나리오 분석부터 학술 연구 지원에 이르기까지 자신의 작업 전반에 걸쳐 인공지능 기반 기술을 공개적으로 활용하고 있으며, 그중 일부는 직접 개발한 것이다.

그는 기술이 새로운 영감의 길을 열어주고, 때로는 이전에는 생각지도 못했던 접근 방식을 제시해 준다고 설명합니다. 또한 창작 활동에 더 많은 시간을 할애할 수 있게 해준다고 덧붙입니다.

"진정한 인간의 글쓰기는 행동하는 사고입니다. 그것은 마찰을 필요로 하고, 오로지 생각의 흐름에만 집중할 수 있는 상태에 도달해야 합니다."라고 그는 말합니다.

그리고 그는 도발적인 질문을 던집니다. 인공지능이 작품에 얼마나 기여했는지가 왜 중요하냐는 것입니다. "만약 그것이 당신에게 감동을 준다면, 당신에게 흥미를 준다면, 당신에게 생각할 거리를 준다면, 그게 무슨 의미가 있겠습니까?"라고 그는 묻습니다.

헨드리는 인공지능에 위임해야 할 작업과 직접 처리하는 것이 더 나은 작업을 구분하는 것이 중요하다고 주장합니다. 예술가들은 기술을 거부하기보다는 기술 활용 방식을 투명하게 공개해야 한다는 것입니다.

"만약 이게 내 작품인 척하지만 사실은 인공지능이 생성한 거라면, 그건 가짜잖아요."라고 헨드리는 말합니다.

여기서 중요한 것은 예술가의 명성뿐만 아니라, 무엇보다도 관객과의 신뢰 관계입니다.

토론에 참여하세요: