2023년 이후의 과제와 변화

[미얀 코리아]

AI가 상황을 매우 빠르게 변화시키고 있다는 것은 분명합니다.

작성자: Yin Nwe Ko

AI와 로봇은 2023년 작가들에게 몇 가지 우려를 불러일으키고 있습니다. Gary Dalkin이라는 남자는 AI가 글쓰기를

어떻게 변화시키고 있으며 미래에는 어떤 일이 일어날지 고민하고 있습니다.
매일 우리는 AI가 글쓰기나 출판을 바꾸는 이야기를 듣습니다. 

최근 일부 뉴스에는 'AI가 Zadie Smith, Stephen King, Rachel Cusk의 작품을 허가 없이 사용한다'(가디언 제공),

'AI를 사용하여 일자리를 잃을 걱정 없이 소설을 쓰는 작가'(Sky News), '사이트 소설을 분석하는 Prosecraft는

사람들이 화를 낸 후 문을 닫았습니다.'(Gizmodo)…
AI가 상황을 매우 빠르게 변화시키고 있는 것은 분명합니다. 

무슨 일이 일어나고 있는지 이해하려면 매일 많은 기사를 읽어야 합니다. 두 가지 주요 문제가 있습니다.

우리는 지금 무슨 일이 일어나고 있는지 모르고, 미래에 무슨 일이 일어날지 모릅니다.

 AI는 사람들이 늘 이야기하는 기술이지만, 전문가조차 이를 완전히 이해하지 못하는 기술이기 때문이다.
AI에 대해 우리가 모르는 것이 있습니다. 우리는 그것이 글쓰기, 출판, 심지어 세상을 어떻게 바꿀지 모릅니다. 

기술은 정말 빠르게 성장하고 있으며 사람들은 항상 기술을 사용하는 새로운 방법을 찾고 있습니다. 

또한 사람들이 삶에서 AI를 받아들일지, 아니면 그 영향을 제한하려고 할지 알 수 없습니다. 

모든 것이 너무 빠르게 변화하고 있으며, 우리는 기술로 가능한 것, 법이 허용하는 것, 크고 작은 회사가 할 수 있는 것이

모두 놀랍고 혼란스러운 방식으로 결합되는 새로운 개척지에 있습니다.
이러한 혼란의 한 예는 Prosecraft라는 웹사이트로, 이 웹사이트는 빠르게 폐쇄되었습니다. 

Benji Smith라는 사람이 운영했습니다. 

그는 자신의 사이트가 많은 작가들의 수천 권의 책을 포함하여 문학을 분석하기 위한 것이라고 말했습니다. 

Smith는 원래 다양한 유형의 소설에 얼마나 많은 단어가 포함되어 있는지 파악하기 위해 사이트를 만들었습니다. 

나중에 그는 수천 권의 제목을 통계적으로 분류하기 위해 소설을 분석하기 시작했습니다. 

예를 들어, 그는 이상한 나라의 앨리스의 모험에 26,814개의 단어가 있고 '생생함' 점수가 83.93%이며 수동태를 사용하는

경우가 8.08%라고 말했습니다. 

문제는 스미스가 오래된 고전과 살아있는 작가들의 신작을 많이 사용했는데, 일부 사람들은 그것을 좋아하지 않았다는

것입니다. 

스미스는 자신이 글쓰기 세계의 AI와의 싸움에 휘말린 피해자라고 말하면서 텍스트를 공정하게 사용했으며

그것으로 돈을 벌지 않았다고 주장했습니다.
Smith의 상황은 책에 대한 통계를 수집하기 위해 컴퓨터를 사용하는 소규모 작업의 간단한 예일 수 있습니다. 

그들은 작가의 작업을 컴퓨터에 넣지만, 훨씬 더 강력한 컴퓨터를 훈련시키는 곳은 그리 멀지 않습니다. 

이 컴퓨터는 기존 책에 대한 데이터만 만드는 것이 아닙니다. 

그들은 그 책을 사용하여 인공 지능에게 글쓰기를 가르칠 것입니다.
이제 ChatGPT 및 Google의 Bard, Sudowrite 및 Writesonic(주로 ChatGPT의 기반 기술인 GPT 기반)과 같은

유사한 시스템에 대해 이야기하겠습니다. 

이러한 시스템의 문제는 복사가 작업의 큰 부분을 차지한다는 것입니다. 

이는 전문 작가들의 많은 책을 배우지 않고는 그들이 하는 일을 할 수 없다는 것을 의미합니다. 

작가를 대체할 새로운 기술을 만들기 위해 이들 작가의 작품은 허가 없이 촬영되고 분석됩니다. 

쉽게 말하면 인간 작가들과 직접적으로 경쟁하는 기술을 만들어 달라는 요청도 없이 많은 작가들의 작품을 가져간다는 것이다.
Alex Reisner라는 사람이 Atlantic에 LLaMA라는 AI를 훈련하기 위해 Meta에서 사용하는 데이터 세트를

확보했다고 썼습니다. 

이 데이터 세트에는 170,000권이 넘는 불법 복제 도서가 포함되어 있으며 대부분이 지난 20년 동안 출판되었습니다. 

Books3라고 불리며 EleutherAI가 BloombergGPT 및 GPT-J를 훈련하는 데에도 사용되었습니다. 

이 방대한 컬렉션에는 Sarah Silverman, Richard Kadrey, Christopher Golden 등과 같은 많은 작가의 텍스트가

포함되어 있으며 모두 묻지 않고 가져왔습니다.

Books3는 책뿐만 아니라 유럽 의회 및 Wikipedia와 같은 장소의 기타 디지털 텍스트와 YouTube 비디오의 자막을

포함하는 The Pile이라는 더 큰 데이터 세트의 일부입니다.

 Reisner는 The Pile에서 Penguin Random House에서 30,000권, HarperCollins에서 14,000권, Macmillan에서

7,000권이 넘는 책을 발견했습니다. 

그는 Jonathan Franzen, Margaret Atwood, L Ron Hubbard(사이언톨로지를 창시하고 많은 펄프 소설을 쓴 사람)와 같은

유명 작가의 소설을 찾았습니다. 

Reisner는 Books1에 무엇이 포함되어 있는지 알 수 없었지만 그것이 약 70,000권의 오래된 책으로 구성된 Project Gutenberg 데이터베이스일 수 있다고 생각했습니다.

 Books2는 BitTorrent를 사용하여 찾아 다운로드할 수 있는 Bibliotik, Library Genesis 및 Z-Library와 같은 이름을 가진

불법 복제된 디지털 라이브러리일 가능성이 높습니다.
최근까지 작가들은 자신의 책이 복사되는 것을 걱정했지만 불법 복제된 책을 사용하여 작가를 대체할 수 있는

기계를 가르치는 것은 훨씬 더 큰 관심사입니다.
사이먼 리치(Simon Rich)는 미국 출신의 작가로, code-davinci-002라는 AI를 사용하여 I Am Code: An Artificial

Intelligence Speaks라는 책을 집필했습니다. 

그는 또한 '나는 시나리오 작가입니다'라는 제목으로 타임 기사를 썼습니다. 

이 AI 농담은 나에게 악몽을 선사합니다'라는 말이 무섭게 들릴 수도 있습니다. 

기사에서 그는 ChatGPT와 같은 AI에 대해 이야기하고 의도적으로 좋지 않다고 말했습니다. 

ChatGPT를 만든 회사인 OpenAI는 ChatGPT를 안전하고 너무 창의적이지 않게 만들기 위해 많은 시간과 돈을 투자했습니다.
Rachel Armstrong이라는 교수는 AI를 사용한 글쓰기가 맞춤법 검사를 사용하는 것처럼 매우 일반화될 것이라고

생각합니다. 그녀는 AI가 글쓰기에 대부분 도움이 되지만 때로는 짜증스러울 수도 있다고 믿습니다. 

사람들은 제대로 작동하지 않을 때 전원을 끌 수도 있습니다. 

그녀는 우리가 AI를 글쓰기 친구처럼 대하고 AI가 어떻게 생각하는지 궁금해하지만 AI의 편견을 실제로 알지 못할

것이라고 생각합니다.
Simon Rich는 code-davinci-002라는 고급 AI에 대해 알고 있습니다. 

OpenAI의 친구 덕분에 그는 그것을 사용했고 그것이 심지어 재미있는 농담도 할 수 있다는 것을 발견했습니다. 

그는 '우크라이나 전쟁이 더욱 지루해질 수 있다고 전문가들이 경고한다', '감독이 실제 배트맨을 사용하라고 주장함에

따라 새 배트맨 영화의 예산이 2억 달러로 늘어남'과 같은 꾸며낸 뉴스 헤드라인을 공유했습니다. 

아마도 그 중 하나가 당신을 웃게 만들었을 것입니다! 리치는 약 5년 안에 AI가 인간 작가보다 더 나을 것이라고 생각합니다.
암스트롱 교수의 생각은 다릅니다. 

그녀는 AI 글쓰기가 독자들에게 안전하고 예측 가능하다고 느낄 것이라고 생각하지만 일부는 거칠고 위험한 글쓰기를

놓칠 것이라고 생각합니다. 

그녀는 작가들이 AI를 혼란시키는 기술을 사용하여 AI의 일반적인 글쓰기 방식에 반항하는 시대를 기대합니다. 

그녀는 AI가 완전히 이해할 수 없는 종류의 글쓰기를 원합니다.

여기서 중요한 점은 AI가 인간의 글을 아무리 잘 복사하더라도 사람들은 여전히 ​​실제 인간 경험에서 나온 것을 읽고

싶어한다는 것입니다. 

컴퓨터는 인간이 되는 것이 어떤 것인지 모르고 앞으로도 그럴 것입니다. 

AI가 기업 글쓰기와 같은 일부 글쓰기 작업을 대신할 수도 있지만 미국의 WGA 파업처럼 작가들은 저항할 것입니다. 

사람이 쓴 작품에는 실제임을 보여주는 특별한 로고가 있을 수도 있습니다. 

사이먼 리치(Simon Rich)는 기술로 인해 자신이 덜 필요하게 되더라도 계속해서 글을 쓰겠다고 말하며 끝을 맺습니다. 

그는 명확한 이유 없이 무언가를 창조하려는 인간의 욕구가 그를 특별하게 만든다고 생각합니다.
좋은 소식과 도전은 AI에 관한 이야기의 일부입니다. 

ChatGPT4라는 새롭고 보다 자연스러운 AI가 있고 How-To Geek와 같은 웹사이트의 가이드가 AI 텍스트를 더욱

인간적으로 들리게 만드는 데 도움이 되지만 Gary Marcus 교수는 심각한 문제에 대해 경고합니다. 

그는 ChatGPT와 같은 생성 AI가 사람들이 기대하는 만큼 큰 영향을 미칠지 확신하지 못합니다. 

그는 이를 과대광고에 부응하지 못한 비행선과 같은 과거 기술과 비교합니다. 

그는 심지어 전체 생성 AI 분야가 오래 지속되지 않을 수도 있다고 제안합니다.
고려해야 할 또 다른 사항은 기술이 무엇을 할 수 있는지, 그리고 사회가 무엇을 허용하기로 결정하는지입니다. 

법은 기술과의 균형과 같습니다.

 예를 들어, 미국의 일부 변호사는 법정에서 ChatGPT의 가짜 정보를 사용하여 문제를 겪었습니다. 

이는 사람들이 AI가 만들어내는 것을 항상 신뢰할 수는 없다는 것을 보여줍니다. 

더 나쁜 것은 AI 시스템이 묻지 않고 자신의 작품을 사용하기 때문에 일부 작가는 법적 조치를 취한다는 것입니다. 

8월 18일 미국 판사는 AI가 만든 예술 작품은 저작권으로 보호될 수 없다고 판결했습니다. 즉,

누구나 복사할 수 있으며 출판사는 출판 직후 자유롭게 복사할 수 있는 책에 투자하고 싶지 않을 수도 있습니다.
이 결정은 미국을 위한 것이지만 전 세계, 특히 영어권 국가에 영향을 미칠 수 있습니다. 

미국은 영어 도서의 큰 시장이며 AI가 만든 작품이 법적 보호를 받지 못한다면 모든 곳에서 동일할 수 있습니다. 

판사는 저작권은 AI가 아닌 인간이 만든 작품만을 보호한다고 말했습니다. 

이는 인간의 창의성을 보호하겠다는 강력한 입장이다. 

따라서 AI가 성장하더라도 법은 인간의 창의성이 안전하게 유지되도록 보장합니다.

세상은 빠르게 변화하고 있지만 좋은 면도 있고 좋지 않은 면도 있습니다. 

스마트 컴퓨터 프로그램인 ChatGPT는 이제 Android 휴대폰에 탑재되었으며 Microsoft Bing 검색 엔진의 일부입니다. 

사물을 '볼' 수도 있고 음성 기능도 있습니다. 

하지만 사용시에는 잘못된 정보를 제공할 수 있다는 경고가 있습니다. 

이제 '부정확한 정보'가 얼마나 큰 문제인지 흥미롭습니다.
유럽연합(EU)에서는 디지털 서비스법(Digital Services Act)이라는 새로운 법률을 제정했습니다. 

사용자가 많은 대형 기술 회사의 경우에는 더 엄격합니다. 그들은 사람들의 정보를 사용하는 방법에 관한 규칙을

따라야 합니다. 

이러한 대기업 중 하나인 Facebook은 AI가 사용하는 정보를 사용자가 제어할 수 있도록 돕는 페이지를 추가했습니다.
거대 온라인 상점인 Amazon은 AI가 너무 많은 책을 만들었기 때문에 사람들이 출판 시스템을 사용하여 업로드할 수 있는

책의 수를 제한했습니다. 그러나 모든 AI 사용이 나쁜 것은 아닙니다. 

Microsoft와 MIT의 도움으로 Project Gutenberg는 AI 음성을 사용하여 5,000권의 오래된 책을 오디오북으로 만들었습니다.
미국작가길드(WGA)는 AI가 영화 대본을 쓰거나 만드는 데 도움을 줄 수 없다며 할리우드 스튜디오를 상대로

승리했다. Atlantic 잡지도 AI 훈련에 어떤 책이 사용되는지 확인하고 있습니다. 

그들은 당신의 저작물이 무단으로 사용되었는지 확인하는 도구도 만들었습니다. 제가 편집한 책을 발견했어요!
작가길드(Author's Guild)는 유명 작가의 작품을 묻지도 않고 사용한 오픈AI(Open AI)를 고소했다. 사람들은 어느

한쪽 편을 들고 있고, 이는 좋은 변화가 일어나고 있음을 보여줍니다. 

무슨 일이 일어날지 확신할 수 없더라도 인간이 만든 것은 여전히 ​​중요할 것이며 AI가 만든 것이 이를

완전히 대체하지는 못할 것입니다.

[대박]

이런 신 기술이 반갑기 만 하진 않습니다
인간이 기기에게 지배를 당할 수가 있음이 염려 부분입니다
핸드폰에서도 자ㅏ동으로 라는 이유로 가능 해 진다고 합니다
결국 자신의 편리는 있을 수 있지만 모든 부분을 기기에게 의존하게 죕니다
수고 하셨습니다