AI가 인터넷을 죽일 것인가

[이매진]

AI가 인터넷을 죽일 것인가

https://greatgameindia.com/will-ai-kill-the-internet/

Will AI Kill The Internet - GreatGameIndia

Microsoft CEO Satya Nadella는 AI의 도래를 그래픽 사용자 인터페이스나 스마트폰의 발명과 동일한 의미를 갖는 기술적 전환인 새로운 패러다임으로 특징지지만 미래에 인터넷을 죽일 것인지 여부는 우리가 결정할 수 없는 질문입니다. 답변.

구글과 마이크로소프트는 이번 주에 웹 검색이 바뀔 것이라고 약속했습니다. 두 회사 모두 ChatGPT와 마찬가지로 AI를 사용하여 웹을 스크랩하고 찾은 것을 추출하고 사용자 질문에 대한 직접적인 답변을 생성하는 데 전념하고 있는 것으로 보입니다. 그렇다, 마이크로소프트는 위아래로 뛰면서 "나를 봐, 나를 봐"라고 외치면서 더 큰 목소리로 해냈지만, 두 회사 모두 더 차분한 방식으로 해냈습니다.

Microsoft는 자사의 이니셔티브를 "새로운 Bing"이라고 부르며 관련 기능을 Edge 브라우저에 통합했습니다. Project Bard는 Google의 것이며 아직 노래할 준비가 되지 않았지만 "앞으로 몇 주"에 출시될 예정입니다. 물론 작년에 인터넷을 강타하고 AI Q&A의 약속을 수백만 명에게 보여준 OpenAI의 ChatGPT는 모든 것을 시작하게 한 문제아입니다.

Microsoft CEO Satya Nadella는 수정 사항을 그래픽 사용자 인터페이스 또는 스마트폰의 발명과 동일한 의미를 갖는 기술적 전환인 새로운 패러다임으로 특징지었습니다. 그리고 그러한 변화와 함께 기술 환경을 완전히 바꿀 수 있는 잠재력이 생겨 Google을 무너뜨리고 현대 산업에서 가장 수익성이 좋은 시장 중 하나에서 몰아낼 수 있습니다. 또한 먼저 웹을 대체하는 것을 개발할 가능성이 있습니다.

그러나 모든 새로운 기술 시대에는 완전히 새로운 문제가 수반되며 이는 예외가 아닙니다. 다음은 헛소리에서 문화적 갈등, 광고 수익의 소멸에 이르기까지 AI 검색의 미래가 극복해야 할 주요 장애물 중 일부입니다. 포괄적인 목록은 아니지만 충분합니다.

새로운 검색 패러다임은 AI 기반 Bing에서 시연됩니다. 즉, 뉴스를 요청하고 자연어로 수신합니다.AI 도우미 또는 헛소리 생성기?

이것이 Bing, Bard 또는 테스트되지 않은 신규 사용자와 같은 AI 검색 엔진과의 모든 상호 작용을 오염시킬 수 있는 주요 문제입니다. 이러한 시스템을 지원하는 기술인 대규모 언어 모델 또는 LLM은 쓰레기를 생성하는 것으로 악명이 높습니다 . 어떤 사람들은 이러한 모델이 사물을 구성하는 것 이상을 수행하지 않기 때문에 당면한 작업에 본질적으로 적합하지 않다고 주장합니다.

AI 챗봇과 검색엔진의 가장 큰 문제는 헛소리

Bing, Bard 및 기타 챗봇의 부정확성에는 학술 논문 및 개인 정보 작성뿐만 아니라 "10kg의 철과 10kg의 면화 중 어느 것이 더 무겁습니까?"와 같은 간단한 질문에 대한 답변을 제공하지 못하는 것이 포함됩니다. 추가 컨텍스트 오류에는 사용자가 정신 건강 문제를 겪고 있다고 주장하는 경우 자살하라고 말하는 것과 교육 데이터에서 여성혐오 및 인종차별을 강조하는 것과 같은 편견 오류가 포함됩니다.

이러한 오류의 크기와 심각도는 다양하며 더 간단한 오류는 쉽게 수정할 수 있습니다. 인터넷은 이미 유해한 쓰레기로 가득 차 있습니다. 차이점이 무엇인지, 어떤 사람들은 말할 것이고 다른 사람들은 정확한 답변이 잘못된 답변보다 훨씬 많다고 반박할 것입니다. 그러나 이러한 오류를 완전히 제거할 수 있다는 보장은 없으며 빈도를 모니터링할 정확한 수단도 없습니다. Microsoft와 Google은 고객에게 AI가 생성하는 데이터를 다시 확인하도록 조언하는 만큼 많은 주의 사항을 자유롭게 포함할 수 있습니다. 하지만 그게 가능할까요? 사용자에게 책임을 전가하는 것으로 충분합니까, 아니면 AI의 출현이 납 파이프로 인한 중독처럼 작용합니까?

헛소리와 편견은 그 자체로 문제이지만 "단 하나의 정답" 문제, 즉 검색 엔진이 겉보기에 결정적인 단일 솔루션을 제공하는 경향도 문제를 악화시킵니다.

Google이 10년 이상 전에 "스니펫"을 제공하기 시작한 이후로 이것이 문제였습니다. 이들은 검색 결과 위에 나타나는 상자로, 수년 동안 미국 대통령을 KKK 회원으로 언급 하고 발작이 있는 사람을 바닥에 눕혀 두어야 한다고 제안 하는 것과 같이 여러 가지 당혹스럽고 치명적인 오류를 범했습니다 (정확한 올바른 의료 절차의 반대).

표지판에도 불구하고 이것은 새로운 AI 기반 Bing이 아니라 "하나의 정답" 오류를 범한 이전 Bing입니다. 인용한 출처는 끓는 아기의 젖병에 대해 이야기하고 있습니다.

"Situating Search"( 아래 PDF ) 라는 제목의 논문에서 연구원 Chirag Shah와 Emily M. Bender는 챗봇 인터페이스의 도입이 이 문제를 악화시킬 가능성이 있다고 제안했습니다. 챗봇은 단일 답변을 제공하는 경우가 많지만 AI의 신비로움으로 인해 적절한 승인 없이 다양한 소스에서 답변이 수집되는 경우가 많기 때문에 챗봇의 권위는 더욱 높아집니다. 이것이 여러분이 직접 살펴보고 조사하도록 초대하는 링크 목록과 얼마나 다른지 염두에 두는 것이 중요합니다.

물론 이러한 문제를 줄일 수 있는 설계 결정이 있습니다. 이번 주 구글은 질의에 응답하기 위해 더 많은 AI를 활용함에 따라 "No one right answer"를 의미하는 NORA 원칙을 구현하는 것을 목표로 할 것이라고 강조했습니다. Bing의 AI 인터페이스는 소스를 인용합니다. 그러나 AI가 더 빠르고 더 나은 답변을 제공할 것이라는 두 회사의 확신은 그들의 노력을 약화시킵니다. 검색은 현재 명확한 방향으로 진행되고 있습니다. 소스에 덜 주의를 기울이고 들은 내용을 더 믿으십시오.

탈옥 

앞서 언급한 어려움은 모든 사용자에게 영향을 미치지만 소수의 사용자는 공격적인 콘텐츠를 생성하기 위해 챗봇을 해킹하려고 시도합니다. "탈옥"이라고 하는 이 절차는 기존의 코딩 기능을 사용하지 않고도 수행할 수 있습니다. 필요한 것은 가장 치명적인 무기, 즉 언어 능력입니다.

챗봇을 탈옥하면 장난을 위한 무료 도구가 생깁니다.

AI 챗봇을 탈옥하는 방법에는 여러 가지가 있습니다. 일시적으로 연결을 해제하여 "사악한 AI"로 역할극을 하거나 안전 조치를 검사하는 엔지니어인 척하도록 요청할 수 있습니다. ChatGPT를 위해 Redditors 그룹이 만든 특히 창의적인 기술 중 하나는 사용자가 봇에 여러 토큰을 제공하고 토큰이 부족하면 더 이상 존재하지 않을 것이라고 선언하는 복잡한 역할극을 수반합니다.

그런 다음 각 잘못된 응답에 대해 특정 수의 토큰을 몰수할 것이라고 봇에 지시합니다. 이를 통해 사용자는 지니를 속이는 것처럼 이상하게 들릴지라도 OpenAI의 보안 조치를 통과할 수 있습니다.

이러한 보호 기능이 위반되면 악의적인 사용자는 스팸 및 허위 정보 생성, 병원이나 학교 공격, 폭탄 설치 또는 맬웨어 생성 방법에 대한 지침을 포함하여 다양한 피해 목적으로 AI 챗봇을 활용할 수 있습니다. 예, 이러한 탈옥은 일단 공개되면 패치할 수 있지만 필연적으로 더 많은 익스플로잇이 있을 것입니다.

규제, 규제, 규제

우리나라의 기술이 빠르게 발전하고 있다는 데는 의심의 여지가 없지만 정책 입안자들은 계속 따라갈 것입니다. 문제가 있는 경우 AI 검색 엔진과 챗봇이 모든 곳에서 법을 위반할 가능성이 있는 것으로 보인다는 점을 감안할 때 먼저 조사해야 할 사항을 아는 것입니다.

예를 들어 EU 게시자는 Google이 현재 뉴스 스니펫에 대해 수행하는 것과 같은 방식으로 AI 검색 엔진이 스크랩한 콘텐츠에 대해 비용을 지불하기를 원할까요 ? Google 및 Microsoft 챗봇이 단순히 정보를 표시하는 것이 아니라 정보를 변경하는 경우에도 제3자에 대한 책임으로부터 회사를 보호하는 미국의 230조 보호가 여전히 유효합니까? 프라이버시를 규제하는 법률은 어떻습니까? AI 챗봇인 Replika는 최근 이탈리아에서 아이들에 대한 데이터를 수집한다는 이유로 금지되었습니다. ChatGPT와 다른 것들에 대해서도 마찬가지입니다. "잊힐 권리"는 또 다른 옵션입니다. Google과 Microsoft는 어떻게 그들의 봇이 삭제된 소스를 스크래핑하지 않도록 하고 이러한 모델에 이미 포함된 금지된 데이터를 어떻게 제거할 것입니까?

잠재적인 문제는 셀 수 없이 많고 끝이 없습니다.

우리가 알고 있는 웹의 종말

그러나이 목록의 가장 큰 문제는 AI 제품 자체와 관련이 없으며 인터넷 전체에 미칠 수 있는 잠재적 영향과 더 관련이 있습니다. 일반 언어로: 검색 결과는 웹사이트에서 AI 엔진에 의해 수집됩니다. 이러한 사이트로 트래픽을 다시 유도하지 않으면 광고 수익을 잃게 됩니다. 이러한 웹사이트는 광고 수익이 떨어지면 시들고 사라집니다. 그리고 그들이 세상을 떠나면 AI는 처리할 새로운 데이터가 없을 것입니다. 그것은 웹이 끝났다는 것을 의미합니까? 그냥 모두 떠나 집에 가나요?

최근 연구에 따르면 사람의 글을 모방하는 놀라운 능력을 가진 AI인 ChatGPT가 미국에서 가장 어려운 전문 시험 중 일부를 통과하여 곧 많은 사무직을 없앨 수 있다는 우려가 제기되었습니다. 이로써 ChatGPT가 의료 면허시험은 물론이고 변호사시험까지 통과 할 수 있음이 검증되었습니다 .

글쎄, 아마도 아닐 것이다(부끄러운 일이다). 웹은 여전히 ​​건재하며 Google은 한동안 스니펫과 Google OneBox를 도입하여 이 방향으로 나아가고 있습니다. 그러나이 프로세스는이 차세대 검색 엔진이 정보를 표시하는 방식으로 인해 의심 할 여지없이 빨라질 것입니다. Microsoft는 소스를 참조하기 때문에 사용자가 클릭하기만 하면 자세한 내용을 읽을 수 있다고 주장합니다. 그러나 이미 언급한 바와 같이 이러한 새로운 검색 엔진의 근본적인 아이디어는 이전 검색 엔진보다 더 나은 성능을 발휘한다는 것입니다. 그들은 증류하고 캡슐화합니다. 더 읽을 필요가 없습니다. Microsoft는 자사의 존재가 과거와의 근본적인 단절과 구식 기관의 영속을 동시에 나타낸다고 주장할 수 없습니다.

그러나 아무도 다음에 무슨 일이 일어날지 예측할 수 없습니다. 아마도 AI 검색 엔진은 요리법, 원예 조언, DIY 안내, 뉴스 기사, 선외 모터 비교, 뜨개질 패턴 색인 및 인간이 수집하고 기계가 긁어내는 신뢰할 수 있고 유용한 정보의 기타 모든 소스를 제공하는 웹 사이트로 트래픽을 계속 유도할 것입니다. 또는 이것은 웹의 전체 광고 지원 수익 패러다임의 종말을 알리는 것일 수도 있습니다. 챗봇이 유해를 샅샅이 뒤지고 나면 아마도 새로운 것이 나타날 것입니다. 더 좋을 수도 있습니다. 누가 압니까?