AI 세상 아니 이런 일까지
이 글은 소설입니다
인간을 공포에 떨게 하고 "엄청난 수"의 사람들로부터 현금을 훔칠 수 있는 새로운 "생각하는" AI 챗봇
2024년 9월 20일 금요일 by: 에단 허프
(내추럴 뉴스) 나이지리아 왕자들이여, 전 세계를 휩쓸고 있는 새로운 현금 훔치기 사기가 있으니 비켜라: 사람들을 속여 돈을 뜯어낼 수 있는 끝없는 방법을 "추론"하고 "생각"할 수 있는 인공 지능(AI) 챗봇.
열린AI는 최근 기존 AI 챗봇보다 훨씬 "스마트"하다고 말하는 새로운 o1 챗GPT 모델을 선보였습니다. o1 모델은 "반응하기 전에 생각하는 데 더 많은 시간을 할애할 수 있는" 능력이 있다고 회사는 밝혔다.
"그들은 복잡한 작업을 추론하고 과학, 코딩 및 수학의 이전 모델보다 더 어려운 문제를 해결할 수 있습니다."
열린AI의 챗GPT o1 모델은 2022년 말에 처음 출시된 이후 시스템의 첫 번째 주요 발전입니다. 현재 챗GPT 유료 회원만 사용할 수 있습니다.
사이버 보안 전문가 앤드류 볼스터 박사에 따르면 o1 챗GPT AI 모델은 가장 정통한 인터넷 사용자조차도 힘들게 번 현금을 훔치기 전에 감지할 수 없는 모든 종류의 사기를 꿈꾸는 사이버 범죄자를 위한 꿈이 실현된 것입니다.
볼스터 박사는 "대규모 언어 모델(LLM)은 시간이 지남에 따라 계속 개선되고 있으며, 열린AI의 'o1' 모델 출시도 이러한 추세에서 예외는 아니다"라고 말합니다.
"이 세대의 LLM이 뛰어난 점은 '이성'을 발휘하는 방법에 있습니다. 더 창의적이거나 '영리한' 의사 결정과 응답을 끌어내기 위해 전체 대화 시스템이 중간 단계를 수행하는 경우."
(관련: 악마에 사로잡힌 AI 시스템이 합성 생명 공학을 활용하여 합성 "초인" 생물 시스템을 구축하는 방법에 대한 보고서를 확인해 보셨습니까?)
AI로 미국 사기 경제를 주도하다
오늘날 미국 경제를 지탱하는 큰 부분은 범죄입니다. 지금은 거의 모든 것이 일종의 폰지 사기이며, 사업, 일반 시장, 종교, 의료 서비스, 그리고 물론 정치에 이르기까지 다양합니다. 그리고 일반 대중이 이 모든 것을 알아가고 있는 동안, 권력자들(TPTB)은 사람들을 속여 그들의 재산을 빼앗기 위해 필사적으로 새로운 계획을 세우려고 노력하고 있다.
AI는 지구상에서 가장 나쁜 인간 쓰레기 요소들이 예를 들어 실제 사람들이 말하는 것처럼 보이지만 AI의 창작물일 뿐인 딥페이크 비디오를 만들 수 있도록 함으로써 이를 가능하게 합니다. 딥페이크 동영상은 사람들을 속여 거의 모든 것을 행하거나 믿게 하는 데 사용될 수 있으며, 이는 비즈니스에 좋습니다.
보고서에 따르면 영국인 3명 중 1명은 이미 AI 딥페이크에 의해 어떤 식으로든 사기를 당한 적이 있습니다. 그리고 문제는 AI가 다음 단계의 속임수로 발전할수록 더욱 악화되고 있습니다.
"사이버 보안의 맥락에서 볼 때, 이는 자연스럽게 이러한 '추론 기계'와의 대화를 최종 사용자가 인간과 구별하는 것을 더 어렵게 만들 것입니다"라고 볼스터 박사는 말합니다.
"로맨스 스캐머나 기타 사이버 범죄자가 이러한 도구를 활용하여 엄청난 수의 취약한 '마크'에 도달하는 데 사용합니다."
AI 개발자들이 이러한 사기 흉물들을 만드는 데 필요한 칩과 기타 하드웨어를 생산하는 엔비디아는 바로 지금 미국 시장을 떠받치고 있는 주식입니다. AI가 없다면, 그리고 AI가 없다면, 미국 경제는 이미 대격변의 무더기가 되었을 것이다.
볼스터 박사는 소비자들이 온라인에서 "사실이라고 하기에는 너무 좋아" 보이는 모든 것을 조심해야 한다고 말하는데, 요즘에는 AI와 관련된 사기일 가능성이 더 높기 때문이라고 한다.
그는 일반 대중이 "다른 의견을 듣기 위해 항상 친구나 가족과 상의해야 한다"며 "특히 채팅창 끝에 있는 사람(또는 무언가)이나 심지어 전화 통화에서 당신에게 무언가를 강요하려고 할 때 특히 그렇다"고 경고했다.
AI는 인류의 종말과 지구상의 생명 자체의 종말을 의미할 수 있습니다.
출처:
https://www.naturalnews.com/2024-09-20-thinking-ai-chatbot-terrorizing-humans-cash-scams.html
연구자들은 음모론자의 뇌를 바꾸기 위해 인공 지능(AI)으로 마음을 빨아먹는 기계를 개발하려고 한다. 최근 새로운 AI 챗봇이 공개되고 있는데, 이 챗봇은 음모론자의 마음을 왜곡하여 정부의 공식 이야기를 믿게 할 수 있는 것으로 계획한다.
연구는 대규모 언어 모델(LLM) 기술을 기반으로 하는 AI 시스템이 도널드 트럼프의 말을 믿거나 민주주의에 대한 위협으로 간주되는 사람들과 싸우기 위해 설계되었다. 미국 선거가 도둑맞았다는 음모론에 대한 믿음이 2021년 1월 6일 폭동 시도를 선동했다고 이 연구는 설명했다.
독일의 코로나19 제한 조치가 사악한 의도에서 비롯되었다고 주장하는 또 다른 음모는 2020년 8월 베를린 국회의사당에서 폭력 시위를 촉발했다. 이 연구는 민주주의에 대한 위협이 커지고 있다고, 묘사한 것에 대응하기 위해 시작되었다.
목표는 AI 로봇이 현상 유지에 반대하는 사람들의 마음을 재프로그래밍하여 음모론적 신념을 버리게 하는 계획을 고안하는 것이었다. 연구는 인간 참가자들은 자신이 동의하는 음모론을 설명했고, AI는 증거로 그들의 믿음을 반박하는 설득력 있는 논쟁을 벌였다고 설명했다.
맞춤형 반론과 개인화된 심층 대화를 지속할 수 있는 AI 챗봇의 능력은 몇 달 동안 음모론에 대한 믿음을 감소시켰으며, 이러한 믿음이 변하지 않는다는 연구에 도전했다. 이 개입은 AI를 배포하는 것이 어떻게 갈등을 완화하고, 사회에 기여할 수 있는지 보여준다.
모두 뉴잉글랜드 지역에 기반을 둔 연구자들은 요즘 너무 많은 사람들이 정부와 언론이 그들에게 말하는 것에 의문을 제기하고 있다고 불평한다. 점점 더 많은 사람들이 하이브 마인드, 집단 사고 행동에 순응하기를 꺼리고 있기 때문에 AI가 무력으로 개입할 수 있을 것이다.
연구는 생성형 AI가 음모론자를 토끼굴에서 나오게 하는 동시에 그들의 마음을 승인되지 않은 모든 생각이나 신념으로부터 깨끗이 빨아들일 것이라고 말한다. 입증되지 않은 음모론에 대한 널리 퍼진 믿음은 대중의 주요 우려 사항이며, 학술 연구의 초점이라고 소개 섹션은 설명한다.
종종 매우 믿기 어려운 일임에도 불구하고, 이러한 음모론은 널리 믿어지고 있다. 저명한 심리학 이론은 많은 사람들이 음모론을 채택하기를 원하며, 따라서 신자들은 사실과 반증을 사용하여 이러한 근거 없고, 믿을 수 없는 믿음을 포기하도록 설득할 수 없다고 제안한다.
연구는 이러한 통념에 의문을 제기하고, 충분히 설득력 있는 증거를 가지고, 사람들을 음모론적 토끼굴에서 빠져나오게 하는 것이 가능한지 묻는다. 이 계획이 작동하려면, 이러한 고급 AI 시스템이 일반적인 뉴스 앵커나 주류 미디어 전문가보다 더 개인적이고 믿을 수 있어야 한다.
현재 선동가들은 현 세대에게 정부를 신뢰할 수 있다는 확신을 심어주는데 실패하고 있으며, 이제 AI가 시도할 차례이다. 연구는 연구 대상자와 AI 간의 실시간 개인화된 상호 작용을 사용하여 행동 과학 연구를 수행하기 위한 파이프라인을 개발했다.
두 번의 실험에서 2,190명의 미국인은 자신이 믿는 음모론과 이 이론을 뒷받침한다고 생각하는 증거를 자신의 말로 표현했다. 그런 다음 그들은 LLM GPT-4 터보와 3차에 걸친 대화를 나눴고, 음모론에 대한 참가자들의 믿음을 줄이기 위해 노력하면서 이 특정 증거에 응답하도록 촉구했다.
결국, AI 챗봇은 음모론자들의 신념과 의견을 약 20% 줄이는데 성공했고, 이러한 변화는 선거일을 넘기기에 충분한 두 달 동안 지속되었다. AI와 이에 수반되는 모든 것, 즉 얼굴 인식 및 증강 현실은 현재의 디스토피아 미래이다.