머스크와 마윈 토론
|
Mind-reading AI May Spell End to Humanity as We Know It, but not because it will enslave us – Zizek By Russia Today Sep 9, 2019 - 5:15:53 AM |
https://www.rt.com/news/468228-mind-reading-computer-humanity-zizek/
8 Sep, 2019 11:29 Get short URL
© Getty Images / Donald Iain Smith
철학자 슬라보이 지젝 Slavoj Zizek는 인간의 의식을 모든 종류의 클라우드 컴퓨팅 서비스와 연결하는 기술은 전체주의적 정신 통제를 위한 길을 열뿐 아니라 인간 관계의 본질을 파괴할 수 있다고 경고했다.
이 슬로베니아의 문화 철학자는 상하이에서 열린 인공지능 (AI) 회의에서 RT 러시아투데이에 '많은 사람들의 생각을 한 번에 읽을 수있는 컴퓨터는 정상적인 인간의 삶을 불가능하게 할 것' 이라고 말했다. 거기서 엘런머스크는 AI의 미래를 놓고 알리바바 마윈(Jack Ma) 회장과 충돌합니다.
RT✔@RT_com'컴터는 이미 인간보다 더 똑똑해졌다' Computers are already smarter than people'#ElonMusk & #JackMa face off over future of #AI https://on.rt.com/a0rb
8511:20 AM - Aug 30, 2019Twitter Ads info and privacy 머스크와 마윈 토론
두 기술 기업가가 미래에 기계에 의해 인간이 통제될 가능성에 대한 열띤 토론에 참여하는 한편, 류블랴나 대학의 사회 과학 및 철학 연구소의 선임 연구원은 이 문제에 대한 그의 생각을 RT와 공유했습니다.
우리의 뇌가 기계에 연결되는 것은 유토피아가 아닙니다
Our brain being connected to a machine is not a utopia
내가 지금 연구하고있는 것은 소위 유선화 뇌 wired brains 현상으로, 뇌가 강력한 디지털 기기와 연결될 가능성이 있습니다. 그리고 그것은 유토피아가 아닙니다. 매사추세츠 주 MIT의 미디어 연구소에는 이미 이와 같은 간단한 기계가 있습니다. 그것은 헬멧과 같으며, 아무 것도 방해하지 않고, 그걸 사람의 머리에 씌웁니다.
그러자 끔찍한 일이 생겼습니다 - 내가 그 비디오를 봤는데 - 당신은 어떤 생각을 하는데, 당신은 아무 말도 하지 않는데, 기계는 이미 당신 생각을 읽고서, 글이나 인공적 음성으로 그것들을 되풀이하여 재생산합니다.
60 Minutes✔@60Minutes
MIT 공대 매체연구소 Media Lab의 학생인 알나프 카푸르 Arnav Kapur는 인터넷을 자기 의식을 통해서 마음껏 서핑할 수있는 시스템을 개발했습니다. 그는 우리가 인터넷에 올린 질문 사항을 조용히 Google로 조사했으며, 그의 두개골 skull과 내부 귀 inner ear로 전달되는 진동을 통해 그에 대한 답을 들었습니다.
58.7K9:25 AM - Apr 23, 2018Twitter Ads info and privacy
기본적 수준에서 인공지능 머신은 이미 당신의 생각을 읽을 수 있습니다. 만일 이것을 당신이 합의해 주었다면 괜찮겠지만, 모르는 사이에 기계가 생각 판독을 해버리면 (그리고 상상하기 쉬운 경우) 어쩔 건가요?
이제 화 나거나 슬퍼하는 것과 같은 감정적인 태도 뿐만 아니라 우리의 생각의 흐름까지도 기계가 읽을 것이라는 심각한 옵션이 있습니다. 이걸 "유토피아"라고 부를 때 그 다음 단계는 우리의 생각을 공유할 수 있도록 내 생각과 우리를 연결할 수있는 당신의 생각을 읽을 수있는 컴퓨터가 그 자리를 차지할 것입니다. 당신과 내가 같은 컴퓨터를 통해 연결되어 있다면, 나는 단어 입력과 같은 외부 커뮤니케이션없이 직접적으로 당신의 생각에 참여할 수 있습니다.
이미 여러분이 알듯이 레이 커츠윌, 이론가와 멜라니에 스완은 그걸 신성의 새로운 형태 new form of divinity라고까지 말합니다.
As you probably know, modern technology theorists Ray Kurzweil and Melanie Swan called it a new form of divinity.
신이란 것은 더 이상 초월적인 신이 아니라, 우리 모두가 일부 인공지능 AI 클라우드 시스템을 통해 우리 생각을 공유한 것이 신이라는 것입니다. 수백만의 사람들이 새로운 형태의 인식에 함께 참여할 것입니다. 나는 이 전망이 엄청 무섭다는 것을 알게 되었다.
우리는 인간으로서 우리가 무엇을 하는지, 우리가 당신의 생각이 무엇인지를 모른다는 것을 확신할 수있는 한, 자유로운 개인입니다. 나는 내가 생각하는 것을 생각한다, 나는 내 마음에 자유롭다. 이것조차 확실하지 않으면 어떻게 됩니까?
내가 무언가에 대해 생각하고 컴퓨터가 내가 생각하는 것을 식별하고 다른 사람들과 공유할 수 있다면, 우리는 실제로 인간이후 시대 post-human era에 접어드는 것입니다. 나는 그것이 기술적으로 의미한다고 그것에 매료되어서는 안된다고 생각합니다.
누가 이 디지털 기기를 통제할 것인지에 대해 걱정해야 하는데, 그렇지 않습니까?
나는 우리를 통제하는 기계가 두려운게 아닙니다. 우리는 아직 거기까지 가지 않았습니다. 그러나 누가 이것을 통제하고 누가 이것을 사용할 것인가? 우리의 자유에는 무엇이 남아있습니까? 구글Google이나 페북 Facebook과 같은 사설 기업 Private companies은 이미 유사한 기술을 개발하고 있습니다.
생각하는걸 말하는 능력이라 : 과학자들은 AI가 뇌에서 일어나는 일을 읽고 말할 수 있다고 말합니다.ALSO ON RT.COMThought-to-speech: Scientists say their AI can read out what happens in your brain
나는 생각마저 투명히 드러나는 것이 우리의 자유에 대한 가장 큰 위협이라고 생각합니다. 우리는 말 그대로 투명해질 것입니다. 이것의 일상적인 결과에 대해 생각해 봅시다. 모든 유혹이 겉으로 드러납니다. 나는 누군가를 만나서 그녀가 읽을 수있는 모든 에로틱한 힌트 게임을 하는 대신에, 그녀는 내 마음 속에 있는 ‘당신과 자고 싶어요, ’라는 욕망을 읽어버립니다. 그러면 에로틱한 공유감이 사라질 것입니다.
또 다른 간단한 예는 일상적인 예절입니다. 우리가 서로를 알고 있지만 매우 친한 친구가 아니라고 가정해 봅시다. 나는 길거리에서 당신을 보고 "안녕하세요, 어떻게 지내세요? 만나서 반갑습니다, "와 같은 일반적인 예의를 말합니다. 그러나 당신이 내 마음을 읽을 수 있다면 그 말은 넌센스가 되버리는데, 말로는 공손하게 말했지만, 내 의도는 전혀 그런게 아니니, 상대방 인공지능 판독기는 내가 표리부동하다는 것을 알아버린 것입니다. 보통은, 나는 당신이 어떻게 느끼는 지에 상관없이 말하니 말입니다.
이것은 매우 흥미롭습니다. 무슨 일이냐고요? 그것이 우리의 일상적 매너, 예전의 문명사회 발달에 어떤 영향을 미칩니까? 모든 훈련된 인간의 상호 작용은 이런 외교술을 바탕으로 했습니다.
또 다른 것이 있습니다.
이런 독심술의 방식으로 어떤 새로운 고통과 고문술이 개발될 수 있습니까? 누군가 당신의 마음을 지배한다고 상상할 수 있습니까? 그들이 당신에게 무엇을 할 수 있습니까? 내가 인공지능 독심술을 이용해서 무슨 끔찍한 생각을 당신의 마음에 심을 수 있습니까? 그것은 당신이 최근에 겪은 극심한 고문을 당한 이미지일 수 있는데, 그걸 의식 속에 임플란트할 수 있습니다.
나는 이것이 농담이 아니라는 것을 안다. 매우 심각한 일입니다.
만일 경제와 권력 관계가 현재와 같이 구조화되어 있는 사회에서 이런 일이 일어나고 있다고 생각한다면, 특권을 가진 사람들은 자신의 마음을 숨길 수 있는 자들이 되는 것입니다. 그들은 인공지능 독심술 네트워크에서 자신을 빼내고, 세상을 관조할 수있는 사람으로써 특권자입니다.
모든 사람이 같은 방식으로 통제되는 것은 아닙니다. 그것은 첫 번째 문제인데, 누가 게임을 통제하고 누가 파문할 것인가?
항상 이런 식입니다. 새로운 스파이 장치가 독심술이건 관심법이건 기계로 개발될 때의 첫 번째 생각은, '어떻게 이 장치를 피할 수 있는가?' 입니다. 특권자는 그것의 통제 밖에 있으려 합니다. 거짓말은 더 복잡해지지만, 더욱 특권이 될 것입니다.
RT✔@RT_comMinistry of Truth: US military develops AI to identify 'fake news'
5010:00 AM - Sep 5, 2019Twitter Ads info and privacy
지능 분야에서 AI 가 인간을 물리치는 아이디어는, 실제로 당신이 똑똑하다고 정의하는 방법에 달려있습니다. 똑똑하면 단순히 더 복잡한 수학 또는 논리 연산을 잘 할 것을 의미하고, 더 많은 데이터를 알고 있으면 컴퓨터가 더 똑똑한 것입니다. 그러나 여전히 우리에게는 희망이 있습니다.
인간의 마음의 위대함은 모든 세부 사항을 아는데 있는 것이 아니라, 본질을 포착하고, 그것을 명쾌하게 이해시키기 위해 많은 데이터 가운데 의미있는 것을 선택하는 데 있습니다.
소비에트 심리학자 알렉산드르 루리아 (Aleksandr Luria)는 '기억술사 Mnemonist의 마음' 이라는 제목의 책은 완벽한 기억력을 가진 사람을 묘사합니다. 그 사람은 읽고 본 거의 모든 것을 기억했습니다. 그가 심리적으로 얻은 결과는 그가 결정을 내리고자 하는 순간, 수백 개의 다른 데이터가 그의 마음에 떠오르는 것인데, 그가 너무나 많이 기억해서 알고 있었기 때문에 끔찍했습니다. 그는 그 많은 사실을 욧점화 할 능력이 부족했고, 뭐가 의미있고 중요한지, 통찰하지 못했습니다.
컴퓨터는 기계적인 수준에서, 심지어는 학습에서도 우리보다 더 똑똑할 수 있지만, 의미를 찾는 simplification 문제를 다룰 것이라고 생각하지 않습니다.
로봇은 정신적인 일을 하지 않는데, 그것들은 계획에 따라서 일을 맡게됩니다
오늘날의 역설의 첫번째 것은 우리는 아마도 우리의 직업을 빼앗아 갈 수 있는 로봇을 두려워하지만, 일하는 우리는 그 어느 때보다 더 많이 일한다는 것입니다.
둘째, 우리는 여전히 로봇이 우리를 위해 원시 작업을 할 것이라는 생각을 가지고 있으며 로봇이 해야 하는 일을 계획할 것입니다. 맥도날드부터 보육 서비스까지 많은 회사에서 계획을 수행하는 것은 로봇이며, 이를 수행하는 것은 개인이라는 역설입니다.
인간의 두뇌가 오래 되었습니까? 방금 두 건의 특허를 신청한 '발명하는 '인공지능 인공 미술이 있다
ALSO ON RT.COMHuman brains outdated? 'Inventive' AI making abstract art just filed for two PATENTS
맥도날드에서 모든 것은 로봇에 의해 프로그래밍되며 '멍청한'사람들은 그 지시를 받아서 다른 사람들에게 봉사합니다. 이런 역설적 모습은 궁극적으로 사회 질서에 달려 있습니다. 만약 우리가 우리와 같은 자본주의 질서를 유지한다면 그런 역설적 상황은 오늘날 보다 로봇 시대에 훨씬 더 나빠질 것입니다.
우리가 더 적게 일할 가능성이 있습니다. 그러나 많은 새로운 어리석은 오락이 우리의 자유 시간을 채울 수 있습니다. 나는 여전히 일과 창의성을 믿습니다. 할 일이 충분하지 않으면 앉아서 영화를 보거나 술을 마시는 것이 행복하다고 해도 매우 바보 같은 존재가 될 것입니다. 그의 인생은 곧 끔찍해질 것입니다.
그것은 해법은 기술에 있는 것이 아닌데, 우리가 기술을 사회적으로 어떻게 사용할 것인가에 달려있습니다.
***