|
출처: 주님의 마음에 합한 자 원문보기 글쓴이: onukang
인공지능 시대에 온걸 환영합니다, 그리고 기억하세요, 기술 사기도 함께 있음을
Welcome To The Era Of Artificial Intelligence And Technological Deceit By Daisy Luther Jul 26, 2017 - 3:32:59 AM | |
인공 지능과 기술기만의 시대가 우리에게 왔습니다. 당신이 그걸 "가짜 뉴스"라고 생각하고 선전이 나쁘다면 그냥 기다리십시오.
그런데 그렇게 오래 기다릴 필요가 없습니다.
The era of artificial intelligence and technological deceit is upon us. If you think "fake news" and propaganda is bad right now, just wait.
And you won't have to wait very long, at that.
조만간 컴퓨터 마법과 인공 지능으로 현실적으로 사실인지 아닌지를 분간치 못하는 비디오 장면을 만들 수 있습니다.
이 홀로그램 기술을 추가하면 곧 사람이 당신 앞에서 말하고 살아있는 것처럼 보일 수 있을텐데, 문제는 모든 사람이 그게 가짜라는 것을 알지 못한다는데 있습니다.
인공 지능과 기술의 윤리적 파급효과는 간단히 생각할 수 있습니다. 사실 일부 사람들은 그것이 인류의 종말의 시작을 알릴 것이라고 믿습니다.
그러나 종말론적인 인공 지능은 제쳐두고 우리의 현재 기술의 조작 가능성을 살펴 봅시다. 우리는 과학 소설을 만나는 실생활에 아주 가깝습니다.
우리가 지금 기만당한다고 생각되면 일단 이러한 기술들이 출시되면 눈이나 귀를 믿을 수 없게됩니다.
이 이야기에는 여러 가지 불안한 부분이 있습니다.
워싱턴 대학 (University of Washington)의 연구원들은 인공지능 소프트웨어를 매우 강력하게 개발했는데, 사람들의 입과 말을 싱크 시켜서 말하게 만들 수있습니다. 기본적으로 인위적으로 지능적인 립싱크 lip-synching와 같습니다.
... 사용할 오디오 소스가 있는 한 비디오에는 말하고있는 단어와 거의 완벽하게 일치하는 사실적인 입 모양이 포함될 수 있습니다. 그 합성된 모양은 누군가가 이야기하는 기존 비디오 위에 접목시켜서 마치 자연스레 말하는 것처럼 보입니다.
... 시스템에는 두 부분이 있습니다. 먼저 신경 네트워크는 어떤 소리가 어떤 입 모양과 일치하는 지를 인식하기 위해 많은 양의 비디오를 보도록 훈련받았습니다. 그런 다음 결과는 UW에서 수행된 디지털 모델링에 대한 이전 연구를 기반으로 특정 사람의 움직이는 이미지와 혼합됩니다. (source)
)
여기에 오바마가 말하는 영상과 목소리가 합성되어서 연설장면으로 만든 것입니다.
Here's a clip of the software in action.
워싱턴대학 U of W는 이것이 실제로 좋은 것인데 가짜 비디오를 식별하는 데 도움이 되도록 개발되었다고 말합니다. 왜냐하면, 이전에는 아무도 기술을 오용하지 않았기 때문입니다.
U of W says that this is actually a good thing and has been developed to help identify fake videos. Because, you know, no one has ever misused technology before.
이것이 유일한 새로운 기술 개발이라면 충분히 나쁠 것입니다. 그러나 Lyrebird라는 신생 회사는 실제로 "심층 학습 및 인공 신경망"을 사용하는 다른 사람들과 똑같이 들리는 오디오를 만들 수 있습니다.
이것은 하나의 예입니다. 그것은 지금 거친 것 같지만, 얼마나 오래 닦아지기 전에?
더욱 놀라운 점은 평범한 사람들이 조만간 손을 댈 수 있다는 것입니다. 이것이 보통 시민을 위한 것이라면, 정부와 군대가 접근 할 수있는 것을 상상할 수 있습니까?
그런 다음 홀로그램이 있습니다.
2012 년 무대에서 코첼라 (Coachella)가 나타났을 때 투팍 (Tupac, 그가 과연 죽었을까, 아니면 살아있는지.. )에 대해 생각해보십시오.
아래 비디오에서 2분 20초 지점으로 앞서 나가면 홀로그램 투팍이 실제인 Dr. Dre와 함께 무대에 올랐으며 그 차이는 거의 구별할 수 없습니다.
(어서, Tupac이야. 너는 그를 갑자기 삐걱거리지 않을 거라고 기대하지 않았다.)
투팍 홀로그램 스눕 독과 Dr Dre Coachella Live 2012 공연
https://www.youtube.com/watch?v=TGbrFmPBV0Y
여기서 기술이 돌아가는 원리가 있습니다:
Here's how the technology works:
홀로그래피는 넓은 분야이지만, 가장 기본적인 것은 물체에서 산란된 빛을 기록하는 사진 기술입니다. 빛은 3D 형식으로 재생됩니다.
홀로그래피는 1940 년대 헝가리 - 영국의 물리학자인 데니스가 보르 (Dennis Gabor)가 처음 개발했으며, 그는 1971 년 노벨 물리학상을 발명했으며 홀로그램 방법의 개발과 발명으로 노벨 물리학상을 받았다.
...
역동적인 고해상도 홀로그램을 생산하는 우리의 능력 - 레아 Leia 공주는 오비원 케노비 Obi-Wan Kenobi에게 제다이의 도움을 청원함 - 현재 웨이브 프론트 모듈레이터라고 불리는 것에 의해 제한됩니다.
공간 광변조기 또는 디지털 마이크로 미러 장치와 같은 영상재현 장치는 광 전파방향을 제어할 수있다.
짧은 초점거리 렌즈를 사용하는 이미징 시스템은 넓은 시야각을 갖는 작은 이미지만 만들 수 있습니다.반대로, 초점 길이가 긴 시스템은 큰 이미지를 생성할 수 있지만 매우 좁은 시야 범위를 가질 수 있습니다. 최고의 파동변조기 기술은 단지 3 도의 시야각을 가진 1 센티미터 크기의 이미지를 생성할 수 있었습니다.
...
KAIST의 물리학과 교수인 박용근 (Yongkean Park) 교수는 "이 문제는 단순히 확산기를 삽입함으로써 해결할 수있다. 디퓨저가 빛을 확산시키기 때문에, 이미지 크기와 시야각 모두가 수천배로 극적으로 증가할 수 있다고 Park은 말했습니다.
그러나 아직 해결해야 할 또 하나의 문제가 있습니다. 확산기가 빛을 뒤섞습니다.
"따라서, '홀로그램 렌즈'로 확산기를 사용하려면 각 확산기의 광학 특성을 조심스럽게 보정해야 합니다."라고 박은 이메일로 말합니다. "이 목적을 위해, 우리는 '파면 형성 기술 (wavefront-shaping technique)'을 사용하는데, 이것은 확산기에 충돌하는 빛과 나가는 빛 사이의 관계에 대한 정보를 제공합니다." (source)
이것의 확산 효과를 생각하세요
Think about the ramifications of this.이 모든 기술을 통해 곧 일부는 스마트 폰에서 사용할 수있게 된다면 어떻게 믿을 수 있습니까?
그것에 대해 생각해보십시오.
우리가 싫어할 것으로 예상되는 사람의 "비디오"를 완전히 제작하는 것이 얼마나 어려울까요?
우리는 위장작전이 늘 벌어지는 표준이고 전쟁 이익으로 이익을 얻는 시대에 살고 있습니다.
갈등이 벌어지는데, 그것은 원하는 결과가 나올 때마다 새로운 도깨비로 만들어진다면, 위장의 비디오는 일상적으로 벌어지는 일입니다.
다음은 그 예입니다.
시리아의 바샤르 알- 아사드 (Bashar al-Assad) 대통령이 자신의 국민을 상대로 한 모든 화학공격을 고려해야 합니다. 뉴스에서 우리가 취해야 모든 것은 가정뿐인데, 일파만파로 퍼지는 비디오 뉴스, 그리고 감동적인 감정적인 보상이 뒤따릅니다.
그러나 솔직히, 우리 중 시청자 일부는 아사드 대통령에게 그런 동기가 없었기 때문에 이것이 진실이라고 정말로 믿지 않았습니다.
그러나 많은 사람들은 비디오, 아사드에 의한 어떤 주장도없이 그가 실제로 책임이 있다고 믿었습니다. (사실 그는 그 모든 시간을 부인했습니다.)이 사람들은 우리가 가난하고 죽어가는 어린이들의 고통을 막기 위해 아사드와의 전쟁에 즉각적으로 나설 준비가 되어있던 것입니다.
이제 사태를 원하는대로 만들자고, 기술을 쓰는데, 믹스에 인공의 홀로그램 기술을 추가해 보겠습니다
인공 지능 비디오와 아사드의 사운드 트랙이 있다면 어떨까요? 사람들은 자신의 눈과 귀를 믿는 경향이 있습니다. 특히 이미 특정 감정을 느낄 때. 홀로그램이라고 불리는 수천 개의 "라이브"연설이 있었다면 어떨까요?
국민들은 마음을 정하고 행동으로 나설것입니다.
또 what-ifs를 추가로 가져 갑니다.
악명 높은 "러시아"담합에 대한 AI 사운드 트랙 녹음이 있다면 어떨까요? 암살당한 지도자의 홀로그램 연설이 있었다면, 그들이 도망갔다는 것을 말하면서, 그들이 추모하는 추종자들이 다음에 하기를 바라는 것이 있습니다.
이렇게 인공지능 홀로그램은 원하는 자들의 입맛대로 상황을 조작할 수있습니다.
나를 러다이트 Luddite (기술진보 저항군, 기계혁명에 대항해서 싸운 운동)라고 부르십시오 (당신이 첫 번째가 아님).
그러나 AI는 미국의 다른 모든 가정에서 Alexa와 Siri와 함께 매일 더 받아들여지고 있습니다. 우리는 "편리함"이란 부드러운 명분으로 인공지능의 문제를 감추고 있지만 끔찍하게 잘못될 수있는 문을 열어준셈입니다. 그렇지 않습니까?
나는 상상력이 최고가 되길 바랄 뿐이지만 대중을 조작하기 위해 인공 지능을 사용하기 위해 줄을 당기는 사람들을 지나치게믿지는 않을 것입니다. 사람들을 속이는 기술이 존재한다면 누군가 그것을 사용하게 될 것이니 말입니다.
여러분도 조심하세요, 남들이 한다고 따라해서는 안됩니다. 스스로 판단하고 결정하고 행동하세요.
Call me a Luddite (trust me, you wouldn't be the first) but AI is becoming more acceptable every day with Alexa and Siri in every other home in America. We're being gently lulled into it by "convenience" but are we opening the door to something that could go horribly wrong?
I hope my imagination is getting the best of me, but I certainly wouldn't put it past the people pulling the strings to use artificial intelligence to manipulate the masses. If the technology exists to deceive people, someone is going to use it.
http://www.activistpost.com/2017/07/welcome-era-artificial-intelligence-technological-deceit.html