판도라의 상자가 열리고 있다

[비온뒤]

인류에게 재앙을 몰고 올지도 모를 판도라의 상자가 열리고 있다.

미 캘리포니아주 샌프란시스코시 감독위원회는 지난달 29일(현지 시각) ‘긴급 상황 시 살상용 로봇을 쓸 수

있게 해달라’는 샌프란시스코 경찰국(SFPD)의 요청을 승인했다. 

샌프란시스코는 빅테크 기업 본사가 밀집한 실리콘밸리의 핵심 도시로 실리콘밸리 한복판에 ‘폭탄을 장착한

살상용 로봇’이 배치되는 것이다.  총기 난사, 테러 같은 다수의 인명 피해가 우려되는 상황에 한해 철저한 사람

의 통제를 거쳐 투입하겠다고 샌프란시스코경찰국은 밝혔다.그러나 이 같은 결정이 ‘킬러(killer) 로봇’ 의 무분별

한 배치의 시초가 될 수 있다는 우려가 터져나오고 있다.

2017년 8월 116명의 로봇 전문가들은  UN에 ‘킬러 로봇(killer robots)’ 개발을 막아줄 것을 촉구하는 서신을

전달한 바있다.서신 작성자 중에는 테슬라

공동 창업자인 엘론 머스크(Elon Musk), 구글의 딥마인드(DeepMind) 공동창업자인 무스타파 술래이만

(Mustafa Suleyman) 등 저명한 인공지능 전문가들이 다수 포함돼 있다.

이들은 서신을 통해 “새로운 킬러로봇이 개발될 경우 독재자, 테러리스트 등이 바람직하지 못한 방식으로 이

공포의 무기를 사용할 것”이라고 주장했다. 또 “이 판도라의 상자가 열릴 경우 다시 뚜껑을 닫기는 어려운 만큼 

부도덕한 살인 로봇 기술을 UN의 특정재래식무기 금지협약(CCW, UN Convention on Certain Conventional

Weapons) 무기 목록에 서둘러 추가해야 한다”고 촉구했었다. 

킬러로봇이 인류에게  재앙과 불행을 가져올 근원이 될 것이라는 과학기술자들의 우려는 이전부터 제기돼왔다.

물리학자인 스티븐 호킹(Stephen Hawking), 애플 공동창업자인 스티브 워즈니악(Steve Wozniak) 등

1000명이 넘는 과학기술자들은 지난 2015년에도  유사한 내용의 공동서신을 작성한 바 있다.

그러나 이에대한 규제는 이뤄지지 않았다. 결국에는 전쟁판을 넘어 대도시의 도심에까지 킬러로봇이 배치되는

상황에 이른 것이다.

‘킬러 로봇’이란 사람의 간섭 없이 공격이 가능한 완전 자율무기를 말한다. 미국,영국, 이스라엘,중국,러시아,

우리나라등 각국은 극악한 조건에서도 임무를 수행하는 드론, 무인 함정, 무인잠수정, 무인 탱크, 무인기관총등

킬러로봇개발에 경쟁적으로 나서고 있다.

로봇전문가들은 현재 100% 자율 무기는 존재하지 않지만 지금처럼 빠른 속도로 발전한다면 무자비한

‘킬러 로봇’ 인 

영화 터미네이터의 ‘T-800’ 같은  로봇의 등장도 시간문제일 것으로 보고 있다.

군사용 로봇이 처음 선을 보였던 때만 해도 ‘로봇은 사람을 해칠 수 없다’라는 로봇의 3원칙이 적용되어 살상용으로는

개발되지 않았다. 하지만 전쟁 중에 아군이 부상을 당하거나 생명을 잃는 경우가 늘어나면서 아군을 대체하는 용도로

킬러 로봇이 개발되고 있다.

드론이 아닌 킬러 로봇이 투입되어 적을 제압한 경우는 공식적으로 2건이 있었다. 지난 2016년에 일어난 이 사례들은

미국과 러시아에서 각각 나왔다. 비록 전쟁이 아닌

테러범 진압이었지만, 킬러 로봇이 사람을 죽인 사건으로 기록된다.

2016년 6월 미국 텍사스주의 댈러스에서 경찰관 5명을 살해한 범인을 죽인 것이 그 첫 사례다.경찰은 협상이

실패하자 폭탄을 장착시킨 킬러 로봇을 투입하여 저격범을 폭사시켰다. 

두 번째는 그해 12월 러시아 남부지역에서 수니파 무장단체인 IS의 핵심 테러범을 킬러 로봇이 사살한 사건

이다. 조그만 장갑차 모양의 킬러 로봇은 테러범이 은신하고 있는 건물의 근처 언덕으로 올라가 출입문을

폭파한 뒤 테러범을 사살했다.

김현수 부산대 교수는 ‘2020 인공지능 윤리 컨퍼런스에서 <킬러 로봇의 윤리적 이슈와 사례>란 주제발표에서 

킬러 로봇의 등장은 인간의 개입 없이 공격 목표만 설정해 주면 자율적으로 전투를 할 수 있다는 점에서 인류에게

심각한 윤리적 과제를 던져준다”고 경고했다.

킬러로봇이 위험한 이유는 먼저 기계와 시스템은 언제든 예측 못할 오류와 해킹이 발생할 수 있다는 점이다.

현 기술 수준으로는 AI와 로봇이 민간인과 전투원을 100% 완벽히 구별할 수 없다.

또 킬러로봇의 오류와 사고에 대해 군은 제조사에게, 제조사는 개발자에게 책임을 떠넘겨 결국 아무도 책임

지지 않는 상황이 발생할 수도 있는 것이다.

킬러로봇은 핵무기와 달리 만드는데 비용이 많이 들지도 않고 대량생산이 가능해 더 위험하다. 킬러로봇이 

암시장에서 테러리스트들에게 거래될 수 있고, 독재자나 군부가 인종 학살에 이용할 수도 있다. 

가장 큰 문제는 기계의 판단에의해 인간이 살고 죽는다는 것이다. 이는 자칫 인간의 존엄성과 생명권의 경시를

가져올 수 있다는 점에서 극히 우려할만한 것이다.

일단 킬러로봇이란 판도라의 상자는 열렸다. 인류가 재앙과 불행에 휩쓸리느냐 아니냐는 이에대한 관리를 어떻게

하느냐에 달렸다.각국의 지도자들이 머리를 맞대고 대책을 마련해야한다.지금까지의 상황으로 보아 쉽지는 않을

것 같다.

'The Final Countdown'은 1986년 5월 발매된 스웨덴의 세계적인 헤비메탈 밴드 '유럽 (Europe)'의 정규 3집 앨범

'The Final Countdown'의 동명 타이틀곡이다.

1986년 미국의 우주왕복선 '챌린저호'가 공중에서 폭발하여 일곱 명의 승무원 전원이 사망한 참사를 추모하여 발표한

곡이다. 1986년 2월  싱글로 발매가 되었고 발매가 되자마자 영국을 포함하여 전 세계 25개국에서 싱글 차트 1위를 차지했다. 800만 장 이상 팔렸다.

특히 2015년 미국의 보험회사 광고 음악으로 쓰이면서 2015년 빌보드 하드 록 차트 1위와 CM송 차트 1위를 차지하면서

역주행 히트를 하기도 헸다.

[리디아]

솔직히 ~ 무서워요
미래의 과학시대가~

문명의 이기와 편리로 생겨난 로봇.
나중에 급기야는 사람들이 로봇의 노예가 되는 건 아닌지....
섬뜩할 때가 있어요

[비온뒤]

인공지능이 어디까지 갈지 그게 문제입니다.
인간의 한계를 넘어서는 순간 세상이 어떻게 변할 지는 아무도 모르죠...ㅎ

[균희]

킬러 로봇이나
소리 안 나는 총이
내게 있었으면 했던 적도 있었습니다.
지금 그러했던 나를
웃으며 너그러이 용서하는
중입니다~^^

[비온뒤]

분노가 극에 달하면 그런
생각이 들때도 있죠.
실제 행동으로 옮기지 않아서 다행입니다.ㅎㅎ

[나국화1]

사실 닥쳐올 미래가
기대도 되지만 공포도
느끼는 것이 사실입니다.

[비온뒤]

요즘같이 기술이 빠른 속도로 발전하는 경우
미래을 예측하는 것이 쉽지 않은 것 같습니다.
미래학자들 역시 다가올 미래에대한 기대반 걱정반하는 것이
작금의 현실입니다.

[산 나리]

과학이 더 큰 참사를 가져올것 같네요
피도 눈물도 없이
오직 목적은 죽여만 되니요

[비온뒤]

미래의 전쟁은 아마도 킬러로봇대
킬러로봇간의 싸움이 될 것입니다.
킬러로봇들이 오작동을 일으킬 경우
민간인들이 크게 피해를 입을 수도 있어 걱정입니다.
좋은 하루 되세요...

[누엘]

미래, 과학,

너무 무서워요

판도라의상자

열리지 말아라

[비온뒤]

판도라의 상자는 이미 열렸습니다.
재앙으로 이어지지않게 관리를 잘
해야만 합니다.
멋진 꿈 꾸세요....

[오분전]

로봇
어릴 때는 꿈같은 이야기였는데 ......
세간의 기대와는 다르게 이세돌이 박살나는 그림을 보고 ~ 아마 먼 훗날엔 분명 AI 의 노예가 되어있지 않을지 모르겠다
노예 (일반민중) < AI 로봇 < 그 로봇을 설계하고 조종하는 계층으로 나늬지 않을까 조심스럽게 생각해본다 .

비公의 글대로 그런 무기류가 일반적으로 사용된다면 맨손이 전부인 대중들의 삶은 보지않아도 뻔한 공포의 삶을 살게 될 것이다

칼 !!
누가 사용하느냐에 따라 利器도 되고 흉기도 되는 것처럼 ~ 애시당초 근원을 뿌리 뽑자는 의견에 동의한다.

인간의 존재가치와 공동체의 안녕을 위한 옳바른 판단이 시급한 때라 생각한다...

[비온뒤]

AI 가 탑재된 로봇시대로 들어섰습니다.
과학자들도 겁을 낼정도로 빠르게 인공지능과 로봇기술이
발전하고 있죠....누군가가 나서서 제동을 걸어줘야 할텐데..
걱정입니다....ㅎ

[오분전]

지킬 박사를 박살 내야 끝이나나요 ?

[비온뒤]

요즘 이따끔 드는 생각이 인류가 종말을
향해 가고 있는 것 아닌가 하는 생각이 들기도 합니다....ㅎ

[오분전]

그래도 믿습니다
옛날보다 인간의 지혜와 윤리와 공존을 위한 사랑등 ~~더 발전해 가고 있음을 믿습니다 ~^^

[비온뒤]

그렇게 믿고 살아가야죠...
다만 각국이 갈수록 날을 세우니...ㅎ.

[이루소]

기분좋은 로봇도 있음
좋겠어요. ㅎ

즐 하루 되세요..

[비온뒤]

예쁜 로봇 감사합니다.
좋은 하루 되세요...

[피터팬]

아마 우리세대가 마지막인듯 싶습니다 성경에도 생명나무를 보호하기위해 주변에 화염검을 둔다고 했는데 인간이 동물들 복제를하고 인간닮은 로봇을만드는 것은 생명나무에 가까이 간것이기 때문에 화염검 곧 핵폭발이 일어나거나 거대한 전쟁으로 인류가 멸망할것을 기록하고 있습니다 마지막때를 지혜롭게 살아가야 하겠습니다 오늘도 좋은글과 노래 감사합니다

[비온뒤]

인공지능과 로봇의 발전속도가 빠릅니다.
앞으로 뭔일이 터질지 아무도 모르죠...
고견 감사합니다. 좋은 하루 되세요