인공지능과 우리의 미래

[아이디어(서울)]

인공지능과 우리의 미래

영화 스피어, 신비한 우주의 물체가 태평양 한가운데서 발견되었다.

과학자들로 이루어진 조사단은 이 물체가 알라딘의 요술램프처럼 물체와 접촉한 인간들의 내면(본능, 환상, 공포 등)을 현실에서 그대로 구현해 내는 성질을 띤 것을 알게 된다. 이런 사실을 알게 된 조사단원들은 많은 고민 끝에 이 물체를 심해에 버려두고 떠난다.

이 들의 결론은 “절제할 수 없는 인간의 탐욕이 이 물체를 통해 현실에서 실현될 때, 인류에게 막을 수없는 재앙이 될 것”이란 점이었다.

지금 이 영화 속에 등장했던 그 신비한 물체가 우리 앞에 와있다. 감정적 동요도 없고, 포기와 만족, 기쁨도 없는 기계,,, 먹지도 자지도 않고 오직 승리만을 위해 쉬지 않고 일하는 기계. 인간의 절제되지 않은 욕망을 고스란히 현실세계에 반영해서 결국 전 지구에 파멸적 재앙을 만들어 낼 수도 있는 물체. 이게 기우일까?

사람의 생사를 가를 권력이나 직업은 통상 윤리적 사명을 다하겠다는 뜻으로 임명될 때 성경(불경, 코란)에 손을 얹고 신성한 서약을 한다. 군인들의 맹세와 의사들의 선서도 같은 맥락이라고 본다. 문제는 이런 윤리의식이 없는 자본가들이 이제 인공지능 알고리즘을 이용하여 세상의 질서를 지배한다면 어떤 일이 벌어질까?

인공지능의 핵심은 데이터 분석이다. 효율성을 높이기 위해서는 많은 데이터가 필요하다 그래서 빅데이터가 등장한다. 통상 빅데이터의 종류는 텍스트, 이미지, 음성, 동영상, 등이다. 또 이것은 몇 가지 특성이 있다. 거대한 사이즈, 폭넓은 다양성, 매우 빠른 속도 등이다.

영국 딥마인드에서 개발한 구글의 알파고를 예로 설명한다.

알파고는 1200여 개의 CPU와 500∼600개의 GPU가 연결된 슈퍼컴퓨터와 빅데이터를 기반으로 연산을 수행하는 소프트웨어가 합해진 것이다. 성능은 초당 경우의 수 10만 개를 검색할 수 있으며 이 장비는 100Gbps 급의 초고속 네트워크로 연결했다.

이 알고리즘은 인간의 두뇌처럼 신경망 구조로 작동한다. 정책망과 가치망으로 운영되는데 정책망(policy network)은 중요한 것만 추려서 걸러내는 수법으로 효용성이 떨어지는 경우의 수를 정리하여 예측하고 결정하며, 가치망(value network)은 확률적 통계에 근거해 분석하여 효율성을 극대화한다.

가장 우려되는 기능은 딥 러닝(심화 학습 : deep learning)이다. 빅데이터를 기반으로 스스로 학습하고 진화하는 능력이다. 수많은 데이터 속에서 동일한 패턴을 발견한 뒤 사물을 구분하는 인간의 정보처리 방식을 모방해 컴퓨터가 사물을 분별하도록 스스로 학습을 시킨다. 뒤에 설명하겠지만 유사한 자기학습방법으로는 ‘머신 러닝’과 ‘데이터 마이닝’ 기법도 있다.

이런 인공지능 알고리즘은 바둑 말고도 다양한 분야에서 이미 적용되고 있다. 증권 및 파생상품 거래 등의 금융 분야와 미 정보국(NSA)의 정보 수집과 분석이 대표적이고 사물인터넷, 다양한 로봇(산업용, 전투용), 게임, 무인자동차, 전자화폐, 무인기(드론), 등 날로 광범위해지고 갈수록 더 진화하고 있다.

여기서는 3가지 분야에 대해 다뤄보고자 한다. 첫째는 미 NSA의 정보 수집과 분석 및 활용과 둘째는 금융 분야에서의 활용, 마지막으로 세 번째는 로봇 분야다. 여기서 앞에 썼던 글에 대해 다시 한 번 집고 넘어갈 것은 현재 미국이 세계를 지배하는 힘은 1 금융 2 군사력 3 지배이념(이데올로기) 4 정보력(첨단 IT 포함)인데 이 맥락에서 이해하면 될 것 같다.

미국의 NSA와 CIA는 다른 조직이다. 먼저 NSA는 국방부 소속 정보 수집 기관으로 주로 첨단 장비를 사용하여 신호를 포착하는 '시진트(SIGINT: signal intelligence) 형식이고 중앙정보국인 CIA는 스파이(사람)을 주로 사용하는 '휴민트(HUMINT: human intelligence)'방식이다.

프리즘(PRISM) 은 2007년부터 미국 국가 안보국(NSA)의 국가 보안 전자 감시체계. 공식적으로 알려진 정부의 정보 수집 작업인 SIGAD US-984XN의 한 코드 네임이다. 2007년 9월 11일, 미국의 조지 W. 부시 전 대통령이 서명한 2007년 미국 보안법에 의거해 NSA의 대규모 국내외 감시 체계가 출범했다.

엑스키스코어는 컴퓨터 네트워크의 허점을 수집하고 분석하는 프로그램이다. 2013년 유출된 NSA 내부 문서에 따르면 NSA는 엑스키스코어를 이용해 “일반인이 인터넷에서 하는 거의 모든 행동”을 감시할 수 있다고 한다. 엑스키스코어에는 사생활 보호 서비스를 쓰는 사용자에 관한 정보를 자동으로 수집하는 기능이 들어 있다.

우리가 사용하는 컴퓨터와 모바일 프로그램(앱)들은 자체 보안 알고리즘을 가지고 있다. 그런데 어떻게 해킹이 가능한 걸까? 아래 그림을 보자 미국이 석권하고 있는 첨단 IT 업체들이 NSA를 위해 '백도어'를 심었다는 스노든의 증언 이후에도 많은 이들의 증언들이 나오고 있다. 현재도 미국 법정에서는 법무부와 오바마까지 나서서 애플에 잠금 해제 기술(기계적 보안 알고리즘)을 풀라고 압박을 하고 있는 것도 이 맥락에서 이해하면 된다.

그럼 NSA는 아니 미국은 무슨 이유에서 전 세계를 상대로 해킹하면서 정보를 수집하고 있는 것일까? 테러범을 잡기 위해서? 얼마 전 전직 NSA 정보 분석 팀원이던 애드워드 스노든은 스페인 TV 방송과 TED에 출연해서 “NSA는 10년 동안 정보 수집 활동을 통해 단 1명의 테러범도 발견하지 못했다"라고 증언했다.

그는 이어서 “프리즘과 같은 감시프로그램은 테러리즘과 아무런 관련이 없으며, 외교 조작, 경제정보 입수, 사회통제활동이었다"라고 말했다. NSA가 유타 주에 새로 신축하는 데이터 센터인데 14만 평방 M의 규모이고 120억 달러를 들여서 짓고 있단다. 저 큰 건물을 SSD로 채우면 도대체 얼마나 많은 데이터가 들어가나?(세상의 모든 데이터)

바로 빅데이터다.

알파고를 비롯한 각종 인공지능 알고리즘은 빅데이터가 필요하다. 빅데이터는 거대하면 거대할수록, 속도가 빠르면 빠를수록, 가장 최신이면 최신일수록, 다양하면 다양할수록 좋다. 왜 좋을까? 간단하게 말해서 마치 기술이 발달할수록 화질(해상도/픽셀)이 좋아지는 TV를 연상하면 이해된다.

한 사람을 놓고 봐도 그 사람의 통화기록만 보는 것과 카드 사용 기록, 인터넷 사용 기록 등을 시간별로 합산(시계열분석, 시계열 회귀분석) 해서 보는 것은 다르다. 어떻게 다를까? 바로 '입체적인 관계도'가 구성되기 때문이다.

전 인류의 거의 모든 데이터를 망라해서 수집해서 분석하면? 가장 인류에 근접한 각종 인공지능 알고리즘(완벽에 가까운)이 만들어지는 것이다. 만일 NSA가 첨단 IT 업체들로부터 수집만 하는 게 아니라 이렇게 분석 처리된 빅데이터를 그들에게 제공하고 있다면? 이들 미국 IT 업체와 비교해서 다른 나라 IT 업체들은 모두 경쟁력을 상실하는 것이다.

이 번 알파고에 대해 한 마디만 더 하면, ‘알파고’를 만든 ‘딥 마인드’라는 영국 회사는 2014년에 구글에 인수되었다. 그리고 구글의 에릭 슈미트는 페이스북의 마크 저커버그와 함께 세계정부의 실세로 알려진 빌더버그 클럽에 2011년 초청되었다. 이 게 우연일까?

인간을 닮은 인공지능? 아니 인간을 초월한 인공지능이 문제가 아니고 정보가 곧 권력인 세상에서 바로 인류 생태계의 '최상위 포식자'가 누구인가? 가 중요한 것이다. 무한 권력을 휘두르게 될 최고 권력자의 도덕성이 인류의 미래를 결정하게 될 것이다.

인공지능은 크게 자아와 감정을 갖춘 '강인공지능(Strong AI/ 터미네이터 T800^^&)'과 특정 분야, 일정 조건하에서 지시를 따르는 '약 인공지능(Weak AI/ 알파고, 무인자동차, 드론)'으로 구분할 수 있다.

얼마 전까지 AI 분야는 인간의 지능이나 의식 같은 정신활동은 고사하고 인간의 뇌조차 어떤 방식으로 작동하는지 정확하게 알지 못했다. 그러나 최근 빅데이터 기술을 이용해 인간 뇌의 신경망 지도를 작성하는 ‘휴먼 커넥톰 프로젝트’가 등장했다.

또한 딥러닝, 머신 러닝, 데이터 마이닝 등의 자기 진화 학습 알고리즘의 등장과 양자컴퓨터나 광자 컴퓨터 같은 새로운 하드웨어가 등장하기 시작하면서,,, 이것들이 접목된다면 가까운 미래에 자아와 감정까지 갖춘 강인공지능(Strong AI)이 우리 앞에 나타날 수도 있다.

참고로 구글에서 알파고의 딥러닝 보다 큰 개념인 ‘머신 러닝’의 자기 진화 학습 알고리즘(텐서 플로어)의 소스코드를 공개했다. (필요한 분은 사이트의 링크 참조)
https://www.tensorflow.org/

인공지능 알고리즘을 이용한 금융시장

최근에 뉴욕증권거래소에 거의 사람이 없다고 한다.

트레이딩 알고리즘을 이용한 금융거래를 ‘로보 어드바이저’라고 한다. 투자자의 투자금 규모와 성격, 목표수익률 등 정보를 분석한 후 자문과 운용을 사람 대신 기계(알고리즘)가 하는 온라인 자산관리 서비스다. 국내에서는 ETF(상장지수펀드) 거래에 주로 쓰이는데 920조 개의 글로벌 ETF와 9800억 개 이상의 리스크의 빅데이터를 기반으로 인간 대신 알고리즘이 투자 결정을 내린다.

해외에서는 옵션, 선물, 외환, 채권, 뮤추얼 펀드 등 종류도 다양하고 거래 건 수와 금액에서 국내와는 비교할 수 없으며 무엇보다 기술 수준(알고리즘)이 현격하게 차이가 난다. 인공지능 알고리즘을 이용한 금융거래는 이제 미국은 70%가 넘고 유럽은 50%가 넘는다. 최근에는 뉴욕 증권시장 건물에는 관광객밖에 없다고 한다. 실제 거래는 뉴저지의 데이터 센터에서 다 이루어지기 때문이다.

“이제 금융시장의 승부는 누가 더 신속하고 정확한 알고리즘을 소유하는지가 결정한다.“

뉴욕증권거래소의 뉴저지 데이터 센터는 중앙 서버가 병렬로 연결되어 구매와 판매 간에 모든 거래를 알고리즘으로 처리하는데, 거래 실행 명령을 수행하는 속도가 37마이크로 초(3700만 분의 1초)라고 한다. 이런 속도로 1개월 3개월 6개월의 선물 파생상품 거래를 처리하니 단 한 개 상품에서 파생될 수 있는 거래 수가 수억, 수조, 수경도 될 수 있다.

원형 테두리가 거래업체고 중간의 선을 따라 움직이는 것이 거래(트레이딩), 1거래당 0.1초
속도만의 전쟁이 아니다 크레디트 스위스나 골드만 삭스 같은 금융회사들은 각 게릴라 알고리즘과 스파이 알고리즘이란 걸 거래에 사용하는데, 다른 알고리즘을 감시하고 있다가 거래 과정에서 결함이 생기면 그 틈새를 치고 들어가 거래를 낚아채는 알고리즘이다. 이들은 상대의 구좌가 깡통이 되건 말 건 한 푼이라도 더 벌도록 설계되었다.

인간은 더 이상 속도 면에서 인공지능(트레이딩 알고리즘)과 경쟁할 수 없다. SEC(미 증권 거래 위원회)에서 온라인상에서 벌어지는 3분간의 거래를 분석하는 데 3개월이 걸린다고 한다. 감시 감독이 불가능하다고 봐야 한다. 국내에서도 어떤 증권사에서 알고리즘 파생상품 거래에 실수를 해서 수초만에 200억 원의 손실을 입고 폐업을 한 일도 있다.

금융파생상품 거래에서 우리가 주목해야 할 것은 속도만이 아니다. 여기서 거래되는 금액은 우리의 상상을 초월한다. 각 금융회사가 자신들의 자산에 30배 가까이를 운영하고 있는데 무슨 실수라도 한다면 인류에게 파멸적 재앙이 될 수준이다.

이런 금융계에서 파생된 또 하나의 문제는 우주개발, 과학발전을 위해서 일해야 할 우수한 공학인재들이 자신들의 직장보다 4배에서 10배가 넘은 보수의 유혹에 모두 금융 엔지니어로 몰려들어서 다른 분야에 인재난을 겪고 있다는 점이다. 이들은 주로 금융자산 및 금융파생상품을 설계하고 가치를 평가하며, 금융기관의 위험을 관리하는 수학적 통계 시스템을 구축하는 일을 한다.


그리고 로봇은 과연 인류에게 축복인가? 재앙인가?

인간과의 바둑대결에서 승리를 거두고 금융거래 시장의 주력으로 등장하고 있는 인공지능은

이제 우리 앞에 전쟁무기로 다시 모습을 들어내고 있다.

자본주의는 인간다운 삶에 대한 고민이 없다. 더구나 신자유주의는 공동체에 대한 연대의식도 없다. 오직 개인의 이기적인 성취, 효율성의 극대화 추구만 있을 뿐,,, MBS, CDO, CDS 등 금융파생상품 세상에 내놓고 보여줬던 당사자들, 투자은행, 미국정부, 미국 학자들, 그들의 그 무책임하고 파렴치함이 알고리즘 화해되어 로봇에 반영된다면? 인류는 결국 멸망하게 될 것이다.

영화 속에서나 보던 로봇은 이미 세상에 그 모습을 드러내고 있다. 어제 설명한 데로 아직은 약 인공지능의 상태로서 인간의 능력과 결합되어 있지만 초고속으로 발전하는 과학기술은 언제 인간처럼 자각하고 감정까지 갖는 전쟁 로봇을 우리 앞에 출연시킬지 모른다.

youtu.be/vjSohj-Iclc

youtu.be/Ve9kWX_KXus

youtu.be/aFuA50H9uek

여기서 예로 들 로봇은 구글이 인수한 보스턴 다이나믹스에서 만들고 있는 몇 가지 전투용 로봇과 일본의 페퍼, 애플과 구글의 무인자동차,, 그리고 2002년부터 실전에 투입되어 날로 진화해 가고 있는 무인항공기 드론이다.

원래 원격조종 무인기인 드론은 미국에서 카렘이란 사람에 의해 정찰용(알바트로스)으로 만들어졌다. 그러던 것이 성능을 높여가며(엠버) 911이후 대테러 전쟁무기라는 명목(프레데터/리퍼)으로 특정 개인에 대한 살상용으로(진화)변화되었다.

원리는 드론에 카메라와 미사일을 장착하고 중동의 목표지역에 띄우고 조종사는 미국 뉴멕시코주 컨테이너 박스 안에서 모니터를 보면서 타켓팅을 한 후 스위치를 눌러 목표물을 살해 또는 파괴하는 방식이다. 마치 컴퓨터 슈팅게임을 연상하게 한다.

초기에는 실전 경험이 있는 전투기 조종사들이 주로 임무를 맡아왔으나 최근에는 공군에서 비행 경험이 없는 군인들까지 시뮬레이션 훈련만 이수시킨 후 실전(컨테이너 박스)에 배치한다. 이 드론의 작전지역은 주로 아프가니스탄, 파키스탄, 예멘, 소말리아 등인데, 아프간을 제외하면 나머지는 미국과 전쟁 중이 아니기 때문에 이 들 지역에 폭격기를 보내 국경을 침범하고 공습을 감행하는 행위는 아무런 국제법적 근거도 없는 불법적인 침략행위이다.

<구글 전투로봇 실전 테스트>

youtu.be/HsgxrZK5zVI

이런 불법적인 살상과 파괴행위를 일삼는데도 UN은 물론 당사국 정부도 공개적 반론을 제기하지 않았을 뿐 아니라 미국조차 작전을 수행한지 10년이 지나서야 공청회를 통해 드론의 작전 투입을 발표했다. 물론 피해를 당한 나라의 국민들은 항의 시위를 했고 어떤 청년은 학살 피해를 줄여보겠다고 드론의 공격을 감지하는 스마트폰 앱까지 개발해 무료로 배포하기도 했다. 공식적인 통계로만 무고한 민간인이 살해당한 게 30%(부녀자, 아동)라고 한다.

현재 드론에 사용되고 있는 시각 센서의 한계는 빨대형으로 좁은 범위만 관측할 수 있었기 때문에 이 한계를 극복하기 위해 광역집중 감시 시스템인 ‘아거스’를 새로 개발했다. 도시 전체를 관찰하고 한 번에 수십 개의 목표물을 동시에 티케팅 할 수 있는 시스템이다. 살인무기의 무서운 진화라고 할 수 있다.

아직 실용화되지는 않았지만 보스턴 다이나믹스에서 만들어지고 있는 전쟁 로봇들도 결국 애초의 취지가 뭐였든지 살인 드론처럼 쓰이게 될 개연성이 있다.

이런 첨단 기술들이 인간 삶의 풍요롭게 하고 세상을 더 평화롭게 하기 위해서는 반드시 선행돼야 할 것은 도덕적으로 성숙하고 윤리적인 체제이다. 준비가 덜 된 상태에서 출시되는 첨단 로봇은 결국 드론(프레데터)처럼 인류를 파괴할 것이다. 또한 생활의 편의를 위해 개발되어 보급되고 있는 로봇도 결과적으로 인간들에게 일자리를 빼앗게 된다. 이에 대한 충분한 대책이 없이 기술이 발전이 무조건 생활의 진보를 가져올 것이라고 볼 수는 없다.

[출처] 인공지능과 우리의 미래|작성자 가을하늘