유럽연합 – AI로봇을 전자인간으로 인정, 비상시에 작동 멈추는 킬 스위치 탑재 의무화, 세계 첫 가이드라인 제시^^

[차원용]

유럽연합 – AI로봇을 전자인간으로 인정, 비상시에 작동 멈추는 킬 스위치 탑재 의무화, 세계 첫 가이드라인 제시^^

유럽연합(EU) 의회가 2017년 1월 12일 벨기에 브뤼셀에서 AI로봇의 법적 지위를 '전자인간(Electronic Person)'으로 인정하고, 비상시에 작동을 멈추는 ‘킬 스위치(Kill Switch)’ 탑재를 의무화 하는 결의안을 의결했다. 전 세계적으로 AI로봇이 금융/제조/의료 분야 등에서 영향력을 키워가고 있는 가운데, 국가 차원에서 최초로 AI로봇의 지위와 AI로봇 개발 및 활용에 대한 가이드라인을 제시한 것이다. 특히 EU 의회는 AI로봇이 인류에 도움을 줄 수 있어야 한다는 대전제 아래 기술적/윤리적 기준을 마련했다는 점에서 EU 결의안에 대해 전 세계의 이목이 집중되고 있다.

결의안 요약

1) 법적 지위: AI로봇을 전자인간으로 인정

2) 킬 스위치: 비상시 로봇 작동을 멈추는 버튼 장착 의무화

3) 주요원칙: 로봇은 인간을 위협하면 안됨, 늘 인간의 명령에 복종해야 함, 로봇 역시 자신을 보호해야 함 - 아이작 아시모프(Issac Asimov)의 로봇의 법칙(1941년, 1985년 수정) 반영.

4) 핵심권고: EU안에 AI기술/윤리연구 신설, 고용 모델 및 조제시스템 개편 - AI로봇을 소유한 사람에게 조세 혹은 사회보장 혹은 보편적 소득 부과(their owners to pay taxes or contribute to social security or implement universal income)

5) 최종의결: 다음달 본회의에서 751명의 의원들(751 MEPs)의 투표 실시 예정

파이낸셜뉴스 - "AI로봇은 전자인간" EU, 법적 지위 부여(13 Jan 2017)

http://www.fnnews.com/news/201701131750426924

CNN - Europe calls for mandatory 'kill switches' on robots(12 Jan 2017)

http://money.cnn.com/2017/01/12/technology/robot-law-killer-switch-taxes/

Independent - EU to vote on declaring robots to be 'electronic persons'(15 Jan 2017)

http://www.independent.co.uk/life-style/gadgets-and-tech/robots-eu-vote-electronic-persons-european-union-ai-artificial-intelligence-a7527106.html

이보다 앞서 2016년 5월 31일에 EU는 AI 로봇 초안(DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)을 작성하여 회원국에 회람시켜, 결국 이날 결의안을 의결했다. 다음 사이트에서 초안을 다운 받아 연구하세요^

European Parliament - DRAFT REPORT with recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)(31 May 2016)

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//EN

초안에 대한 외신들의 보도내용입니다.

Newsweek - ROBOTS MAY PAY TAXES UNDER EUROPEAN PROPOSALS(23 Jun 2016)

http://europe.newsweek.com/robots-tax-europe-electronic-persons-ai-473542

The Verge - EU proposal would classify robots as 'electronic persons'(22 Jun 2016)

http://www.theverge.com/2016/6/22/11999458/eu-proposal-robots-electronic-persons-liability

Reuters - Europe's robots to become 'electronic persons' under draft plan(21 Jun 2016)

http://www.reuters.com/article/us-europe-robotics-lawmaking-idUSKCN0Z72AY

‘킬 스위치(Kill Switch)’는 구글 딥 마인드에서 직접 알파고의 알고리즘을 설계한 로렌트 오서(Laurent Orseau)와 영국 옥스포드 대 미래인간연구소의 스튜어트 암스트롱(Stuart Armstrong)이 2016년 6월 3일 발표한, 비상시에 ‘인간이 안전하게 개입해 중지시킬 수 있는 인공지능(Safely Interruptible Agents)’이라는 논문에 근거한 것이다. 알파고를 개발하고 인간이 지도학습을 시킬 때에는 알파고의 실력을 알겠는데, 그 이후 데이터 기반의 스스로 학습(Self-Learning)하는 비지도 학습을 할 때에는 알파고가 어느 정도 수준인지 알 수가 없다는 것이다. 최근 전세계 60명의 고수들과 온라인 바둑에서 60 전승을 하고 있는 이유이다. 따라서 인공지능을 인간이 제어할 수 없을 때에는 킬 스위치를 눌러 작동을 멈추게 하자는 것이다.

다음 사이트에서 ‘인간이 안전하게 개입해 중지시킬 수 있는 인공지능(Safely Interruptible Agents)’이라는 논문을 다운 받아 연구하세요^

Laurent Orseau(Google Deep Mind) & Stuart Armstrong(The Future of Humanity Institute, University of Oxford), "Safely Interruptible Agents", 3 Jun 2016. http://intelligence.org/files/Interruptibility.pdf

관련 외신 보도 내용입니다/

Engadget - Google is working on a kill switch to prevent an AI uprising(3 Jun 2016) http://www.engadget.com/2016/06/03/google-ai-killswitch/

Futurism - Judgment Day: Google is Making A 'Kill-Switch' for AI(3 Jun 2016)

http://futurism.com/judgment-day-google-is-making-a-kill-switch-for-ai/

마지막으로 필자는 2007년 10월 1일에 대한민국의 로봇윤리헌장 초안(버전 1.0)을 작성했는데, 대내외적으로 발표가 안되어 섭섭했지만, 이 초안에도 이러한 내용들이 들어 있습니다^

#EU, #Draft_Report, #AI, #Robot, #Robotics, #Agents, #Kill_Switch, #전자인간, #Electronic_Person, #알파고, #Alphago, #Robot_Tax