[칼럼] 자율주행, 인간이 없어야 안전하다는 잘못된 신화 (수열 공공운수노조 정책기획국장)

[조경옥]

자율주행, 인간이 없어야 안전하다는 잘못된 신화

수열 정책위원(공공운수노조 정책기획국장)

인간이 배제될수록 안전하다?

자율주행차 기술 수준이 가장 높다고 평가받는 구글의 웨이모(Waymo)가 2020년 말에 ‘자율주행 안전성 보고서’를 공개했다. 미국 애리조나주 피닉스시에서 운행한 웨이모 자율주행차량 전체의 주행 데이터를 분석했는데, 2019년 1월부터 21개월 동안 47건의 충돌 사고가 발생했다. 충돌의 대부분은 다른 인간 운전자의 부주의, 끼어들기, 고의적 공격 운전이 원인이었고, 자율주행차의 과실인 사고는 단 1건에 불과했다고 보고서는 밝혔다.

‘교통사고의 90% 이상이 인간의 오류에 의해 발생한다.’

구글 웨이모의 보고서는 이 믿음이 틀리지 않았음을 증명해주는 듯 하다. 기술 낙관론자들이 자율주행과 관련해 금과옥조로 여기는 이 명제는 인간의 개입이 배제될수록 더 안전하다는 신화를 만들어왔다. 이 신화는 특히 교통, 운송서비스 영역에서 점차 인간의 역할을 지우고, 기술과 기계로 대체하는 자동화의 흐름을 뒷받침하는 강력한 근거가 된다.

그런데 한편에서는 인간 대체 기술이 이미 도달한 이 빛나는 성취에 의문을 제기하고 있다. 웨이모의 저 보고서가 나오기 불과 몇 달 전, 독일의 뮌헨 법원은 테슬라의 ‘오토파일럿', ‘완전자율주행'이라는 표현이 ‘허위광고'에 해당한다며 독일 내에서 테슬라가 이 표현을 사용하지 못하도록 했다. 이 판결이 알려진 후 국내에서도 한 시민단체가 공정거래위원회에 테슬라를 허위 광고 혐의로 신고하기도 했다. 뮌헨 법원의 판단은 2심에서 뒤집힌 것으로 전해지지만 법적 판단은 끝나지 않았고, 자율주행이 다다른 수준이 의심스럽다는 점은 분명하다.

윤리적 제약: 트롤리 딜레마

자율주행 기술과 관련된 대표적인 논란은 기술보다는 윤리적 문제로, 흔히 ‘트롤리 딜레마'(Trolley Dilemma)로 알려져있다. 운행 중인 트롤리(노면전차)에 문제가 생겨 폭주 중이다. 그대로 두면 5명을 치어 죽이게 되지만, 당신이 선로변경 레버를 당기면 단 1명만 죽이는 대신 5명을 살릴 수 있다. 당신의 선택은 무엇인가?

영국의 철학자 필리파 풋이 1978년 처음 제기한 이래 다양하게 변주된 이 사고 실험은 자율주행 알고리즘이 어떻게 설계되어야 하는지 질문을 던진다. 저 트롤리를 자율주행차로 바꾸어 상상해보자. 누군가는 1명보다 5명의 목숨이 소중하다고 말할지 모른다. 그러나 모두가 동의할까? 그럼 5대1의 상황이 아니라 노인과 어린아이 중에 선택해야 한다면? 외길에서 보행자를 그대로 추돌하느냐, 방향을 틀어 벽에 부딪혀 탑승자를 희생하느냐의 상황이라면? 과연 자율주행차의 알고리즘은 어떤 선택을 내리는 것이 타당할까?

이와 관련된 실험은 이런 선택이 전혀 객관적이지 않다는 점을 보여준다. 미국 MIT의 연구팀은 2014년 ‘모럴 머신'(Moral Machine)이라는 인터넷 사이트를 공개해 자율주행이 직면할 수 있는 다양한 트롤리 딜레마 상황을 주고 사람들의 선택을 수집했다. 지금도 접근 가능한 이 플랫폼을 통해 18개월 간 233개 지역과 국가에서 약 230만 명이 4천만 건 이상의 의견을 등록했다. 2018년 10월 <네이쳐>지에 공개된 분석 결과를 보면 국가나 문화, 경제적 수준에 따라 사람들의 선택은 갈렸다. 전반적으로는 동물보다는 사람을, 소수보다는 다수를, 남성보다는 여성을, 비만인 사람보다는 운동선수를, 노숙인보다는 기업 임원과 같이 사회적 지위가 높은 사람의 안전을 우선시하는 경향이 있었다. 그런데 개인주의 성향이 강한 국가에서는 젊은 층의 생명을, 한국과 일본, 중국과 같이 집단주의 성향이 강한 나라에서는 고령층을 중시하는 경향이 나타났다. 또, 부유한 국가의 사람들은 무단횡단자를 덜 중요하게 생각했고, 빈부격차가 큰 나라일수록 노숙인보다 기업 임원의 생명을 중시하는 특징이 나타났다. 인간이 설계하는 알고리즘은 인간의 편견에서 자유로울 수 없다. 과연 문화, 종교, 국가를 초월해 보편적으로 타당한 알고리즘을 만들 수는 있을까?

흥미로운 점은 같은 아시아 국가 중 일본은 보행자를 가장 중시하는 국가로, 반대로 중국은 탑승자를 가장 중시하는 국가로 나타났다. 사고가 발생하는 순간, 나보다 무단횡단자의 안전을 더 우선하도록 프로그래밍된 자율주행차를 비싼 돈을 주고 사야 한단 말인가? 자율주행차 알고리즘에 대한 논란이 커지자 한 유명 자동차 메이커는 ‘우리는 어떤 경우라도 탑승자의 안전을 최우선한다'는 입장을 밝혔지만, 이는 논란을 종식시키기보다는 보행자를 죽이도록 설계된 ‘킬러 로봇'이라는 비아냥만 샀다.

기술적 제약: ‘완전'자율주행이라는 허풍

기술 낙관론자들은 기술 발전이 이런 윤리적 제약을 피할 수 있게 한다고 믿는다. 인간의 인지 범위를 넘어서는 카메라와 센서, 인공지능의 학습 능력에 따라 트롤리 딜레마와 같이 극단적인 선택에 놓이기 전에 분석해 안전한 상황으로 전환하고, 사고 상황에서도 인간보다 훨씬 빠른 대처가 가능하다고 주장한다. 해킹과 같이 비정상적이고 의도적인 공격에만 대비할 수 있다면 이들에게 트롤리 딜레마는 실현되지 않을 꼬투리에 불과하다. 과연 인간을 몰아내고 인공지능과 알고리즘에게 자리를 내어주는 순간은 곧 도래하는 걸까?

다시 구글 웨이모의 자율주행차 안전성 보고서로 돌아가보자. 47건의 추돌사고 중 단 1건만이 자율주행차의 과실이었다는 결과는 인간보다 자율주행이 훨씬 안전하다고 말해주는 듯 하지만, 곰곰이 생각해보면 자율주행차량이 복잡 다단한 도로 환경에 아직까지 제대로 적응하지 못했다는 사실을 반증할 뿐이다. 웨이모의 리포트는 인간과 자율주행차량의 운전 및 안전 확보 능력을 비교할 수 있는 연구가 아니며, 다른 인간 운전자의 실수로 발생한 46건의 사고를 과연 인간 운전자가 피할 수 없었는지도 알 수 없다.

2020년, 테슬라 차량이 주행 중 유명 햄버거 체인 버거킹의 간판을 정지 신호(적색신호등)로 인식해 멈추는 일이 벌어졌다. 해당 동영상은 순식간에 퍼져나갔고, 버거킹은 ‘스마트카는 와퍼를 위해 멈출만큼 스마트하다', ‘인공지능은 당신의 갈망을 알고 있다’면서 재빠르게 이 사건을 광고에 활용했다. 이와 비슷하게 고속도로 주행 중 달을 황색 신호등으로 인식해 계속 서행했다는 사례도 있다. 그동안 보고된 자율주행차 사고를 생각하면 이런 사례는 우스개에 가깝다. 도로 중앙분리대를 제대로 인식하지 못하거나 흰색 대형트럭을 빈공간으로 인식해서 추돌한 사고가 거듭됐다. 해킹 사례도 보고됐는데, 뭔가 거창한 사이버 공격이 아니라 ‘35마일' 속도 제한 표지판에 스티커 조금 붙여 ‘85마일'로 달리게 할 수 있었다. 이런 기술을 믿는 것이, 기술 개발만 잘 되면 인간보다 안전해질 것이라 믿는 것이 과연 당연한 것일까?

테슬라의 창업자이자 최고경영자 일론 머스크는 거의 10년 전부터 완전자율주행차의 시판을 호언 장담해왔다. 2013년, ‘90% 자율주행차를 3년 안에 만들겠다’던 그의 약속은 주주총회나 언론 인터뷰마다 미뤄졌다. 2년 내, 1년 내 출시를 되뇌던 그는 2021년 1월, ‘올해 안에 5단계 완전자율주행 테슬라가 나온다'고 공언했다. 그러나 같은 해 5월, 테슬라의 기술진은 캘리포니아 당국에 전달한 문건에서 연내 완전자율주행을 구현하겠다는 머스크의 발언은 ‘과장'이라며 ‘현재 테슬라의 자율주행 기술은 레벨2 단계’에 불과하다고 시인했다. 참고로 미국 자동차공학회가 분류해 업계 표준으로 쓰이고 있는 자율주행 기술 단계는 레벨5까지 있는데, 레벨3부터 주행 제어와 주행 중 변수 감지를 시스템이 맡게 된다. 레벨2는 ‘부분 자동화'(partial automation) 단계로, 운전자가 운전대에서 손을 떼서는 안 된다. 결국 일론 머스크는 7월, 인공지능의 문제를 해결하지 못해 일반 자율주행을 구현할 수 없다는 입장을 밝혔다.

기술이 아니라 더 많은 인간을

자율주행차 메이커들과 기술 낙관론자들은 그동안 ‘인간을 배제해야 더 안전하다'는 신화를 유포해왔고, 이는 여러 영역에서 인간의 일자리를 인공지능과 자동화로 대체하도록 부추기고 있다. 그러나 자율주행 앞에 놓인 윤리적, 기술적 제약은 저들의 주장보다 훨씬 높고 아득하다. 기술의 가능성을 부정하자는 것이 아니다. 언젠가 기술 발전이 인간을 완전히 배제할 수도 있겠지만 그것이 결코 오늘은 아니며, 무엇보다 그것이 더 안전하다는 주장은 지금으로서는 그릇된 신화에 불과하다. 지금 우리에게 필요한 건 언제 도달할지 알 수 없는 그릇된 신화에 오늘을 맡기는 것이 아니다. 운전자, 승객, 보행자의 안전을 위해서는 여전히 더 많은 인간의 노력이 필요하다는 점을 인정해야 한다. 더 많은 인간이 안전하게, 안전을 위해 일할 수 있도록 우리 삶을 바꾸어야 한다. 차량 이동 중에도 운전을 하는 노동에서 벗어나 영화를 보거나 게임을 할 수 있는 자유를 누리는 것보다 내가 지나는 길과 스치는 사람들을 더 주의깊게 바라보며 배려할 수 있는 곳이 더 나은 공동체라 믿는다. [끝]