편향적사고

[채실짱]

김상배 교수님 글

대부분의 사람들이 인공지능과 로봇을 뗄래야 뗄 수 없는 밀접한 관계로 생각합니다.

정작 연구소에서는 세부적인 기술이 중요하기 때문에 인공지능이란 단어 자체를 쓸 일이 드물지만, 외부 강연을 할 땐 “이 로봇은 인공지능으로 돌아가나요?”라는 질문을 종종 받습니다.

그럴 때마다, 우리가 개발하는 알고리즘을 인공지능이라 부르는 것이 합당한 것인지를 생각하며 대답을 머뭇거린 기억이 납니다.

인공지능이란 말은 1950년대에 존 맥카시(John McCarthy)와 마빈 민스키(Marvin Minsky) 등의 과학자들이 쓰기 시작해서, 수십 년간 SF 소설이나 영화의 단골 소재로 활약하기도 하고, 지금은 스마트폰의 비서나 자동차의 자율주행 알고리즘 등으로도 사용되고 있습니다.

그 역사만큼이나 여러 의미로 쓰일 수 있다 보니 이해의 혼선을 일으키기도 합니다.

그런데 인공지능이란 말에는 많은 사람들의 인식 속에서 선입견 하나가 깃들어 있는 것 같습니다.

‘사람의 지능(Humans’ Intelligence)’을 인공적으로 구현한 거라 생각하는 경향입니다.

사실 그 지능이란 것이 꼭 사람의 것과 닮아야 할 이유는 없는데도, 우리 자신이 사람이기 때문에 생기는 인지적 편향일 것입니다.

이런 편향성은 어디에서 연유할까요?

무의식적으로 대상을 의인화(Anthropomorphism)해서 보려는 심리적 속성 때문이라고 생각합니다.

사람은 사회적 동물로 진화해 왔고, 그 사이에 사람들끼리 서로를 이해하고 공감하는 능력도 같이 발달했을 것입니다. 대상을 의인화하려는 경향도 이 과정에서 나왔을 것이고요.

공대의 연구자들도 예외는 아니겠죠.

로봇을 프로그래밍할때 ‘가르친다’고 표현합니다.

실제로 머신 러닝 중에서 유사한 방식이 있기는 하지만, 사람을 실제로 가르치는 것과는 차이가 있습니다.

그럼에도 우리는 저렇게 의인화된 표현이 익숙합니다.

물론 의인화는 외형적인 것만이 아니라 대상의 내적 심리도 포함합니다.

예를 들어 보스턴 다이나믹스(Boston Dynamics)에서 엔지니어들이 로봇을 발로 차는 영상을 공개했을 때 많은 사람들은 ‘잔인하다’, ‘로봇이 불쌍하다’는 반응을 보였습니다.

“저 엔지니어는 언젠가 로봇의 복수를 당할 거야”라는 댓글에도 ‘좋아요’가 달립니다.

사실 엔지니어는 로봇의 균형을 잡는 알고리즘을 테스트하고 있을 뿐입니다.

하지만 이러한 상황을 이해하기 위한 사고 과정에 앞서, 발로 차는 공격성이나 버둥거리는 동물의 모습이 순간적으로 우리의 두뇌에 들어와 더 강력한 인상을 만들어버리는 것입니다.

이렇듯 순간적으로 발생하는 의인화는 우리의 인지 과정에 깊숙이 영향을 미치고 있습니다.

그런데 연구자들이나 엔지니어들이 이런 편향성을 스스로 인지하지 못한다면 문제가 될 수 있습니다.

새로운 기술을 이해하거나 연구 방향을 설정하는 과정에서 예상치 못한 오류를 만들 수 있기 때문입니다.

이런 문제들에 대해, 여러 미디어를 접하고 많은 이들과 대화하면서 발견한 것들을 정리해보았습니다.

로봇이나 인공지능의 작업 난이도를 사람에 빗대어 판단하는 경향이 있다

딥마인드(DeepMind)의 인공지능 알파고가 이세돌 9단을 이겼을 때 어떠셨나요?

인공지능이 천재의 능력을 추월했다며 놀라거나 섬뜩함을 느꼈을 것입니다.

그런데 바둑처럼 어마어마하게 방대한 경우의 수를 가진 게임에서 이겼다는 것도, 사람의 지능 중 아주 일부를 능가했을 뿐입니다. IBM의 인공지능 왓슨(Watson)이 제퍼디(Jeopardy)라는 TV퀴즈쇼에 나갔던 이벤트도 마찬가지입니다. 기억이라는 능력은 사람에게도 중요하지만, 그보다 훨씬 더 많은 지식을 담고 있는 위키피디아(Wikipedia)를 지적인 대상이라고 생각하진 않습니다.

제가 있는 연구소에서 만든 미니치타가 백플립을 선보일 때 많은 이들이 대단하다는 인상을 받았던 것 같습니다. 뒤로 점프하고 착지하는 동작이 아주 다이나믹해서 눈길이 가지만, 그 동작을 위한 알고리즘은 로봇을 걷게 하는 것과 비교한다면 사실 엄청나게 단순합니다.

이처럼 사람에게 어려운 것을 해내는 것은 굉장히 인상적이고 훌륭해 보입니다.

하지만 사람들이 쉽게 할 수 있는 걷기, 신발끈 묶기, 옷 입기 같은 일에는 그다지 반응이 없습니다.

하지만 그것을 알고리즘으로 구현한다는 것은 굉장히 어렵고 복잡하거나, 대부분은 여전히 불가능한 일입니다. 작업의 난이도를 사람의 기준으로 생각하기 때문에 나타나는 간극입니다.

우리는 하나의 로봇 데모를 보고 그 인공지능의 기능성을 일반화하는 경향이 있습니다.

길거리에서 누군가 백플립을 하는 것을 보면, 우리는 그 사람이 뛰고 걷는 것은 물론이고 유연하고 운동신경이 좋아 다른 운동도 잘 할 것이라 생각합니다.

물론 이런 사람에 대한 판단은 그리 틀리지 않습니다.

하지만 로봇에게도 이런 판단이 적용될까요?

우리는 특정한 로봇 동작이나 기능을 보고 사람처럼 그 능력의 정도를 일반화해서 판단하기 쉽습니다.

인공지능 연구소인 오픈AI(Open AI)에서 로봇 손이 루빅스 큐브를 조작하는 동영상을 보고, 이제 인공지능이 이 정도로 복잡한 걸 할 수 있으니 더 간단한 것들은 다 할 수 있을 거라 생각하죠.

큐브를 조작한다는 아주 제한된 과업을 위해서만 신경망(Neural Network)이 훈련되어 있다는 걸 간과합니다.

반면 사람은 개별적인 기술을 섞어서 복잡한 여러 작업에 응용하는 능력을 가지고 있습니다.

루빅스 큐브를 조작하는 법을 배우고 나서, 이를 거꾸로 들고 조작하라고 해도 처음에만 어색하지 금방 할 수 있습니다.

우리의 지능은 큐브를 바닥에 떨어뜨리지 않는다는 목표와 큐브를 조작한다는 목표를 자연스럽게 섞을 수 있기 때문이죠.

대부분의 로봇이 쓰는 알고리즘은 데이터를 다시 얻거나 새로 프로그래밍 해야하지요.

스푼으로 빵에 잼을 바를 수 있는 사람은, 포크로도 잼을 바를 수 있습니다.

너무 당연하죠. 바른다는 개념을 이해하고, 도구가 완전히 바뀌어도 금방 적응할 수 있기 때문입니다.

또 자율주행차는 매 상황에 따른 실제 데이터가 필요하지만, 사람이 운전자라면 이미 배운 개념으로부터 상식적인 판단이 가능하니까 수 많은 상황에 대처할 수 있습니다.

이런 예들은 데이터가 부족한 동작은 알아서 할 수 없는 로봇의 알고리즘과는 너무나도 다른, 사람의 지능이 갖는 특징 중 하나를 보여줍니다.

누구나 쉽게 하고 주변에서 흔히 볼 수 있는 것들이 인공지능이나 로봇에게는 고난도의 기술일 가능성이 높습니다.

우리에게 쉬운 동물적인 기능들이 컴퓨터에게도 쉽다고 생각하는 것은 큰 오산입니다.

그러니 우리 자신에게 너무나 쉬워 보이는 것들을 하려는 기술에 더 주목해야 할 수도 있습니다.

사람은 정성적으로, 컴퓨터는 정량적으로 정보를 처리한다

우리의 일상을 둘러보면 이미 알고리즘이 가득합니다. 그 알고리즘으로 작동하는 기계나 서비스들 말이죠. 그런데 대부분의 알고리즘은 숫자에 의해 동작합니다. 우리는 목적 함수(objective function)라는 말도 쓰는데, 단어 그대로 어떤 목적을 위하여 사용하는 함수를 말합니다. 다수의 알고리즘은 최대값이나 최소값을 구하려는 것이 유일한 목적이고, 그 목적을 달성을 어떻게 하느냐에 따라 알고리즘의 특성이 달라집니다.

바둑이나 체스 등의 게임들은 이기기 위해 해야할 일들을 정량화하기가 비교적 간단합니다.

이것이 조금 의외일 수 있겠지만, 이런 게 컴퓨터 알고리즘과 사람의 차이입니다.

정량화가 쉬울수록 컴퓨터 알고리즘이 잘 통합니다.

반대로 사람들은 정량적 기준 없이 판단을 할 때도 많습니다.

물론 지금은 디지털 세상이 일반화되어 있고, 정량적 사고에 익숙한 사람을 만날 기회도 많아지는 것 같습니다.

그런데 그런 사람조차도 하루에 수십 번 정성적 기준의 판단을 할 것입니다.

방을 청소하는 일을 예로 들어볼까요? 자신이 방을 청소할 때와 다른 사람이 청소할 때의 정리 스타일이 많이 다릅니다.

나 자신의 청소도 어제와 오늘을 비교해보면 기분이나 상황에 따라 미묘하게 달라져 있습니다. 이 과정에서 나는 어떤 함수를 최대화하려 했을까요? 그런 건 없습니다.

우리는 그저 ‘충분히 깨끗하게’라는 추상적인 목표로 청소를 합니다.

게다가 ‘충분히’라는 목표는 그 기준이 쉽게 바뀝니다. 한 집에 동거하는 가족이나 룸메이트 사이에서도 이 기준이 달라 갈등의 씨앗이 되기도 하죠.

또 다른 예는 많습니다.

매일 얼굴을 씻을 때 어떤 정량적 지표를 최대화하기 위해 손동작을 하나요? 친구를 사귀게 될 때는 어떤 정량적 지표를 헤아리나요? 옷을 고를 때는? 저녁 식사 메뉴를 고를 때는? 설거지할 때 접시를 선택하는 순서는? 끝이 없습니다.

우리는 이미 가지고 있는 정보를 종합하여 충분히 좋은 (good-enough) 판단을 하는 것에 익숙합니다.

그러나 그것이 최적화된 판단인지 일일이 확인하지 않을 때가 많습니다.

상충하는 수많은 지표들을 만족시켜야 하는데, 도무지 알 수 없는 경우가 대부분이죠.

마트에서 친구와 음식 재료를 고를 때 각자 재료에 대한 기준을 정량화하여 이 수치에 기반해 선택할 수는 없는 노릇입니다.

보통 한 명이 고르면 ‘OK!’라고 하거나, 다른 선택지를 제시하는 식으로 합니다.

이 채소가 ‘최적이야!’라고 말하는 것과 많이 다르죠. ‘그 정도면 괜찮아’에 가깝습니다.

사람을 비롯한 동물들의 진화 과정이 수학적인 최적화라고 생각하는 사람들이 많습니다.

예를 들어 치타는 빨리 뛰는데 최적화 되어있다고 생각하기 쉽죠.

하지만 생존 자체가 목적인 진화과정에서 빨리 뛰는 것은 살아남기 위해 필요한 수 많은 기능들 중 하나에 불과합니다.

정량화하기 거의 불가능할 정도로 복잡하고 다양한 기능들을 적절히 갖추며 진화해야만 살아남을 수 있습니다. 저는 진화의 과정이 특정한 정량적인 수치를 최적화하는 과정이라 믿지 않습니다.

적응을 충분히 잘 한 (good-enough) 동물이 살아남는 거죠.

다시 말해, 생존을 위해 어떤 한 가지의 기능이 최적의 상태일 필요가 없습니다.

한 가지 기능을 위해 최적화된 형태는 오히려 다른 기능을 약화시켜 부적절한 진화과정으로 진행될 수 도 있습니다.

만약 모든 동물들이 수 백 만년 동안 최적화의 과정을 거쳤다면, 지금 이렇게 많은 종류의 동물들이 공존할 수 있었을 까요? 먼저 최적화에 도달한 몇 종류의 동물들만 남아있겠죠.

그게 아니니, 진화 과정에서 살아남을 만큼 충분히 괜찮은 적응을 해 온 동물들이 남아있는 거라고 보는 게 맞을 것입니다.

충분히 괜찮으면 되는 사람과 최적화를 위한 함수로 작동하는 컴퓨터의 차이는, 앞으로 우리가 로봇에게 기대하는 노동이나 서비스들을 설계할 때 문제가 될 수 있습니다.

로봇은 정량적 수치를 기반으로 태스크를 수행하게 되는데, 그 태스크의 결과가 될 우리 사람들의 만족도는 정량화되기가 어렵기 때문입니다.

앞에서 언급했던 집 정리나 설거지처럼 사람의 취향이나 달라지는 상황에 맞춰야 하는 일들을 정량화한다는 것은 쉬운 일이 아닙니다.

사람과 공존하고자 하는 로봇들의 진화 방향은 어떤 특정 기능들의 최적화가 아니라, ‘그 정도면 충분히 좋아’를 향하고 있을 수 있다는 이야기입니다.

특히나 다양한 목적을 적당히 잘 달성하면서 빠른 판단을 해야하는 실생활에서 충분히 좋은 결정을 내리는 것이 특정 상황에서만 정의된 정량적 수치를 최적화하는 것보다 훨씬 더 어려운 일이기도 하고요.

사실 우리는, 우리 자신이 하는 일을 잘 모른다

오늘 이 글을 읽기 전, 가장 최근의 식사 시간을 잠깐 떠올려 보시길 바랍니다.

무엇을 드셨는지 기억나시나요? 그럼 그때 그 음식들을 씹어 넘기던 과정을 기억하십니까?

그 순간 혀는 구체적으로 어떤 일을 어떻게 했었는지도 구체적으로 기억이 나시나요?

동양에 ‘입안의 혀(如口之舌)’라는 사자성어가 있을 정도로 혀는 우리를 위해 많은 일을 합니다.

음식을 입안으로 넣는 일도, 음식을 이 사이에 잘 섞어주는 일도, 잘 갈아진 음식을 목구멍으로 넘기거나 덜 씹힌 음식을 다시 이 사이로 돌려보내는 일도. 심지어 이런 일들을 친구와 식사 중 친구와 대화를 하면서도 자연스럽게 해냅니다.

아! 그러고보니 그 대화 과정에서 발음하는 일도 혀가 담당하고 있습니다.

이처럼 복잡한 일들을 동시에 뚝딱 해내고 있는 혀의 움직임중에서, 우리 자신 의식적 결정은 얼마나 큰 기여를 하고 있을까요?

분명 우리의 뜻대로 혀를 움직이고 있는 것 같지만, 실제로 의식과 무관하게 자동으로 동작하는 순간이 더 많습니다.

식사 시간에 있었던 혀의 세부적인 움직임에 우리가 잘 기억할 수 없는 이유입니다. 애초에 잘 모르니까요.

손은 아마도 가장 마음대로 움직일 수 있는 기관일 거라 생각하겠지만, 손동작 역시 많은 부분은 무의식상에서 자동적으로 이루어지는 것들입니다.

그럴 리 없다고 생각하시는 분은 지금 바지 주머니에 열쇠 같은 걸 넣었다가 다시 꺼내 보세요.

그 사이에 수없이 많은 미세 조작들이 순식간에 일어나고, 또 모든 조작들은 끊김없이 자연스럽게 이어집니다. 우리는 그 조작들을 따로 하나씩 분리해서 인식할 수가 없습니다.

어떤 단위로 분리해야 할 지 조차도 알기 어렵기 때문에, 그냥 모아서 이렇게 표현합니다. 정리하다, 씻다, 바르다, 문지르다, 닦다 등등. 이러한 동사들은 미세한 동작들, 조작들의 총합을 가리키는 정성적 정의입니다.

물론 이 개념을 이해하고 떠올리는 건 아이들에게도 쉬운 일이지만, 정작 알고리즘을 개발하는 관점에서 보자면 이 단어들은 한없이 모호하고 추상적입니다.

요점은 우리가 손발을 쓰며 행하는 모든 일들이 실제로 우리의 언어를 통해 그대로 표현되지 않는다는 것입니다. 그 연속된 동작 사이 사이에 일어나는 일들은 대부분 무의식속에서 자동으로 이루어지고, 그렇기 때문에 우리가 그 동작을 표현하는 방식은 실제 일어난 일에 비해 훨씬 간결하게 표현되곤 합니다.

그래서 마치 실제로 간단한 일처럼 느껴지기도 하고, 그게 얼마나 대단한 일인지를 잊게 됩니다.

표현의 한계가 실제 복잡도를 과소평가하게 된다는 것이죠.

우리는 언어로 표현하기 어렵다는 이유가 해당 분야의 연구 진행을 더디게 만들 수 있다는 것을 경계해야 합니다. 연구자 스스로 관용적인 언어의 틀에서 기술을 자유롭게 해야 합니다.

이미 미래의 로봇 시장에서는 이런 기술 연구가 중요하다는 걸 많은 공학자와 머신 러닝 전문가들이 알아챘습니다.

그리고 다양한 접근을 시도하며 새로운 연구 방법을 만들어가고 있습니다. 우리 스스로 어떻게 하는지 모르면서 잘 해 온 많은 일들에 대해, 이제는 인공지능과 로봇도 할 수 있도록 학습시키는 도전을 시작했습니다.

​글이 아닌 몸으로 익히는 작업,

지금까지 인공지능은 대부분 데이터 처리에 관련된 정보 전달 서비스에 활용되었습니다.

음성인식, 얼굴인식 등이 이에 해당되겠죠.

이제 그 처리 데이터를 물리적인 서비스에 얼마나 잘 적용할지가 더 중요한 시대로 향해갑니다.

즉, 사람이 손으로 만지며 해왔던 복잡한 노동의 자동화가 중요한 시대가 옵니다.

특히 미래의 고령화 사회는 우리에게 큰 숙제입니다. 노동 부족 현상은 막연한 사회 문제가 아닙니다.

더 가치 있는 일에 몰입할 수 있고, 더 인간다운 삶을 추구하기 위한 기술 발전 논의는 시급합니다.

엔지니어들뿐 아니라 다양한 분야의 사회 구성원들이 인공지능에 대한 이해도를 높이고, 무의식 중에 자리잡은 편향적사고를 이해해야 하는 이유입니다.

인공지능은 사람의 지능이 아니기 때문에 오해하기 쉽습니다.

사람들 사이에서 너무나 자연스러운 것들이, 인공지능과 로봇에 대해서는 편향적 사고가 될 수 있습니다.

이러한 점을 정확히 이해하지 않고서, 이 기술의 방향성이나 활용, 정책 등을 올바르게 잡을 수 없습니다.

우리 모두가 이런 편향성에서 자유롭기 위해, 주의해서 살피고 충분한 토론을 거치며 기술의 발전과 적용을 도모해야 할 것입니다.

[출처] 인공지능을 접하는 우리의 편향적 사고|작성자 kingbelly

.

.

인생을 준비하는 사람들

#행사밴드 #행사음향 #모임파티 #송년행사 #출장밴드 #오브리밴드 #하모니밴드  

#엘프919 #엘프910 #엘프909 #리얼마스터2 #반주기 #엘프반주기 #리얼마스터