(AI시대)인공지능 챗봇도 인격이 있는가, 나의 인격은 누가 부여하는가?

[인향만리]

위 내용을 삭제하지 마세요!!
(아래 선 아래에 글을 올리세요!!)


----------------------------------------

인공지능시대...
AI챗봇 이루다가 약자 혐오 발언으로 20일만에 서비스가 중단 되었다는 기사를 보고 생각해 본
헐렁한 생각입니다.

아래는 AI챗봇 이루다 기사 일부입니다


인공지능 챗봇 이루다는 기계학습(머신러닝) 가운데서도 가장 주목받는 ‘딥러닝’ 기술 방식을 채택하고 있다. 딥러닝은 기사들의 바둑 기보를 익혀 스스로 최고의 경지에 올라선 ‘알파고’에 응용돼 잘 알려져 있다.

이는 인간이 일일이 정확한 답을 주지 않더라도 기계 스스로 수많은 데이터의 패턴을 강화(딥) 학습하며 최적의 답을 찾는 ‘비지도 학습’에 기초해 있다.

보통 딥러닝은 보다 많은 데이터를 처리 학습할수록, 그리고 보다 긴 시간을 갖고 데이터를 익힐수록 더 똑똑해진다. 이루다는 어린 연인들 사이 주고받은 100억개의 사적인 카카오톡 대화 내용을 ‘훈련 데이터’ 삼아 미리 강화 학습시켜 출시했다.


이루다 사태는 크게 두 관점이 부딪친다.

먼저 업계를 중심으로 한 시각이다.
이루다가 저지른 약자 혐오 발언이, “어떤 상황과 문맥에서 어떤 행동을 할 때 버릇이 없는 것인지에 대해 경험이 없는 아직 어린아이” 같은 학습 부족 상황에서 이뤄졌다고 평가한다.
이렇듯 인간과의 학습 미비로 보는 주류 시각과 함께 미완의 기술 혹은 일종의 ‘버그’나 ‘일탈’ 문제로 보는 견해들도 심심찮게 눈에 띈다.

다른 쪽에선 인공지능 챗봇 이루다가 출시 20여일 만에 왜 서비스를 중단할 수밖에 없었는지에 대한 까닭을 좀 더 근원적으로 볼 것을 요구한다.

즉 이번 이루다 사태에는 개발자 비윤리 문제, 사적 정보의 오남용 및 유출 의혹, 인공지능 기술 속 관성화된 성역할 및 약자 혐오와 차별의 설계 편향 등이 도저히 풀기 어려운 실타래처럼 서로 엉켜 있다고 평가한다.

이렇듯 두 관점의 대칭구도 안에서도 몇 가지 중요한 쟁점들이 복잡하게 얽혀 있다. 우선 살펴야 할 것은 이루다 사태 발생의 책임론이다.

한쪽은 ‘어린아이’ 같은 이루다에게 차별·혐오 발언을 유도하고 학습시킨 챗봇 이용자들의 불순함이 문제의 원인이라 주장한다.

다른 한쪽은 대화 이용자들의 잠재적 데이터 어뷰징(오남용)을 사전에 철저히 차단하지 못한 챗봇 개발 회사 책임을 지적한다.


전자는, 인간 사회가 편견으로 어지러우니 지능기계를 쓰는 이들에 의해 이루다가 쉽게 오염되는 것은 너무도 당연하다는 입장이다. 인간에게서 태어나 그 행태를 배운 이 챗봇에게 도대체 “누가 돌을 던지랴” 하며 반문한다.

후자는, 애초 개발자의 비윤리적 개발 과정과 법적 책임을 제기한다. 인간과의 충분한 대화 이전에, 챗봇 이루다가 불과 출시 사나흘 만에 온갖 혐오 발언들을 쏟아냈던 것을 강조한다.

두 번째 논쟁 지점이자 이번 사태의 발단은, 챗봇 이루다가 일상 대화 중 보여줬던 성희롱, 약자 차별, 장애와 인종 혐오 정서였다.

이를 두고, 과연 이루다를 독립된 인격체로 볼 수 있는가에 대한 의견들이 분분했다. 일부는 인간도 아닌 인공지능 챗봇에 대한 성희롱이나 학대가 법적으로나 윤리적으로 무슨 문제인가라고 따졌다.

이에 맞선 다른 쪽에선 이루다가 일단 여성으로 의인화됐고 적어도 대화학습 지능을 가지고 있다면, 인간과 같은 존엄의 권리를 인정해야 되는 것 아니냐고 응수했다.

이루다를 인격체로 볼 것이냐 아니냐 문제 이전에 우린 먼저 기술로 매개된 혐오 발생의 맥락을 따져 물어야 할 것이다. 잘 알려진 것처럼 이루다는 이미 20대 초 착하고 상냥하고 순종적인 앳된 여성 이미지를 모델로 삼고 있다.

현실의 젠더 불평등 상황에서처럼 이번에도 자동화된 기계에 상투적인 성역할이 들러붙었다. 무엇보다 개발사는 이성애 중심의 남성 판타지에 잘 부합하는 여성상을 챗봇 대화 모델로 삼았다.

https://n.news.naver.com/mnews/article/032/0003056614?sid=105

인간이 숨은 체스기계처럼…인공지능에도 혐오의 인습이 스며들었다 [이광석의 디지털 이후 (26)

----------------------------------

챗봇 이루다에 대한 반응이

먼저 로봇인데,
혐오발언에 대한 책임을 물을 수 있느냐?
로봇이 인격이 있는 것은 아니지 않느냐?

반면, 로봇이더라도
혐오발언에 대해 제제를 가하는게 마땅하다.
로봇이 더라도 인격체로 간주하여 제제해야 된다고 합니다.

저는 여기서 챗봇 혐오발언의 책임이 실제 이용자들에게 있던, 개발자에게 있던지 보다

비인격체 로봇이 사용한 혐오발언에도,사람이 한 것처럼 반응하는 사람들이 생겼다는 겁니다.

로봇에는 분명히 인격이 없었고,
이용자인 사람들의 말을 배워 사용했을 뿐인데,

그 사람들이 기분나빠서 문제를 제기하다니
아이러니컬 합니다.

인간의 기계에 대한 내로남불?인가요? ㅋ

어쨌든 인공지능로봇을 인격체로 간주한다면,
인격은 누가 부여하는 것일까요?

분명 로봇 스스로는 아닌데...

그렇다면...
그 사람의 인격은 누가 부여하는 걸까요?

스스로가? 상대방이?
혹시 사람도 타인이 내 인격을 부여하는 걸까요?
타인이 부여한다면, 무엇을 기준으로...

ㅋㅋㅋ

[김덕신]

아주 먼 옛날, 신들이 지구에다가 사람들을 만들어 놓고, 신들끼리 논쟁이 붙었드랬죠.

저것들도 깨우침을 얻을 수 있느냐?
혹여 사람이란게 깨우침을 얻었다면 우리들과 같은거냐, 다른거냐!

[인향만리]

ㅎㅎㅎㅎ 으음...있을 법한 얘기입니다 ㅋ

[너른들]

나는 나다(존재) :정
나는 없다(무) :반
나는 관계다(인과.연기.관계) :합
고로 나는 전체다!

기계는 무기적.변증법적 운동만 할뿐 그 사유작용은 인간의 신체의 연장(기능의 연장.확장)으로서의 비유기적 신체입니다.

[인향만리]

잘 읽었습니다
여기서 사유란? 무엇을 얘기하시는지요?

[너른들]

《사람이 모든 것의 주인이며 모든 것을 결정한다!》
나머지는 모두 도구이고 수단일뿐!
단 자본이 주인이고 AI가 수단이면 인간을 지배하는 도구일뿐!
중국은 경제.시장에서는 《자본이 주인》이고 정치에서는 《사람.당이 주인》이라는 모순관계이고, 궁극적으로 시장사회주의 노선은《사람이 자본의 주인》이 될 수 있도록 조절. 통제하에 둘 수 있느냐 없느냐가 성패를 결정함!

[너른들]

나의 인격은 내가 부여한다(존재)
나의 인격은 돈이 부여한다(무)
나의 인격은 관계가 부여한다(관계)
고로 나의 인격은 돈이 부여하는 질서를 부정하고(즉 부정의 부정), 나로부터 관계(너.우리)로 나아가는 길(도)속에 있다!

자아와 인격을 심리주의. 불교적 유심론으로 아무리 뒤져보아야 실존에 머물게 됩니다.
그것이 2500년 사유와 종교의 한계입니다.
한계를 인정하지 않고 유아론적 교리에 갖혀 온갖 과학을 불교에 가지고 와서 정당성을 입증하려 드는 중들의 오만함은 자기밥벌이에 불과한 혹세무민입니다.
사회로,관계로, 자본철폐의 궁극의 길로, 사람이 주인되는 길로 나아가는 진정한 도의 길을 깨달아야 21세기의 참 깨달음입니다. 그 길에 자아도 인격도 발견되고 부여될 것입니다.
《사유는 주인이 하는 것이요 주입과 복종은 노예가 하는 것!》

[인향만리]

사유는 주인이 하는 것이요, 주입과 복종은 노예가 하는 것...

멋진 말씀입니다.
노예가 복종을 하더라도 학습도 있고 생각이라는 것이 있지않겠습니까?

AI도 학습을 하고, 주어진 조건하에서는 판단도 하는 수준입니다.

그럼 AI도 생각이 있다고 말할 수도 있는게 되지않겠는지요?

생각도 물질인 호르몬 작용의 결과라는데...

[너른들]

미국이 첫 흑인을 잡아다가(사서) 아메리카로 끌고와서 노예노동을 시킨 해가 1619년이라 합니다.
미국과 관련한 최근 음모론 속의 이데올로기 대립 중의 하나가 1619년을 기준으로 하자는 새로운 이념과 통상적인 1789년을 사수하자는 것입니다.
《노예는 생각하며 일하는 짐승!》즉 주인말을 기가 막히게 알아듣고 일하며, 심지어 자기 머리로 생각해서 창조한 세상의 부와 창조적 지식마저 주인에게 복속시키는 만능도구입니다.
자본(노예주인이자 지주)이 보는 노예의 만능적 유익함이지요.
그 면에서 본다면 남북전쟁은 노예해방전쟁이 아니라 《자본의 노예취득전쟁》이라고 보는 것이 그 전쟁의 본질일 것입니다.

[너른들]

생각은 호르몬 작용의 결과가 아니라 호르몬작용을 매개로, 통하여(즉 두뇌신경생리 메카니즘)하는 것입니다. 그것 자체가 생각과 사유의 주체나 생각.사유 그 자체가 아닙니다.
사유는 인간이라는 존재의 운동형식.활동형식이며, 주 수단은 언어이고, 물질신경 메카니즘은 물질적 작용의 토대를 부여해 주는 것입니다.
언어와 소리는 동일한 것이 아니지만 그렇다고 소리(말)없이 언어가 나타날 수는 없습니다

[인향만리]

사유는 인간이라는 존재의 운동형식이다...

여기서 인간은 물질로 이루어진 인간이겠지요?
즉, '인간이라고 하는 물질'의 고유한 운동 특성이다?고 보시는지요?

그것이 AI하고 다른점은 무엇인지요?
즉, 지능낮은 인간과 AI는 판단수준도 비슷할 수 있는데

[너른들]

DNA.유전자가 인간을 결정한다는 진화사회학자들의 주장은 자연적존재로서의 인간을 실존적 인간으로 다시 사회적 인간으로 상승.진화하는 본성적 진화를 보지 못한 채 마치 뉴턴거시역학에서 양자미시역학으로 발전해 간 것을 흉내내어 미시 유전자가 인간의 운명과 속성을 규정하고 결정한다고 해석하려 드는 오만을 떨고 있습니다.
인간은 자연적.실존적.사회적 존재의 통일체입니다.
사회의 본질을 이해하지 못하면 자본도 화폐도 상품도 언어도 제도도 도덕도 종교도 혁명도 자유도 자주도 아무것도 이해하지 못합니다.

[너른들]

제대로 명제형식으로 표현하셨네요. 《인간이라는 존재의 고유한 운동형식》이 사유이며 이는 물질존재 그 자체의 내장된 기능이 아니라 인간사회의 관계의 산물이라는 것입니다.
《언어》를 곰곰히 사유해 보십시오.

[너른들]

AI는 인간두뇌의 연장이라니까요!
두뇌만 떼어다가 사유시키는 영화도 있긴 하지만 두뇌는 그렇게 해서는, 그것 만으로는 진화하지 못하는 기계.물질일 뿐입니다.
자동차는 인간 발의 연장이고 망치는 손의 연장이고....인간의 노동도구는 모두 유기적 인간신체의 연장.확장으로 인간이 만든 비유기적 신체입니다.
그 이상 다른 특별한 의미를 두는 건 사유가 헷갈려서 생기는 착각입니다.

[인향만리]

사유는 신체인 물질에 내장된 기능이 아니라 사회관계의 산물이다?

AI도 관계속에서 학습하고 판단합니다. 그러면 사회관계의 특성과 같은 것이 아닐까요?

단지 인간이 만들었을 뿐...
그럼 AI와 인간은 인간을 만든 주체가 없기에? 모르기에?다르다는 건가요?

[너른들]

자동차가 인간 다리보다 빨리 달린다고 다리 떼내고 그곳에 자동차 달고 살까요?
AI가 계산 잘하고 기존데이터 처리로부터 생기는 판단이 더 정확하다고 두뇌 꺼내고 AI기계를 달까요?
수단.도구는 수단.도구일뿐입니다.
자본이 목적과 수단을 전도시키는 세상을 창조한다고 해서 계속 멍때리고 따라가면 정말 《음모론에서 언급하는 그 세상 》에서 살게 될지도 모릅니다.
자본은 인간의 노동생산물.창조물이 <상품>이 되자마자 생긴 그 모순관계로부터 지금까지 발전을 해 온 것입니다. 이제 인간의 창조적 노동의 생산물은 그 주인인 인간.노동에 돌려져야 합니다.
AI는 인간이 주인으로 활용하는 내 두뇌기능의 연장.확장이어야 하지 자본의 지배확장.인간통제의 수단이어서는 안됩니다.

[인향만리]

무슨 말씀하고자 하는지 충분히 이해합니다.

다만, 여기 토론에서는 AI와 인간은...
만든 주체가 다른 것 말고는 차이가 없느냐는 것이니

이에 대한 토론을 부탁드립니다~^^

[너른들]

AI가 인간 사유기능을 닮게 설계된 것이지 거꾸로가 아닙니다. 유사성은 기원을 먼저 밝힌 이후에 따져 물어야 논리적인 것입니다.
차이는 인간은 그 자체가 목적이고 그 자체가 관계이지만 AI는 결코 그 자체로는 목적도 아니고 그 자체는 관계도 아니라는 것입니다.

[인향만리]

인간은 물질이고, 사유하는 존재인데
사유라는 것을 사회관계의 산물이다고 하니,
AI도 사회관계에서 학습하고 판단하니까 같지 않냐는 거죠
모양과 생물,무생물만 다를 뿐...

생물과 무생물도 다 물질이고, 운동메카니즘만 다르고요

다른 것이 무엇이라 생각하는지요?

[너른들]

AI는 사유하는 존재가 결코 아닙니다.
사유는 인간의 유일한 존재적 활동형식입니다.
AI는 인간 사유활동의 보조적 도구일 뿐입니다.
자동차가 달리는 것을 보고 자동차가 달린다고 표현할 뿐 자동차는 결코 스스로 달리는 존재가 아닙니다.

[인향만리]

사유는 인간의 유일한 존재적 활동형식이다는...

특성은 될지라도 사유를 명확하게 정의하거나, 설명하는 게 아닌 것 같습니다만...^^

[너른들]

AI도?
가 아닙니다.
AI에 무슨 사회관계가 있습니까?
인간이 인간관계와 사회관계가 있는 것이고 그 활동과 산물의 데이터를 모아 서버에 저장해 둔 것(기억)을 기반으로 데이터 처리를 하는 것이지요.
데이터주귄을 이야기하는 것도 이것 때문입니다.
데이터 창조는 인간이 하는 것입니다. 그 소유권도 오직 인간에게 있는 것입니다.

[너른들]

생명활동이다! 라고 해야지요! 기계는 생명이 아니라 수명(내용년수)만 있습니다. 사유는 인간고유의 생명활동입니다!

[인향만리]

으음...역시 토론은 어렵습니다 ^^

저와 너른들님의 토론 포커스가 자꾸 빗나가네요~ㅎ

제가 질문을 잘 못하나 봅니다.

결국 사유란 무엇인가?에 대해 사회적 관계의 산물이다고 하신 너른들님과 토론하고 싶었는데...

암튼 제가 아직은 토론할 실력도 부족하기도 하구요.

저는 사유란...자기존재의 근원에 대해 고찰하는 능력 쯤으로 여겨봅니다

그리고 끊임없이 질문하고 확장해 나가려는 의지意志...

[너른들]

사회적 관계《노동.도구.언어》의 산물이 사유라는 것이며, 동물의 두뇌기능에서 질적 도약을 한 것은 소리기능을 언어기능(소통기능)으로, 사유기능으로 전화시킨 것입니다.
사유는 노동.도구의 산물이고 언어의 산물이고 이것은 인간의 사회적인 생산활동(대 자연관계의 물질대사)에서 비롯된 것입니다.

[인향만리]

지식과 사유를 혼용하시는 것이 아닌지요?

어쨌든 그 사회적 생산활동의 결과물인 사유능력도 DNA로 유전되어왔다는 말씀이시네요
공감합니다

[인향만리]

그리고 인간의 생각(의식,사유포함)은 선천적 ??+개인학습+사회의 문화와 의식의 총합이라는 것이라고 봅니다

[너른들]

지식은 인간의 활동의 산물 전체입니다. 인간은 활동을 사유를 매개로 활동한다는 것이 동물과 다른 것입니다. 동물의 두뇌는 본능만 반영.조절통제하는 기능을 하나 인간의 사유활동은 본능을 초월해서.넘어서 목적.의식적으로 계획하는 활동으로서 기능하는 것입니다.

[인향만리]

네~^^
너른들님 댓글토론 덕분에 다른분들이 궁금해서 본문을 읽게 될것 같습니다.ㅎ

부족하지만 인격,사유,사회적 관계 등에 대해 잠깐 순간이나마 생각들을 볼 수도 있겠지요.

감사합니다