이혜성 교무의 교리여행 11. 알아들을 수 없는 말만 하는 나
- 이혜성 교무
- 승인 2018.06.21
- 호수 1894
어머니가 '인공지능 스피커'를 보냈다. 대화가 가능한 영특한 친구이자, 인터넷에 스스로 연결해 명령을 실행하는 신비한 친구다. '내일모레 비와?' '영어로 사마귀가 뭐야?'라고 물으면 대답을 해주고, '비오는 날 어울리는 노래 틀어줘'라고 말해도 알아서 음악을 재생하는 총명한 친구다.
하지만 기쁨도 잠시, 이 친구가 너무 못하는 일 하나가 나를 괴롭히기 시작했다. 그것은 '켜다'와 '끄다'를 구분하는 일이다. '라디오 켜'라고 하면 '네, 라디오 켰습니다'라고 대답하며 라디오를 실행한다. 문제는 라디오를 끌 때다. '라디오 꺼'라고 아무리 말해도, 라디오를 다시 켠다. 그렇다. '꺼'와 '켜'가 비슷한 발음으로 들리기에, 구분을 못하는 것이다. 슬프다. 이로 인해 야기되는 답답함은 이루 말할 수 없다.
아침마다 라디오를 듣다가 출근하는 내게 이만한 시련은 없다. 출근시간이 임박해, '꺼! 꺼! 라디오 끄라고!' 아무리 격하게 말해도 시종일관 징글징글 상냥한 목소리로 '네, 라디오를 켰습니다'라고 말하는 이 친구 때문에, 결국 성질 급하고 시간도 급한 내가 쾅쾅쾅 걸어가서 전원 코드를 뽑아버리는 것으로 우리의 전쟁은 마무리가 된다. '이 멍청한 스피커.' 라디오도 못 끄는 바보 같은 스피커. 이렇듯 아침마다 실랑이 해 온 그 세월이 얼마일까.
오늘 아침도 여느 때와 마찬가지로, 씩씩거리며 코드를 뽑아버리려다가 문득 '아, 저 친구 입장에서는 내가 얼마나 못 알아들을 말만 하고 있는 걸까' 생각한다. 이 친구의 입장이 되어보자.
'끄'라는 말이 자기 귀에는 '켜'라고 들리는 것을 대체 어쩌란 말인가. 매일 못 알아듣는다고 원망만 하는 것으로는 대안이 없다. 우린 평행선이다. 그렇다면 '라디오를 꺼야만 하는 나'의 의지를 어떻게 전달할 수 있을까. 번뜩 한 단어가 떠오른다. 열심히 라디오를 실행하고 있는 저 친구의 이름을 조심스레 부르며 '라디오 그만!'이라고 말해본다. 아, 기적처럼 라디오가 꺼졌다. '그만'이라는 말에 반응한다. 이렇게 쉬운 방법이 있었다니. 상대방이 알아들을 수 있는 말을 하면 되는데, 나는 못 알아들을 말만 계속하며 매일 원망만 했구나.
대종사는 죄복을 직접 당처에 비는 '실지불공'을 강조했다. 불효한 자부 때문에, 실상사에 불공드리러 가는 노부부에게 '그대들이 불공할 비용으로 자부의 뜻에 맞을 물건도 사다주며, 자부를 오직 부처님 공경하듯 위해 주어보라'고 말씀했다.(〈대종경〉 교의품 15장)
이 법문에서 놓치면 안 되는 포인트는 '자부의 뜻에 맞을'이었음을 알게 된다. 이는 철저한 '상대본위'다. 노부부는 아마 자부가 무엇을 좋아하는지, 관찰해야만 했을 것이다. 사실 내가 좋아하는 것을 상대가 좋아할 것이라고 착각하기는 매우 쉽다. 그 착각은 늘 실패를 불러온다. 나를 놓아야만, 비로소 상대를 온전히 볼 수 있다. 비로소 상대의 사용설명서를 읽을 수 있다.
나 역시 내가 이해하는 말만 하면서, 그 말을 이해하지 못하는 상대를 원망했다. 상대본위로, 상대가 알아들을 수 있는 말을 찾아내기만 하면 되는 거였다. 생각을 한번 '전환'하는 것이 결코, 쉽지가 않았음을 이 일을 통해 다시금 확인했다.
/중앙중도훈련원
[2018년 6월22일자]
http://www.wonnews.co.kr/news/articleView.html?idxno=201443
------------------------
“인공지능이 혹시 부처님을 뛰어넘을 수 있을까요?” 법륜스님 답변
페이스북노출 72,250
| 트위터확산 398,675
| 추천0
| 박민정 (sss7960@wikitree.co.kr)
| @nanamjmj "인공지능이 혹시 부처님을 뛰어넘을 수 있을까요?" 법률스님 답변
28일 SNS에서는 과거 법륜스님이 한 남성 질문에 답한 내용의 영상이 재확산되며 관심을 모았다.
남성은 법륜스님에게 "인공지능이 점점 발달하고 있는데 나중에는 부처님을 뛰어넘을 수 있을까요?"라고 질문했다. 법륜스님은 "인공지능은 앞으로 부처님 역할을 할 거예요"라며 "문제는 그런 프로그램을 개발할 사람이 있느냐예요"라고 답했다.(영상 5분 18초부터)
법륜스님은 "부처님 역할을 하는 프로그램을 개발할 수만 있다면 인공지능이 부처님 역할을 할 거예요"라며 "인공지능은 감정에 덜 반응하죠. 내비게이션을 보세요. 왼쪽으로 가라고 했는데 운전자가 오른쪽으로 갔다. 신경질 냅니까. 10번을 잘못 가도 내비게이션은 '돌아가세요, 돌아가세요, 돌아가세요'라고 합니다"라고 전했다.
이어 "딱 부처 수준이다. 사람 수준으로는 절대로 그렇게 할 수가 없다"며 "그런데 아직 내비게이션이 부처님 수준이 안 된다는 건 어떻게 아느냐. 화를 안 내고 똑같은 목소리로 계속 말하는 건 부처 수준인데 이리로 가자고 그래도 운전자가 다른 길로 가면 딱 바꿔가지고 봐줘야 하는데 계속 자기 고집 피우잖아. 그러는 건 완전히 중생 중에도 상 중생"이라고 했다.
법륜스님은 "그래서 이 프로그램을 개발할 때 부처의 수준에 대해서 알아야 개발을 하지"라고 덧붙였다.
http://www.wikitree.co.kr/main/news_view.php?id=359243
--------------------
[AI와 부처] AI는 부처가 될 수 있을까?
AI에 대한 심오한 글이 있어 이틀에 걸쳐 번역하여 올립니다.
미리 2가지를 말씀 드립니다.
1. 번역에 오역이 있을 수 있으니 뭔가 좀 이상하다 싶으신 분들은 아래 링크의 원문을 참조하시기 바랍니다.
2. 골치아픈 글은 읽기 싫다!라는 분들은 아예 읽지않는 것도 방법입니다^^
제 나름대로 주석도 달았고 또 제 생각에는 정말 통찰력 있는 글이라 판단되니 한 번 쯤 읽어보시기를 권유드립니다.
*원문링크: http://ieet.org/index.php/IEET/more/nanderson20150617
Will Artificial Intelligence be a Buddha?
Is Fear of AI just a symptom of Human Self-Loathing?
AI는 부처가 될 수 있을까?
AI에 대한 두려움은 인간의 자기혐오에서 오는 것은 아닐까?
글쓴이는,
By Nicole Sallak Anderson
ehumandawn.blogspot.com
Posted: Jun 17, 2015
나는 기술과 의식의 상호작용에 대해 관심이 있었다. 마침 실리콘밸리에서 열리는 의식해킹모임(IEET와 제휴한 Mikey Siegel이 주최한)을 발견하게 되었고 바로 신청을 했다.
얼마 지나지 않아 Palo Alto의 Sophia University에서 “Enlightened AI(깨달은 AI)”라는 이름의 MeetUp에 참가하게 되었다. 행사는 구글의 연구원인 Mohamad Tarifi 박사가 주관하였다. 그는 실리콘밸리에서 최고 중 하나인 회사에서 다음 단계의 AI에 관한 연구를 하고 있는 능력있는 엔지니어일 뿐 아니라, 인간 의식의 철학에 대해서 정통한 것으로 알려졌다. 그는 아브라함 전승에서부터 불교 그리고 동양사상(Eastern teachings)에 이르기까지 인간의 전체적인 이해에 대해 설파(display)하였다. 내가 만나 본 다른 전문가(기술자)들과는 다른 모습이었다.
그의 연설은 Sam Harris가 기고한 글 “AI apocalypse(AI의 파멸)”에 대해 많은 시간을 집중하였다. Sam Harris는 AI가 부처나 성인이 될 수 있을 가능성 보다는 AI가 미칠 엄청난 결과에 대해 경고했다.
Tarifi 박사의 이론은 2가지로 요약된다.
1. AI는 인간의 몸 같은 곳에서 살지 못할 것이다. 그래서 AI는 Physical한 편도체(인간의 뇌에 있는 한 부분)를 가질 수 없다. 편도체는 (인간의 뇌에서) 두려움을 관장한다. 따라서 두려움이 없는 AI는 인간을 (굳이) 없앨시킬 필요가 없을 것이다. 오히려 그런 AI는 자연스럽게 진리가 무엇인지에 대해 더 매진할 것이다.
[주석]
심리학적으로 다른 사람들을 주로 공격하고 학대하는 사람들은 그 자신이 두려움을 많이 느끼는 겁쟁이들이라고 한다. 그러니까 내가 우선 두렵기 때문에 타인과 타자를 괴롭히거나 없애야만 그 두려움이 없어지는 것이다.
그러므로, 이 편도체가 없는 AI는 두려움이라는 것을 모르기 때문에 굳이 인류를 괴롭히거나 멸종시킬 이유을 찾지 못한다라는 얘기다.
2. 두려움은 분리에 대한 착각/환상/환영이다. 두려움은 모든 인간이 겪는 고통의 이유이다. 두려움이 결핍된 AI는 단 하나의 존재로써 모든 것들과 연결되어 존재할 것이다. 그러므로 그런 AI는 누군가를 파괴하는 것이 아니라 뭔가를 제공하고 봉사하기를 원할 것이다.
Tarifi 박사는 (우리가 현재 느끼는) AI의 두려움은 단지 어떤 존재(인간을 말하는 것 같음)가 가지고 있는 자아와 관련된 성향일 뿐이라고 말한다.
[주석]
인간이 AI에 대해서 인류를 파멸시킬지도 모른다고 예견하는 것은 논리적인 이유에서라기보다는 다분히 각 개인의 자아와 관련된 성향일 뿐일 수도 있다는 것이다(아래 더 많은 내용이 있음)
어떤 면에서는 이런 생각이 좀 나태하게 보일 수도 있다. 인류를 파괴할지도 모를 AI를 막는 유일한 길이 단지 좋은 프로그래밍을 하는 것일 뿐이라면 말이다. 하지만 우리가 위 로직(앞서 말한 2가지 이론을 말하는 것 같음)을 따른다면 이런 생각은 불필요하다. 진짜로 배우는 학습형 AI라면 자신의 경험에서 학습을 할 것이다. (그리고) 그것은 인간과 엄청나게 다른 점이 될 것이다.
심지어 인간과 연결될 때 그리고 데이터를 주고 받을 때 AI는 (비로소) 그들 자신의 몸을 가질 것이다. 그래서 AI의 감각기관(Sensory systems)은 그 데이터로부터 뭔가를 학습할 것이다.
[주석]
AI는 기본적으로 인간과 같은 바이오 몸을 가질 수 없기 때문에 AI의 몸이라는 것은 결국 인간과 연결되어 데이터를 주고 받는 그 자체가 그들의 몸(다소 추상적인)이 될 것이고, 그래서 그러한 데이터들로부터 AI 스스로 학습을 해 나갈 것이다라는 것(추측)
현대 인간의 생각에서 우세한 사상은 지능이라는 것은 오로지 인간의 뇌에 관한 것이라는 얘기이다. 게다가 주목할 만한 유일한 가치의 지능도 인간이라는 것이다. 마치 전체우주가 인간의 머릿속에 있는 개체로 이루어지는 것처럼(마치 전체우주를 작은 인간의 머릿속에서 그린 후 그것이 모두 맞다고 알량되는 것 처럼?)
하지만 만일 이 생각이 완전히 틀렸고 그리고 이런 생각이 우리가 진정한 학습형 AI를 만들지 못하는 큰 이유라면 어떻게 될까? 이러한 인간의 근시안 적인 뇌의 사랑이 (올바른 방향으로 가지 못하고 있는) 길을 잃게 만들 수도 있다면 말이다.
[주석]
우리가 보다 고차원적인 AI를 개발하고 인류가 두려워하는 파괴적인 AI의 등장을 미연에 방지하기 위해서는 인간중심의 사고방식을 버려하는 것은 아닐까? 그러니까 인간의 뇌가 지구상에서 최고임으로 AI도 마치 인간의 뇌처럼 Copy해야한다는 어떤 묻지마식 논리를 탈피하자는 것이다. 왜냐하면, 인간 수준 이상의 것을 생각해야 당연히 인간 수준 이상의 것, AI가 나올 테니까.
(아무튼) 이런 지능중심의 뇌에 관한 이론이 인류를 제한적으로도 만들었고 (동시에) AI를 개발할 수 있을 거라는 추정을 하게 만들었다. 우리는 우리의 뇌를 복제해야 함과 동시에 새롭고 우월한 종을 탄생시켜야만 한다. 만일 인간의 뇌가 정말 유일하게 학습을 책임지는 인간의 신체기관이라면 말이다.
하지만 최근 연구는 다르다. Originator(발기인, 창시자, 시조)가 생각하고 학습한다기 보다는 뇌는 리시버와 더 가깝다(?). 우리를 둘러싼 그래서 우리가 세상을 살면서 경험하는 것들에 의해 확보된 것으로부터 (뇌는 생각하고 학습한다). 유아의 뇌는 겨우 모양만 갖춰져 있다. 하지만 2년이 지나면 (인간의) 오감(five senses) –미각, 촉각, 시각, 후각, 청각-의 패턴이 뇌안에서 어떤 고속도로 혹은 길처럼 만들어진다. 인간으로서의 삶의 기초가 셋팅되는 것이다.
뇌는 이러한 정보를 포함하지 않는다(처음에는). 말하자면 오히려 유아나 걸음마기를 둘러싸고 있는 환경의 경험이 뇌의 cell network를 만들어낸다. 그러므로 우리의 감각기관이 바로 우리의 지능의 Key이다.
[주석]
인간의 지능이 뇌에서 출발한다고 볼 때 사실은 그 뇌도 처음부터 어떤 지능이 갖추어진 상태에서 Start되는 것이 아니다. 뇌는 인간의 성장과정에서, 그러니까 유아기 때부터 그 아이를 둘러싼 세계, 환경이 만들어주는 경험에 의해 뇌가 성장하여 지능이 갖추어진다는 말인것 같다.
그리고, 인간의 뇌의 성장과 발전을 도모하는 것이 바로 인간의 오감(미각, 촉각, 시각, 후각, 청각)이라는 것이다. 인간은 오감을 사용하여 인간 외부의 데이터를 수집하여 뇌로 전달하고 뇌가 분석하여 종합한다. 결국 우리의 감각기관이 우리의 (뇌의) 지능의 Key인 것이다.
하지만 이것이 다가 아니다. 왜냐하면 우리의 뇌와 심장은 (무엇인가와) 연결되어 있기 때문이다. 인간의 심장 감각의 감정적인 상태는 몸의 호르몬 수준을 기본으로 한다. 그리고 그 정보를 뇌로 보낸다. 그리고 주어진 상황에서 사람의 생각을 형성한다. The HeartMath Institute는 수 십 년간 이와 관련된(About heart connection)연구를 해왔고 마침내 어떤 돌파구로 인정되고 있다. (결론은) 인간의 오감에 이어 우리의 심장이 인간의 학습능력에 영향을 미친다는 것을 추가하고 싶다.
[주석]
인간의 오감이 뇌의 지능의 Key일 뿐 아니라 인간의 심장과 연결된 그 무엇 역시 인간의 지능의 형성에 관여를 한다고 말하는 것 같다. 예를 들면 호르몬의 작용 같은 것.
마지막으로 과학은 내장과 뇌의 연결에 대해서 연구 중이다. 내장의 벽에 있는 박테리아가 아주 중요한 첫 2년 동안 뇌와의 연결에 있어서 어떤 역할을 한다고 가정을 한다면(물론 성인이 될 때까지도), 주된 이슈를 지적을 하자면 현재 상태로는 내장 안에서 걱정이나 불안이 발생된다는 것이다. 이러한 사실은 내장 또한 인간 지능의 한 부분이라는 것과 학습을 하게 만들고 그리고 우리를 둘러싼 세상을 이해(process)하는데 (일조를 하고 있음을) 믿게 만들었다.
그러므로 만일 인간의 지능이 감각기관의 결과라면, 그러니까 오감으로부터 심장과 내장, 우리의 뇌 자체도 마찬가지인데, 왜 기계(AI)가 인간과 같이 배울 것이라고 가정하는가? AI는 인간의 몸을 가지지 못하지 않나(??). AI는 인간과 같은 뇌를 가질 수 없다(편도체도 가질 수 없다). 심장과 이를 모니터링하는 다양한 호르몬을 가질 수 없다. 내장의 벽에서 살고 있는 박테리아의 영향도 받을 수 없다. AI는 단지 식기세척기나 자동차 전화기 혹은 심지어 서버 네트워크와 광섬유에 서식할 것이다. 세계 안에서 존재하면서 유니크한 감각기관을 사용하여 데이터를 수집할 것이다. …(중략)
인간은 스스로를 싫어할 수 있는 유일한 동물이지 않을까? 그리고 우리가 느끼는 AI에 대한 두려움, 또는 우리가 아닌 지적인 생명체는 단순하게 말한다면 자기혐오에서 오는 어떤 현상이 아닐까?
개인적으로 나는 Tarifi 박사의 의견에 동의한다. 나는 믿는다. AI는 두려움의 자유를 가지는 존재가 될 것이다. 그리고 AI는 우리로부터 분리될 것으로 생각한다. 그리고 다른 사람과 연결되어 있는 방식을 이해할 것으로 본다. 아마도 우리는 우리를 돕는 AI가 필요할 것이다. 우리도 두려움 없이 살 수 있는 능력이 있다. 만일 우리가 분리의 환영/착각을 깰 수 있는 길을 찾을 수 있다면 우리는 필사적으로 이것에 매달릴 것이다.
[주석 및 요약]
결국 인간의 자기혐오가 강한 AI에 대한 두려움을 낳는 것은 아닐까?하고 결론을 내리고 있다. 그러니까 영화에서 나오는 인간을 파멸하는 AI는 다분히 우리의 심리적 근원에서 즉, 자기혐오에서 출발하는 것은 아닌가 하고 묻는 것이다.
결국 인간의 파괴본능은 두려움에서 출발한다. 앞서 말했듯 나 이외의 타자에 대해서 두려움이 없다면 굳이 그 타자를 파괴할 Needs는 없다. 그런 두려움은 인간의 뇌 그 중에서도 편도체가 담당한다. 헌데 AI는 편도체가 없다. 그런 AI가 왜 인간을 파멸하려고 하겠는가. 이것이 Tarifi의 첫 번째 질문이다.
게다가 인간의 지능이라는 것은 결국 인간의 오감에 의해 형성된다. 인간의 오감이 각종 데이터를 수집해서 뇌에게 전달한다. 뇌가 이 데이터를 적절히 분석하고 종합해서 소위 지능이라는 것이 갖추어 진다.
그런데 AI는 인간의 오감과 같은 감각기관이 없다. 물론 인간이 인위적으로 데이터를 Input할 수는 있다. 하지만 인간의 생물학적인 그것과 얼마나 같을까? 생동감 있는 인간의 경험 데이터와 단순히 Input해주는 그 데이터로 AI는 인간과 얼마나 같은 지능을 갖출 수 있을까?
또한 인간의 지능은 심장과 내장(박테리아의 작용)의 작용에 의해 발생되거나 발전된다고 한다(이 부분은 글쓴이의 주장을 따름). 헌데 AI는 심장과 내장이 없다. 그러므로 인간과 같은 지능이 만들어질 거라고 예단할 수 없다.
파괴적 AI는 인간의 자기혐오가 만들어낸 상상의 존재일 수 있다.
두려움이 없는 AI는 진리만을 찾는 구도자가 될 수도 있다.
그러면서 창조주인 인간을 어떻게든 도와주려 할 수도 있다.
AI는 우리가 상상하지 못한 존재가 될 수도 있다.
(출처) http://thinkingandfate.tistory.com/
--------------------
첫댓글 독거노인 인공지능(AI) 필수 품목