교황 “인간 존엄성은 알고리즘으로 재단할 수 없습니다”

[안 엘리지오]

교황청 문화교육부가 주관한 “미네르바 대화” 회의 참석자들을 만난 프란치스코 교황  (Vatican Media)

교황

교황 “인간 존엄성은 알고리즘으로 재단할 수 없습니다”

프란치스코 교황이 교황청 문화교육부 주관으로 매년 열리는 ‘미네르바 대화’ 회의에 참여한 과학기술 전문가, 교황청 관계자, 윤리학자들을 만났다. 이 자리에서 교황은 기술적 진보가 윤리적이고 책임 있는 선택의 결실이 돼야 한다고 당부했다. 아울러 한 인간의 가치는 자신도 모르는 사이에 수집되는 일련의 개인정보에 달려 있지 않다며, 그러한 정보는 “편견과 선입견으로 인해 오염”됐을 수 있기 때문이라고 설명했다.

Tiziana Campisi / 번역 이재협 신부

“윤리, 과학, 예술에 관한 근본적인 질문들과 삶의 의미를 찾기 위한 신자와 비신자 간의 대화가 평화 건설과 온전한 인간 발전의 길이 될 것이라고 확신하는 바입니다.”

프란치스코 교황이 3월 27일 ‘미네르바 대화’(Minerva Dialogues) 회의 참석자들을 대상으로 한 연설에서 이 같이 강조했다. 교황청 문화교육부 주관으로 매년 열리는 ‘미네르바 대화’ 회의는 과학자, 기술자, 기업 대표, 사법계 종사자, 철학자, 교회 관련 대표자들이 한자리에 모여 디지털 기술, 특히 인공지능(AI) 기술에 대한 인식을 높이고 사회문화적 영향을 진단하는 자리다. 참가자들은 과학기술의 책임감 있는 사용과 관련해 진지하고 포용하는 정신으로 토론을 진행하며 종교적 가치를 열린 마음으로 성찰하는 자리를 갖는다. 

과학기술은 사람을 중심으로 하고 선을 지향해야 합니다

교황은 회칙 「찬미받으소서」(Laudato si’) 102항에서 언급한 바와 같이 “과학기술이 인류에게 큰 혜택을 줬다”며, 과학과 기술 발전의 혜택이 “인류의 창의성과 하느님의 창조 활동에 책임 있게 참여해야 할 인간 소명의 숭고함의 증거”를 발견해야 한다고 강조했다. 이러한 관점에서 “인공지능과 머신러닝의 발전이 언제나 윤리적이고 책임감 있는 방식 안에서 인류의 미래에 유익한 기여를 제공할 수 있다”고 덧붙였다. 이어 교황은 “사람을 중심으로 하고 선을 지향하는 과학기술”을 위해 헌신하는 모든 이에게 감사를 표하며 포용성, 투명성, 보안, 형평성, 개인정보 보호, 신뢰성의 가치를 존중하는 개발 프로세스에 대한 합의가 이뤄지길 바란다고 말했다. 또한 더 나은 세상과 더 높은 삶의 질을 추구하기 위해 과학기술을 법제화하는 국제기구의 노력들을 높이 평가했다. 

인간 존엄 증진을 위한 포용적 대화 필요

교황은 “정치·문화·전통의 다양성, 철학적·윤리적 개념 및 종교적 신념의 다양성”을 고려해야 할 사항으로 언급하며 “점점 더 양극화로 치닫는 논쟁, 삶을 더 가치 있게 하는 공동의 전망과 신뢰의 부재, 논쟁적이고 소모적인 공공 토론의 위험” 등을 지적했다. 

“모두 함께 진리를 구하려는 포용적 대화만이 참된 합의를 이끌어낼 수 있습니다. 포용적 대화는 ‘인간과 사회의 실재 안에 (…) 자체적인 발전과 생존을 뒷받침하는 일련의 기본 구조들이 존재한다’(「Fratelli tutti」, 212항 참조)는 확신을 공유할 때 가능합니다. 우리가 인식하고 증진해야 할 근본적인 가치는 모든 인간의 존엄입니다.”

“미네르바 대화” 회의 참석자들을 만난 프란치스코 교황

디지털 기술과 불평등

교황은 참가자들을 향해 “모든 이의 고유한 존엄성을 새로운 기술을 평가하는 핵심 기준으로 삼으라”고 당부했다. 새로운 기술은 “인간 삶의 모든 순간에 있어 인간의 존엄을 존중하고 그 표현을 증진하는 데 도움이 되는 한도 내에서” 윤리적으로 건전하게 입증되고 긍정적으로 받아들여질 수 있다. 

“저는 지금까지 수집된 정보들이 전 세계적으로 디지털 기술의 불평등을 증폭시키는 역할을 해 왔다는 사실을 시사하는 것처럼 보여 우려가 됩니다. 물질적 부의 격차에 대한 문제도 물론 중요하지만, 정치·사회적 영향력을 끼치는 정보에 대한 접근성의 격차 문제도 중요합니다.”

사회·경제적 의사결정 과정에서 자비를 배제해서는 안 됩니다

교황은 “국내 및 국제기구는 기술 기업이 제품의 사회·문화적 영향에 대해 책임을 지도록 할 수 있는지”, “불평등의 심화가 사회적 연대의식을 약화시킬 위험은 없는지” 자문해 보자고 말했다. 왜냐하면 “과학기술 혁신의 성장은 더 큰 평등과 사회적 통합을 목표로 삼아야 하기 때문”이다. 교황은 능력지상주의가 소수의 경제적 이익을 당연한 대가로 간주할 위험을 지니고 있다며, 이로 인해 인간 존엄성 개념이 약화될 수 있다고 경고했다. 그러한 접근방식은 “빈곤이 가난한 이들의 탓이고, 부자들은 가난이라는 책임에서 면제된다”는 그릇된 결론을 도출할 수 있기 때문이라고 교황은 설명했다.

“인간 존엄성이라는 개념은 사람의 근본적인 가치가 일련의 데이터만으로는 측정될 수 없다는 사실을 인식하고 존중할 것을 요구합니다. 사회·경제적 의사결정 과정에 있어 우리는 개인의 성향과 이전 행동에 관한 데이터를 은밀하게 수집, 처리하는 알고리즘에게 판단을 위임하는 일에 신중을 기해야 합니다.”

교황은 이렇게 수집된 정보들이 “사회적 편견과 선입견에 의해 오염된 정보”일 수 있다며 “개인의 과거 행동이 변화와 성장, 사회에 대한 기여의 기회를 박탈하는 데 이용되어서는 안 된다”고 당부했다. 

“우리는 알고리즘이 인간 존엄에 대한 존중을 제한하거나 특정 조건 아래에 가두도록 허용할 수 없습니다. 또한 연민, 자비, 용서 그리고 무엇보다도 사람이 변화할 수 있다는 희망을 배제하는 것도 허용해서는 안 됩니다.”

“미네르바 대화” 회의 참석자들을 만난 프란치스코 교황

포용적 대화는 다양성의 풍요로움으로 이끄는 초대

교황은 끝으로 “포용적 대화만이 인공지능과 디지털 기술을 온 인류 가족을 위해 현명하게 사용하는 법을 잘 분별할 수 있게 해 준다는 확신”을 재차 강조했다. 아울러 창세기에 나오는 바벨탑은 “사회에 심각한 불공정을 초래할 수 있는 과학과 기술의 과도한 야망을 경고하기 위해 자주 인용됐다”고 말했다. 바벨탑 이야기를 들여다보면 사람들은 일꾼 한 명 한 명에게 일어나는 일보다 벽돌을 구워 탑을 세우는 일에 더 많은 관심을 쏟았다. 교황은 바벨탑 시대 이후 하느님께서 개입하시어 다양한 언어가 만들어지게 된 것은 “새로운 가능성”이 열리는 사건이었다고 설명했다. 왜냐하면 다양한 언어, 곧 다름과 다양성은 풍요로움을 낳는 반면, 획일성은 성장을 제한하기 때문이다. 교황은 “다양성은 우리가 서로를 통해 배울 수 있는 기회”라며 “인간 존엄성의 진정한 의미를 겸허하게 재발견하도록 이끌어 준다”고 강조했다. 왜냐하면 다름은 창의성을 자극하기 때문이다.