우리는 미래를 가져다 쓰고 있다 : 가장 낙관적인 미래를 위해 지금 우리가 해야 할 것/윌리엄 맥어스킬

[ischoi]

‘장기주의’ 관점은 왜 필요한가
윌리엄 맥어스킬의 더 오래 더 많은 사람의 행복을 위한 긴 성찰

열정에만 기대는 이타적 행위가 효과도 없고 심지어 해악이 될 수도 있음을 실증하면서 자선사업과 기부문화에 일대 혁신을 일으킨 옥스포드대학교 철학과 교수 윌리엄 맥어스킬. 착한 행동을 하기에 앞서 얼마나 많은 사람들에게 얼마나 큰 혜택이 돌아갈지 이성적으로 따져봐야 한다는 그의 ‘효율적 이타주의’ 운동은 큰 반향을 일으켰다. 7년 만의 신작 『우리는 미래를 가져다 쓰고 있다』(원제: What We Owe The Future)는 효율적 이타주의에서 한 걸음 더 나아간 ‘장기주의(longtermism)’ 철학으로 우리가 집중해야 할 문제가 무엇인지, 당장 어떤 조치를 취해야 하는지 살펴본다.

최근 챗GPT가 부상하면서 인공지능 시스템 개발 방향에 대한 논의가 뜨겁다. 인간을 적으로 상정하고 해를 끼치겠다고 위협하며, 해킹으로 핵무기 엑세스코드를 확보하겠다고 호언장담하는 인공지능에 맞서, 인공지능 시스템 탈선 위험을 관리할 수 있는 안전장치가 마련될 때까지 개발을 일시 중단하자는 의견도 높다. 이 목소리의 근거가 되는 것이 바로 장기주의 관점이다. 장기주의는 미래에 긍정적 영향을 주는 것이 도덕적으로 가장 중요하다는 생각, 세계의 운명이 우리가 지금 하는 선택에 달려 있다는 믿음이다.

장기주의에 대한 흔한 비판 중 하나는 지금 당장의 시급한 문제를 제쳐두고 공상과학에 가까운 먼 미래를 상상하며 위험을 과대포장한다는 것이다. 인공지능의 질주가 과연 먼 미래의 일일까. 전문가들은 머지않아 인간 수준의 인공지능에 도달할 수 있을 것으로 예측한다. 우리 살아생전에 그 일이 일어난다는 의미다. 이런 위협들에 대처하는 게 너무나 긴급하기 때문에 단기적 우려와 장기적 우려 사이에서 적정성을 따질 필요조차 없다.

긴 시간이 지난 후에야 그 혜택이 실현될 수 있는 일을 해야 한다는 생각, 미래 사람들의 복지까지 고려해야 한다는 생각은 결코 헛된 생각이 아니다. 장기주의적 행동은 단기적인 이점도 가지고 있다. 설사 그렇지 않은 경우라도, 저자는 “미래 세대를 보호하는 것이 우리 시대에 다른 것들보다 우선하는 핵심적인 일이 되어야 한다”고 주장한다.

미래 세대를 위하는 길이 우리를 위하는 일이다
미래를 더 나은 방향으로 바꾸는 것이 중요한 이유

· 미래 사람들은 중요하다: 노예제 폐지론자들은 자신들이 죽고도 수십 년이 지난 후에야 성공할 사명에 생을 바쳤고 우리는 그들 덕분에 자유를 누리고 있다. 기후변화나 환경오염을 걱정할 때 현재 세대만을 염두에 두는 사람은 없을 것이다.

· 미래는 거대하다: 화재로부터 한 명을 구할 수도 백 명을 구할 수도 있다면 백 명을 구해야 한다. 어떻게 계산해도 미래는 상상 이상으로 길고 그 기간을 살아갈 사람은 아찔할 정도로 많다. 얼마나 많은 목숨이 우리 손에 달려 있는 걸까?

· 우리는 미래의 삶을 더 나아지게 만들 수 있다: 우리는 경제적·과학적·도덕적·환경적 변화가 이례적으로 빠른 시대에 살고 있다. 우리만큼이나 미래 궤도를 크게 바꿀 힘을 가진 사람은 우리 시대 이전에 없었고 앞으로도 없을 것이다. 미래 세대가 살아갈 세상에 무엇을 남겨줄지 진지하게 생각해봐야 한다.

저자는 이러한 장기주의 논거를 위해, 책 전체에 걸쳐 세 가지 비유를 사용한다.

· 첫째, 지금의 인류는 ‘경솔한 10대’다: 인간은 술을 마시고 안전벨트를 매지 않은 채 앞이 보이지 않는 모퉁이를 돌며 속도를 올리는 10대처럼 행동하고 있다. 경솔한 선택을 한다면 지금 당장 죽을 수도 평생에 걸쳐 고통받을 수도 있다. 우리는 인류의 삶을 결정지을 선택을 앞두고 있다.

· 둘째, 지금 사회는 ‘녹은 유리’ 상태다: 유리가 뜨거울 때는 어떤 모양으로든 만들 수 있지만 식고 나면 손댈 수 없다. 우리는 지금 제자백가에 비유할 수 있는 녹은 유리의 시기를 살고 있다. 다양한 가치관이 경쟁하고 있고, 단일한 가치관이 승리를 거두지 못했다. 일단 하나의 가치관으로 결정되면 오랜 시간 ‘고착’될 수 있다. 설사 그것이 나쁜 가치관일지라도 말이다.

· 셋째, 인류는 ‘위험한 원정길’에 올랐다: 우리는 전인미답의 어둡고 안개 자욱한 땅을 탐험하는 중이다. 어떤 위험에 직면할지 심지어 어디로 가고 있는지 모르지만, 대비할 방법이 있다. 불쏘시개, 성냥, 날카로운 칼, 응급처치용품 등 어느 때고 도움이 될 것을 챙겨야 하고, 여러 선택지에 대해 열려 있어야 하며, 때때로 정찰도 해야 한다.

지금이 아니면 언제인가, 당신이 아니면 누구인가
가장 낙관적인 미래를 위해 지금 우리가 해야 할 일

경솔한 10대처럼 행동하고, 말랑말랑한 유리의 시기를 흘려보내고, 빈손으로 원정길에 오를 때, 우리에겐 어떤 미래가 기다리고 있을까. 저자는 멸망 시나리오를 가정하고 그 해결책도 제안한다.

· 기후변화와 핵전쟁으로 문명이 붕괴되는 시나리오
이산화탄소 배출량을 줄이면 기후변화를 늦출 수 있다는 것, 배출량을 많이 줄일수록 좋다는 것을 우리는 이미 알고 있다. 청정에너지 기술과 대체 연료를 개발하면 단기적으로는 대기오염으로 인한 사망자를 줄일 수 있고, 장기적으로는 화석연료 고갈 시점을 늦추어 문명 붕괴 후에라도 회복 가능성이 높아질 수 있다.
강대국들 간의 갈등이 고조됨에 따라 핵전쟁 발발 위험은 계속 커져만 간다. 핵전쟁은 가공할 만한 파괴력으로, 돌이킬 수 없는 피해를 유발할 것이다. 무기 통제 협약과 위기 관리 프로세스가 이러한 변화를 따라잡을 수 있게 해야 한다.

· 유전자조작 전염병으로 인류가 멸종하는 시나리오
유전자조작 병원체는 핵무기보다 제조하기 쉽다는 점에서 수백 종을 만들어 전 세계 수천 곳에 퍼뜨리는 것도 가능하다. 코로나 바이러스는 우리가 팬데믹에 대한 준비가 얼마나 소홀한지 보여주었다. 세계가 전염병에 더 많은 관심을 기울이도록 설득하는 데 코로나 팬데믹 같은 재앙이 필요하다는 것은 비극적인 일이다. 그러나 코로나 팬데믹은 새로운 유전자조작 병원체가 불러올 수 있는 공포에 비하다면 약하다. 극단적인 위험에도 생존을 확보할 수 있는 장비를 개발하는 동시에 백신 개발 등 적극적인 대응 계획을 세워야 한다.

· 발전 속도가 정체되어 멸망하는 시나리오
인공지능이 지금보다 더 빠르게 진보할 것이라고 예상할 만한 근거들이 있다. 하지만 그 반대의 가능성도 높다. 데이터를 굳이 인용하지 않더라도, 현재의 물리학 분야 진보가 아인슈타인 시대에 비해 훨씬 더 어렵다는 것만 봐도 발전 속도가 둔화하고 있는 것을 알 수 있다. 기술 진보는 깎아지른 암벽을 오르는 등반과 같다. 폭발적인 에너지로 밀어붙이면 정상에 안전하게 도착할 수 있다. 하지만 등반가는 점점 지쳐가고 있다. 추락하는 것은 시간문제다. 혁신적인 기술을 제때 개발하지 못하면 전 세계 장기 침체 가능성이 높아지고 인류 멸망과 문명 붕괴에 가까이 갈 것이라고 저자는 경고한다.

“우리가 볼 수 있는 한계를 세상의 한계로 취급하기 쉽다.” 그러나 세상이 우리 집 문 앞이나 국경에서 끝나지 않듯, 우리 세대에서 끝나지는 않을 것이다. 핵탄두 수천 기가 발사 대기 중인 시대, 화석연료를 태우며 수십만 년 지속될 오염물질을 만들어내는 시대, 팬데믹이 전 세계를 휩쓸어버린 시대, 인공지능 탈선을 우려하는 시대, 그러나 동시에 이 모든 것에 대응하고, 미래의 방향을 틀 수 있는 시대에 우리는 살고 있다. 장기주의는 인류가 겪고 있는 이 문제들을 바라보는 관점과 문제 해결의 실마리를 제공한다. 장기적으로 생각하고 지금 당장 행동해야 한다. 근사한 미래와 끔찍한 미래 모두 우리 손에 달려 있다.

모든 미래의 삶을 살게 된다면, 당신은 현재의 우리가 무슨 일을 하길 원하는가? 우리가 공기 중에 이산화탄소를 얼마나 배출하길 원하는가? 우리가 연구나 교육에 얼마나 투자하길 원하는가? 미래를 망치거나 영원히 탈선시킬 수 있는 새로운 기술에 얼마나 신중하길 원하는가? 오늘의 조치가 장기적으로 미치는 영향에 얼마나 주의를 기울이길 원하는가?
--- p.20

장기주의란 장기적인 미래에 긍정적 영향을 주는 것이 우리 시대에 도덕적으로 가장 우선해야 할 일이라는 생각이다. 장기주의는 미래가 얼마나 거대할 수 있는지, 미래의 방향을 정하는 일에 얼마나 많은 위험이 따르는지 진지하게 받아들이는 것이다. (…) 지금 우리가 하는 일이 말로 다 할 수 없이 많은 미래 사람들에게 영향을 미친다. 우리는 현명하게 행동할 필요가 있다.
--- pp.20~21

미래의 사람들은 중요하다. 하지만 우리는 그들에게 좀처럼 가치를 두지 않는다. 그들은 투표를 할 수도, 로비를 할 수도, 공직에 출마할 수도 없다. 미래의 사람들은 우리와 협상도, 거래도 할 수 없다. 미래의 사람들은 자신의 견해를 직접 들려줄 수 없다. 트윗을 올릴 수도, 신문에 기사를 쓸 수도, 거리에서 행진을 할 수도 없다. 미래의 사람들은 모든 권리를 박탈당한 상태다.
--- p.27

우리는 노예제 폐지가 우발적인 사건이었다는 놀라운 생각에 마음을 열어두어야 한다. (…) 노예제의 종말을 불러온 것은 사상가, 작가, 정치가, 노예 출신 운동가, 노예 반란자의 행동이다. (…) 노예제 폐지는 정해진 운명이 아니었고, 역사가 다르게 진행됐다면 지금 우리는 합법적으로 허용된 광범위한 노예제가 존재하는 세상에 살고 있었을지도 모른다.
--- pp.110~111

오늘날의 사회가 갖고 있는 도덕규범을 개선하는 데 성공한다면, 그 영향력은 얼마나 오래갈까? 종교적·도덕적 운동의 역사는 그 영향이 수백 년, 심지어는 수천 년 동안 계속된다는 것을 말해준다. 그렇다면 우리의 영향력이 그보다 더 오래 지속될 가능성은 없을까?
--- p.115

초지능 범용 인공지능이 우리 모두를 죽인다 해도 문명은 끝나지 않을 것이다. 사회는 디지털 형태로, 범용 인공지능의 가치관이 인도하는 대로 지속될 것이다. 그렇다면 첨단 범용 인공지능에 의한 세상으로서 전환을 다룰 때의 문제는 문명의 지속 여부가 아니라 어떤 문명이 지속되는가다.
--- p.135

세상을 어떻게 개선해야 할지 생각할 때의 첫 단계는 어떤 문제부터 착수해야 할지 결정하는 것이다. 선을 행할 방법을 결정할 때면 사람들은 가장 마음이 끌리는 문제에 먼저 집중하곤 한다. 가장 두드러지는 문제에 집중하는 사람들도 있다. 하지만 당신의 목표가 가능한 한 많은 선을 행하는 것이라면, 이런 직감은 좋은 길잡이가 되지 못한다.
--- p.321

지금은 미래를 더 나은 궤도로 조종하는 데 우리가 중추적 역할을 할 수 있는 시대다. 우리 세대만을 위해서가 아니라 우리 자녀들의 세대를 위해서가 아니라, 아직 오지 않은 모든 세대를 위한 운동을 일으키기에 지금보다 좋은 시대는 없다.
--- p.349