“인류 구원할 우리가 무조건 옳다” 이 오만이 오픈AI 사태 불렀다

[누구도]

“인류 구원할 우리가 무조건 옳다” 이 오만이 오픈AI 사태 불렀다
실리콘밸리 ‘효율적 이타주의’ 논란

실리콘밸리=오로라 특파원
입력 2023.11.24. 03:00
업데이트 2023.11.24. 11:43

“자신에게 인류를 구원할 수 있는 특별함이 있다고 철석같이 믿는 사람들은 그 목적을 위해 극단적 행동도 서슴지 않는 실수를 범한다.”

지난 17일(현지 시각) 이사회의 반란으로 갑작스럽게 해고됐던 샘 올트먼 오픈AI 최고경영자(CEO)가 전격 복귀한 다음 날인 22일. 구글 인공지능(AI) 연구팀 출신으로 AI 스타트업 ‘코히어(Cohere)’를 창업한 에이단 고메즈 CEO는 직원들에게 이 같은 내용의 메일을 보내며 “(실리콘밸리의) 효율적 이타주의(Effective Altruism)는 독단적인 자기 과시로 변질됐다”고 했다. 인류에 대한 AI의 위협을 막겠다며 올트먼을 해고시킨 오픈AI 이사회의 결정이 투자자나 직원 등 누구를 위한 것도 아니라 독선(獨善)에 불과했다고 작심 비판한 것이다.

그래픽=양인성
그래픽=양인성
◇오픈AI 사태 촉발한 효율적 이타주의 갈등

효율적 이타주의는 좋은 일을 할 때 냉정한 이성으로 긍정적 효과를 극대화시키는 방법을 추구해야 한다는 윤리 사상이다. 당장 눈앞에 있는 어려운 사람에게 돈을 주는 것이 나은지, 아니면 그 돈을 활용해 부를 창출하고 미래에 더 많은 사람을 구하는 것이 나은지 효율적으로 판단해야 한다는 식이다.

이 사상은 십수 년 전부터 실리콘밸리에서 크게 유행하며 거물 추종자를 양산했다. 올트먼을 쫓아낸 일리야 수츠케버 오픈AI 수석 과학자와 애덤 디앤젤로 쿼라 CEO 등 오픈AI 이사진도 이 사상의 열렬한 신봉자들이다. 이들이 ‘당장의 수백·수천 명의 이익보다 미래 수조 명의 잠재적 생명을 구하는 게 더 옳다(효율적이다)’는 논리로 그 어떤 피해를 감수하면서라도 AI의 폭주를 막는 일에 집착하게 된 것도 이 때문이다.

월스트리트저널(WSJ)은 “오픈AI 사태는 효율적 이타주의의 ‘신자’와 ‘비신자’ 간의 분열이 얼마나 큰지 보여준다”고 했다. 실제로 현실과 동떨어진 거대 담론은 오래전부터 오픈AI의 사내 갈등을 키워온 것으로 전해졌다. WSJ에 따르면 수츠케버는 인간보다 더 뛰어난 일반 인공지능(AGI)이 인간의 가치에 부합하는 일만 하도록 통제하는 ‘수퍼얼라인먼트’ 연구팀을 구성하면서, 향후 4년간 회사 컴퓨팅 자원의 5분의 1을 쓰겠다고 밝혔다. 하지만 이 때문에 당장 내년에 일어나는 미국 대선에 영향을 미치는 AI의 오·남용 문제를 해결할 역량은 줄었다. 이상만 좇는 이사진에 불만을 품는 직원이 많아진 배경이다.


Play

Unmute
Current Time
0:00
/
Duration
0:00


전문가들은 “자신들이 인류를 구원할 수 있다고 착각하는 효율적 이타주의자들이 결과적으론 AI 난개발을 더욱 부추기게 됐다”고 지적한다. AI 상용화를 적극적으로 추진하는 올트먼이 회사로 복귀하면서, AI 안전을 중시하던 인물들이 이사회에서 사라지고 그 빈자리가 AI의 상용화를 지지하는 기업가·경제학자 등으로 채워졌기 때문이다.

◇변질된 윤리 사상, 사기의 면죄부로

효율적 이타주의를 악용하는 실리콘밸리 창업자도 흔하다. BBC는 지난해 10조원이 넘는 피해액을 기록한 가상 화폐 거래소 FTX의 몰락에 대해 “기업가들의 가장 편리한 홍보 수단이 된 효율적 이타주의가 문제”라고 지적했다. 샘 뱅크먼-프리드 FTX 창업자는 평소 이 사상의 추종자로 유명한 데다, FTX를 키우는 과정에서도 ‘돈을 많이 벌어 더 많은 기부를 하겠다’며 거액의 투자를 유치했기 때문이다.

관련 기사
오픈AI 새 이사진에 서머스 前장관이 왜?
막강 권력 쥐고 돌아온 올트먼... 해임 밀어붙인 이사들 대숙청
‘알파고 개발’ AI 천재는 왜 올트먼에 맞서 쿠데타 일으켰나
‘피 한방울로 250가지 질병을 진단한다’는 문구로 투자자를 모은 엘리자베스 홈스 테라노스 창업자 역시 인류를 구하는 대업을 이루기 위해선 작은 거짓말 정도는 해도 된다는 잘못된 생각을 지닌 인물이었다. 심지어 올트먼조차도 비판에서 자유롭지 못하다. 그는 홍채 정보를 수집해 블록체인 기반의 신분 인증 시스템을 구축하는 ‘월드코인’ 프로젝트 투자를 유치하며 “수익을 나눠 전 인류에게 기본 소득을 줄 것”이라는 창대한 계획을 내세웠다. 하지만 당장 돈이 급한 개발도상국 시민들의 생체 정보를 허울 좋은 말로 수집하고 가상 화폐 가치 상승으로 돈을 벌었다는 지적이 나온다.


테크 업계 관계자는 “실리콘밸리의 효율적 이타주의는 공익을 위해 독단적인 결정을 내려도 괜찮은 ‘면죄부’ 또는 돈벌이 수단으로 변질됐다”고 했다.

실리콘밸리=오로라 특파원
실리콘밸리=오로라 특파원
날카롭되 친절한 글을 쓰겠습니다.
기사 전체보기

많이 본 뉴스
출처 모를 초고에너지 우주선 포착, 현대 물리학으로 ‘설명 불가’
사우디서 딸기 키운다, 중동 사막에 ‘K스마트팜’ 녹색 혁명
‘10대들 백화점’ 다이소의 진화… 매출 3조원 눈앞


100자평18
도움말삭제기준
100자평을 입력해주세요.
찬성순반대순관심순최신순
산중서고
2023.11.24 08:06:27
수츠케버, 한 공학자로서의 고뇌를 "효율적 이타주의"로 함몰시켜버리는 이 기사는 중립적이고 객관적인가??? 그가 걸어온 공학적 업적과 자취를 보면 이렇게 쉽게 이야기해서는 안될것 같습니다.

답글작성
26
3
인간감별사
2023.11.24 07:46:02
효율적 이타주의, 좋은 얘기이긴하나, 그걸 악용하는 악마들이 지구상에는 존재하기 때문에 그저 한갖 이상으로서 존재 할 수 밖에 없지. AI 의 발전이 현 추세 대로라면, 향 후 10년 안에 인류는 커다란 위험에 직면 할 것이다. 즉 올트먼이 얘기하는 효율적 이타주의가 오히려 인류를 지배하는 적그리스도로 나타나기 때문이다. 조지오웰의 빅브라더가 탄생하게 된다는 말이다. 그걸 이사회가 제어 하기 위해서 노력했던 것이다. 누가 옳고 그른지는 향 후 결과에 따라 나타나겠지만, 지금까지 그래왔듯, 인류는 핵폭탄도 좋은 곳 보다는 나쁜곳에 사용하고 있다. 그것이 향 후 AI가 인류에게 해 를 끼친다는 증거다.

답글작성
26
0
느린아재
2023.11.24 08:59:19
PC주의자와 반PC주의자들 간의 싸움 아닐까?

답글작성
9
1
julymornin****
2023.11.24 08:15:32
프레임 씌우기 참 쉽네요... 오픈AI의 갈등당사자 만큼 이 글을 쓴 기자도 충분히 고민하시고 쓴 기사일 것이라고 믿고 싶습니다... 설마 외신 짜깁기한 기사는 아니겠죠 ??

답글작성
4
1
푸르푸르미
2023.11.24 15:30:25
홈스와 뱅크먼은 찐 사기꾼들이고, 일리야 슈츠케버는 찐AI천재인데, 어떻게 같은 선상에 놓는건지.

답글작성
3
0
하사불성
2023.11.24 11:14:46
올트만하고, 테라노스 사기꾼하고 동급이냐?

답글작성
2
0
후도리
2023.11.24 09:32:33
두 번 읽었는데 영... 누구신가 했더니 또 그분이네 ㅋㅋㅋ

답글작성
2
0
zzag
2023.11.24 07:41:58
좌파의 배경인 정신적 허영과 맥락을 같이하는 아둔한 자들의 출세욕의 발로..

답글작성
2
0
바우네
2023.11.24 06:44:15
‘수퍼얼라인먼트’ 연구팀(?) <국립국어원 온라인가나다>‘super’는 '슈퍼맨(superman), 슈퍼마켓(supermarket)'과 같이 ‘슈퍼’로 적습니다.

답글작성
2
3
JMS
2023.11.24 06:30:18
그래도 결국 AI는 대세다

답글작성
2
2
more4more
2023.11.24 23:10:02
누가 오만한 것인지 누가 오판하고 있는 것인지 잘 모른다. 오만의 문제가 아니라 사기의 문제도 있다.

답글작성
1
0
kkkkk
2023.11.24 15:28:57
듣기 달콤한 소리들은 거의 예외없이 거짓말. 좋은 약은 입에 쓰다. 명언 중의 명언.

답글작성
1
0
샬럿
2023.11.24 15:06:58
멍청한 컴퓨터 하수인들.

답글작성
1
0
유타7
2023.11.24 11:23:40
이상과 현실

답글작성
0
0
대종대푸른바다
2023.11.24 10:50:10
머리 아프게 하는 인간들이 많네요..

답글작성
0
0
FaceFact
2023.11.24 10:37:10
여기 조선일보 독자 상당수가 AI기술이 미래 인류 종말을 일으킨다는 허황된 생각을 가지고 있다는 것에 놀랄 수 밖에 없다. 전혀 우파적이지 못하고, 상당히 건방진 생각이라고 말하고 싶다. (기후변화 찌질이들과 함께) 지들이 뭔데 지구/인류 멸망을 논해!?!

답글작성
0
1
SayTruth
2023.11.24 10:33:57
과학이 윤리의식을 앞섬으로써 인류가 망한 적이 이미 있었다. 이제 또 다시 그 비극을 반복하게 놔둘 순 없다.

답글작성
0
0
FaceFact
2023.11.24 10:25:06
Effective Altruism… 기본사상이 공산주의와 판박이네. 역시 찌질이 사상은 못난 대신 생명력이 질기다는 엄청난 인사이트를 가져다 주는군…

답글작성
0
0


많이 본 뉴스
1
[단독] “이재명이 위증 요구… 안 시켰으면 거짓말 할 이유 없다”
2
출처 모를 초고에너지 우주선 포착, 현대 물리학으로 ‘설명 불가’
3
"정주영 회장은 질문의 귀재...우리도 가슴으로 답해야 했다"
4
윤미향 “이해찬, 우린 운동할 때 자료 다 태웠는데 왜 남겼냐더라”
5
사퇴설 與혁신위원 3인 “우리 설득 못하면서 국민 설득하겠나”
6
[강천석 칼럼] 대통령과 이재명 대표, 어느 쪽이 절박한가
7
청룡영화상 마지막 진행 김혜수, 30년간 그녀는 ‘청룡’ 그 자체였다
8
“어머니, 올해 김장 안 하나요?” “사 먹자꾸나, 얘들아”
9
사우디서 딸기 키운다, 중동 사막에 ‘K스마트팜’ 녹색 혁명
10
“끼어들고 싶어서...” 최강욱, ‘암컷 발언’ 사과 없이 또 한동훈 저격



오피니언
정치
국제
사회
조선경제
스포츠
건강
컬처·
스타일
조선
멤버스
DB조선
조선일보 공식 SNS
페이스북
트위터
유튜브
인스타그램
개인정보처리방침
앱설치(aos)
사이트맵
Copyright 조선일