흥미돋 테드 창이 기술적 특이점에 의문을 갖는 이유

[흥미돋는글]

출처: https://www.fmkorea.com/6167970611

테드 창, 이 분 말고...

근데 왜 둘이 서로 닮았지 

<숨(Exhalation)>, <거대한 침묵>, <바빌론의 탑> 등을 집필,

전 세계 최고의 SF 작가로 뽑히는 테드 창은

기술적 특이점의 논리적 결점에 대해 지적한 바 있다.

옛날 안셀무스라는 켄터베리 대주교가

신의 존재를 증명하려 시도한 적이 있지 않습니까?

테드 창이 말하는 안셀무스의 신 존재 증명이란,

대략 11세기쯤에...

아하! 드디어 하느님께서 존재하신다는 걸

논리적으로 증명했다!

오 ㄹㅇ로? 어케 함?

신께서는 우리가 상상할 수 있는 것 중

가장 위대한 존재시잖아?

그치?

존재하지 않는 것보단 존재하는 것이 더 위대하다!

따라서 하느님은 존재하시는 것이다!

이 뭔 소리...

어이, 안셀무스 아재. 그런 식으로 따지면...

? 왜?

왜긴 왜야. 논증을 시작할 때부터

신의 존재와 특성을 가정하고 시작했으니 그렇지.

신의 존재를 가정해서 펼친 논증으로 신의 존재를 증명하면

결국 논리적 오류가 되잖아.

다시, 테드 창의 논리로 돌아와서...

수학자 어빙 존 굿은 다음과 같이 말했습니다.

"어떤 뛰어난 인간의 모든 지적 활동보다

훨씬 뛰어난 일을 할 수 있는 기계를 초지능 기계라 하자."

그리고 굿은 초지능 기계가 자신보다 더 뛰어난 기계를 만들고,

그 만들어진 기계는 또 자신보다 더 뛰어난 기계를 만듦으로써...

기계 지능의 폭발적 증가가 찾아올 것이라 했고,

이를 작가 베너 빈지가 특이점이라 불렀지요.

그러나, 우리가 특이점을 논하며

처음부터 '초지능 기계'의 탄생을,

그리고 그 기계가 더 똑똑한 기계를 만들 것을 가정해야만 한다면...

굿의 논리와 안셀무스의 논리는 과연 무엇이 다릅니까?

나는 AI가 인류 문명에 엄청난 도움을 줄 수 있으리라 믿습니다.

다만 특이점이 도달해 단기간에 우리 문명이 발전한다는 것은

그닥 설득력이 없다고 생각합니다.

테드 창의 흥미로운 글을 발견해서 엄청 열심히 번역했는데,
알고 보니 이미 많은 분들이 하셨더라고요. 인생 진짜

원문으로 전문을 보시고 싶으신 분은 https://www.newyorker.com/culture/annals-of-inquiry/why-computers-wont-make-themselves-smarter을,
번역본을 보고 싶으신 분은 https://newspeppermint.com/2021/04/12/m-smarter1/을 참고하세요.

-끝-

함께보면 좋은글

정치학 썰: 국가적 팀플 민주주의썰, 맨슈어 올슨- 1편

정치학 썰: 윗대가리들은 도둑놈들이야 - 맨슈어 올슨, 2편

악마의 증명: 진짜 존재하지 않을까?(with 역전재판, 종교글 X)

아는 게 많을수록 글을 쉽게 쓸 수 있는 이유?

???: 민주주의가 독재가 되지 않는 건 상식이잖아?

민주주의는 다수의 독재인가?

국경선은 반드시 그대로! 국룰인 현상 유지의 원칙

말 한번 잘못했다가 30년 넘게 조리돌림당하는 학자

틀린 말은 안 했는데 타이밍이 조져서 논란이었던 연구

제왕절개 수술에 관한 4가지 섬뜩(?)한 알쓸신잡

댐 때문에 이웃나라끼리 재판까지? 왜? - 1편

북한이 망하지 않는 이유는? -취약국가지수

최악의 독재자를 체포하다. 그리고 그 후...

사회민주주의, 민주사회주의, 뭐가 다른가?

[아힘들다]

와 재밌다...

[냬내내내내]

와 흥미롭다

[짱밍이]

오

[먼이]

내가 무슨 글을 읽은 거야

[양자경]

싫어싫어 가상현실로 갈래 ~~~

[오류]

헐 맞네 둘 다 가정을 기반으로 펼친 논증이니까 논리적 오류로 봐도 무방한 거 같은데

[연어튀김덮밥]

예..?

[꺅도요새]

하아ㅜ 똑똑하다 똑똑해

[특이점이 달려온다]

맞아 재귀개선 해서 나온 자칭 초지능을 인간이 무슨 수로 진짜 초지능이라고 검증할 수 있냐는 말은 계속 있어왓음

[특이점이 달려온다]

근데 내 생각에 이 둘은 좀 다름..

[특이점이 달려온다]

초지능이 초지능임을 증명하려면 그 증명을 이해할 수 있는 인간이 필요한데 초지능이 인간 모두의 지능 합을 능가한다는 전제 때문에 인간은 초지능의 증명을 이해할 수 없을 가능성이 크다고 하자....

그럼에도 초지능과 신이 다른 점은..
- 초지능은 물리적 기반이 있고 현재ㅜ이론에 따름다면 연속적인 발전 (재귀개선) 을 통해 도달하는 곳인 반면에 신은 인간의 인식과 경험을 넘어서는 초월적 존재 -> 애초에 존재 여부마저 가설임
- 초지능은 부분적으로 검증 가능 -> 초지능의 초지능스러운(?) 해결책은 충분히 인간이 검증하거나 이해할 수 있는 형태로 나타날 가능성이 있음 (ex. 지구 온난화.. 획기적인 플라스틱 분해 프로세스.. 머 이런거...) 물론 이런 초지능스러운 결과를 냈다 해서 그 주체가 초지능이라고 할 수 있냐? 그건 또 다른 문제..
- 결국 초지능에 대한 정의 자체가 두루뭉실해서 생기는 일이라 봄ㅋㅋㅋ

[Jack White]

와 이것도 신기하다...

[우야암]

근데 이건 완전 다른 포인트 같은데 테드창이 말하는 건 애초에 초지능 기계를 만들 것이다라는 가정을 하는 것 자체가 오류라는 거니까

[특이점이 달려온다]

뒷받침할 아무 기술 발전도 없었을때는 비슷했겟지만 지금 시점에선 아님 저 발언은 2021년 즉 gpt-3.5 가 대중에게ㅜ공개되기도 전에 나온 말이여

https://www.newyorker.com/culture/annals-of-inquiry/why-computers-wont-make-themselves-smarter

지금 가정은 단순 철학적인, 관념적인 레벨에서의 신을 가정하는게 아님 이 발전 추세라면 진짜 인간 지능 능가하는 인공지능 나오겠네? 옛날 사람들이 말했던 특이점 그래프 도달하겠다 이런 느낌이지

애초에 기술 과학적 기반이 있는 논의를 단순히
“초월적인 존재 가정” 이라는 공통점 하나만으로 신이랑 같은 관념 레벨로 끌여당겨서 같다고 하는건데 초지능 예상하는 내 입장에서는 결국 진짜 그 정도 모델이 완성되고 본격적으로 커즈와일 책에만 나오던 내용들이 ‘실제 현실’에 실시간으로 적용되면 이런 개념적 모순을 지적하는 논의도 싹 들어갈거라 생각함

[platina.]

여시 생각 너무 흥미롭다 게다가 닉부터 프사까지 뭔가 은은하게 돌아있어… 그치 인간이 해결 못하는 걸 해내면 그걸 초지능이라고 칭할 수 있는거겠다

[아웅~~드뎌 트워터 가입]

제목보곤 피자집에서 냉면파나 이 생각했는데 헐 뭐야 이렇게 똑똑한 이야기였다니;;

[출동]

흥미로와요

[Jack White]

우와 저런 생각을 평소에 하니까 책들도 어마무시한거구나... 신기하다

[엠비씨뉴스타파오마이티비보고광화문]

[수자기(왜놈들때려잡을때쓰는깃발)]

오..

[Gramon]

와... 재밌다

[주문하신 아이야]

야 창식아!!!!!!

[진짜싫다]

나는 그냥 창식이랑 놀아야할까봐......

[느개비햄버거]

지피티야 요약 좀

[쩌러링]

한글인데 이해가 안가요...

[아방수그잡채]

이 글 읽으니까 전에 구독 중인 유투브 채널에서 성경을 비종교인 시점에서 해설한 거 들은 게 생각난다. 성경 세계관에서는 하나가 우상숭배 하지 말라고 했고 예수도 우상숭배 하는 인간들 다 뿌수고 다녔다는데, 아이러니하게도 카톨릭이 메이저 종교로 자리매김하게 된 이유가 예수가 스스로 우상숭배 주체가 됐고, 예수가 그걸 의도해서라고 들었던 걸로 기억함ㅋㅋ 존재하지 않는 신을 구체화해서 메이저 종교로 만든 거... 비슷한 내용이 맞나? 싶지만 무튼 생각나서ㅋㅋ

[은밀한 김밥까페]

오...? 그러네 그 탄생부터가 가정이니까 오오...

[mickeymouse]

뭘 읽은거여..

[양배추사과샐러드]

근데 ‘신은 제일 위대하다’ ‘존재하는게 더 위대하다’ ‘그러니 신은 존재할것이다‘ 라는거에서 ’신은 위대하다‘ 이건 진짜 백퍼 가정인데..... ’초지능 기계가 자기보다 더 뛰어난 기계를 만들것이다‘ 이건 가정은 아니지않아? 훨씬 더 현실적인거아냐?.. 실제로 AI는 자기스스로 결정을 내리고 방법을 만드는 창의성이 있잖아?...

[명작끌올하는여시]

너무너무너무재밌어 고마워