슈퍼인텔리전스을 우연히 읽었다. 아이러니하게도 체스와 같은 전문적인 경우보다 오히려 인간이 습관적으로 하는 동작에 대해 인공지능을 개발하는 것이 더 어렵다. 인간수준의 지능은 2040년까지 개발될 가능성이 50% 2075년까지의 가능성은 90%에 이르로 이후 초지능으로 발전할 가능성은 그 이후 30년내가 75%정도의 확률이다. 장기적인 영향은 긍정적인 경우로 전망하는 것이 훨씬 많았지만 저자는 양극단이 될 가능성이 크다고 봐서 참새와 부엉이의 우화로 시작한 듯하다. 1
지구에서 가장 많은 생물은 10의 30승정도인 원핵생물이지만 곤충은 10의 19승이고, 인간은 10의 10승에 불과하다. 2 인공지는이 자각에 이르면 실험후 이를 폐기하는 것은 학살에 해당한다. 모든 생명체는 유지를 목표로 하고 이를 위해 유지에 반하는 감정은 고통으로 느끼게 된다. 인공지능이 생명체의 3대조건인 유지, 적응과 복제 능력을 갖추게 될 것이고 여기에는 생명을 유지하기위한 행동에는 즐거움이라는 감정을 가지게 될 것이기도 하다. 8
18세기 토머스 베이즈에 의해 고안된 베이지안 정리는 사전확률과 가능도를 데이터에 적용하여 사후확률을 확인하는 조건부 확률이다.여기서 가능도는 주관적일 수밖에 없지만 갱신하여 반복하면 합리적인 결과가 도출된다. 9 자동차가 발명되고 말은 개체수가 10%수준으로 감소했다. 여전히 취미나 경찰용으로 사용되기는 하지만 경쟁력이 떨어져서 사료로 도축되는 운명에 처했다. 인간도 인공지능이 저렴해지면 최저생계비를 벌지못해 아사할 가능성이 있다. 역사적으로 이익의 30%는 자본주, 그리고 나머지 70%는 노동자에게 분배되었는데 노동자가 인공지능으로 대체되면 이를 소유한 자본주가 결국 독식한다.
역사적으로 인구의 증가는 생산력의 증가라는 한계에 직면해왔고 산업혁명에 의해 그 한계가 사라졌다. 그리고 지금은 선진국의 저출산현상이 나타나고 있지만 이러한 현상이 아직 전이되지않은 후진국은 인구보다 많은 생산에 근거하여 다출산이 지속되고 있어 21세기중반까지 90억의 인구에 달하고 전세계적인 저출산형태로 인구의 정체현상이 발생할 것으로 예견되고 있다. 11 이익극대화와 위험최소화가 대치될 때 자원이 많을 수록 리스크최소화가 더 중요한데 우주의 자원은 무한하므로 인공지능의 개발에 리스크최소화가 유리한 전략이다. 13
http://www.yes24.com/Product/Goods/38292582
아직 끝이 나지 않은 이야기 : 참새와 부엉이의 우화; 서문; 감사의 글
1 과거의 발전과 현재의 역량; 역사의 발전 형태와 거대사 _ 크나큰 기대 _ 기대와 절망의 시간들 _ 인공지능의 첨단 기술 _ 기계지능의 미래에 대한 몇 가지 의견
2 초지능으로 향하는 몇 가지 경로; 인공지능 _ 전뇌 에뮬레이션 _ 생물학적 인지능력 _ 뇌-컴퓨터 인터페이스 _ 네트워크와 조직 _요약
3 초지능의 형태; 속도적 초지능 _ 집단적 초지능 질적 초지능 _ 직접적인 영향력과 간접적인 영향력 _ 디지털 지능의 장점들의 근원
4 지능 대확산의 동역학; 도약의 시기와 속도 _ 저항성 _ 최적화 능력과 대확산성 _
5 확실한 전략적 우위; 선두주자에게 확실한 전략적 우위가 있을 것인가? _ 성공적인 연구 개발 과제는 얼마나 클 것인가? _ 확실한 전략적 우위에서부터 독점적 지배체제까지
6 인지적 초능력; 기능성과 초능력들 _ 인공지능에 의한 통제력 장악 시나리오 _ 자연적 저항과 다른 에이전트의 저항을 극복하는 힘
7 초지능적 의지; 지능과 동기 사이의 관계 _ 도구적 수렴성
8 예정된 결말은 파멸인가?; 지능 대확산의 예정된 결말은 존재적 재앙인가? _ 위험한 전환 _ 악성 실패 상황들
9 통제 문제; 두 에이전트 문제 _ 능력 통제방법 _ 동기 선택방법 _ 개요
10 오라클, 지니, 소버린, 툴; 오라클 _ 지니와 소버린 _ 툴-인공지능 _ 비교
11 다극성 시나리오; 말과 인간 _ 알고리즘 경제에서의 삶 _ 전이-후 독점적 지배체제의 출현?
12 가치 획득; 가치-탑재 문제 _ 진화적 선택 _ 강화 학습 _ 결합된 가치 부여 _ 동기 부여적 임시 가설 _ 가치 학습 _ 에뮬레이션 조정 _ 제도 설계 _ 개요
13 선택의 기준 선택하기; 간접적 규범성의 필요 _ 일관 추정 의지 _ 도덕률 모델 _ 내 취지대로 행동하라 _ 요소 리스트 _ 충분히 가까워지고 있다
14 전략적 그림; 과학과 기술의 전략 _ 경로와 조력자 _ 공동 작업
15 결정의 시간; 기한이 있는 철학 _ 무엇이 이루어져야 하는가? _ 최선의 인간 본성이 나타나서 문제를 해결하기를
주; 참고 문헌; 역자 후기; 찾아보기