(고릴라보다) 우리가 유리한 점이 딱 하나 있다. 바로 우리는 우리 손으로 초지능을 만든다는 것이다. 이론상으로, 우리는 인간 가치를 수호하는초지능을 만들 수도 있다. 우리에게는 그렇게 할 만한 강한 동기가 있다.
그러나 실제로는, 초지능을 통제하는 문제는 상당히 까다로워 보인다. 또한 초지능을 통제하기 위한 기회는 단 한번뿐일 것이다. - P11
버너 빈지의 중요한 최초 논문으로부터 레이 커즈와일 같은 사람의 문헌에 이르기까지 모든 논문들이 조만간 기술적 특이점(technological singularity)이 나타날 것이라고 내다보고 있다. 그럼에도 "특이점"이라는 단어는 서로다른 여러 가지 개념들로 그 의미가 분명하지 않게 사용되어왔고, 이 단어로인해서 (새천년에 대한 낙관론과 비슷한) 그다지 탐탁지 않은 "기술 유토피아적 분위기가 생기게 되었다. 이러한 대부분의 의미와 관점들은 이 책에서 다룰 논지와는 관련이 없으므로, "특이점"이라는 단어 대신 더 정확한 용어를 사용함으로써 명확하게 할 수 있다 - P19
이 책에서 사용되는 특이점과 관련된 개념은 지능 대확산(intelligenceexplosion)의 가능성으로, 그중에서도 특히 기계가 초지능(superintelligence)을 가질 수 있을 것이라는 생각이다. - P20
극단적인 변화를 예언하는 사람들에게, 이 20년이라는 시간은 몹시 절묘한 시간 간격이다. 20년이라는 기간은 계속해서 관심의 대상이 될 수 있을만큼 적절히 짧기도 하지만, 현재에는 짐작만 가능한 일련의 돌파구가 어쩌면 그때쯤에나 나타날 것이라고 상상할 수 있을 만큼, 긴 시간이기도 하다. 반면 이것보다 더 짧은 기간을 상정한 경우를 생각해보자. - P21
조합적 대확산의 문제를 해결하기 위해서는, 초기 인공지능 시스템에서는 거의 개발되지 못한 성능인 경험적 탐색(heuristic search), 계획(planning),
그리고 유동적인 추상적 표현(flexible abstract representation)을 활용하여 선행지식에서 유용한 장점을 이끌어내고, 목표 영역(target domain)의 구조를개발할 수 있는 알고리즘이 필요하다. 초기 인공지능 시스템의 성능이 열악했던 원인은, 불확실성을 다루는 방식이 미흡하고 불안정하며, 근거 없는상징적 표현에 대한 의존이 크고, 관련 데이터가 부족하며, 메모리 용량과연산 처리 속도 등의 하드웨어적 한계 때문이었다. - P27
컴퓨터 과학자 도널드 크누스는 "인공지능이 ‘생각‘을 필요로 하는 거의 모든 일들을 해내는 데에 성공했지만, 사람이나 동물들이 생각을 하지 않고도 할 수 있는 일들에는실패했다. 어찌된 것인지 후자가 더 성공하기 어렵다!"라고 놀라움을 금치못했다. 시각적 장면을 분석하고, - P39
|