이런 귀납적인 추론은 씨앗 인공지능의 발전 초기 단...

이런 귀납적인 추론은 씨앗 인공지능의 발전 초기 단계에서는 어느 정도타당할지도 모른다(그러나 이러한 유추가 전뇌 에뮬레이선이나 인지능력이향상된 인간에게도 적용될 수 있다고 볼 만한 근거는 없다), 시간이 지나면초지능으로 진화할 수 있는 잠재력을 가진 미성숙한 인공지능은, 인간에게는 아주 자연스러운 몇 가지 기술이나 재주를 갖추지 못했을 수도 있다.
그리고 씨앗 인공지능의 강점과 약점들은 IQ만 높은 샌님과 약간 비슷한 양상을 보일 수도 있을 것이다. 발선시키기 쉬워야 한다는(즉 저항성이 낮다는) 점 외에도, 씨앗 인공지능의 가장 필수적인 특징은, 시스템 전체의 지능을 높이기 위해서 가장 효과적으로 노력하는 것에 능숙해야 한다는 것이다. 즉 그 특징은 아마 수학, 프로그래밍, 공학, 컴퓨터 과학 연구, 그리고다른 샌님 같은 분야에서 잘하는 것과 밀접한 연관이 있을 것으로 보인다.
그러나 씨앗 인공지능이 개발 단계의 어딘가에서 이런 샌님 같은 특성을 가지고 있었다고 하더라도, 성숙된 초지능인 상태에서도 비슷한 특성을 가지고 있으리라는 보장은 없다. 제3장에서 다룬 직접적인 영향력과 간접적인영향력 간의 차이를 떠올려보라. 지능 증폭 능력을 충분히 갖추기만 했다면, 다른 모든 지적 능력들은 간접적으로 획득이 가능한 것이다. 이러한 시스템은 새로운 인지적 모듈과 기술- 예를 들면 공감능력, 정치적 통찰력그리고 컴퓨터 같은 샌님에게 부족하다고 여겨지는 그 어떤 것이라도- 을 필요할 때마다 개발하면 되기 때문이다.
- P173

현명한 독점적 지배체제의 지속 가능 임계값은 꽤 낮아 보인다. 앞에서 보았듯이, 초지능의 제한적인 형태라고 하더라도 기술적 자가개선(bootstrap) 프로세스를 실행하기에 충분한 물리적 작동장치에 연결될 수만있다면, 이 임계값을 넘어서게 된다. 동시대에 인간 문명이 함께 존재하는환경에서는 임계값을 넘기 위해서 필요한 최소한의 작동장치는 아주 단순한 정도의 수준일 수도 있다. 이 초지능에 협조하는 사람에게 적지 않은 정도의 정보를 전할 수 있는 그 어떤 작동장치, 즉 평범한 화면 정도면 충분할 수 있기 때문이다. - P190

바로 이러한 이유 때문에 도약의 속도에 대한 질문이 중요한 것이다. 어떤 특정한 결과가 정확히 언제 일어날지가 중요해서가 아니라, 도약의 속도가 결과에 상당한 영향을 줄 수 있기 때문이다. 빠르거나 중간 속도의 도약 상황에서는 한 연구 집단의 결과물이 확실한 전략적 우위를 획득할 가능성이 높다. 확실한 전략적 우위를 가진 초지능은 안정적인 독점적 지배체제를 형성할 수 있는 정도의 엄청난 힘을 가지고 있고, 이 독점적 지배체제는 인류가 가진 우주의 무한한 자산의 성향을 결정할 수도 있다고 시사한바 있다.
- P193

[오늘의 한문장] 새로운 단어를 찾습니다

「신메이카이 국어사전」은 개성이 강한 독특한 뜻풀이로 세상에 널리 알려지게 되었다. 하지만 야마다가 그런 뜻풀이를 쓴 것은 다른 사전의 모방을 되풀이하는 사전계에 대한 격분과 순수하게 사전의 진보와 발전을 바라는 마음에서였다. 나중에 야마다가 쓴 『신메이카이 국어사전의 초판 서문에는 야마다가 생각했던, 새로운 특색 있는 사전의 모습이 나타나 있다.

존엄한 인간이 하니의 인격으로 취급되는 것처럼, 사전 한 권에는 마땅히 편자 특유의 맛이 뭔가의 의미로 배어나와야 하는 것이라고 생각한다.
- 「신메이카이 국어사전』 초판의 서문 「새로운 것을 지향하며」
- P204

겐보가 탈고하고 나서 1년도 지나지 않은 1941년 ...

겐보가 탈고하고 나서 1년도 지나지 않은 1941년 12월 8일, 진주만 공격으로 태평양 전쟁이 시작되었다. 정세는 하루하루 악화되어 다양한 물자 부족을 겪게 되었다. 당연히사전을 인쇄할 종이도 충분히 공급되지 않는 상황이었다.
당시의 신문에는 심각하게 사전이 부족하다는 상황이 드러나 있다.

"국어사전을 내라."
"중등학생용 국어사전, 한일사전(和辭典)은 4월 이래거의 모습이 보이지 않는다."
- 1942년 7월 14일자 (아사히신문> 
석간사전은 공동으로 사용하자. 다음 달쯤부터 조금씩 나온다."
사전류가 부족해 지금 학생들을 힘들게 하고 있다."
- 1913년 5월 일자 (아사히신문) 석간 - P97

겐보 선생은 말의 ‘현재‘를 반영한 사전을 만들기 위해서는 ‘살아 있는 말을 철저히 조사할 수밖에 없다고 생각했다. 그러므로 용례 수집은 단순히 사전에 실을 예문을 찾기위해 한 것이 아니었다. 실제로 현재 사용되는 대량의 용례를 기초로 신조어뿐만 아니라 지금 사람들이 사용하는 말의 ‘의미‘를 알고 새로운 용법과 의미의 변화를 파악하기 위해서였다. 전쟁 중에 나온 『메이카이 국어사전』 초판의 서문에 쓰여 있는 것처럼 "국어의 현실을 충실히 기록" 하려고한다면, 확실한 방법은 풍부한 용례를 모으는 것밖에 없다고 생각했던 것이다. - P155

[오늘의 한문장] 니클의 소년들

 엘우드 본인도 어떻게 설명해야 할지 알 수 없었지만, <자이언 힐의 마틴 루서 킹>이 그에게 답을 알려주었다. 반드시 우리의 영혼을 믿어야 합니다. 우리는 중요한 사람입니다. 의미 있고 가치 있는 존재이므로, 매일 삶의 여로를 걸을 때 이런 품위와 자부심을 잃지 말아야 합니다." 레코드판이 계속 돌고 돌았다. 항상 난공불락의 전제로 되돌아오는 논리 같았다. 킹 목사의 말이 좁은 직사각형 모양의 집 앞쪽에 있는 거실을 가득 채웠다. 엘우드는 하나의 원칙에 마음이 기울었다. 킹 목사가 그 원칙에 형태와 소리와 의미를 주었다. 짐 크로처럼 검둥이들을 계속 누르려고 하는 거대한 힘이 있고, 엘우드 너를 계속 누르려고 하는 작은 힘이 있다. 이를테면 주위의 다른 사람들, 이런 크고 작은 힘 앞에서 너는 꼿꼿이 일어서 너자신을 잃지 말아야 한다. 백과사전은 안이 비어 있었다. 미소를 지으며 너를 속여 텅 빈 것을 넘기는 사람이 있는가 하면, 네게서 너의 자존감을 빼앗아가는 사람도 있다. 너는 자신이 누구인지 반드시 기억해야 한다.
‘이런 품위.‘ 지직거리는 잡음 속에서 들려오는 킹 목사의 말에는 누구에게도 넘겨줄 수 없는 힘이 있었다.  - P39

미래의 어느 시점에는 기계가 인간 지능 기준선(이 ...

 미래의 어느 시점에는 기계가 인간 지능 기준선(이 기준은 2014년을 기준으로 잡은 고정된 값처럼 취급한다. 즉 지금부터 기계지능이 도약을 하는 동안 인간 지능이 꾸준히 발전한다고 하더라도 기준선은 거의불변일 것이다)에 거의 근접할 수도 있을 것이다. 바로 이 시점이 도약의 시작이라고 볼 수 있다. 시스템의 지적 능력이 계속 증대되어 어느 순간에 이르면, 모든 인류의 지적 능력을 합친 것이 "문명 기준선"과 거의 비슷한 값을 가질 것이다(역시 현재의 수준을 기준으로 해서 비교해보면 큰 차이가 없을 것이다). 이렇게 계속 시스템의 능력이 향상되면 결국 동시대 인류의 모든 지능을 합친 것보다도 훨씬 뛰어난 수준의 "강한 초지능"에 이를 것이다. 강한 초지능에 이르는 그 시점이 바로 도약의 완성이겠지만, 아마 시스템은 거기서 멈추지 않고 계속 지적 능력을 키워나갈 것이다. 도약 과정 중에 "교차점"이라고 불리는 한 시점을 지날 것인데, 이 시점 이전에는 외부로부터 가해진 요인에 의해서 시스템의 개선이 이루어지지만, 이 교자점을 지나면 주로 시스템 자신의 행동에 의해서 개선이 이루어지게 된다. - P123

인공지능은, 우리의 입장에서 보기에는, 갑작스러운 지능 증가를 보일 수도 있을 것이다. 지능을 가지고 있는 모든 개체들의 폭넓은 지능지수 분포(예를 들면 지능지수 0에서 수백까지의 범위/옮긴이)에서 보면, "동네 바보"와 "아인슈타인"의 지능이 별로 대단한 차이가 없는 것처럼 보일 수도 있겠지만, 인간들만을 중심으로 생각해보면, 이 둘의 지능은 거의 극과 극이기 때문이다. 우리에게는 지능이 모자란 인간보다도 더 지능이 떨어지는 모든 대상을 그저 "멍청하다"고 표현하는 경향이 있다. 따라서 인공지능의 지능이 서서히 증가하여 쥐와 침팬지의 수준을 넘더라도, 인공지능이 말을 유창하게 하지 못하고 과학 논문을 작성하지 못하기 때문에 여전히 "멍청하다"고 생각할 것이다. 그러다가 인공지능의 지능이 계속 증가해서 한 달이나 그와 유사한 짧은 기간 동안에 마침내 동네 바보와 아인슈타인 사이의 아주 작은 간격을 넘게 되면, 갑자기 도약한것처럼 보이게 된다.
- P136

에뮬레이션의 경우에도 앞에서 살펴본 콘텐츠와 저항성의 관계와 마찬가지로 적용할 수 있다. 고속 에물레이션 방법을 사용하면, 생물학적 인간보다도 같은 과제를 더 빨리 해결할 수 있다는 사실뿐만 아니라, 과제와 관련된 기술이나 전문지식 같은 알맞은 콘텐츠를 더 많이 축적할 수 있다는 점에서도 큰 이득이 된다. 그러나 빠른 콘텐츠 축적능력의 짐재력을 완전히이끌어내기 위해서는 그에 상응하는 대랑의 메모리 용량이 필요할 것이다.
전복(abalone. 백과사전 a 항목의 초반부를 의미하기 위해서 사용된 단어/옮긴이)에 대해서 읽을 즈음에 이미 땅돼지 (aardyark. 백과사전의 가장 첫 항목을 의미하는 단어로 사용옮긴이)에 관한 내용을 잊어버린다면, 도서관의 책들을 전부 단순히 읽는다고 하더라도 별 의미가 없는 것이다. 인공지능은 적절한 수준의 메모리 용량을 가지고 있겠지만, 인간의 뇌를 모방한 에뮬레이션은 메모리 용량의 측면에서 인간의 한계를 어느 정도 물려받았을 가능성이 크다. 따라서 에물레이션의 경우, 무한 학습(unbounded learning)을 할수 있으려면 먼저 구조적 개선이 이루어져야 할 것이다.
- P139

요약해보면, 인간 수준의 소프트웨어가 개발되었을 때, 이런 프로그램들을 빠른 속도로 아주 많이 구동할 수 있을 만큼 충분한 하드웨어적 기반이이미 존재할 가능성, 즉 하드웨어 공급 누적 상황을 생각해볼 수 있다. 앞에서 살펴본 것처럼 소프트웨어 지항성은 정확하게 예측하기가 더 어렵지만,
어쩌면 하드웨어 저항성보다는 더 낮을 가능성이 있다. 특히 인간과 동등한 수준에 도달한 시스템이 접할 수 있는 (예를 들면 인터넷 같은) 기존의 콘텐츠가 대단히 많이 축적되어 있는 콘텐츠 누적의 가능성도 있다. 기존에설계된 알고리즘상의 발전이 누적되어 만들어진 알고리즘 누적도 있을 수있지만, 다른 경우에 비해서는 가능성이 떨어진다. 따라서 위의 모든 사실을 종합해보면, 일단 인간 수준에 다다른 디지털 지성체는 더 나은 하드웨어를 사용하거나 그 수를 늘려서 상당히 쉽게 수행력을 최고 수준으로 증가시킬 수도 있고, 거기에다 소프트웨어 향상(알고리즘이든 콘텐츠든 방법으로 잠재적 수행능력을 몇 제곱(order)만큼 더 향상시킬 수 있을 것이다.
- P142

하나의 기계지능 개발 프로제트가 경쟁에서 너무나 앞서서 확실한 전략적우위, 즉 완전히 세계 독점이 가능할 만한 기술 수준과 기타 다른 강점들을가지게 될 것인가? 만약 확실한 전략적 우위를 획득한다면, 그 프로젝트는다른 경쟁자들이 개발되는 것을 막고 독점적 지배체제(singleton) (전 세계적차원에서 보았을 때, 단 하나의 의사결정 기관이 존재하는 세계질서)를 형성할 것인가? 그리고 만약 어떤 특정 개발 프로젝트가 이 경쟁을 선도한다면, 그것의 크기 (물리적인 크기나 투입된 예산의 크기가 아니라 얼마나 많은 사람들의 요구가 그 프로젝트에 반영되었는지의 정도)는 얼마나 클 것인가? 
- P150