미래의 어느 시점에는 기계가 인간 지능 기준선(이 ...

 미래의 어느 시점에는 기계가 인간 지능 기준선(이 기준은 2014년을 기준으로 잡은 고정된 값처럼 취급한다. 즉 지금부터 기계지능이 도약을 하는 동안 인간 지능이 꾸준히 발전한다고 하더라도 기준선은 거의불변일 것이다)에 거의 근접할 수도 있을 것이다. 바로 이 시점이 도약의 시작이라고 볼 수 있다. 시스템의 지적 능력이 계속 증대되어 어느 순간에 이르면, 모든 인류의 지적 능력을 합친 것이 "문명 기준선"과 거의 비슷한 값을 가질 것이다(역시 현재의 수준을 기준으로 해서 비교해보면 큰 차이가 없을 것이다). 이렇게 계속 시스템의 능력이 향상되면 결국 동시대 인류의 모든 지능을 합친 것보다도 훨씬 뛰어난 수준의 "강한 초지능"에 이를 것이다. 강한 초지능에 이르는 그 시점이 바로 도약의 완성이겠지만, 아마 시스템은 거기서 멈추지 않고 계속 지적 능력을 키워나갈 것이다. 도약 과정 중에 "교차점"이라고 불리는 한 시점을 지날 것인데, 이 시점 이전에는 외부로부터 가해진 요인에 의해서 시스템의 개선이 이루어지지만, 이 교자점을 지나면 주로 시스템 자신의 행동에 의해서 개선이 이루어지게 된다. - P123

인공지능은, 우리의 입장에서 보기에는, 갑작스러운 지능 증가를 보일 수도 있을 것이다. 지능을 가지고 있는 모든 개체들의 폭넓은 지능지수 분포(예를 들면 지능지수 0에서 수백까지의 범위/옮긴이)에서 보면, "동네 바보"와 "아인슈타인"의 지능이 별로 대단한 차이가 없는 것처럼 보일 수도 있겠지만, 인간들만을 중심으로 생각해보면, 이 둘의 지능은 거의 극과 극이기 때문이다. 우리에게는 지능이 모자란 인간보다도 더 지능이 떨어지는 모든 대상을 그저 "멍청하다"고 표현하는 경향이 있다. 따라서 인공지능의 지능이 서서히 증가하여 쥐와 침팬지의 수준을 넘더라도, 인공지능이 말을 유창하게 하지 못하고 과학 논문을 작성하지 못하기 때문에 여전히 "멍청하다"고 생각할 것이다. 그러다가 인공지능의 지능이 계속 증가해서 한 달이나 그와 유사한 짧은 기간 동안에 마침내 동네 바보와 아인슈타인 사이의 아주 작은 간격을 넘게 되면, 갑자기 도약한것처럼 보이게 된다.
- P136

에뮬레이션의 경우에도 앞에서 살펴본 콘텐츠와 저항성의 관계와 마찬가지로 적용할 수 있다. 고속 에물레이션 방법을 사용하면, 생물학적 인간보다도 같은 과제를 더 빨리 해결할 수 있다는 사실뿐만 아니라, 과제와 관련된 기술이나 전문지식 같은 알맞은 콘텐츠를 더 많이 축적할 수 있다는 점에서도 큰 이득이 된다. 그러나 빠른 콘텐츠 축적능력의 짐재력을 완전히이끌어내기 위해서는 그에 상응하는 대랑의 메모리 용량이 필요할 것이다.
전복(abalone. 백과사전 a 항목의 초반부를 의미하기 위해서 사용된 단어/옮긴이)에 대해서 읽을 즈음에 이미 땅돼지 (aardyark. 백과사전의 가장 첫 항목을 의미하는 단어로 사용옮긴이)에 관한 내용을 잊어버린다면, 도서관의 책들을 전부 단순히 읽는다고 하더라도 별 의미가 없는 것이다. 인공지능은 적절한 수준의 메모리 용량을 가지고 있겠지만, 인간의 뇌를 모방한 에뮬레이션은 메모리 용량의 측면에서 인간의 한계를 어느 정도 물려받았을 가능성이 크다. 따라서 에물레이션의 경우, 무한 학습(unbounded learning)을 할수 있으려면 먼저 구조적 개선이 이루어져야 할 것이다.
- P139

요약해보면, 인간 수준의 소프트웨어가 개발되었을 때, 이런 프로그램들을 빠른 속도로 아주 많이 구동할 수 있을 만큼 충분한 하드웨어적 기반이이미 존재할 가능성, 즉 하드웨어 공급 누적 상황을 생각해볼 수 있다. 앞에서 살펴본 것처럼 소프트웨어 지항성은 정확하게 예측하기가 더 어렵지만,
어쩌면 하드웨어 저항성보다는 더 낮을 가능성이 있다. 특히 인간과 동등한 수준에 도달한 시스템이 접할 수 있는 (예를 들면 인터넷 같은) 기존의 콘텐츠가 대단히 많이 축적되어 있는 콘텐츠 누적의 가능성도 있다. 기존에설계된 알고리즘상의 발전이 누적되어 만들어진 알고리즘 누적도 있을 수있지만, 다른 경우에 비해서는 가능성이 떨어진다. 따라서 위의 모든 사실을 종합해보면, 일단 인간 수준에 다다른 디지털 지성체는 더 나은 하드웨어를 사용하거나 그 수를 늘려서 상당히 쉽게 수행력을 최고 수준으로 증가시킬 수도 있고, 거기에다 소프트웨어 향상(알고리즘이든 콘텐츠든 방법으로 잠재적 수행능력을 몇 제곱(order)만큼 더 향상시킬 수 있을 것이다.
- P142

하나의 기계지능 개발 프로제트가 경쟁에서 너무나 앞서서 확실한 전략적우위, 즉 완전히 세계 독점이 가능할 만한 기술 수준과 기타 다른 강점들을가지게 될 것인가? 만약 확실한 전략적 우위를 획득한다면, 그 프로젝트는다른 경쟁자들이 개발되는 것을 막고 독점적 지배체제(singleton) (전 세계적차원에서 보았을 때, 단 하나의 의사결정 기관이 존재하는 세계질서)를 형성할 것인가? 그리고 만약 어떤 특정 개발 프로젝트가 이 경쟁을 선도한다면, 그것의 크기 (물리적인 크기나 투입된 예산의 크기가 아니라 얼마나 많은 사람들의 요구가 그 프로젝트에 반영되었는지의 정도)는 얼마나 클 것인가? 
- P150

위의 사이보그 방식을 사용할 때, 생각할 수 있는 희...

위의 사이보그 방식을 사용할 때, 생각할 수 있는 희망적인 한 가지는뇌를 외부 자원과 연결시키는 장치를 영구적으로 설치했을 경우, 시간이 지나면서 뇌 자체의 내부 인지 상태와 외부 장치의 입출력 사이의 효과적인 경로를 우리의 뇌가 학습할 수도 있다는 것이다. 만일 그렇다면 이식물 자체가 지능적일 필요는 없다. 왜냐하면 마치 유아의 뇌가 눈과 귀의 수용체로부터 전달되는 신호들을 해석하는 방법을 서서히 학습하듯이 이식물이설치된 뇌도 스스로 지능적으로 인터페이스에 적응할 것이기 때문이다.
그러나 이런 방식을 사용하면 지능 발달에 과연 얼마나 기여할 수 있는지를 생각해보아야 한다. 뇌-컴퓨터 인터페이스를 통해서 피질에 임의적으로 투사된 새로운 입력 흐름(input stream)으로부터 패턴을 감지하는 것을 학습할 수 있을 정도로 뇌의 가소성(외부 자극이 지속되면 뇌 스스로가 이 자극에 적응하도록 변형되는 것/ 옮긴이)이 뛰어나다고 가정해보자. 만일 그렇다면, 굳이 뇌에 직접 전극을 꽃지 않고도 눈의 망막이나 귀의 달팽이관을 통해서 시각적 또는 청각적 패턴을 입력해서 똑같은 정보를 입력할 수는 없는 것인가?  - P96

집단적 지능을 향상시키려면, 소셜 네트워크 같은 보다 일반적인 조직을만들고 경제력을 투입하여 개선시키는 방식을 사용하거나 또는 디지털 세상과 연결되어 있으며 범세계적인 지적 문화에 속해 있는 교육받은 사람들의 비율을 늘리는 방식이 사용되어야 한다. 인터넷은 혁신과 실험적 시도가 일어나는 아주 역동적인 최전방으로 꼽히고 있다. 인터넷의 잠재력 대부분이 아직 활용되지 않았을지도 모른다. (인터넷에서의 지적 활동에서) 숙고, 탈편향 그리고 종합 판단에 대한 더 나은 지원체계가 마련된다면, 지능적인 웹(web)의 계속적인 발전은 인류 전체나 특정 집단의 집단적 지능을 향상시키는 데에 크게 기여할지도 모른다.
그러나 어느 날 갑자기 인터넷이 "깨어날지도 모른다는 다소 상상력이풍부한 생각은 어떨까? 과연 인터넷은 느슨하게 통합된 집단적 초지능의기본 골격 이상의 무엇, 즉 통합된 초지능체를 감싸는 일종의 가상 두개골이 될 수 있을까?  - P99

초지능이 궁극적으로 획득할 능력들은 어떤 경로를 따랐느냐에 크게 의존하지 않지만, 그러한 능력들을 어떻게 이용할지,
우리 인간이 기계 초지능의 성향에 어느 정도의 통제력을 가지게 될지는 우리가 접근한 경로의 세부사항들에 영향을 받을지도 모른다. 예를 들면, 생물학적 또는 조직적 지능의 향상으로 인해서 기계 초지능에 대한 위험을 예측하고 이것을 안전하고 유용하게 설계하는 능력이 발달할 수도 있다. - P101

속도적 초지능
속도적 초지능은 인간과 비슷한 수준의 지능을 갖추었지만, 그 속도가씬 더 빠른 것을 말한다. 이것은 여러 형태의 초지능 중에서도 개념적으로분석하기 쉬운 편에 속한다.‘ 속도적 초지능은 다음과 같이 정의할 수 있다.

속도적 초지능(speed superintelligence) : 인간의 지능으로 할 수 있는 모든일이 가능하면서 그것을 훨씬 더 빨리 처리할 수 있는 시스템

여기서 "훨씬 더 빠르다는 말은 "10의 수십 제곱(order) 정도"의 빠르기를 말한다.  - P104

집단적 초지능
초지능의 또다른 형태는 작은 단위의 지성체들을 여러 개 모아서 더욱 뛰어난 능력을 보이는 것이다.

집단적 초지능(collective superintelligence) : 작은 단위의 지성체들 여러 개가 하나로 뭉쳐져 시스템을 구성한 것으로서 현존하는 그 어떤 인지적 시스템보다도 여러 일반적인 영역에서의 전반적인 수행력이 더 뛰어난 시스템

••••••
단지 우리가 주목해야 할 것은, 집단적 초지능에 대한 우리의 정의의 그 어디에서도 더 뛰어난 집단적 지능을 가진 사회가형편이 더 나은 사회라는 것을 암시한 바는 없다는 것이다. 이 정의로부터더 많은 집단적 지능을 가지고 있는 사회가 더 지혜로운 사회라고도 말할수 없다.  - P106

질적 초지능
우리는 초지능의 세 번째 형태를 다음과 같이 구분할 수 있다.

질적 초지능(quality superintelligence) : 적어도 인간의 정신만큼 빠르고 질적으로 그보다 훨씬 더 똑똑한 시스템 
••••••
이것은 단순히 충분한 신경 정보 처리능력이나 충분한 정도의 일반 지능을 갖춘다고 해서 가능한 것이 아니라, 그것에 특화된 신경회로 또한 필요하다는 것을 의미한다. 이러한 관찰들로부터 가능성은 있지만 아직 현실화되지 않은 인지적 재능들, 즉 아직까지 어느 누구도 가지지 못한 인지적 재능이지만 일단 가지게 되면 그 지성체에게 인간의 뇌수준을 상회하는 연상능력이 없더라도 다양한 범주의 전략적인 과제 해결능력에서 상당한 향상이 가능한 인지적 재능이 있을 수 있다는 것을 짐작해볼 수 있다.
••••••
또한 인간이 아닌 동물들과 특정한 영역에 인지적 장애가 있는 인간들의 사례를 고찰해보면, 지능을 구성하는 서로 다른 질적 특성들과 그것들이 나타내는 실질적인 차이에 대해서 어느 정도의 관념을 가지게 된다. 예를들면, 호모 사피엔스에게 복잡한 언어적 표현을 가능하게 하는 인지적 모들(cognitive module)이 없었다면, 호모 사피엔스는 그저 자연과 조화를 이루며 살아가는 유인원의 한 종으로 남았을 수도 있었다. 반면, 우리가 복잡한 언어적 표현에 비견될 만한 새로운 인지적 모듈들을 획득한다면, 우리는 초지능으로 도약할 수도 있을 것이다.
- P111

[오늘의 한문장] 니클의 소년들

비밀 묘지가 발견되자 그는 이제 돌아갈 때가 되었음을 깨달았다.
텔레비전 화면 속 기자의 어깨 위로 솟은 삼나무들을 보니 살갖이 다시 뜨거워지고, 말라붙은 파리들의 시끄러운 소리가 다시 들렸다. 그것은 결코 멀리 있지 않았다. 앞으로도 영원히 그럴 것이다.
- P15

[오늘의 한문장] 니클의 소년들

프롤로그

그 녀석들은 죽어서도 골칫덩이였다.
비밀 모지는 니클 캠퍼스 북쪽, 낡은 작업장과 학교 쓰레기장 사이에 있었다. 여기저기 아무렇게나 풀이 자란 그곳은 옛날 이 학교가 동네 사람들에게 우유를 파는 낙농장을 운영할 때 소가 풀을 뜯던 곳이었다.  - P9

그러나 신경학적 그리고 진화적측면에서 보았을 때, ...

 그러나 신경학적 그리고 진화적측면에서 보았을 때, 건강한 사람에게 화학물실을 투여하여 지능의 극적인개선을 촉발할 수는 없을 것이다. 인간의 인지 기능은 다양한 요인들의 정교한 조정에 의존하는데, 특히 지능 형성에서 결정적인 단계인 배아 발달기에는 더욱 그러하다. 인간의 뇌라는 일종의 자기 구성 구조(self-organizing structure)가 향상되기 위해서는 외부에서 어떤 약물을 쏟아부을 것이 아니라. 세심하게 균형을 맞추고, 조율하고, 가꾸어야 할 것으로 보인다.
유전자 조작은 지능 향상에서 정신약리학보다 더 강력한 방법을 제시할것이다.  - P77

더 중요한 것은, 줄기세포 유래 생식세포 방식이 다세대 연속 선별을 한인간의 성숙기라는 짧은 시간 내로 압축시킬 수 있다는 것이다. 그 과정은 다음과 같은 반복적인 배아 선별을 하는 것이다. 
1.유전형 분석을 통해서 선호되는 유전적 특성을 더 강하게 보이는 배아들을 선별한다.
2. 선별된 배아들로부터 줄기세포를 추출하여 정자와 난자로 분화시키고, 6개월이나 그 미만 동안 성숙시킨다. 
3. 만들어진 정자와 난자를 수정시켜 새 배아들을 만든다.
4. 유전적 변화가 충분히 축적될 때까지 과정을 반복한다.
- P80

 일부 국가에서는 시민들이 유전자 선별을 택하도록 장려책을 펼 수도있다. 이는 국가의 인적 자본을 강화하기 위함일 수도 있고, 또는 사회 피지배 계층에게 온순, 복종, 순종, 순응, 위험 회피적, 비겁함 같은 형질을 주입함으로써 장기적인 사회 안정을 꾀하기 위함일 수도 있다. - P82

 이렇게 교정된 게놈을 가진 사람들이 완전히 똑같은 서로의 복제본이라고 생각할지도 모르겠으나, 유해한 돌연변이만 바로잡아진 것이지, 평범한 인간과 마찬가지로 유전형질은 서로 같지 않기 때문에 그것은 잘못된 생각이다. 그러나 교정된 게놈을 가진 인간(게놈의 표현형의 발현, 즉 그 인간)은 신체적 그리고 정신적으로 아주 뛰어나며, 다양한 유전자가 관여하여 발현되는 형질들 - 예를 들면 지능, 건강, 강인함, 그리고 외모 같은 에서 향상된 기능을 보일 수도 있다(여러 사람들의 얼굴을 겹쳐서 개개인의 외모에서 나타나는 결함들을 상쇄시킨 혼성 얼굴(composite face)사진이 "교정된 게놈"의 상황에 비유될 수 있을 것이다. - P84

안전성 시험 요구에 대한 실패의 두려움뿐만 아니라, 성공하더라도 유전자 선별의 윤리적인 문제나 광범위한 사회적 영향에 대한 우려로 인해서 이기술에 대한 규제가 가해질 수도 있다는 두려움 때문에도 기술 도입이 지연될 수 있다. 각 국가들의 사회적, 역사적, 그리고 종교적 배경에 따라 우려의 정도가 다를 수도 있을 것이다. 전후 독일에서는 임신과 출산에 관한 정책에서 조금이라도 민족의 평균적인 능력 개선과 관련이 있다고 생각될 만한 일들은 피해왔다. 우생학과 관련하여 잔혹행위들을 자행한 과거 독일의어두운 과거를 감안하면 이해할 만한 처사이다. 그에 비해서 다른 서방국가들은 좀더 개방적인 태도를 취할 가능성이 높다. 그리고 몇몇 국가들 -어쩌면 중국이나 싱가포르처럼 장기적인 인구제한 정책을 펴온 국가들 -은 일단 이 기술이 가능해지면, 단지 허용하는 것을 넘어 적극적으로 권장해서, 유전자 선별이나 유전공학으로 인구의 전반적인 지능 향상을 꾀할수도 있다.
- P87

 지금의 호모 사피엔스가 생물학적 시스템이 도달할 수 있는 인지능력의 가장 꼭대기에 다다랐다고볼 이유는 없다. 오히려 우리가 생물 종들 중 가장 똑똑한 것이 아니라. 기술문명을 이룩할 정도의 지능에 도달한 존재들 중 가장 멍청한 생물 종이라고 생각하는 것이 더 맞을 것이다. 우리가 기술문명을 이룩하는 데에 성공한 이유는 단 한 가지, 우리가 그 단계에 먼저 다다랐기 때문일 뿐이지,
문명을 이룩하기 위해서 최적화되도록 적응했기 때문은 결코 아니다.
- P89