[오늘의 한문장] 슈퍼 인텔리전스

앞에서 언급했듯이, 이 책에서 "초지능"은 다양하고 보편적인 인지 영역에서 현시대의 가장 뛰어난 인간보다 훨씬 더 우수한 지능체를 일컫는다. 이 정의는 여전히 꽤 모호하다. 단지 이 정의만을 따른다면 각기 다른 수행능력을 가진 여러 가지의 시스템들이 초지능으로 분류될 수도 있을 것이다.

이렇듯 속도적 초지능의 입장에서는 물질세계에서 시간 지연이 일어나는 것처럼 보이기 때문에, 속도적 초지능은 디지털 세계에서 작업을 수행하는 것을 더 선호하게 될 것이다. 가상현실에서 살면서 외부로부터 들어오는 정보를 다룰 수도 있을 것이다. 반대로, 나노 수준 정도의 작은 단위의 인공 팔다리나 부속물이라면 인간의 팔다리 같은 거시적인 수준의 부속물보다 더 빠르게 작동할 것이기 때문에, 나노 크기의 물리적 조종장치(manipulator)를 가지고 실제 물리적 세계와도 상호작용할 수 있을 것이다(한 시스템의 특성 주파수는 그 길이 단위[length scale]에 반비례하는 경향이 있다5). 이처럼 빠른 지성체는 인간처럼 느려터진 존재들이 아니라 자신과 같은 속도의 지성체와 주로 상호작용을 할 것이다.

집단적 지능의 통합 정도를 서서히 높인다면, 종국에는 이것이 하나의 통합된 지능, 즉 느슨하게 서로 연결된 작은 인간 지성체의 단순한 조합이 아니라 하나의 단일한 거대 "지성체"가 될 수도 있을 것이다.

사상 처음으로 인간의 뇌를 완벽하게 모방한 전뇌 에뮬레이션에 성공하는 것은, 이미 만들어진 에뮬레이션을 더 향상시키는 것에 비하면 엄청나게 어렵다. 최초로 새로운 에뮬레이션을 만들기 위해서는, 스캔 기술이나 이미지 해석 능력에서 엄청난 수준의 기술적 도약이 필요하다. 또한 이 단계에는 수백 대의 대용량 스캐너를 사용하는 대규모 공장 단지 같은 상당한 정도의 물리적 자원이 필요할 것이다.

인간 전뇌 에뮬레이션이 가능해지면 저항성은 일단 감소했다가 시간이 지난 후에는 다시 증가할 것이다. 즉 그때에는 가장 눈에 띄게 비효율적으로 구현되던 것들이 효율성이 극대화되도록 고쳐지고, 가장 가능성이 큰 알고리즘상의 변화가 시험될 것이고, 조직적 혁신을 위한 가장 쉬운 방법들이 실행될 것이다.

요약해보면, 인간 수준의 소프트웨어가 개발되었을 때, 이런 프로그램들을 빠른 속도로 아주 많이 구동할 수 있을 만큼 충분한 하드웨어적 기반이 이미 존재할 가능성, 즉 하드웨어 공급 누적 상황을 생각해볼 수 있다. 앞에서 살펴본 것처럼 소프트웨어 저항성은 정확하게 예측하기가 더 어렵지만, 어쩌면 하드웨어 저항성보다는 더 낮을 가능성이 있다.

아우구스티누스

총 15개의 상품이 있습니다.

아카데미아학파 반박- 아우구스티누스
아우구스티누스 지음, 성염 옮김 / 분도출판사 / 2016년 9월
30,000원 → 27,000원(10%할인) / 마일리지 1,500원(5% 적립)

양탄자배송

12월 8일 (월) 아침 7시 출근전 배송

2022년 09월 27일에 저장

영혼의 위대함
아우구스티누스 지음, 성염 역주 / 분도출판사 / 2019년 1월
27,000원 → 24,300원(10%할인) / 마일리지 1,350원(5% 적립)

양탄자배송

12월 8일 (월) 아침 7시 출근전 배송

2022년 09월 27일에 저장

질서론
아우구스티누스 지음, 성염 옮김 / 분도출판사 / 2017년 7월
26,000원 → 23,400원(10%할인) / 마일리지 1,300원(5% 적립)

양탄자배송

12월 8일 (월) 아침 7시 출근전 배송

2022년 09월 27일에 저장

독백
아우구스티누스 지음, 성염 역주 / 분도출판사 / 2018년 1월
26,000원 → 23,400원(10%할인) / 마일리지 1,300원(5% 적립)

2022년 09월 27일에 저장

품절

총 15개의 상품이 있습니다.

모든 일에는 때가 있다... 그리고, 그 끝은 허무다...

 구약 성경의 지혜서 중 하나인 코헬렛서는 목적이 없어 방향 감각을 상실하거나 계속되는 절망에 빠진 사람들에게 해결책을 제시한다. 우리는 코헬렛서를 통해 인생이 각자가 경험하는 작은 조각들로 이루어진 모자이크임을 알 수 있다. 또한 삶의 순간들을 잃어버리기 전에 이해하고, 놓치기 전에 누리는 법을 배울 수 있다. _ 조앤 치티스터, <모든 일에는 때가 있다>, p17/152 

 올해 첫영성체 교리를 듣고 있는 연의. 외워야 할 기도문도 많고, 성경 필사도 해야 하고, 평일미사도 가야하기에 예전보다 교리 이수 조건이 까다로워졌음을 실감하게 된다. 부모도 예외는 아니어서, 부모 교육도 별도로 진행되고 독후감도 제출해야하는 등 부모 역시 신경쓸 부분이 없지 않다. 그리고, 오늘 페이퍼는 제출할 과제 도서에 대한 내용이다.

 과제 도서인 조앤 치티스터 (Joan D. Chittister, 1936 ~ )의 <모든 일에는 때가 있다>는 <구약성경><코헬렛 Ecclesiastes>서의 내용을 현대인의 시각에서 재음미하는 영성서적이다. 태어날 때, 잃을 때, 사랑할 때, 웃을 때, 전쟁의 때 등등. 우리의 삶 전체에서 끊임없이 흐르는 시간과 사건 안에서 저자는 그 의미를 발견하고 독자들과 나눈다. 저자가 발견하는 '때'의 의미는 또한 <코헬렛> 저자의 깨달음이기도 하다. 

  하늘 아래 모든 것에는 시기가 있고 모든 일에는 때가 있다. 태어날 때가 있고 죽을 때가 있으며 심을 때가 있고 심긴 것을 뽑을 때가 있다... 사랑할 때가 있고 미워할 때가 있으며 전쟁의 때가 있고 평화의 때가 있다. 그러니 일하는 사람에게 그 애쓴 보람이 무엇이겠는가? _ <구약성경> <코헬렛> 3:1~9

 결국 지금 이 순간을 적극적으로 잡아야 한다. 우리가 존재하는 곳을 의식하고, 거기에 몰두하며, 기민하게 행동하는 것이 삶을 알차게 사는 비결이고 배워야 할 교훈이다. 우리 앞에 존재하는 지금 현재를 어떠한 요령 없이 보는 것이야말로 삶의 중요한 방식이다. 그렇게 할 때 우리는 자신의 존재감을 느끼게 된다. 이 문제는 인류 역사 속에서 수많은 사람들이 공통적으로 끊임없이 말했던 이야기이기도 하다. _ 조앤 치티스터, <모든 일에는 때가 있다>, p15/152 

 <코헬렛>의 저자로 알려진 솔로몬은 모든 것에 때가 있다는 사실을 말한다. 여기에 바탕을 두고 <모든 일에는 때가 있다>에서는 삶에서 현대인들의 삶의 방향성에 대해 나눔한다. 삶의 매 순간의 의미를 찾아가는 <모든 일에는 때가 있다>의 본문 내용은 하나의 지혜 문학으로서 우리에게 잠언(箴言)으로 다가온다. 잔잔하게 영혼을 적시는 책의 내용은 편안하게 다가오지만, 페이퍼에서는 경구보다 조금 다른 부분에 대한 이야기를 풀어가고자 한다. 인용한 <코헬렛> 3장 9절의 내용을 다시 살펴보자.  

 '그러니 일하는 사람에게 그 애쓴 보람이 무엇이겠는가?'

 이 한 문장으로 <코헬렛>의 '때'에 대한 코헬렛의 이야기는 반전으로 다가온다. '지혜의 왕'이라 불리던 솔로몬은 모든 것에 대한 때를 말한다. 현명한 그는 때의 의미를 깨닫고 그에 따라 적절하게 처신했을 것이다. 그래서 많은 부와 영광을 부렸던 그가 말하는 '허무'의 의미는 어떻게 해석해야 할까. 보람의 의미를 묻는 그의 물음과 이로부터 느껴지는 허무는 자연스럽게 시선을 <코헬렛> 1장의 첫 구절로 이끈다. 때에 맞춰 인간으로서 최선의 삶을 살았건만, 그로부터 남겨진 것이 허무라면, 솔로몬의 마지막 깨달음은 절대적인 시간에 대한 인간의 무기력과 상대적으로 유한한 인간의 시간에 대한 것이 아니었을까.

 다윗의 아들로서 예루살렘의 임금인 코헬렛의 말이다. 허무로다, 허무! 코헬렛이 말한다. 허무로다, 허무! 모든 것이 허무로다! 태양 아래에서 애쓰는 모든 노고가 사람에게 무슨 보람이 있으랴? 한 세대가 가고 또 한 세대가 오지만 땅은 영원히 그대로다. 태양은 뜨고 지지만 떠올랐던 그 곳으로 서둘러 간다. _ <구약성경> <코헬렛> 1:1~5

 이와 관련하여 아우구스티누스(Augustinus Hipponensis, CE 354 ~ 430)는 <참된 종교 De Vera Religione>에서 <코헬렛>에 대해 다음과 같이 풀이한다. 신의 섭리에 의해 주재되는 세상 속에서 인간은 상대적으로 유한하고 한계가 많지만, '헛됨'을 벗어날 수 있다면 유한함에서 벗어나 절대성에 가까이 갈 수 있다는 교부의 해설 속에서 신의 절대성과 인간의 유한성으로 인한 허무를 극복할 하나의 방편을 발견하게 된다. 초월(超越. transcendence).

죄와 그 벌에서 유래하는, 영혼의 이 도착倒錯으로 말미암아, 육체를 지닌 모든 사물이, 솔로몬의 말대로, 헛된 인간들의 헛됨이여. 세상 만사 헛되다. 사람이 하늘 아래서 아무리 수고한들 무슨 보람이 있으랴? 여기서 '헛된 인간들'이라는 말이 괜히 덧붙여진 것이 아니다. 헛되게 만드는 인간들이 제거된다면, 즉 맨 마지막 것들을 맨 처음 것처럼 추구하는 인간들이 없다면, 육체를 지닌 사물이 곧 헛됨 그 자체가 되지는 않으며, 비록 미약하더라도 아무런 결함이 없는 자기 나름의 아름다움을 보여줄 것이다. _ 아우구스티누스, <참된 종교> 21.41

 사람에게 위험한 바로 그 섬광들을 경험한 다윗은 자신의 모든 희망을 하느님의 이름에 두는 이가 행복하다고 옳게 말합니다. 그러한 사람은 헛된 것과 어리석은 것들에 관심을 두지 않고 항상 그리스도를 향해 노력하며 늘 자신의 내적 눈으로 그리스도를 보기 때문입니다... "모든 것이 허무로다!"라는 코헬렛의 말처럼, 이 세상의 모든 것이 허무입니다. 따라서 구원받기를 원하는 사람은 이 세상을 초월하십시오. 먼저 여기에서 달아나지 않으면, 지금도 존재하고 늘 존재하는 것을 알아들을 수 없기 때문입니다.(암브로시우스, <세상도피> 1,4) _ <교부들의 성경주해 9 - 잠언, 코헬렛, 아가>, p295 

 이러한 연결점은 <모든 일에는 때가 있다>의 본문에서도 찾을 수 있다. 매 순간에 머물면서 우리는 새로워지고 하루하루 충실하게 살아갈 수 있다는 저자의 말은, 지혜의 왕이었던 솔로몬도 피해가지 못했던 허무함에 빠지지 않을 좋은 조언이 된다. <대학 大學>의 '苟日新(구일신) 日日新(일일신) 又日新(우일신)'과도 통하는 본문의 내용 속에서 인간의 한계성을 완전히 극복할 수는 없지만, 절대성에 수렴해가는 삶의 자세에 대해 우리는 생각할 수 있다. 

 "시간은 모든 것이 즉시 일어나는 것을 막는 자연의 방법이다." 이 말은 영혼을 잠시 진정시키고 잠깐 멈추게 하는, 영적 성숙의 시간적 단계가 있음을 가르쳐 준다. 시간은 차례차례 인생의 어느 순간에서 순간으로 우리를 인도하며 우리가 그 시간 안에서 모든 상황을 겪게 한다. 그러나 인생한 할당된 일수를 채웠는지가 아니라 하루하루를 충실하게 살았는지로 평가된다. 이것은 정확히 무엇을 의미하는가? _ 조앤 치티스터, <모든 일에는 때가 있다>, p148/152 

 <코헬렛>과 <모든 일에는 때가 있다>에서는 흐르는 시간 안에서 인간의 유한성이 드러난다. 우리에게 주어진 시간이 현재로서 절대적인 시간의 미분(微分)이라면, 과거-현재-미래의 절대적인 시간은 우리에게 주어진 시간의 적분(積分)이라 할 수 있겠다. 미분의 차원(次元)과 적분의 차원이 서로 다른 곳에 존재하는 것처럼, 절대적인 시간은 다른 차원의 문제로 우리에게 주어질 것이다. 인간으로서 우리는 '현재'로 존재하는 '때'에만 관여할 수 있다. 여기에 절대적인 가치를 담으려 노력하는 자세에 대해 옛 지혜문헌들과 <모든 일에는 때가 있다>는 접점을 갖는다.  

 차라리 시간은 셋인데 과거에 대한 현재, 현재에 대한 현재, 미래에 대한 현재라고 하는 편이 적절하다. 이 셋은 영혼 속에 존재하는 무엇이고 다른 곳에서는 이것들이 안 보이며, 과거에 대한 현재는 기억(記憶)이고 현재에 대한 현재는 주시(注視)이며, 미래에 대한 현재는 기대(期待)다.(11권 20,26)... 진행되면 진행될수록 기대에 해당하는 영역은 짦아지고 기억에 해당하는 영역은 길게 연장된다. _아우구스티누스,  <고백록> 11권 28.38, p456

 기나긴 시간이란 동시에 펼쳐질 수 없는 수많은 순간瞬間들에 의해서가 아니면 이루어지지 않는다는 사실을 무슨 수로 알아듣게 하겠습니까? 영원에서는 아무것도 지나가지 않고 전체全體로서 현전現前합니다. 어느 시간도 전체로서 현전하지 않습니다. 그리고 모든 과거는 미래에 의해서 밀려나고 모든 미래는 과거에 의해서 뒤쫓기며, 모든 과거와 미래는 항상 현재하는 것에 의해서 조성되고 전개된다는 사실을 누가 알아보게 하겠습니까? 누가 인간의 마음을 붙들어 세워 멈춰 서서 바라보게 만들고, 영원이 어떻게 정지한 채로 미래 시간과 과거 시간을 결정하는지, 그러면서도 영원 자체는 과거도 아니고 미래도 아님을 바라보게 만들겠습니까? _아우구스티누스,  <고백록> 11권 11.13, p431

 제자가 스승인 랍비에게 물었다. "저처럼 미천한 사람이 어떻게 하면 모세처럼 살 수 있습니까?" 스승은 제자에게 이렇게 대답했다. "자네가 죽을 때, '너는 왜 모세처럼 살지 못했나?'라는 질문을 받지 않는다네. '너는 왜 자기 자신으로 살지 못했나?'라는 질문을 받을 걸세." 그렇다. 우리가 누구이기에 할 수 있는 것이 아니라, 우리의 때가 있기에 할 수 있는 것이다. 때가 왔다. 지금이 바로 우리의 때다. _ 조앤 치티스터, <모든 일에는 때가 있다>, p152/152 

 <모든 일에는 때가 있다>가 유한한 시간에서 담아야 할 절대적 가치를 말한다면, 시간을 바라보는 다른 관점도 존재한다. 이번에는 크로노스(chronos)와 카이로스(Kairos)에서 출발해보자. 객관성과 주관성, 영원과 찰나의 대조로 상징되는 이 둘 중에서 어느 쪽에 무게 중심을 두느냐에 따라 우주(宇宙)에 대한 해석방향이 달라지고, 다른 결론에 이르게 됨을 보여준다는 내용은 리 스몰린(Lee Smolin, 1955 ~ )의 <리 스몰린의 시간의 물리학>에 담겨있다.

 '흐로노스 chronos"는 우리가 잘 아는 베테랑 할아버지, 시간의 아버지 Father Time, 즉 누구나 인식할 수 있는 객관적인 시간을 의미한다. 반면, "카이로스 Kairos"는 완전히 반대의 예측 불가능한 주관적인 시간이다. 객관적인 시간이라는 것은 바로 아이작 뉴턴이 얘기하는 시간의 특징 aquabiliter fluit - 즉, 강의 물이 항상 일정하게 흐르듯 영원히 고정된 시간이 바로 흐로노스이다.(p35)... 그에 반해서 주관적인 시간 "카이로스"는 흔히 "기회 opportunity"라고 번역되기도 하는데, 이는 일정하게 아주 "적절한 때 right timing"을 의미한다. 흐로노스가 신적인 우주의 영원한 시간이라면, 카이로스는 인간세상의 찰나, 즉 짤막한 현재의 시간이다. _ 김승중, <한국인이 캐낸 그리스 문명>, p37 

 절대적인 시간의 세계가 수리(數理)적 질서로 마치 정밀한 시계와 같은 구조로 법칙에 의해 움직인다면,  리 스몰린은 흐르는 물과 같은 시간에 대해 말한다. 이는 시간 안에서 시간을 바라보는 관계주의적 관점과 시간 밖에서 시간을 관조(觀照)하는 절대주의적 관점은 시간을 하나의 변수(變數)로 보는가, 주어진 조건으로 보는가의 차이이기도 하다. 시간에 대해 말하고자 하는 내용과 이야기의 방향은 다르지만, 책의 내용  중 수학을 통해 시간(時間)을 또 다른 공간(空間)으로 이해하는 뉴턴적 패러다임에 대한 비판 안에서 우리는 <고백록>, <코헬렛>의 흔적들을 발견하게 된다...

 아이 첫 영세 교리 과제로 주어진 도서에 대한 내용이 어느새 산으로 와버렸지만, 되돌리기엔 이미 너무 많이 쓴 듯하다. 이 페이퍼 중 아우구스티누스 선에서 적당히 재편집을 해서 제출해야겠다...

 시간 안에서 생각하는 것과 시간 밖에서 생각하는 것의 차이는 인간 사고와 행위의 여러 측면에서 명백하게 나타난다. 우리가 기술적이거나 사회적인 문제에 직면했을 때, 이 문제를 해결할 접근법이 절대적이고 이미 존재하는 범주들의 집합으로서 결정되어 있다고 가정한다면, 이는 시간 밖에서 생각하는 것이다(p12)... 시간 안에서 생각하는 것은 상대주의가 아니라 일종의 관계주의 relationship다. 관계주의는 어떤 것에 대한 가장 참된 기술은 그것이 속한 계의 다른 부분들과 어떤 관계를 맺고 있는지를 구체화하는 것이라고 주장하는 철학이다. _ 리 스몰린, <리 스몰린의 시간의 물리학> , p13/302

 세계를 동역학적 부분과 배경(동역학적 부분을 둘러싸고 있고 우리가 이것을 기술하는 용어들을 정의하는)으로 나누는 것은 분명 뉴턴적 패러다임의 천재적인 부분이다. 그러나 이러한 구분은 이 패러다임을 전체 우주에 적용하는 것을 적절하지 않게 만든다. 과학을 우주 전체의 이론으로 확장할 때 우리가 마주치는 도전은 정적인 부분이 존재할 수 없다는 것이다. 우주 안에 있는 모든 것은 변화하며, 우주 밖에는 그 어떤 것도 존재하지 않기 때문이다. _ 리 스몰린, <리 스몰린의 시간의 물리학> , p116/302

[오늘의 한문장] 한국 스켑틱 SKEPTIC vol.13 : 무엇이 과학적 사고를 가로막는가

오늘날 소득 격차가 나날이 벌어지는 데 대한 분노는 특정인들이 엄청나게 부유하다는 사실 자체보다 그들이 일도 별로 하지 않으면서 남의 돈을 뺏고 세금도 충분히 내지 않는 등 공정하지 못한 방식으로 부를 취득한다는 믿음에서 온다.

분노를 표현하는 이유는 대체로 두 가지다. 하나는 ‘나는 뿔이 났고, 네가 그것을 알았으면 좋겠고, 너도 나처럼 기분이 더러워졌으면 좋겠다’는 의사를 전달하기 위해서다. 다른 이유는 그 개자식의 생각을 바꾸고, 행동을 뜯어고치고, 자신의 불만을 보상받고, 정의를 바로세우기 위해서다. 전자의 전략으로 후자의 결과를 얻긴 어렵다.

마이클 셔머Michael Shermer도 말했듯이, "대부분의 도덕적 문제는 범주로 나뉘지기보다는 연속적인 경향을 가진다. 세계를 딱 떨어지게 범주화하는 것은 특정 작업에서는 유용한 인지 도구지만, 사회적이며 도덕적인 문제를 이해할 때는 잘 들어맞지 않는 경우가 많다."1

종교단체에서 주장하는 대로 수정 직후부터 사람의 인격이 시작된다면 배반포를 파괴하는 줄기세포 추출은 살인이나 다름없다. 이 추론은 무엇이 잘못되었을까? 분명히 말하자면 수정란은 생물학적으로 ‘사람’이 맞다. 하지만 그렇게 말하자면 사람 몸의 모든 살아 있는 세포도 사람이다.

신약개발의 세계에는 과학적 발견과 임상 적용 사이에 소위 ‘죽음의 계곡’이 있다. 실패 위험이 커서 잠재적 투자자들이 등을 돌리는 지점이다. 실험적 치료법의 임상 시험에 뛰어들기로 한 회사가 있더라도 FDA 승인을 받기까지의 길이 험난해서 결심이 흔들리는 경우가 허다하다

우리는 존재론적 범주 사이의 핵심 속성의 혼동이 범주들 사이의 공통 본질이라는 개념을 함축하고 있으며, 이것이 연결성이나 총체성과 관련된 생각으로 이어진다고 제안한다. 이것이 바로 미신, 마술, 초자연 현상에 대한 믿음을 일으키는 핵심 혼동이다.

[오늘의 한문장] 슈퍼 인텔리전스

실제로는, 초지능을 통제하는 문제는 상당히 까다로워 보인다. 또한 초지능을 통제하기 위한 기회는 단 한번뿐일 것이다. 일단 인류에게 비우호적인 초지능이 만들어지면, 그것을 대체하거나 변경하려는 시도는 그 비우호적인 초지능에 의해서 가로막히게 될 것이다. 그렇게 되면 우리의 운명은 돌이킬 수 없게 된다.

우선, 인간 수준의 기계지능이 이번 세기 중반까지 만들어질 가능성이 상당히 높아 보이며, 그보다도 더 일찍 개발되거나 또는 더 늦게 개발될 가능성도 무시할 수 없을 정도로 높다(이에 대해서 더 정확한 정보나 분석 자료가 없으므로, 앞에서 살펴본 조사 결과를 참고했다). 또한 일단 인간 수준의 지능에 도달하면, 상당히 이른 시일 안에 초지능으로 발전할 것으로 보인다. 마지막으로, 인공지능의 발달이 미칠 영향에 대해서는 견해가 다양하며, 그중 아주 긍정적인 영향과 인류 멸망이라는 극단적으로 부정적인 영향을 미칠 가능성도 상당한 것으로 보인다.

그에 앞서 지적해야 할 사실은, 현재의 단계에서 인간 수준의 기계지능 개발까지 극복해야 할 난관들이 얼마나 많든지 간에, 인간 수준의 기계지능의 완성이라는 단계에서 발전이 멈추지는 않으리라는 점이다. 그로부터 그다지 멀지 않은 지점에 바로 다음 단계가 있고, 그것은 바로 인간의 지능을 뛰어넘는 수준, 즉 초인간 수준의 기계지능(super-human-level machine intelligence)일 것이다. 인간 수준의 지능에 도달했다고 해서 이러한 발전은 멈추거나 속도를 늦추거나 하지 않고 바로 초인간 수준으로 도약할 가능성이 높다.

인공지능 기술은 다양한 인터넷 서비스의 기반을 이루고 있다. 이러한 소프트웨어들은 전 세계의 이메일 통신을 관리한다. 스팸 메일을 막는 조치를 피하고자 계속 대응해나가는 스팸 메일 제작자들의 노력에도 불구하고, 베이지언 스팸 필터는 대체로 스팸 문제를 잘 저지해왔다. 인공지능을 사용하는 소프트웨어는 신용카드 거래의 자동 승인 및 거부 작업에 사용되고 있고, 사기 행위를 감시하는 데에도 이용된다. 정보 회수 시스템들 또한 머신 러닝 기법을 광범위하게 사용하고 있다. 이견이 있기는 하지만, 구글의 검색 엔진은 지금까지 만들어진 가장 위대한 인공지능 시스템으로 칭송받고 있다.
이 시점에서 우리는 인공지능과 일반적인 소프트웨어 사이의 경계가 그다지 뚜렷하지 않다는 것을 강조할 필요가 있다.

, 인간 지능의 속도 한계(rate-limiting step)는 우리가 얼마나 빨리 가공되지 않은 정보를 뇌로 받아들일 수 있느냐가 아니라, 그 정보로부터 얼마나 빨리 의미를 추출하고 이해할 수 있느냐에 달려 있다

우리는 초지능을 사실상 모든 관심 영역에서 인간의 인지능력을 상회하는 지능이라고 잠정적으로 정의할 수 있다

임계점을 돌파한다는 것은 또다른 중요한 주제 중 하나인 "순환적 자기-개선(recursive self-improvement : 강한 인공지능의 추론적 능력으로, 인공지능 스스로가 자신에게 필요한 더 나은 프로그램을 반복적으로 프로그래밍하는 것/옮긴이)"으로 이어진다. 성공적인 씨앗 인공지능은 반복적으로 자기 자신을 향상시킬 수 있을 것이다. 즉 초기 상태의 인공지능이 더욱 개선된 형태로 자기 자신을 향상시키면, 그 향상된 인공지능은 더 뛰어난 상태로 스스로를 개선할 수 있을 것이고, 이것이 계속 반복된다는 것이다.

이 소단원을 마치기 전에 한 가지 강조할 것이 있다. 그것은 인공지능이 인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다. 인공지능은 우리와는 완전히 이질적일 수도 있다. 사실 대부분이 그럴 것으로 생각된다. 생물학적 지능과는 아주 다른 인지구조를 가지고 있을지도 모르고, 특히 개발 초기 단계에는 인지능력에서 우리와 아주 다른 강점과 약점을 가지고 있을지도 모른다(물론 뒤에서 다루겠지만, 이들 인공지능은 결국 이러한 초기의 약점을 극복할 수 있을 것이다). 게다가 인공지능이 지향하는 목표 시스템(goal system)은 인간의 목표 시스템과 아주 큰 차이가 있을 수도 있다. 인공 일반 지능이 사랑이나 증오, 또는 자존심 같은 인간의 감정을 행동의 동기로 삼으라는 법은 없다. 오히려 이러한 복잡한 감정을 인공지능에 적용하기 위해서는 신중하고 비용이 많이 드는 노력이 필요할 것이다. 이 부분은 큰 문제이기도 하고, 동시에 좋은 기회일 수도 있다.