-
-
마침내 특이점이 시작된다 - 인류가 AI와 결합하는 순간
레이 커즈와일 지음, 이충호 옮김, 장대익 감수 / 비즈니스북스 / 2025년 6월
평점 :
제목 : 마침내 특이점이 시작된다
작가 : 레이 커즈와
출판사 : 비즈니스북스
읽은기간 : 2025/08/13 -2025/08/23
동네 도서관에서 빌려 읽었다.
우리동네 도서관은 2주를 대여해주는데 책의 두께도 있고 내용도 어려워서 2주내에 읽느라 좀 힘들었다.
결론만 말하면 AI가 인간을 넘어서는 시대가 왔고, 인간보다 뛰어난 AI와 어떻게 교류하고 소통하며 살아갈지에 대한 내용이다.
예전에 봤던 터미네이터의 스카이넷이 나타났다고 보면 될까?
일반적으로 과학자들은 낙관론자인것 같다. 현재 오류가 많고 이슈가 있어도 결국 기술이 그 문제를 해결할 것이고 인류는 번영할 것이다라고 생각한다.
내 생각은 다르다. 설령 문제가 잘 해결되고 인류가 번성을 이루어도 시행착오기간동안 살아간 인류는 그 시대가 좋다고 여길까?
후손들이 평온하고 번성하니 그 고통을 받아들이라고 하는게 옳은 걸까?
이 책은 그런 질문에 답을 하지는 않는다. 대답할 수 없는 질문에는 답을 안하는 게 과학자들이라 그럴까?
어쨋든 인류보다 뛰어난 AI시대는 도래했고, 싫든 좋든 그 시대에 적응해 살아가야겠지.
나도 우리 아이도 쉽지 않은 세상을 열심히 살아야겠다.
물론 그 과실을 먹을 수 있기를 기원한다.
p7 미래를 예측하는 가장 좋은 방법은 미래를 창조하는 것이다.
p12 만약 인공 지능이 자기 자신을 인식하고, 슬픔을 느끼고, 희망을 품는다면, 우리는 그들을 어떻게 대해야 할까? 노예로? 동료로? 신으로? 카즈와일은 여기에 답을 주지 않는다. 그는 질문을 우리 무릎 위에 살짝 얹어놓을 뿐이다
p13 이 책에서는 기술의 승리 외에 다른 이야기는 주변으로 밀려 있다. 예컨대, 부자와 가난한 자 사이의 간극, 기술 독점의 위협, 초지능의 통제 불능 가능성과 같은 주제들은 가느다랗게 흘러갈 뿐이다.
p20 특이점은 수학의 특이점(함수에서 0으로 나눌때처럼 정의할 수 없는 점을 가리킨다)과 물리학의 특이점(블랙홀 중심에 있는 무한대의 밀도를 가진 점을 가리키는데, 이곳에서는 정상적인 물리학 법칙이 모두 무너지고 만다)에서 빌려온 용어이다.
p29 튜링 테스트를 통과한다는 것은 AI가 사람과 같은 수준의 언어와 상식적 추론 능력을 가진다는 것을 의미한다. 앨런 튜링은 이 개념을 1950년에 내놓았지만, 그 테스트를 어떻게 구성해야 하는지는 자세하게 기술하지 않았다.
p39 일반 문제 해결사는 훨씬 어려운 문제에 대해서도 가장 기초적이고 기본적인 공리를 가지고 시작해 이런 종류의 계산을 할 수 있다. 결국 이것은 인간 수학자가 하는 일이기도 하다. 다만, 기계는 답을 찾기 위해 기본적인 공리를 결합하는 경우의 수를 모두 다 검토할 수 있다는(적어도 이론적으로는) 차이가 있을 뿐이다.
p49 훈련 시험에서 내놓은 답이 모두 정확하지 않더라도 신경망 훈련이 효과가 있다는 사실에 주목하라. 이것은 내재적 오류율을 포함하는 실제 세계 훈련 데이터를 사용할 수 있게 해준다.
p55 1969년에 퍼셉트론이 나오고 나서 2016년에 민스키가 세상을 떠날 때까지 계산의 가격 대비 성능은(인플레이션을 감안해 보정했을 때) 약 28억 배나 증가했다. 그러나 AI에서 가능한 접근법의 풍경이 확 바뀌게 되었다.
p59 소뇌는 수억 년 동안 뇌에서 핵심 영역이었지만, 현대 사회를 살아나가는 데에는 더 유연한 신피질이 주도적 역할을 함에 따라 우리가 생존을 위해 소뇌에 의존하는 비중이 갈수록 줄어들고 있다
p60 소뇌가 주도하는 동물의 행동을 고정 행동 패턴이라 부른다. 이것은 관찰과 모방을 통해 학습하는 행동과 달리 태어날 때부터 같은 종의 구성원들에게 새겨져 있는 행동 패턴이다. 심지어 포유류의 경우에도 상당히 복잡한 행동 중 일부는 선천적인 것이다.
p62 신피질은 비교적 단순한 반복 구조로 이루어져 있는데, 각각의 반복 구조는 약 100개의 신경세포로 이루어져 있다. 이 모듈들은 패턴을 배우고 인식하고 기억할 수 있다. 이 모듈들은 또한 스스로를 계층적으로 조직하는 법을 배우는데, 더 높은 단계에 있는 것일수록 더 복잡한 개념을 구현할 수 있다. 이 반복적인 하우 ㅣ단위를 피질 소기둥이라 부른다.
p72 심층 강화 학습은 단지 이런 게임을 마스터하는 데에만 국한되지 않는다. 불확실성이 개재하고 상대방에 대한 정교한 이해가 필요한 스타크래프트2나 포커 게임을 할 수 있는 AI도 최근에 모든 인간을 넘어서는 성과를 보여주었다.
p80 요리책이 음식을 설명하지 않는 것과 마찬가지로 이해에 대해 설명하지 않습니다라고 설명했다. 이 은유는 이전에 어느 곳에서도 나타난 적이 없었지만, 레시피는 케이크의 속성을 완전히 설명하지 않는다는 철학자 데이비드 차머스의 은유를 새롭게 변형한 것으로 보인다. 이것은 다윈이 진화를 발견하는 데 도움을 준 것과 정확하게 같은 종류의 유추이다.
p85 정답을 앵무새처럼 으류조리는 것은 교사가 원하는 목적이 아니다. 일관성 있는 추론을 단계별로 이어감으로써 더 깊은 이해 능력을 입증하도록 하는 것이 목적이다.
p89 그것 중 대다수는 실제로는 관련이 없는 것이지만, 장 전체나 책 전체의 맥락을 단순 무식하게 일일이 기억하려는 노력은 금방 통제불능 상태에 빠지고 만다. GPT-4가 대화 도중에 앞에서 들은 내용을 잊어버리는 것은 이 때문이고, 일관성 있고 논리적인 구성으로 소설을 쓰지 못하는 것도 이 때문이다.
p105 AI가 이렇게 강력한 버전의 튜링 테스트를 통과한다면, 그 AI는 이미 언어를 통해 표현할 수 있는 모든 인지 테스트에서 인간을 능가했을 것이라는 사실에 주목해야 한다.
p106 AI의 언어 이해 능력이 인간 수준에 이르면, 지식은 단지 점진적으로 증가하는 데 그치지 않고 갑작스러운 지식 폭발이 일어날 것이다. 이것은 AI가 전통적인 튜링 테스트를 통과하려고 한다면 실제로는 자신을 멍청하게 보이도록 해야 한다는 뜻이다.
p119 이 회의 결과로 ‘의식에 관한 캐임브리지 선언’이 나왔는데, 이 선언은 의식이 인간의 전유물이 아닐 가능성이 높다는 사실을 확인했다. 이 선언에 따르면, “신피질이 없다고 해서 그 동물이 감정 상태를 경험하지 못하는 것으로 보이진 않는다’ 선언에 서명한 사람들은 “의식을 만들어내는 신경학적 기질”을 “모든 포유류와 조류, 그리고 문어를 포함해 그 밖의 많은 동물”에게서 확인했다.
p121 문제는 현실에서는, 심지어 원리적으로도, 다른 존재가 주관적 의식이 있는지 없는지 과학적으로 밝혀낼 수 있는 방법이 없다는 것이다.
p129 개개 세포의 통게적 표본 추출은 그 상태를 본질적으로 무작위인 것처럼 보이게 하는 반면, 각 세포의 상태는 앞 단계로붜 결정론적으로 정해진다는 것을 알 수 있다.
p139 우리의 뇌는 몇 개월마다 거의 완전히 교체되는 셈이며, 우리는 얼마전의 자신과 비교하면 생물학적 버전의 두 번째 나이다. 여기서도 나의 정체성을 온전하게 유지시켜주는 것은 정보와 기능이며, 특정구조나 물질이 아니다.
p146 GAN은 두 신경망이 서로 경쟁한다. 첫 번째 신경망은 여성 얼굴의 현실적 이미지 같은 표적 집단에서 한 표본을 만들려고 시도한다. 두 번째 신경망은 이 이미지와 다른 이미지(실제 여성 얼굴 이미지)를 구별하려고 노력한다. 첫번째 신경망은 두 번째 신경망을 속이는 데 성공하면 보상을 받고(이것은 신경망이 최대화되도록 프로그래밍돼 있는 점수가 올라가는 것으로 생각할 수 있다), 두 번째 신경망은 정확한 판단을 내리면 보상을 받는다. 이 광정은 인간의 감독 없이 수많이 반복될 수 있고, 두 신경망은 점점 실력이 향상된다.
p164 수확 가속의 법칙이 정보 기술에서 그토록 큰 위력을 발휘하는 이유는 피드백 고리가 혁신의 비용을 편익보다 훨씬 낮게 유지해 진전이 계속 일어나기 때문이다.
p171 피가 나면 주목을 받는다라는 경구는 이렇게 그릇된 인식의 주요 원인을 잘 표현한다. 사건은 광범위하게 보고되는 반면, 범죄 감소(예컨대 데이터에 기반해 작동하는 법 집행 기관 또는 경찰과 지역 사회 사이의 소통 개선 덕분에)는 아무 사건도 발생하지 않은 것처럼 취급된다. 그렇기 때문에 범죄가 감소했다는 이야기가 기사로 크게 다루어지는 일은 거의 없다.
p192 2030년대에는 급진적 수명 연장의 세 번째 다리에 도달할 텐데, 우리몸 전체에서 세포 수준의 보수 유지 작업을 지능적으로 수행하는 의료 나노봇이 그 주역이다.
p201 전체 분포에서 정확하게 딱 중간에 위치한 사람의 소득을 나타내는 중앙값은 그만큼 빨리 증가하지는 않았다. 하지만 절대적으로 보면 실질 소득 중앙값(모두 2023년 불변 달러로 환산한)은 꾸준히 증가했는데, 1984년에 2만 7253달러이던 것이 팬데믹 직전인 2019년에는 4만 2488달러로 늘어났다.
p247 수직 농업은 그 밖에도 중요한 이점이 여러 가지 있다. 농경지 유출수를 차단함으로써 수로의 주요 오염 원인 중 하나를 제거할 수 있다. 느슨한 토양을 경작하지 않아도 되기 때문에, 흙이 공중으로 날아가 공기의 질을 저하시키는 일을 방지할 수 있다.
p262 만약 생물학적 사망 후에 자신의 마음 파일을 복구한다면, 그것은 정말로 나 자신을 복구한 것일까? 제3장에서 논의했듯이, 이것은 과학적 질문이 아니라 철학적 질문이며, 오늘날 살아 있는 대다수 사람의 생애동안 우리가 붙들고 씨름해야 할 문제이다.
p269 실제로 2021년에 나온 OECD의 한 보고서는 최시 ㄴ데이터르 ㄹ바탕으로 자동화 위험이 높은 직업의 고용 성장률이 훨씬 느리다는 사실을 확인했다.
p273 인구 중 초고소득자는 소수인 반면, 은퇴자와 학생, 살림하는 부모를 비롯한 그 외 비노동자가 다수를 차지하는 데에서 비롯되었다.
p304 2018년 밴쿠버에서 열린 TED 콘퍼런스 당시 TED 큐레이터 크리스 앤더슨과 나눈 공개 대화에서, 나는 선진국에서는 2030년대 전반까지, 대다수 국가에서는 2030년대 후반까지 보편적 기본 소득 또는 그에 상응하는 제도가 사실상 시행될 것이라고(그리고 사람들은 현재 기준으로는 그 소득으로 비교적 잘 살아갈 수 있을 것이라고) 예측했다.
p308 일자리를 잃은 운전기사에게는 인류가 삶의 단계에서 위로 올라갈 것이라는 약속이 공허하게 들릴 수 있는데, 그 개인은 사실상 그러한 전환에 성공하지 못할 수도 있기 때문이다.
p329 오스트리아 작가 페터 바이벨이 적절히 묘사한 것처럼, 이점에서 인간은 이류 로봇에 불과하다는 사실을 모라백은 잘 이해했다. 이것은 생물학적 뇌의 능력을 최하고 완성하려고 아무리 노력하더라도 우리는 여전히 완전히 공학적으로 설계된 신체의 능력보다 수십억 배나 느리고 성능이 떨어진다는 걸 뜻한다.
p336 SF작가 닐 스티븐슨은 이에 영감을 얻어 1995년에 휴고상 수상작인 다이아몬드 시대라는 소설을 쌌다. 이 작품에서 스티븐슨은 청동이 청동기 시대를, 철이 철기시대를 정의한 것처럼 다이아몬드 기반 나노기술이 문명을 정의하는 미래를 상상했다.
p371 스티븐 호킹, 일론 머스크, 마틴 리스, 노엄 촘스키처럼 큰 영향력을 지닌 인물들이 치명적 자율 무기를 금지하는 서약에 서명한 반면, 미국과 러시아, 영국, 프랑스, 이스라엘을 비롯해 군사 강대국들은 서명을 거부했다.
p377 우리는 오직 우리의 상상력에만 제약을 받는 광대한 가상현실과 증강현실에서 살아갈 것이고, 물론 상상력 자체도 크게 팽창할 것이다. 우리가 수백 년을 산다 하더라도, 얻을 수 있는 모든 지식이 소진되거나 소비할 수 있는 모든 문화가 소진되는 일은 결코 없을 것이다.