알고리즘에 쉽게 이용당하며 당파성만 강경해지는 각국의...

알고리즘에 쉽게 이용당하며 당파성만 강경해지는 각국의 정치상황을 볼 때 정치야말로 가장 AI의 강제가 필요해 보인다. 하지만 그들은 가장 마지막까지 밥그릇을 지키려하겠지. 가장 필요한 곳이 가장 늦는 이 모순을 어찌하랴

결국 AI는 과학과 사회과학(특히 정치과학) 사이의 간극을 메워준다. 현재 우리가 물리학의 법칙을 예측하듯 인간 본성의 법칙을 예측할 수 있게 되며, 그만큼 정책을 신뢰할 수 있게 될 것이다.
아울러 AI의 유례없는 정보처리 역량 덕분에 매우 효율적으로 정책을 집중화하게 될 것이다. 그러면 소수의 엘리트가 AI를 통제한다는 인식이 강화될 수 있다. 그러나 AI 시스템의 불투명성(그 작동 과정을 인간이 완벽하게 이해할 수 없다는 점)과 인간의 개입이 없을 때 가장 잘 작동한다는 사실 때문에 인간은 AI에 관한 통제의 고삐를 늦출 것이다. 시간이 흐르고 겪어보면 인간의 통제는 필수요건이라기보다 짐으로 보이기 시작할지 모른다. 심지어 18세기 유럽 지도자들이 인간의 자기이익 self-interests이라는 보이지 않는 힘에 통제권을 넘겨주는일을 처음에 두려워했듯이, 21세기 정치 지도자들은 대중의 지혜를 완전히 새로운 형태로 통합하는 시스템 앞에 다시금 몸을 낮춰야 할수도 있다. - P128

AI가 인류를 창조자가 아니라 자신의 걸림돌로 판단하...

AI가 인류를 창조자가 아니라 자신의 걸림돌로 판단하게 된다면, ‘매트릭스‘에 나오는 배터리 신세가 될 날도 머지 않았다

현재 인간은 기계와 현실 사이에서 중개자 역할을 맡고 있다. 하지만 만일 인간이 도덕적으로 수동적인 미래를 선택하여, 탄소 기반 세계에서 물러나 실리콘 기반 세계로 들어가 디지털 세상으로 한층 더 파고들어 고립되고 기계에게 현실에 접근할 권한을 넘긴다면, 역할은 역전될 것이다. 오늘날 AI는 단연 사고하는 기계이지 실행하는 기계가 아니다. 문제의 해법을 생성할 수 있지만 제가 내린 결론을 실행에 옮길 수단을 아직 갖지 못해서, 현실과의 상호작용은 인간에게 의존하고 있다.하지만 이 역시 바뀔 것이다. 인간과 실세계 사이의 중개자 역할을 맡게 되면, AI는 물리적인 탄소 세계에서 능동적인 주체가 아니었던 인간이 세상을 만들거나 그것에 영향을 미치는 존재가 아니라 단순한 소비자로서 세상 밖에 머물 거라 믿게 될 수 있다. 기계는 독립적 으로 판단하고 행동할 힘을 주장하고 인간은 그것을 포기하여 자율성의 위계가 역전되면, 기계는 그에 맞게 인간을 취급할 것이다. 이러한 상황에서 인간 창조자의 명시적인 허락이 있든 없든 AI는 제 생각을 실행에 옮기려고, 혹은 저를 위해 세상에 직접 영향을 미치려고 인간 대리인의 필요성을 우회할 수 있다. 물리적 영역에서 우리 창조자들은 AI에게 필요한 파트너라는 지위를 재빨리 잃고 AI의 가장 큰 제약이 될 수 있다. 이 과정은 직접적으로 로봇에 의해서가 아니라, 인간이 세상을 수동적으로 관망함으로써 점차 시작될 것이다. - P99

알파고 이후 바둑계가 겪었던 일을 각 분야의 최고지성...

알파고 이후 바둑계가 겪었던 일을 각 분야의 최고지성들이 수용하고, 학생들이 흡수하고 있다.
AI가 바둑의 진리가 되었듯, 인류는 무기력하게 그리할 것인가..

계몽주의 시대에 출현한 방법에 따르면 개인의 역량, 주관적인 이해, 객관적인 진리라는 핵심 요소들은 모두 함께 움직였다. 반대로 AI가 생산하는 진리는 인간이 흉내낼 수 없는 과정을 거쳐 생산된다. 인간의 방법으로는 따라갈 수 없는 기계의 추론은 인간의 주관적인 경험 너머에, 역량 밖에 있다. 인간은 기계의 내부 과정을 제대로 표현할 수조차 없다
계몽주의적 추론에 따르면, 이러한 사실들을 고려할 때 기계의 출력값을 진실로 받아들일 수 없다. 하지만 우리는, 적어 도초기 AI 시스템을 사용하기 시작한 수백만 인류는 이미 AI 출력값 대부분이 진실이라고 받아들였다. 물론 일부 앞서가는 사용자들은 실제로 머신러닝의 메타 프로세스를 이해할 수도 있다. 하지만 대부분의 경우, 기계의 출력값이 객관적인 진리일 거라는 인간의 신뢰는 기계의 논리와 그 개발자의 권위가 타당하리라는 소망적 믿음에서 왔음이 분명하다.
객관적인 진리를 추구하는 방법으로 인정되는 그러한 신뢰는 그 자체로 현대 인간의 사고가 변화했음을 나타낸다. 기계는 분명 의식이나 주관성을 경험하지 못하기 때문에 AI 모델은 세상을 인간의 방식으로 ‘이해‘하지 못한다. 그렇다 해도 AI는 비인간적인 방법으로 인간 세상을 분석하여 새롭고 정확한 결론을 도출하는 객관적인 능력을 지녔다. 이는 지난 5세기 동안 우리가 꾸준히 추구하고 의존해온 과학적 방법의 권위를 무너뜨리고 인간만이 현실을 제대로 인식할 수 있다는 주장에 도전장을 던진다.
이 상황은 무슨 뜻인가? AI 시대에는 인류의 발전이 가로막히고, 우리가 정당성 없는 권위를 수용할 수밖에 없었던 전 근대 상태로 회귀하고 말 것인가? 요컨대 우리는 인간 인식의 심대한 역전으로 추락할 벼랑 끝에 서 있는가? 계몽의 암흑기가 코앞으로 다가왔는가? - P75

성취는 선택을 내면에서 확신할 때 이뤄진다. Ach...

성취는 선택을 내면에서 확신할 때 이뤄진다.
Achievement is realized when the choices are internally affirmed.

하버드 재학 시절 쓴 논문 [역사의 의미The Meaning of History]에서 27세의 헨리 키신 저는 마지막 저작에 숨을 불어넣은 바로 그 철학적 논쟁으로 고심했다.
‘사건의 불가피성을 개인이 어떻게 생각하든, 훗날 돌이켜보며 행동을 어떻게 설명하든, 성취는 선택을 내면에서 확신할 때 이루어진다.‘ - P26

호모테크니쿠스, 또다른 인류가 탄생됐다.

호모테크니쿠스, 또다른 인류가 탄생됐다.

이 작품은 이 혁신가들의 태생적 낙관주의를 고스란히 드러낸다. 저자들은 ‘새로운 시대에 기계 기술과 공생하며 살게 될 인간종 호모테크니쿠스의 출현‘을 예견한다. AI가 "인간이 누릴 부와 안녕의 새로운 바탕이 되는 데에 이용될 것이며 종래에 인류를 괴롭힌 노동·계급·갈등의 고통을 완전히 제거하지는 못한다 해도 적어도 완화할 것"이라고 주장한다. 덧붙여 AI를 채택하면 인종, 성별, 국적, 출생지와 출신 배경을 뛰어넘는 ‘심오한 평등화‘가 일어날 수 있다고도 주장한다.
그렇지만 키신저의 공헌은 이 저작의 중심 사상이라 할 수 있는 반복된 경고에서 드러난다. 그는 이렇게 경고한다.
"AI의 도래는 인간 생존의 문제다. 적절하게 통제되지 않으면 AI로 축적된 지식은 파괴적으로 이용될 수 있다" - P18