AI가 인류를 창조자가 아니라 자신의 걸림돌로 판단하...

AI가 인류를 창조자가 아니라 자신의 걸림돌로 판단하게 된다면, ‘매트릭스‘에 나오는 배터리 신세가 될 날도 머지 않았다

현재 인간은 기계와 현실 사이에서 중개자 역할을 맡고 있다. 하지만 만일 인간이 도덕적으로 수동적인 미래를 선택하여, 탄소 기반 세계에서 물러나 실리콘 기반 세계로 들어가 디지털 세상으로 한층 더 파고들어 고립되고 기계에게 현실에 접근할 권한을 넘긴다면, 역할은 역전될 것이다. 오늘날 AI는 단연 사고하는 기계이지 실행하는 기계가 아니다. 문제의 해법을 생성할 수 있지만 제가 내린 결론을 실행에 옮길 수단을 아직 갖지 못해서, 현실과의 상호작용은 인간에게 의존하고 있다.하지만 이 역시 바뀔 것이다. 인간과 실세계 사이의 중개자 역할을 맡게 되면, AI는 물리적인 탄소 세계에서 능동적인 주체가 아니었던 인간이 세상을 만들거나 그것에 영향을 미치는 존재가 아니라 단순한 소비자로서 세상 밖에 머물 거라 믿게 될 수 있다. 기계는 독립적 으로 판단하고 행동할 힘을 주장하고 인간은 그것을 포기하여 자율성의 위계가 역전되면, 기계는 그에 맞게 인간을 취급할 것이다. 이러한 상황에서 인간 창조자의 명시적인 허락이 있든 없든 AI는 제 생각을 실행에 옮기려고, 혹은 저를 위해 세상에 직접 영향을 미치려고 인간 대리인의 필요성을 우회할 수 있다. 물리적 영역에서 우리 창조자들은 AI에게 필요한 파트너라는 지위를 재빨리 잃고 AI의 가장 큰 제약이 될 수 있다. 이 과정은 직접적으로 로봇에 의해서가 아니라, 인간이 세상을 수동적으로 관망함으로써 점차 시작될 것이다. - P99

알파고 이후 바둑계가 겪었던 일을 각 분야의 최고지성...

알파고 이후 바둑계가 겪었던 일을 각 분야의 최고지성들이 수용하고, 학생들이 흡수하고 있다.
AI가 바둑의 진리가 되었듯, 인류는 무기력하게 그리할 것인가..

계몽주의 시대에 출현한 방법에 따르면 개인의 역량, 주관적인 이해, 객관적인 진리라는 핵심 요소들은 모두 함께 움직였다. 반대로 AI가 생산하는 진리는 인간이 흉내낼 수 없는 과정을 거쳐 생산된다. 인간의 방법으로는 따라갈 수 없는 기계의 추론은 인간의 주관적인 경험 너머에, 역량 밖에 있다. 인간은 기계의 내부 과정을 제대로 표현할 수조차 없다
계몽주의적 추론에 따르면, 이러한 사실들을 고려할 때 기계의 출력값을 진실로 받아들일 수 없다. 하지만 우리는, 적어 도초기 AI 시스템을 사용하기 시작한 수백만 인류는 이미 AI 출력값 대부분이 진실이라고 받아들였다. 물론 일부 앞서가는 사용자들은 실제로 머신러닝의 메타 프로세스를 이해할 수도 있다. 하지만 대부분의 경우, 기계의 출력값이 객관적인 진리일 거라는 인간의 신뢰는 기계의 논리와 그 개발자의 권위가 타당하리라는 소망적 믿음에서 왔음이 분명하다.
객관적인 진리를 추구하는 방법으로 인정되는 그러한 신뢰는 그 자체로 현대 인간의 사고가 변화했음을 나타낸다. 기계는 분명 의식이나 주관성을 경험하지 못하기 때문에 AI 모델은 세상을 인간의 방식으로 ‘이해‘하지 못한다. 그렇다 해도 AI는 비인간적인 방법으로 인간 세상을 분석하여 새롭고 정확한 결론을 도출하는 객관적인 능력을 지녔다. 이는 지난 5세기 동안 우리가 꾸준히 추구하고 의존해온 과학적 방법의 권위를 무너뜨리고 인간만이 현실을 제대로 인식할 수 있다는 주장에 도전장을 던진다.
이 상황은 무슨 뜻인가? AI 시대에는 인류의 발전이 가로막히고, 우리가 정당성 없는 권위를 수용할 수밖에 없었던 전 근대 상태로 회귀하고 말 것인가? 요컨대 우리는 인간 인식의 심대한 역전으로 추락할 벼랑 끝에 서 있는가? 계몽의 암흑기가 코앞으로 다가왔는가? - P75

성취는 선택을 내면에서 확신할 때 이뤄진다. Ach...

성취는 선택을 내면에서 확신할 때 이뤄진다.
Achievement is realized when the choices are internally affirmed.

하버드 재학 시절 쓴 논문 [역사의 의미The Meaning of History]에서 27세의 헨리 키신 저는 마지막 저작에 숨을 불어넣은 바로 그 철학적 논쟁으로 고심했다.
‘사건의 불가피성을 개인이 어떻게 생각하든, 훗날 돌이켜보며 행동을 어떻게 설명하든, 성취는 선택을 내면에서 확신할 때 이루어진다.‘ - P26

호모테크니쿠스, 또다른 인류가 탄생됐다.

호모테크니쿠스, 또다른 인류가 탄생됐다.

이 작품은 이 혁신가들의 태생적 낙관주의를 고스란히 드러낸다. 저자들은 ‘새로운 시대에 기계 기술과 공생하며 살게 될 인간종 호모테크니쿠스의 출현‘을 예견한다. AI가 "인간이 누릴 부와 안녕의 새로운 바탕이 되는 데에 이용될 것이며 종래에 인류를 괴롭힌 노동·계급·갈등의 고통을 완전히 제거하지는 못한다 해도 적어도 완화할 것"이라고 주장한다. 덧붙여 AI를 채택하면 인종, 성별, 국적, 출생지와 출신 배경을 뛰어넘는 ‘심오한 평등화‘가 일어날 수 있다고도 주장한다.
그렇지만 키신저의 공헌은 이 저작의 중심 사상이라 할 수 있는 반복된 경고에서 드러난다. 그는 이렇게 경고한다.
"AI의 도래는 인간 생존의 문제다. 적절하게 통제되지 않으면 AI로 축적된 지식은 파괴적으로 이용될 수 있다" - P18

그렇지. 시시콜콜한 디테일이 쌓여야 whole siz...

그렇지. 시시콜콜한 디테일이 쌓여야 whole size의 쾌감이 있지!

야금야금 야구를 알아가다보니, 야구가 아니라. 스스로에 관해 알게 된 것도 있다. 나는 짧게 편집된 경기를 못 보는 사람이었다. 안 보면 안봤지 , 볼거면 처음부터 끝까지 다 봐야만 직성이 풀렸다. 제아무리 지루하고 긴 경기라도 마찬가지였다. 하이라이트 편 집 영상이나 문자 중계는 내게 감흥이 없었다.

삼진을 당한 타자의 어깨가 어떤 표정인지, 감 독의 사인을 타자가 어떻게 오해했는지, 선발투수의 멘탈이 흔들리기 시작한 게 언제부턴지, 카메라에 잠 깐 잡힌 관중석 응원판에 어떤 우스갯소리가 적혀 있 는지. 그 모든 시시콜콜한 디테일을 내 눈으로 직접 봐야만, 그래야만 결정적인 장면에서 온전히 쾌감을 느낄 수 있었다. 그것이 만루홈런이든, 9회 말 역전승 이든. - P21