저자들은 묻는다. 창조주가 있다면, 우리 자신을 창조할 수 있게 인간을 창조했을까 라고.

그 질문에 답을 듣기 전에 벌써 실험되고 있지 않을까? 완벽한 살인무기 인간을 만들려는 시도는 영화 속에만 가능할까?

특정 도구로 인간이 스스로를 조작할 수 있으므로 AI 시대에 진화는 재정의될 것이다. 가령 현대적인 도구로 가능해진 유전자 편집은 대부분 체세포나 비생식세포로 제한된다. 그러나 어떤 편집은 그 특징이 유전되는 생식세포에도 실시할 수 있다. 그렇다면 자녀의 선천성 질환을 ‘교정‘하려는 사람들이 생길 수 있다. 한 발 더 나아가 선천적 강점을, 어느 쪽 생물학적 부모에게도 혹은 극단적인 경우 어느 인간에게도 없는 강점을 부여하기로 결정할 수도 있다. 그렇게 되면 인류는 발전 을 넘어 재설계될 것이다. - P199


댓글(0) 먼댓글(0) 좋아요(1)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

수명을 제어하고 선택하는 시대, 축복일까 재앙일까

조만간 AI가 우리의 삶을 확장하는 정도를 제어해야 할 수도 있다. 언젠가는 죽음을 맞이한다는 인식이 줄어들면 인간정신에 헤아릴 수 없을 정도로 많은 변화가 발생할 수 있다. 때가 되면 사회는 인간 수명의 이상적인 길이를 집단 수준에서 결정해야 하고, 그렇게 하면서 그에 수반된 형이상학적이고 영적인 질문에 답해야 한다. 과연 인간의 수명은 단지 공동체의 예상이 낳는 결과물일까? 우리 종의 잠재력에 스스로 잘못 그은 경계선이라고 치부될 수 있는 한계일까? 아니면 우리는 자연이 주었든 신이 주었든 인간의 수명을 1인의 힘에 가해진 신성한 제약으로 여겨야 할까?  - P197


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

저자들은 AI가 이룰 유토피아를 그린다.
비약적 생산성을 발전으로 재화의 희소성이라는 한계를 벗을 수 있다면.
200년전 누군가 꿈꿨던 그 일, 사람의 힘으로는 실패하고 말았던 그 일.
문제는 인간의 이기심 아닐까.

재분배할 수 있는 부의 총량을 늘린 다음에 그 늘어난 양을 실제로 재분배하면, 전 세계 인간의 생활수준이 상승할 것이다. 만일 한 사회가 충분한 부를 보유했음을 그 사회(사회 내 모든 주체)가 믿게 될 만큼 중분히 거대한 규모로 재분배가 실행된다면 우리는 생계를 유지하려는 이 시대의 논의에서 벗어나 희소성이 아닌 풍요에 초점을 맞출 수 있다.
...
AI는 다양한 재화에 사용하기 위해 더 지속 가능한 합성대체물을 생산하여 새로운 풍요의 시대를 구현할 수 있다. 심지어 여전히 지속되는 물리적, 물질적 제약을 감안해도, 물론 무한하지는 않겠지만 모든 인류의 기초적인 욕구를 충족하고 우리가 품은 희망을 많이 실현할 정도로 크게 기여할 것이다.
이렇게 되면 기존 결핍의 패러다임이 우리의 심리에 가하는 지배력뿐만 아니라, 생존하기 위해 노동해야 한다는 의무에서 비롯된 염세주의도 완화할 수 있다. - P175


댓글(0) 먼댓글(0) 좋아요(2)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

하메네이를 잃은 이란은 두바이의 데이터센터를 폭격했다. (미국의 그곳을 때리고 싶었겠지만..)
사람 지도자가 아니라 슈퍼컴이 참수될 때 항복하는 시대가 됐다.

사실 AI는 전쟁에서 대리인으로서 인간을 완전히 제외하여 전쟁으로 인한 사상자를 줄이면서도 잠재적으로 전쟁의 결정력은 줄이지 않을 것이다. 마찬가지로 AI의 공격을 촉발하는 요인은 영토만 이 아닐 것이다. 하지만 데이터센터와 여타 중요한 디지털 인프라는 분명 AI의 공격을 촉발할 수 있다(운영의 연속성을 강화하고 기계적 ‘참수 공격‘에 대비하여 방어하기 위해 슈퍼컴퓨터는 은밀한 곳에 위치하고 지능의 저장소는 분산될 수 있다).
그렇게 되면 적들은 수가 줄고 무기고가 빌 때가 아니라 생존자의 실리콘 방패가 기술 자산과 인간 대리인을 구할 수 없을 때 항복을 외칠 것이다. 전쟁은 순전히 기계의 치사율을 다투는 게임으로 변질되고, 결정적인 변수는 전면 파괴라는 치명적인 순간을 예방하기 위해 위험을 감수하거나 포기해야 하는 인간(또는 AI)의 정신적 강인함이 될 것이다. - P160


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 

AI 안보의 시대, 新조공의 시대.

지배적인 국가 집단은 AI 시스템의 최초 발명자이자 가장 중요한 구성 요소의 공급자, AI를 개발하고 개선하는 인재들의 배출국일 것이다. 지배적이지 않은 대다수 국가는 조공국의 지위로 추락하여 데이터와 기타 재화를 공급하고, 그 대가로 AI에 의한 발견과 거버넌스 시스템과 방어를 어느 정도 보장받게 될 수 있다. - P151


댓글(0) 먼댓글(0) 좋아요(1)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo