[마이리뷰] 호모 사피엔스씨의 위험한 고민

[전자책] 호모 사피엔스씨의 위험한 고민 - 미래 과학이 답하는 8가지 윤리적 질문
권복규 외 지음 / 메디치미디어 / 2016년 9월

우습게도 로봇이나 인공지능이 발전할수록 인간은 무엇인지에 대해 계속해서 질문을 던지게 됩니다. 이 질문에 대한 답을 찾으면서 로봇이나 인공지능도 발전할 수 있게 되는 겁니다.

-알라딘 eBook <호모 사피엔스씨의 위험한 고민> (권복규 외 지음) 중에서

"사람이 만든 기술들을 책임감 있게 다루지 않았을 때, 그것들은 역습을 할 것이다."
이 소설의 메시지는 나날이 발전해가는 과학기술을 경계해야 하는 우리가 반드시 새겨들어야 하는 것입니다. 이는 단순히 문학이나 영화와 같은 공상의 수준에 그치는 문제가 아닙니다. 우리는 미래에 분명히 뭔가를 만들어낼 것이고, 거부감을 느끼며, 선택의 기로에 서게 될 것입니다

-알라딘 eBook <호모 사피엔스씨의 위험한 고민> (권복규 외 지음) 중에서

[마이리뷰] 기술의 충격

[전자책] 기술의 충격 - 테크놀로지와 함께 진화하는 우리의 미래
케빈 켈리 지음, 이한음 옮김 / 민음사 / 2020년 1월

재능이 서서히 축적되면서 진화 체계는 적응하고 창조하는 다양한 방식을 습득했다. 자신을 변화시키는 영역을 변화시킬 수 있는 형태 변이자를 상상해 보라! 누가 과연 따라잡을 수 있겠는가? 이런 식으로 진화는 자신을 그러모아서 끊임없이 자신을 개조한다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

진화, 생명, 마음, 테크늄은 무한 게임이다. 게임을 지속하는 것 자체가 게임이다. 모든 참가자가 가능한 한 오래 게임을 하도록 하는 것이다. 모든 무한 게임이 그렇듯이 그것들도 게임 규칙들을 상대로 게임을 한다. 진화의 진화는 단지 그런 종류의 게임일 뿐이다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

삶에서 우리가 가장 사랑하는 것들(삶 자체를 포함하여)은 무한 게임이다. 삶의 게임, 혹은 테크늄의 게임을 할 때, 목표는 고정되어 있지 않으며 규칙도 알려져 있지 않고 계속 바뀐다. 그러면 어떻게 진행해야 하나? 좋은 선택은 선택의 여지를 증가시키는 것이다. 개인으로서 사회로서 우리는 가능한 한 새롭고 좋은 가능성을 많이 생성할 방법을 창안할 수 있다. 좋은 가능성은 더 많은 좋은 가능성을 생성하는 것이며, 그런 식으로 역설적으로 무한 게임이 이어진다. 최고의 ‘끝이 열린’ 선택은 가장 ‘끝이 열린’ 선택의 여지로 이어지는 것이다. 그렇게 가지를 반복하여 뻗는 것이 바로 기술의 무한 게임이다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

[마이리뷰] 기술의 충격

[전자책] 기술의 충격 - 테크놀로지와 함께 진화하는 우리의 미래
케빈 켈리 지음, 이한음 옮김 / 민음사 / 2020년 1월

심리학자 셰리 터클(Sherry Turkle)의 말에 따르면, 기술은 우리의 ‘제2의 자아(second self)’다.233) 그것은 ‘남’이자 ‘우리’다. 자라서 우리와 완전히 분리된 마음을 갖게 되는 생물학적 아이들과 달리, 테크늄의 자율성은 우리와 우리의 집단 마음을 포함한다. 우리는 테크늄의 이기적 본성의 일부다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

테크늄이 우리 마음에 갈등을 일으키는 까닭은 우리가 자신의 본성을 받아들이기를 거부하기 때문이다. 즉 우리가 자신이 창조하는 기계와 하나로 이어져 있다는 사실을 말이다. 우리는 스스로를 만든 인간이며, 인간은 우리의 최고 발명품이다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

(9장 마지막 부분)

우리는 말을 길들여 온 것처럼 우리의 인간성을 길들여 왔다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

[마이리뷰] 인공지능은 무엇이 되려 하는가

[전자책] 인공지능은 무엇이 되려 하는가 - AI의 가능성과 위험을 바라보는 석학 25인의 시선
스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김 / 프시케의숲 / 2021년 11월

나는 머신러닝을 데이터에서 확률로 이끌어주는 도구라고 생각한다. 그러나 확률에서 실제 지식으로 이동하려면 여전히 가외의 단계를 두 개 더 만들어야 한다. 그것은 심지어 아주 크다. 하나는 행동의 결과를 예측하는 것이고, 두 번째는 조건법적 상상이다. 이 마지막 두 단계를 이루지 못한다면 현실을 이해한다고 말할 수 없다.

-알라딘 eBook <인공지능은 무엇이 되려 하는가> (스티븐 핑커.맥스 테그마크 지음, 존 브록만 엮음, 김보은 옮김) 중에서

사실 우리는 모든 기술 분야에서 동등한 발명이 독자적으로 동시에 이루어지는 일을 흔히 본다. 이 수렴이 발견은 불가피한 것임을 나타낸다면, 발명가는 분명 그냥 일어나고 말 발명으로 채워진 도관처럼 보일 것이다. 우리는 그것을 만드는 사람들이 거의 무작위적이지는 않을지라도 교체 가능하다고는 예상할 것이다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

[마이리뷰] 기술의 충격

[전자책] 기술의 충격 - 테크놀로지와 함께 진화하는 우리의 미래
케빈 켈리 지음, 이한음 옮김 / 민음사 / 2020년 1월

미래가 나아질 것이라는 생각은 최근까지 인기를 끌었던 적이 없다. 심지어 지금도 진보는 보편적으로 받아들여졌다고 할 수 없다. 흔히 문화 발전은 어느 순간에라도 서글픈 과거로 전락할 수 있는 예외적인 사건으로 여겨진다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서

우리는 더 많은 장치와 경험을 얻는 데에서 행복을 느끼는 것이 아니다. 우리는 자신의 시간과 일과 진짜 여가를 누릴 기회를 통제하는 데에서, 전쟁과 가난과 부패라는 불확실성을 피한다는 데에서, 개인의 자유를 추구할 기회를 지닌다는 데에서 행복을 느낀다. 그리고 이 모든 것은 풍요가 증가할 때 따라 나온다.

-알라딘 eBook <기술의 충격> (케빈 켈리 지음, 이한음 옮김) 중에서