p128
인공지능을 탑재한 자동화 시스템, 무인 자동차(자율 주행 차), 로봇으로 대체된 무인 공장을 비롯한 각종 무인 시스템과 그에 따른 대량 실업, 방향성을 상실한 교육 시스템 등등. 아직 뚜렷하지는 않더라도 인간에게 불리하며 암울하고 불확실한 미래를 맞이하지 않으려면, 우리는 지금까지와는 다른 관점과 태도로 철저히 대비해야 한다는 것입니다.
p143
"인간이란 무엇인가?"
좀 더 자세히 말하자면 과거 인간이란 무엇이었고, 미래에도 변하지 않을 인간다움은 무엇이며, 미래에 반드시 지켜야 할 인간다움은 무엇인가 하는 질문입니다. 인공지능과 감성을 함께 갖춘 로봇과 비교할 때 인간만의 '경쟁력'이 무엇인지 고민하고 찾아야 합니다. 도저히 이길 수 없는 게임에서도 인간이 승리하고 마는 온갖 할리우드 SF영화의 반전처럼 인간만의 한 방을 꼭 찾아내야 할 때입니다.
p147
특이점이라는 말은 우주물리학에서 사용하는 개념 중 하나입니다. 우주 대폭발, 즉 빅뱅이 일어나면 그때부터 우주에는 시간과 공간이 생깁니다. 그리고 우주는 빅뱅 이후 계속 확장됩니다. 확장되는 우주의 내부는 우리가 잘 알 고 있는 물리법칙이 적용되는 세계입니다. 그러나 시공간의 경계선에서는 그 법칙이 적용되지 않습니다. 대표적인 예가 바로 블랙홀입니다.
......
일반적인 의미에서 특이점은 '어떤 체계가 이전과는 완전히 다른 방식으로 변화하는 순간(지점)'이라고 말할 수 있습니다. 이러한 개념을 기술 문명의 진화와 관련지으면, 미래에 기술 변화가 급속하게 진행되어 '인간의 생활을 인간이 제어할 수 없게 되는 지점'으로 해석할 수도 있습니다.
또 다르게 말하면 '인간의 자연 지능이 더는 인공지능을 통제할 수 없음'을 의미하기도 합니다. 예를 들어 인공지능이 '자의식'을 지니게 되면, 인간이 어떤 명령을 하더라도 그 명령을 따르지 않을 수도 있습니다. 자의식을 가진 인공지능을 흔히 '강한'인공지능이라고 하고, 자의식이 없는 인공지능을 '약한'인공지능이라고 합니다. 지금 우리가 인공지능이라고 부르는 것들은 약한 인공지능, 그것도 초보적인 수준에 해당합니다.
여기서 자의식이란 쉽게 말해서 자기 자신을 자각하는 의식입니다. 이 자의식이 있어야 성찰할 수 있는 능력이 생깁니다.....'네가 무엇을 알고 무엇을 모르는지 알라'라는 것입니다. 즉, 자신이 아는 것과 모르는 것을 정확히 알고 행동하는 것은 자의식의 가장 중요한 반성 능력입니다.
p162
그런데 이러한 논의가 궁극적으로 향하는 지점에서 우리는 다시 '행복한 삶이란 무엇인가?'라는 문제의식과 마주할 수 있습니다. 첨단 기술의 발전을 어디까지 허용할 것인지를 합의할 때 그것이 인규의 행복을 위협할지가 중요한 기준이 될 것입니다. 또 설령 허용된 기술이라고 하더라도 개개인이 그 기술을 자신의 삶에 적용할지 말지를 결정하는 일은 그 사람이 행복을 무엇이라고 생각하느냐에 따라 달라질 테고요.
따라서 우리는 '과연 어떻게 사는 것이 행복인가?'를 스스로 진지하게 고민할 필요가 있습니다. 행복한 삶에 대해 자신만의 명확한 판단 기준을 세우고 있어야만 막상 무엇인가를 합의하거나 선택해야 할 때 분명히 의지에 따라 목소리를 내고 자기표를 행사할 수 있을 테까요.
p173
고대 그리스의 철학자이자 일명 '쾌락주의자'라고 불리는 에피쿠로스는 "행복은 쾌락에 있다."라고 주장했습니다. 여기서 행복은 편안하고 안정적이며 우리에게 만족을 주는 상태를 의미합니다. 그런데 그는 우리에게 진정한 쾌락이 무엇인지를 묻습니다. 육체적이고 감각적인 쾌락은 이어지기 어렵습니다. 인간은 적응의 동물이니까요. 반면에 정신적인 쾌락은 오래 이어진다는 점에서 우리가 진정으로 추구해야 할 쾌락이라고, 에피쿠로스는 말합니다. 물론 그렇다고 육체적이거나 감각적인 만족을 무시하라는 의미는 아닙니다. 그것 역시 중요합니다. 다만 핵심은 쾌락의 노예가 되어서는 안 된다는 점에 있습니다. 노예가 되었다는 것은 주체성을 잃어버린 상태입니다. 인간다움에서 가장 중요한 부분을 놓친 것입니다. 일종의 기계가 된 상태이니까요.
오직 감각적인 쾌락만을 추구하는 존재는 본능의 명령에 무조건 복종하는 기계와 다를 게 없습니다. 아무런 강제가 없으면 자기 본능을 거스르지 못하는 개나 고양이와 같습니다. 인간이 자유로운 것은 개나 고양이와는 달리 스스로 자신의 본능과 욕망을 제.어.할 수 있는 능력이 있기 때문입니다. 하.고.싶.지.만. 안. 할. 수. 있.는. 능력과 하기 싫지만 할 수 있는 능력이야말로 인간만이 누릴 수 있는 자유이자 인간 주체성의 핵심입니다.
p191
...인간이 미래를 생각하며 사는 것은, 인간이 현재 존재하는 것들 속에서 '존재하지 않는 것을 볼 수 있는 존재'라는 의미입니다. 이것이 바로 인간의 '창의성'입니다. ...인간의 창의성은 원리적으로는 인간이 미래를 사는 존재이기 때문에 가능한 것입니다.
p199
내 삶에 문제가 생겼을 때는 문제를 해결하는 과정도 중요하지만, 그 결과도 중요합니다. 따라서 가능한 한 최선의 해결책을 찾기 위해 노력해야 하고, 그 과정에서 다른 사람의 도움을 받아야 합니다. 어차피 인간은 혼자 사는 존재가 아니라 함께 살아가야 하고, 내가 문제를 해결하기 위해 뭔가를 선택한다면 그 선택은 에외 없이 다른 사람에게 영향을 주기 마련입니다. 독선적인 방식으로 문제를 해결하는 것은 좋은 해결책을 찾기도 어렵고, 그 결과도 이기적인 방향으로 흐르기 쉽습니다.
더욱이 앞서 말한 것처럼 리래에는 많은 사람이 점점 더 다양한 형태의 삶을 살아가게 될 것입니다. 새로운 직업이 만들어지고 새로운 형태의 삶을 살아가는 사람이 늘어날 것입니다. 그러한 환경에서 모두 함께 잘 살아가기 위해서는 다른 생각을 하는 사람을 존중하고 배려하는 태도가 중요합니다. 그러려면 다른 사람의 의견에 귀 기울이고, 신중하게 생각해야 하겠죠. 이는 바람직한 민주주의적 의사결정의 기본 이념이기도 합니다. 타인의 의견을 흘려듣지 않으면서도 주체성을 잃지 않는 태도를 잊어서는 안 됩니다.
p213
진정한 창의성은 '무엇이 문제인지'를 정의하는 것에서 시작합니다. 이 책에서 제가 늘어놓은 다양한 문제를 여러분의 관점에서 '새롭게 정의'하고, 그 문제를 풀기 위해 필요한 것들을 하나씩 찾아보세요. 아마 함게 풀어갈 친구들도 필요할 거예요. 여러분이 문제를 하나씩 해결해 가는 힘을 얻도록 하는 것이 바로 이 책의 목적입니다.