기술은 삶이 전에 없이 흥성하도록 하는 잠재력을 품고 있다.
그 잠재력은 스스로를 파괴하는 것일 수도 있다.
- 생명의 미래 연구소- - P40
아무도 생명이 거의 없는 공간인 우주를 다양한 생물권으로 변신시켜 수십억 년, 수조 년 동안 번성하도록 함으로써 우리 우주가 마침내 잠재력을 다 발휘하고 완전히 깨어나도록 하지 못한다. 이런 점을 고려할 때 생명은 라이프 3.0으로 최종 업그레이드가 돼야 한다. 소프트웨어는 물론이고 하드웨어도 설계하는 능력을 갖추자는 얘기이다. 말하자면 라이프 3.0은 자신의 운명의 주인이 돼 마침내 진화의 족쇄에서 완전히 벗어나는 것이다. - P48
내가 처음으로 스튜어트 러셀Stuart Russell을 2014년 6월 파리의 한 카페에서 만났을 때 그는 전형적인 영국 신사라는 인상을 줬다. 그는 언변이 유창하고 사려 깊은 데다 목소리가 부드러웠지만 눈빛이 모험심으로 반짝였다. 어린 시절 내 영웅은 쥘 베른Jules Verne의 1873년 소설『80일간의 세계일주의 주인공인 필리어스 포크였는데, 그는 포크가환생한 인물 같았다. 그는 이 주제에 대해 표준이 되는 교과서를 저술했고 살아 있는 AI 연구자 중에서 매우 유명한 인물로 꼽혔는데도, 겸손하고 다감해 나를 편하게 했다. 그는 "AI 연구의 진전을 보면서 인간수준 AGI가 이번 세기에 정말 가능하겠다는 주장을 받아들이게 됐다" 라고 설명한 뒤, 자신은 희망적이지만 좋은 결과가 보장된 건 아니라고 말했다. - P55
인생은 여행이다. 목적지가 아니다.
- 랄프 왈도 에머슨
-알라딘 eBook <맥스 테그마크의 라이프 3.0> (맥스 테그마크 지음, 백우진 옮김) 중에서
(7장 맨 앞)
AI 논란 중 가장 껄끄러운 부분이 무엇이냐는 질문에 한 단어로 대답해야 한다면, 나는 ‘목적’이라고 말하겠다. 우리는 AI에게 목적을 부여해야 하는가? 그렇다면 그 목적은 무엇이어야 하는가? AI에게 어떻게 목적을 심어줄 것인가? AI는 더 영리해진 뒤에도 전에 우리에게서 받은 목적을 유지할까? 우리보다 똑똑한 AI의 목적을 우리가 바꿀 수 있을까? 우리의 궁극적인 목적은 무엇인가? 이들 질문은 어려울 뿐 아니라 생명의 미래라는 측면에서 중요하다.
-알라딘 eBook <맥스 테그마크의 라이프 3.0> (맥스 테그마크 지음, 백우진 옮김) 중에서
|