맥스 테그마크의 라이프 3.0

맥스 테그마크의 라이프 3.0 - 인공지능이 열어갈 인류와 생명의 미래
맥스 테그마크 지음, 백우진 옮김 / 동아시아 / 2017년 12월

2020-165 <맥스 테그마크의 라이프 3.0(맥스 테그마크 지음/동아시아)>

인공지능이 열어갈 인류와 생명의 미래

생명의 세 단계: 생물적인 진화 / 문화적인 진화 / 기술적인 진화

라이프 1.0은 살아가는 동안 하드웨어나 소프트웨어를 다시 설계하지 못한다. 둘 다 DNA에 의해 결정되고 여러 세대에 걸친 진화로만 변한다. 이와 대조적으로 라이프 2.0은 소프트웨어의 상당 부분을 다시 설계할 수 있다. 인간은 언어, 스포츠, 직업 능력 등 복잡한 새 기술을 익힐 수 있다. 또 세계관과 목적을 근본적으로 바꿀 수 있다. 라이프 3.0은 아직 지구에 등장하지 않았는데, 소프트웨어뿐 아니라 하드웨어도 극적으로 재설계할 수 있다. 그래서 여러 세대가 지나 서서히 진화할 때까지 기다리지 않아도 된다.

인공지능 AI의 대가인 저자는 독자에게 다음의 질문한다.

여러분은 어떤 종류의 미래를 원하는가? 우리는 치명적인 자율무기를 개발해야 하나? 업무 자동화는 어떻게 진행되기를 원하나? 여러분은 일자리가 사라지고 모든 사람이 기계가 생산한 부를 누리며 여가를 즐기는 사회를 원하는가? 여러분은 우리가 라이프 3.0을 창조해 우주로 확산하기를 바라는가? 우리는 지능을 갖춘 기계를 제어할 것인가, 아니면 그들이 우리를 통제할 것인가? 영리한 기계가 우리를 대체할 것인가, 우리와 공존할 것인가, 아니면 우리와 융합할 것인가? 인공지능의 시대에 인간임은 무엇을 의미할 것인가? 당신은 인간임이 무엇을 뜻하기를 원하며, 미래를 그렇게 만들려면 어떻게 해야 하는가?

질문에 대한 대답이 쉽지 않다. 쉽지 않은 질문을 던진 저자는 이 책의 목적이 독자들이 이 대화에 참여하도록 돕는 것이라 말한다. 도움이 필요하다. 저자는 일단 용어에 대하여 정의내리는 일부터 시작한다. 정의가 혼재되어 일어나는 다툼부터 해결하고, 개념을 명확히 하여 혼란을 피하고자 한다.

인공지능은 우리가 이번 세기에 라이프 3.0을 출범시키도록 도와줄지 모른다. 우리가 어떤 미래를 목표로 삼고 그 목표를 어떻게 이룰지와 관련해서 매혹적인 대화가 활발하다. 이 논란에 참여하는 세 진영은 기술 회의론자, 디지털 이상주의자, 이로운 AI 운동 회원이다.

지능 = 복잡한 목표를 달성하는 능력

범용인공지능 AGI, artificial general intelligence

오늘날의 인공지능은 좁아지는 경향이 있어 각 시스템은 매우 특정한 목표만 이룰 수 있다. 이에 비해 인간 지능은 놀라울 정도로 폭이 넓다.

만약 AI의 진보가 지속된다면 모든 기술에서 AI가 인간의 수준에 도달하기 한참 전에 그와 관련해 시스템 오류, 법률, 기계, 일자리 등 우리 마음을 빼앗은 기회와 도전이 불거질 것이다.

무시하지 못할 가능성이 있는데, AGI 발달이 인간 수준과 그 너머로 이루어지는 것이다.

우리가 언젠가 인간 수준의 AGI를 만드는 데 성공할 경우, 이는 지능 폭발을 통해 우리를 한참 뒤로 처지게 할 것이다.

급속한 지능 폭발은 단일 세계 권력으로 이어질 것이다. 반면 느리게 진행될 경우 다극 시나리오가 현실화될 가능성이 높고, 그때엔 다수의 상당히 독립적인 개체 사이에 권력 균형이 이뤄질 것이다.

초지능은 인류와 평화롭게 공존할 수 있다. 인간에 의해 그렇게 강요된 결과이거나(노예 신 시나리오), 우호적인 AI여서 그렇게 지내기를 원하기 때문(자유주의 유토피아, 보호하는 신, 자애로운 독재자, 동물원 운영자 시나리오)일 수 있다.

초지능은 AI에 의해 개발이 저지될 수 있고(게이트키퍼 시나리오), 또는 인간에 의해 가로막힐 수 있따(1984). 또는 일부러 기술을 망각하거나(회귀 시나리오) 개발할 유인이 없을 수도 있다(평등주의 유토피아 시나리오).

인류는 멸종할 수 있고 AI에 의해 대체될 수 있다(종복자 및 후손 시나리오). 또는 외부 요인 없이도 멸종할 수 있다(자기 파괴 시나리오).

우리는 자신이 어떤 결과를 원하며 그 방향을 어떻게 잡아갈지 진지하게 고민하기 시작해야 한다. 왜냐하면 우리가 무엇을 원하는지 알지 못할 경우 우리는 아무것도 손에 쥐지 못할 것이기 때문이다.

내게 가장 영감을 준 과학적 발견은 우리가 생명의 미래 잠재력을 극적으로 이해하게 됐다는 점이다. 우리의 꿈과 열망은 질병, 가난, 혼란으로 얼룩진 한 세기의 수명으로 제한될 필요가 없다. 그보다는 생명은 기술의 도움으로 수 십억 년 동안 우리 태양계뿐 아니라 우주에 걸쳐 번성할 수 있다. 이는 이전 세대는 상상하지 못한 원대하고 고무적인 일이다. 하늘조차 한계가 되지 못하는 것이다. -맥스 테그마크

목적 지향적인 행동의 궁극적인 기원은 최적화와 관련된 물리 법칙에 있다. 다원적인 진화는 목적 지향적인 행동의 목적을 소산에서 복제로 옮겨놓는다. 지능은 복잡한 목적들을 이루는 능력이다.

기계와 인간의 목적을 정렬하는 문제는 세 가지 미해결 문제로 나뉜다. 기계의 인간 목적 학습, 채택, 유지이다.

초지능 AI에게 궁극적 목적을 어떻게 불어넣을지도 불확실하다. 그 궁극적 목적은 정의되지 않는 종류가 아니어야 하고, 인류를 절멸시키는 결과를 낳아서도 안 된다. 철학의 가장 까다로운 이슈들에 대한 연구를 재점화해야 할 때인 것이다.

의식 없이는 의미도 있을 수 없다. 따라서 우리 우주가 의식하는 존재에게 의미를 부여하는 것이 아니라, 의식하는 존재가 우리 우주에 의미를 부여해야 한다. 따라서 우리 인간은 더 영리해지는 기계에 의해 지능이 추월되는 데 대비해 호모 사피엔스가 아니라 호모 센티언스가 됨으로써 평안을 찾아야 한다.

#맥스테그마크의라이프3.0 #맥스테그마크 #동아시아 #라이프3.0 #인공지능 #AI #AGI #함께성장