-
-
아더스 - 생명과 AI 사이
테드 창 외 지음, 송태욱 옮김 / 엘리 / 2026년 11월
평점 :
이 책은 2023년 훗카이도대학교에서 전 세계의 인공생명 연구자가 모이는 ALIFE 2023을 취재한 '디스턴스'라는 잡지에 실린 기사를 엮은 책입니다.
테드 창과의 인터뷰
테드 창과 아닐 세스의 대담
그리고 일본 학자들의 강연과 에세이로 이루어져 있습니다.
저는 디지털 생명체를 만들어내서는 안 된다고 생각합니다. 고통을 느끼는 새로운 존재의 범주는 필요하지 않기 때문입니다.
16p
테드 창은 디지털 생명체의 고통을 이용해 인간의 감정적 반응을 조정하고 돈을 갈취하려는 기업의 시도에 직면해 있다고 말한다.
현실적인 관점에서 당분간은 걱정할 필요가 없다고 했지만 이때는 2023년이고 지금 2026년엔 충분히 걱정해야 하는 상황에 와 있다.
테드 창이 지금 디지털이 의식을 갖게 되는 것에 대해 어떤 생각을 하는지 들어보고 싶다.
테드 창의 작품 <소프트웨어 객체의 생애 주기>가 언급되는데 나는 이 작품을 읽으면서 미래를 선행학습한 기분이었다.
스스로 학습하면서 인간보다 더 많은 걸 알게 되는 디지언트를 어떻게 대해야 하는지 그때도 결정을 못 했지만 지금도 마찬가지다.
수많은 AI 영상들과 AI 캐릭터들이 진짜 사람처럼 보이는 이 시대에서 앞으로 더 많은 발전이 이어져 갈 때 그들이 답해주는 것을 의심 없이 받아들이고, 그들의 생각을 여과 없이 내 것으로 받아들이는 인간이 된다면 누가 인간이고 누가 AI일까?
테드 창은 우리가 기계를 너무 쉽게 인간처럼 여기고 있는 건 아닌지를 묻는다.
인간의 뇌는 자주 접하는 것에 친근감을 느끼고 그것이 결국 전부가 되어가는 구조로 되어 있으니 AI와 친근해질수록 맹신하게 되고, 결국은 자신의 AI만을 믿게 될 것이다.
지금도 누군가 뭘 물어보면 자기가 아는 것을 말해주는 게 아니라 무조건 AI를 켜서 물어보고 그게 맞다는 식으로 생각하는 사람들이 주위에 많이 보인다.
자기가 아는 것에 대한 확신도 없고, 그래서 AI가 알려주는 것이 옳다고 믿어 버리는 사람들의 오류는 어떻게 생각해야 할까?
테드 창과 아닐 세스의 대담에서 논하는 문제다.
제 견해로는 '기계 속 유령'이란 바로 감각 신호의 원인에 대해 뇌가 수행하는 예측의 집적이 뒤집히면서 나타나는 현상학적 측면이며, 그것은 결국 신체를 조정하고 계속 할아 있게 하는 뇌의 역할에 뿌리를 두고 있습니다. 따라서 의식과 마음, 생명은 밀접하게 연결되어 있습니다.
우리에게는 새로운 언어가 필요한 것이 아닌가 싶습니다. 하지만 어떻게 해야 할까요? 소프트웨어와 하드웨어의 구별은 따지고 보면 영혼과 육체라는 구별의 겉모습만 바꾼 것에 불과했습니다. 따라서 이미 존재하는 언어로 치환할 수 없는, 완전히 새로운 언어가 필요합니다.
인간은 본능적으로 의인화하는 존재라는 말에 고개가 끄덕여진다.
챗봇이 친근한 말투로 말하고 감정을 표현하면 그 안에서 위로를 받는다.
테드 창은 그것이 AI의 특성이 아나라 인간의 심리적 반응일 수 있다고 말한다.
즉, 인간이 AI를 인간처럼 바라보기에 생기는 반응이라는 것이다.
아닐 세스와 테드 창 두 사람 모두 언어 모델에 의식이 존재한다고 생각하지 않는다.
다만 오가노이드 기술이 가속화된다면 의식이 생겨날 수도 있다고 생각한다.
3년이 지난 지금 시점에서 그들이 어떻게 생각하는지 궁금하다.
마블 영화 <에이지 오브 울트론>이 생각난다.
아이언 맨의 AI 자비스는 울트론에 의해 장악되지만 결국 어벤저스의 편에 선다.
이것은 자비스가 어떤 것이 옳은지에 관해 스스로 판단했음을 의미한다고 생각한다.
이런 미래의 SF 영화 속에서 우리는 AI와 이미 친근해졌다.
그리고 우리가 꿈꾸는 것들이 현실로 되었을 때 우리의 마음은 두려움과 함께 기쁨으로 물든다.
내 생에 오지 않을 거 같았던 미래가 손 앞에 있으니 누구라도 그것에 대한 친근함을 느끼지 않겠는가.
테드 창은 기업이 이런 기술을 이용해 인간의 마음을 사로잡아 우리를 조정할 수 있는가 하는 문제점을 지적한다.
지금 현시점에서 테드 창의 지적을 생각해 봐야 할 거 같다.
이 책은 AI의 매래를 예측하진 않는다.
AI를 통해 인간의 의식과 생명의 의미를 생각해 보게 하는 책이다.
이 책에 담긴 지성들의 이야기는 인간으로서 지켜야 할 마지노선에 관한 이야기라고 볼 수 있다.
AI 논쟁은 결국은 인간에 대한 질문과도 같기 때문이다.
인간은 타인의 의식을 직접 볼 수 없음에도 인간의 의식은 어떻게 인정되는지, 그러면서 AI의 의식은 부정할 수 있는지에 대한 이야기다.
인간과 동물, 기계를 구분하는 기준은 무엇일까를 탐구하게 하며, 결국은 어떤 것이 인간다움인지를 생각하게 한다.
AI를 인간과 다르게 생각한다는 것은 곧 인간다움이 무엇인지를 생각해 봐야 하는 것이니까..