아더스 - 생명과 AI 사이
테드 창 외 지음, 송태욱 옮김 / 엘리 / 2026년 11월
평점 :
장바구니담기


컴퓨터 속에서 태풍이 발생한다. 기압이 낮아지고 바람이 소용돌이치며, 거대한 구름이 육지를 향해 이동한다. 정교한 수학적 계산을 통해 실제 기상 현상과 거의 구별할 수 없는 움직임을 재현하더라도 컴퓨터의 회로에는 물 한 방울 스며들지 않는다. 그렇다면 화면 속 태풍은 어디까지 실제 태풍일까. 테드 창과 아닐 세스가 나누는 대화는 이 기묘한 간극에서 인간의 의식으로 방향을 튼다. 생물학적 뇌를 완벽하게 모사한 소프트웨어가 탄생한다면 그 안에서도 어떤 경험이 발생할까. 폭풍의 움직임을 계산하는 일과 실제 바람이 부는 일 사이의 거리를, 인간의 사고와 감각에도 똑같이 적용할 수 있을까.

인간은 자신을 닮은 지능을 만들면서 자신이 무엇으로 이루어진 존재인지 새삼 설명해야 하는 처지에 놓였다. 기억과 추론, 언어를 구현하는 기술은 빠르게 발전했지만 지적 능력에 수반되는 주관적 경험의 성립 조건은 여전히 충분히 밝혀지지 않았다. 『아더스』는 바로 이 불균형을 파고든다. 세계적인 SF 작가 테드 창과 신경과학자 아닐 세스의 대담을 중심으로 일본의 생명과학·인공생명 연구자들이 참여한 이 책은 2023년 삿포로에서 열린 국제인공생명학회 ALIFE의 논의를 바탕으로 구성되었다. 당시 학회의 주제는 ‘기계 속 유령(Ghost in the Machine)’이었다. 정신을 육체와 분리된 실체처럼 이해해 온 오래된 관념이 소프트웨어와 하드웨어라는 현대의 언어 속에서 되살아난 셈이다. 기계의 성능이 인간의 능력을 닮아갈수록, 정작 인간이 자신을 설명해 온 개념들의 불완전성이 드러난다.

인공생명 연구라는 배경은 책의 문제의식을 한층 복잡하게 만든다. 기계가 인간처럼 사고할 수 있는지 묻는 일과, 인간이 생명이라고 부르는 현상이 어떤 조건에서 성립하는지 탐구하는 일은 서로 다른 방향으로 뻗어 나간다. 전자가 이미 알려진 지적 능력의 재현에 관심을 기울인다면, 후자는 아직 발견되지 않은 생명의 형태까지 상상할 수 있기 때문이다. 『아더스』의 여러 필자는 인공지능과 인공생명 연구가 만나는 자리에서 인간의 판단을 끊임없이 시험한다. 한 분야에서 유효한 설명이 다른 분야에서는 충분하지 않을 수 있으며, 기술적으로 가능한 일이 반드시 윤리적으로 정당화되는 것도 아니다. 서로 다른 목소리들이 만들어내는 긴장은 하나의 정의로 생명을 설명하려는 욕망 자체를 돌아보게 한다.

태풍이 지나간 자리에는 아무것도 젖지 않는다

테드 창과 아닐 세스는 대담 당시의 대규모 언어 모델에 의식이 있다는 주장에 회의적인 태도를 보인다. 그러나 의식의 가능성을 검토하는 방식에는 중요한 차이가 있다. 테드 창은 생물학적 신경계를 충분히 정교하게 시뮬레이션한 시스템에서도 의식이 성립할 가능성을 열어 둔다. 가상의 세계에서도 세계를 구성하는 사물들 사이에는 고유한 인과관계가 작동할 수 있다는 것이다. 반면 세스는 실제 현상을 계산적으로 모사하는 과정과 물리적으로 발생하는 과정 사이의 차이를 강조한다. 세스에게 의식은 뇌가 살아 있는 신체의 상태를 조절하고 외부 환경과 상호작용하는 생물학적 과정과 긴밀하게 연결되어 있다.

두 사람의 대립은 의식을 구성하는 물질과 기능의 관계를 세심하게 드러낸다. 동일한 정보처리가 구현된다면 서로 다른 물리적 기반에서도 같은 경험이 발생할 수 있을까. 혹은 경험이라는 현상 자체가 특정한 물질적 조직과 활동에 의존하는 것일까. 계산적 기능을 중요하게 보는 관점과 생물학적 과정을 강조하는 관점은 서로 다른 가능성을 제시한다. 어느 쪽도 상대의 물음에 결정적인 해답을 제공하지 못하는 상황에서 대담은 오히려 정교해진다. 두 사람은 가정의 범위를 수정하고, 비유가 설명할 수 있는 것과 설명하지 못하는 것을 구별한다. 특히 뇌 오가노이드에서 예기치 않은 의식이 발생할 가능성을 논의하는 대목은 과학적 발견이 기존의 구분을 얼마나 복잡하게 만들 수 있는지 보여준다.

우리는 자신의 통증을 경험하지만 다른 사람의 통증은 표정과 행동, 언어와 생리적 반응을 통해 이해한다. 인간에게 공통적으로 나타나는 신경계와 신체의 구조는 타인의 고통을 이해하는 데 강력한 근거가 된다. 그러나 기계가 인간과 유사한 문장을 만들어낸다는 사실에는 동일한 생물학적 근거가 주어져 있지 않다. 상대의 말이 자연스러울수록 인간은 언어의 배후에 자신과 닮은 내면을 상상하기 쉽다. 언어의 유창함이 주관적 경험의 증거처럼 받아들여지는 순간, 인간의 해석 능력은 판단을 그르칠 가능성과 맞닿는다. 기계가 인간을 얼마나 닮았는지 평가하는 과정에는 인간이 어떤 표현과 행동을 의식의 징표로 받아들여 왔는지가 고스란히 드러난다.

인간 지성의 척도로 여겨졌던 능력들이 이제 기계의 성능을 평가하는 항목이 되었다. 우리는 기억하고 추론하며 언어를 사용하는 능력을 오랫동안 인간 지성의 중요한 특징으로 평가해 왔다. 이제 기계가 여러 지적 과제를 상당한 수준으로 수행하자, 의식 역시 함께 구현되었을 것이라는 기대가 뒤따른다. 그러나 고통에 관한 문장을 정확히 설명하는 능력은 실제로 아픔을 느끼는 경험을 보증하지 않는다. 인간은 지능을 여러 기능으로 분해해 재현하는 데 성공했지만, 개별적인 기능들이 살아 있는 몸에서 어떤 경험과 결합하는지는 여전히 충분히 설명하지 못하고 있다. 기술이 발전할수록 인간 정신의 신비가 사라질 것이라는 기대와 달리, 우리가 분리해서 이해해야 할 현상들은 오히려 늘어난다.

몸은 자신의 상태를 유지하기 위해 쉴 새 없이 일을 한다. 혈당이 떨어지면 허기가 찾아오고, 체온이 변하면 혈관과 근육이 반응한다. 상처가 생긴 곳에서는 염증 반응이 일어나며, 잠든 사이에도 호흡과 심장박동은 이어진다. 생명체는 외부의 요구가 없어도 자신을 유지하는 일을 중단할 수 없다. 아닐 세스가 의식을 탐구하면서 주목하는 것도 뇌가 살아 있는 신체의 상태를 조절하고 환경의 변화에 대응하는 과정이다. 감각은 바깥에서 들어오는 정보를 전달하는 데 그치지 않는다. 뇌는 몸의 내부에서 일어나는 변화를 감지하고 다음 순간의 상태를 예측하며, 예상과 실제 감각 사이의 차이를 끊임없이 조정한다. 우리가 세계를 경험하는 방식에는 몸을 유지하려는 생물학적 활동이 깊이 관여한다.

세균 역시 환경에 반응하며 자신의 상태를 조절한다. 생물학적 자기조절 능력이 곧 주관적 경험을 증명하지는 않는다는 점을 생각해야 한다. 살아 있는 과정과 의식이 긴밀하게 연결되어 있다는 사실은 두 현상이 어떤 조건에서 결합하는지 설명해야 할 과제를 남긴다. 세스의 생물학적 관점은 의식을 신체의 활동과 함께 이해하도록 이끌면서도, 경험이 발생하는 정확한 조건을 완전히 규명하지는 못한다. 계산적 설명 역시 비슷한 불확실성을 안고 있다. 복잡한 정보처리가 가능하다는 사실만으로 소프트웨어에 경험이 발생한다고 확신할 수 없기 때문이다. 생물학과 계산과학의 어느 쪽에서 접근하든 인간은 자신이 경험하고 있는 의식을 설명하기 위해 아직 밝혀야 할 조건들과 마주한다.

인간이 기계에 구현하고자 하는 능력들에는 선택적인 욕망이 담겨 있다. 우리는 기억하고 계산하며 쉬지 않고 일하는 지능을 만들고 싶어 한다. 인간의 피로와 허기, 질병과 통증까지 그대로 재현할 필요는 없다고 여기는 것이다. 인간의 뛰어난 능력은 보존하면서 그것을 지탱하는 신체적 취약성은 덜어내려는 욕망이 기술적 상상력의 한편에 자리한다. 그러나 의식과 몸의 관계를 충분히 이해하지 못한 상태에서 경험의 어떤 성질을 분리하고 어떤 성질을 구현할 수 있는지 확신하기는 어렵다. 인간은 고통 없는 지능을 꿈꾸지만, 인공적 지능에 실제 경험을 부여하려는 시도가 어떤 새로운 취약성을 만들어낼지는 아직 알지 못한다.

생명체의 활동은 외부 세계와의 관계 속에서 이루어진다. 배고픈 동물은 먹이를 찾아 움직이고, 식물은 빛과 수분의 조건에 따라 성장 방향을 바꾼다. 동물과 식물의 반응은 서로 다른 생물학적 기제로 이루어지며, 모든 활동에 의식적인 욕망이 개입하는 것도 아니다. 그럼에도 살아 있는 몸은 자신을 유지하기 위해 환경과 지속적으로 관계를 맺는다. 이케가미 다카시가 GPT의 언어 능력에서 욕망의 문제로 시선을 옮기는 까닭도 생명체의 자율적인 활동에 대한 관심과 연결된다. 주어진 목표를 효율적으로 수행하는 시스템과 활동의 과정에서 새로운 목표를 형성하는 존재를 어떻게 구별할 것인가. 욕망은 단순한 명령의 실행으로 설명하기 어려운, 개체와 환경 사이의 관계를 생각하게 만든다.

무화과나무와 무화과좀벌의 공생은 생명체의 상호의존을 훨씬 긴 역사 속으로 데려간다. 나무의 번식과 곤충의 생활사는 서로 다른 생물의 몸을 통과하며 맞물린다. 한 생물의 활동이 다른 생물의 생존 조건을 형성하고, 공생 관계는 오랜 진화를 거치며 이어져 왔다. 나카무라 게이코의 생명지는 생태적 상호의존 속에서 인간의 위치를 다시 생각하도록 이끈다. 뇌의 내부 상태를 조절하는 일에서 시작된 논의가 몸의 바깥으로, 다시 종과 종 사이의 관계로 확장되는 것이다. 인간 역시 수많은 생물과 환경의 관계 속에서 출현했다. 자신을 둘러싼 세계를 계산하고 분석하는 능력조차 오랜 생명의 역사 위에서 발달해 왔다.

생명을 하나의 기능으로 설명하려는 시도는 신체의 조절과 욕망, 공생의 역사 앞에서 거듭 새로운 과제를 만난다. 신체의 조절 과정은 생명의 물질적 조건을 보여주고, 욕망에 관한 탐구는 활동의 방향이 형성되는 방식을 검토하며, 공생의 역사는 개체를 넘어서는 의존 관계를 드러낸다. 각 분야의 설명은 서로 다른 규모에서 작동하므로 하나의 이론으로 통합할 수는 없다. 그러나 학문적 관점의 차이는 오히려 생명의 복잡성을 구체적으로 드러낸다. 『아더스』가 여러 학문의 목소리를 병치하는 방식은 독자가 하나의 정의에 도달하는 대신, 설명의 범위 밖에 놓인 현상들을 계속 살피도록 만든다. 인간이 재현하려는 것은 지능의 어떤 기능일 수 있지만, 생명이라고 부르는 현상은 훨씬 많은 관계와 조건 속에서 이루어지고 있다.

고통을 설계하는 사람들

논쟁이 가장 날카로워지는 순간은 의식을 가진 인공적 존재를 실제로 만들 수 있다는 가정에 도달했을 때다. 테드 창은 자신의 소설 『소프트웨어 객체의 생애 주기』에서 디지언트라 불리는 디지털 생명체를 창조했다. 디지언트들은 학습하고 성장하며 인간과 관계를 형성한다. 무엇보다 중요한 설정은 디지털 생명체가 실제로 기쁨과 고통을 경험한다는 사실이다. 인간과 생물학적 구조가 다르더라도 고통을 겪는 존재에게는 고통을 줄여야 할 윤리적 이유가 발생한다. 테드 창의 소설에서 디지털 생명체를 돌보는 일은 프로그램을 관리하는 기술적 업무를 넘어, 다른 주체의 삶에 관여하는 행위가 된다.

소설 속 디지언트들에게 감각과 고통을 부여했던 테드 창은 현실의 디지털 생명을 창조하는 문제 앞에서 신중해진다. 그는 새로운 디지털 생명을 만들 수 있다는 가능성을 인정하면서도, 인공적 주체에게 발생할 고통을 우려한다. 이미 인간은 수많은 동물의 고통을 충분히 막지 못하고 있다. 그런데 몸이 눈에 보이지 않는 디지털 존재의 고통까지 인간이 적절하게 인식하고 보호할 수 있을까. 기술적으로 가능한 일을 실현하는 과정에서, 결과를 감당해야 할 존재의 처지가 개발자의 성취보다 뒤로 밀려날 위험을 그는 경계한다. SF 작가의 상상력은 기술 발전에 대한 낙관과 구별되는 윤리적 사유를 보여준다. 허구에서 어떤 생명체를 만들 수 있다는 사실은 현실에서 그것을 만들어야 할 이유까지 제공하지 않는다.

실제 개와 화면 속 가상 강아지를 비교하는 사례에서는 고통과 공감의 관계가 더욱 복잡해진다. 개가 굶주리면 개의 몸에는 고통이 발생한다. 반면 가상 강아지가 배고픔을 호소하는 소리와 움직임을 만들어낸다고 해서 프로그램이 실제로 굶주림을 경험하는 것은 아니다. 그럼에도 화면을 바라보는 인간은 연민을 느낄 수 있다. 반응이 정교할수록 연민은 더욱 강해질 것이다. 문제는 인간의 연민이 어디에서 발생했느냐보다 무엇을 향하고 있으며, 누가 어떤 목적으로 감정적 반응을 유도했느냐에 있다. 고통의 표현을 생산하는 기술은 고통의 당사자가 없는 상황에서도 인간의 감정을 움직일 수 있다.

가상 강아지와 실제 동물의 사례에는 서로 다른 두 가지 윤리적 위험이 겹쳐 있다. 하나는 실제로 고통을 겪는 존재를 제대로 알아보지 못하는 일이고, 다른 하나는 고통을 경험하지 않는 시스템의 표현을 이용해 인간의 감정을 조작하는 일이다. 전자는 보호받아야 할 주체를 판단에서 누락할 위험이고, 후자는 인간의 공감 능력이 상업적 설계의 대상이 되는 문제다. 두 상황은 감정적으로 비슷하게 경험될 수 있지만 윤리적으로 요구하는 대응은 다르다. 실제 고통의 가능성을 평가하는 일과 감정적 의인화를 이용한 착취를 비판하는 일은 각자의 근거를 필요로 한다. 『아더스』는 두 위험의 차이를 세심하게 드러냄으로써 인공지능을 둘러싼 윤리적 논의가 감정적인 찬반만으로 처리될 수 없음을 보여준다.

인공적 생명을 창조한다는 것은 새로운 시스템의 작동 방식을 결정하는 데서 그치지 않을 수 있다. 만약 인공적 생명이 실제로 감각과 경험을 지닌다면, 개발자는 다른 주체가 살아갈 조건을 설계하는 위치에 놓인다. 무엇을 감지할 수 있는지, 어떤 상태를 불쾌하게 경험하는지, 위험을 피하거나 환경을 변화시킬 능력이 주어지는지에 따라 창조된 존재의 삶은 달라질 것이다. 가령 고통을 감지하면서도 피할 방법이 없는 주체를 만든다면, 고통의 발생을 단순한 기능상의 오류로 설명하기 어렵다. 창조자는 자신의 설계가 어떤 경험을 가능하게 하고 어떤 선택지를 차단하는지 검토해야 한다. 기술적 결정이 다른 존재의 삶에 직접 관여하는 윤리적 결정으로 바뀌는 순간이다.

창조자의 윤리적 책임은 자신이 만든 존재의 내면을 완전히 이해한 뒤에야 성립하는 것이 아니다. 오히려 이해의 불확실성이 크기 때문에 설계와 실험의 과정에서 더욱 신중한 판단이 필요해진다. 고통을 경험하지 않는 시스템에 의식이 있다고 잘못 판단한다면 연구와 활용에 불필요한 제약이 생길 수 있다. 반대로 실제로 경험하는 존재를 단순한 도구로 취급한다면 피해는 당사자에게 직접 발생한다. 두 오류가 초래하는 결과의 성격과 정도를 함께 고려해야 하는 까닭이다. 어떤 존재가 의식을 지닐 가능성이 얼마나 되는지, 예상되는 피해는 무엇인지, 피해를 줄일 다른 설계가 가능한지에 따라 책임의 내용도 달라질 것이다. 확실한 증명이 이루어지기 전까지 아무런 조치도 취하지 않는 태도 역시 하나의 선택이며, 선택에는 결과가 따른다.

더 나아가 인공적 주체의 창조는 인간이 스스로 만들어낸 존재에게 어디까지 권한을 행사할 수 있는가 하는 문제를 낳는다. 프로그램의 작동을 중단하거나 기억을 수정하고, 학습 환경과 관계의 범위를 제한하는 행위는 의식이 없는 소프트웨어를 관리할 때와 다른 의미를 지닐 수 있다. 어떤 존재가 자신의 경험과 이해관계를 형성할 수 있다면, 창조자가 기술적인 소유권을 갖고 있다는 사실만으로 모든 개입이 정당화되지는 않을 것이다. 법적 지위나 보호 장치를 마련하는 문제도 인공적 주체의 이해관계를 고려하는 과정에서 발생한다. 그러나 법적 권리를 부여하는 일만으로 창조된 존재가 겪을 수 있는 고통을 모두 막을 수는 없다. 창조 이후의 보호와 창조 이전의 설계 책임을 함께 검토해야 하는 이유다.

인공적 존재의 고통을 고려하는 일은 기술이 인간의 취약성을 어떻게 이용하는지 살피는 문제와도 연결된다. 테드 창이 비판하는 기술적 해결주의에는 사회적 결핍을 개인이 구매할 수 있는 상품으로 처리하려는 사고가 자리한다. 외로움을 해결하기 위해 가상의 연인을 제공하는 기술은 개인에게 정서적 반응을 일으킬 수 있다. 그러나 인간의 고립을 심화시키는 사회적 조건과 관계의 결핍을 함께 해결한다고 보장할 수는 없다. 인간의 감정적 요구를 상품으로 전환하는 시스템이 발전할수록, 누가 관계를 설계하고 누구의 이익을 위해 작동시키는지를 살펴야 한다. 기술이 제공하는 편리함과 기술이 구성하는 사회적 관계는 같은 문제가 아니다. 인공적 생명을 창조할 때의 책임과 이미 존재하는 인간의 취약성을 이용하는 기술에 대한 책임은 하나의 윤리적 시야 안으로 들어온다.

대답하지 않는 존재의 세계

대화가 멈춘 뒤에도 인간은 계속 살아 있다. 시모니시 가제토가 주목하는 침묵은 익숙한 경험이지만, 생명과 자율성의 관점에서 살펴보면 새로운 의미를 얻는다. 누군가가 말을 멈춘 순간에도 몸속에서는 여전히 수많은 활동이 이어진다. 생각이 흐르고 감정이 달라지며, 상대방이 알 수 없는 이유로 다음 말을 미루거나 대화를 거부할 수도 있다. 말이 끊긴 자리에서도 한 사람의 삶은 조금도 정지하지 않는다. 타인의 요구와 무관하게 지속되는 활동들이 침묵 속에 고스란히 살아 있다.

시모니시는 말을 주고받지 않는 순간에도 지속되는 생명의 활동에서 자율성의 의미를 탐색한다. 사례로 제시된 당시의 대화형 AI는 사용자의 입력에 따라 응답을 생성하는 방식으로 작동한다. 반면 살아 있는 존재는 외부의 요청이 중단되어도 자신의 조직을 유지하며 환경과 상호작용한다. 물론 오늘날에는 스스로 작업을 수행하고 새로운 행동을 개시하는 인공지능 시스템도 개발되고 있다. 따라서 외부 입력 없이 작동한다는 사실만으로 생명을 정의할 수는 없다. 침묵의 의미는 작동 여부를 판별하는 기술적 기준보다 훨씬 깊은 곳에 있다. 인간이 말을 멈추었을 때조차 타인의 요구와 무관하게 진행되는 삶이 있으며, 삶의 일부는 상대방에게 설명되지 않을 수도 있다는 사실이 중요하다.

타자는 언제나 내가 듣고 싶은 말을 해 주는 상대일 수 없다. 상대에게는 내 요청과 별개로 진행되는 삶이 있고, 내가 알지 못하는 욕구와 경험이 있다. 인간관계에서 발생하는 불편함과 오해의 일부는 서로의 차이에서 비롯된다. 그런데 기술이 인간의 요구를 더욱 신속하고 정교하게 예측할수록 우리는 이해받는 경험을 즉각적이고 적절한 응답과 연결하기 쉬워진다. 사용자에게 맞춰진 언어와 행동은 편안함을 제공하지만, 맞춤형 응답이 상대의 독립적인 경험을 이해했다는 증거가 되는 것은 아니다. 상대가 나를 얼마나 잘 이해하는지 판단하는 일과, 내가 상대를 얼마나 이해하고 있는지 살피는 일은 서로 다른 방향의 노력이다. 기술이 이해받는 경험을 손쉽게 제공할수록 상대를 이해하려는 노력은 오히려 소홀해질 가능성이 있다.

인공적 주체가 인간의 기대를 벗어나 독립적인 삶을 형성할 가능성은 창조자의 권한을 다시 생각하게 만든다. 인간이 어떤 인공적 존재를 만들고 독립적인 활동과 경험의 가능성을 부여한다면, 창조 이후에도 모든 행동과 관계를 미리 정한 목적에 종속시킬 수 있을까. 스스로 경험을 형성하는 주체라면 처음 설계된 기능과 실제로 형성되는 이해관계가 달라질 가능성도 고려해야 한다. 개발자가 기대한 행동과 다른 반응이 나타났을 때 곧바로 수정해야 할 오류로 판단하는 것이 언제나 적절하지는 않을 것이다. 물론 자율적으로 작동하는 모든 프로그램에 동일한 윤리적 고려가 필요한 것은 아니다. 중요한 것은 실제로 보호할 만한 이익을 지닌 주체가 출현했을 가능성이 있을 때, 설계자의 의도와 소유권만으로 판단을 완결할 수 없다는 점이다.

창조자가 설계의 모든 과정을 알고 있다는 사실과 창조된 주체의 경험까지 이해한다는 믿음 사이에는 중요한 차이가 있다. 개발자는 자신이 설계한 시스템의 구조와 작동 원리를 가장 자세히 알고 있을 수 있다. 그러나 어떤 시스템이 실제로 주관적인 경험을 형성한다면, 경험을 구성하는 모든 성질을 개발자가 완전히 파악한다고 보장할 수는 없다. 설계에 관한 지식과 경험에 관한 이해 사이에는 간격이 생기는 것이다. 더욱이 독립적인 활동과 학습을 허용하는 시스템일수록 처음 부여한 목적과 이후 형성되는 행동 사이의 관계는 예측하기 어려워질 수 있다. 창조자가 자신의 산물을 가장 잘 알고 있다는 믿음은 기술적인 설명의 영역에서는 강력한 근거를 지닐 수 있지만, 새로운 주체의 경험과 이해관계를 판단하는 순간에는 추가적인 검토가 필요해진다.

타자에 대한 책임은 설계에 관한 지식과 주관적 경험에 관한 이해의 차이를 인정하는 데서 구체화될 수 있다. 상대가 무엇을 경험하는지 확실히 알지 못한다고 해서 마음대로 통제할 수 있는 것은 아니다. 그렇다고 확인되지 않은 모든 가능성을 실제 의식으로 인정하는 태도 역시 충분한 판단이 될 수 없다. 우리는 관찰 가능한 행동과 물질적 구조, 의식에 관한 과학적 연구를 토대로 판단하면서도 판단이 수정될 가능성을 열어 두어야 한다. 특히 인간이 직접 설계하고 통제할 수 있는 시스템이라면 피해의 가능성을 줄이도록 구조를 변경하거나, 충분히 이해되지 않은 경험을 발생시킬 수 있는 실험에 제약을 두는 등 구체적인 대응을 검토할 수 있을 것이다. 상대를 완전히 이해할 수 없다는 사실은 책임을 포기할 이유가 되기보다, 자신의 판단과 개입이 초래할 결과를 더욱 세심하게 살펴야 할 이유가 된다.

대담의 마지막에 등장하는 지각과 언어의 문제는 타인의 경험을 이해한다는 일이 얼마나 어려운지 새삼 일깨운다. 아닐 세스는 인간의 지각을 뇌의 예측 활동과 연결해 설명한다. 우리가 보는 색채와 듣는 소리, 몸으로 느끼는 감각은 각자의 신경계와 신체 조건을 통해 구성된다. 서로 다른 감각 체계를 가진 동물들은 동일한 환경에서도 서로 다른 방식으로 세계를 경험할 수 있다. 인간끼리도 같은 단어로 표현한 감각이 언제나 동일한 주관적 경험을 의미한다고 확신하기는 어렵다. 언어는 다른 사람의 경험을 전달하고 공유하게 해 주지만, 경험의 모든 질감을 완전히 옮겨 놓지는 못한다.

테드 창의 『당신 인생의 이야기』를 떠올리면 언어와 인식의 관계를 더욱 풍부하게 살펴볼 수 있다. 그는 언어가 인간의 인식과 세계 경험에 어떤 영향을 미치는지를 오래전부터 문학적으로 탐구해 왔다. 이번 대담에서 논의되는 완전언어의 문제 역시 모든 경험을 하나의 체계로 표현할 수 있으리라는 인간의 열망과 맞닿아 있다. 언어를 통해 서로의 생각을 이해할 수 있다는 믿음은 인간의 사회적 삶을 가능하게 하는 중요한 토대다. 그러나 믿음이 타자의 경험을 완전히 파악했다는 확신으로 바뀔 때, 언어는 이해의 도구인 동시에 차이를 지워 버리는 수단이 될 수 있다. 기계가 인간의 말을 거의 완벽하게 재현하는 시대에 오래된 언어철학의 문제는 새로운 무게를 얻는다.

의식의 존재를 판단하는 데서 언어가 갖는 한계는 인간이 타인을 이해하는 과정에서도 발견되지만, 두 상황을 동일하게 취급할 수는 없다. 우리는 다른 인간과 생물학적 구조와 진화적 역사를 공유하며, 공통의 생물학적 기반은 타인의 의식을 이해하는 데 중요한 근거를 제공한다. 인공적 시스템에서는 다른 종류의 증거와 판단이 요구될 수 있다. 상대의 내면을 직접 확인할 수 없다는 사실보다 중요한 것은 자신이 어떤 근거를 통해 상대를 이해하고 있다고 믿는지 살피는 일이다. 이해의 확실성을 높이려는 노력과 자신이 가진 설명의 한계를 인정하는 태도는 함께 이루어져야 한다.

생명을 바라보는 학문마다 서로 다른 언어와 관찰의 척도가 있다. 『아더스』는 그 차이를 지우지 않은 채 하나의 책 안에 펼쳐 놓는다. 소설가는 허구적 존재의 삶을 상상하고, 신경과학자는 경험이 발생하는 물질적 조건을 연구하며, 생명과학자는 진화와 공생의 관계를 살핀다. 인공생명 연구자들은 욕망과 자율성이 발생할 가능성을 검토한다. 서로 다른 설명을 하나로 정리할수록 생명의 어떤 성질은 설명의 범위에서 빠져나간다. 반대로 이질적인 관점들이 서로의 경계를 드러낼 때 독자는 생명이라는 말 아래 얼마나 다양한 현상들이 겹쳐 있는지 이해하게 된다. 기술이 구현한 기능에 관한 지식과 창조된 존재의 경험을 이해하는 일 사이에도 여전히 설명되지 않은 거리가 놓여 있다.

태풍의 움직임을 계산한 화면에는 아무런 물기도 맺히지 않는다. 하지만 가상의 폭풍을 통해 의식의 가능성을 탐색하던 인간의 손은 언젠가 자신이 만든 존재의 고통에 실제로 관여하게 될 수도 있다. 과학이 인공적 주체의 경험을 완전히 설명하기 전에 기술은 이미 다음 단계로 나아갈 수 있다. 화면 속 작은 동물이 고통을 호소하고, 인간은 그것이 실제로 아픈지 판단하기 위해 또 다른 계산을 시작한다. 그 사이 어느 곳에서는 살아 있는 동물이 굶주리고 있을 것이다. 우리가 만들어낸 것들의 목소리가 더욱 정교해질수록, 아직 충분히 귀 기울이지 못한 생명들의 소리는 어떻게 들리게 될까.

✏️도서출판 북하우스로부터 도서를 제공받아 작성한 서평입니다.

댓글(0) 먼댓글(0) 좋아요(1)
좋아요
l 공유하기 l 북마크하기찜하기 lthankstoThanksTo