AI. 말도 많지만, 아마도 머지 않은 미래에 우리에게 다가올 것이다. 그만큼 우리가 예측할 수 있는 것보다 더 빠른 속도로 과학기술이 발전하고 있고, 세계가 다 연결되어 많은 정보들이 인터넷(사이버) 세상에 집적되어 있기 때문이다.
그 많은 정보들을 우리가 보고 이해하려면 평생이 걸려도 힘들겠지만, AI는 그렇지 않다. 순식간에 모든 정보를 습득하게 된다. 그리고 그것을 재배열하기도 한다. 언어 사용이 그렇다. 이제는 인간과 구분할 수 없을 정도의 언어 구사를 한다고 하니... 하긴 예술 분야에서도 마찬가지고.
그런 활동을 가지고 AI를 인간이라고 할 수 있느냐 하는 질문이 나올 수 있다. 인간과 같은 (또는 비슷한, 아니면 인간에 준하는) 활동을 하는 존재인데, 인간이 아니라고 할 수 있다면, 도대체 인간이란 무엇인가 하는 질문이 나올 수 있기 때문이다.
이 책은 AI가 지닌 위험성을 이야기하지 않는다. 미래에 AI로 인해 벌어질 디스토피아를 상상하면서 우리 인간이 지닌 두려움을 이야기하지도 않는다. 그럼에도 AI는 분명 지속적으로 개발될 것이고, 왜냐하면 이토록 매력적인 AI를 한 나라가 포기한다고 해서 다른 나라도 포기하지는 않을 것이라고...
이런 기술을 선점한 나라가 앞으로 세계를 이끌어가게 될 것이므로, 어떤 나라도 쉽게 AI 개발을 포기하지는 않을 거라고 전망한다. 지금 돌아가는 추세를 봐도 그렇다. AI에 대한 경쟁이 심해지면 심해졌지, 결코 줄지 않을 것이고, 이미 개발된 AI를 되돌리지는 않을 것이기 때문이다.
기술의 불가역성이라고 해야 하나? 한번 나온 기술은 사라지지 않는다. 그것이 어떻게 이용되느냐에 대해서 합의를 볼 수는 있지만, 그 합의가 영원히 지속된다는 보장도 없다. 그것이 문제지만, 그래서 AI로 인해 어떤 세상이 펼쳐질지 알 수 없지만, 이 책의 저자는 그러한 문제에 대해서 논의하기보다는 인간(인격성)에 대해서 이야기 한다.
즉 AI를 어떻게 대할 것이냐는 문제는 인간이란 무엇인가로 나아가게 된다고... 결국 타자는 나를 이해하기 위한 짝이기 때문이기도 한데... AI를 인간이냐 아니냐로 판단하게 되면 결국 인간은 무엇이냐에 대한 답이 나와야 하기 때문이다.
많은 사람들이 인간이 무엇인지에 대해서 이야기했지만, 우리는 직관적으로 인간과 인간이 아닌 존재를 구분한다. 그런데 인간이라는 말 말고, 인간처럼 대우해야 한다는 '인격성' 개념으로 가면 달라진다.
비인간 존재들 중에서 인간처럼 대우받는 존재가 있기 때문이다. 바로 '법인'이다. 이런 '법인'의 사례를 잘 살펴서 AI에 대한 논의에 참고로 삼아야 한다고 한다.
'법인'을 인격성 있는 존재로 인정한다면, AI 또한 인격성을 지닌 존재로 인정해야 하기 때문이다. 여기에 비인간-동물들은 어떤가? 이미 비인간-동물들을 인격성을 지닌 존재로 인정해서 소송을 하는 경우도 있지 않았는가.
소송에서 승소했느냐 패소했느냐가 중요한 것이 아니라 소송의 당사자 (비록 대리인이 소송을 진행하기는 했지만)가 되었다는 사실에서 이들에게 '인격성'을 부여했다는 것을 알 수 있다. 여기에 '키메라'와 같은 혼종 존재는 또 어떤까?
인간의 유전자를 지니고 있는 비인간-동물, 그냥 키메라로 통칭한다면, 이 키메라에게 인격성을 부여해야 하는가 하는 점도 문제가 된다.
'인격성'이라는 말이 인간과 똑같다고는 할 수 없지만, 인격성을 지닌 존재로 인정한다는 말은 독립된 개체로 인정한다는 말. 즉 인간처럼 존중받아야 할 존재라는 말이다. 그렇다면 그런 존재들을 인간의 이익만을 위해서 이용해서는 안 된다는 말이다. 그 자체로 존중받아야 할 존재이기에.
저자는 '새로운 기술로 창조된 인공의 존재를 법적 평등권을 누리고 존중받을 자격이 있는 국민의 일원으로 인정할 것인가라는 문제가 바로 내가 이 책을 쓰게 된 계기였다'(312쪽)고 말하고 있다.
AI로 인한 유토피아냐 디스토피아냐를 따지기 전에 그는 먼저 우리가 창조한(?) AI를 어떻게 대해야 할 것인지, 우리와 동등한 존재로 인정할 것인지를 생각하자고 한다. 그러면서 '법인, 비인간-동물, 키메라와 같은 혼종 존재'들을 예로 들어 설명하고 있다.
쉽지 않은 문제고, 이 책의 저자도 명확하게 주장하고 있지는 못하다. 그만큼 어려운 문제이기도 하고... 하지만 그는 '우리 사회는 종 기반 논리 및 능력 기반 논리를 병행하는 이중 기준에 기반한 접근 방식을 채택하는 것이 가장 바람직할 것이다. 즉, 살아 있는 인간이라면, 능력과 무관하게 경계선 안에 포함된다. 이것이 바로 핵심 원칙이다. 다만 인간이라는 종을 어떻게 정의할 것인지에 대한 질문은 여전히 남는다.'(442쪽)고 하고 있다.
우리가 직관적으로 (이는 어떤 고민도 없이) 인간이라고 생각하는 존재는 바로 종 기반 논리다. 여기에 대해서는 논란의 여지가 없다. 다만, 인간의 범위를 종 기반으로 축소해서는 안 된다는 것이다. 인간과 비슷한 능력을 지닌 존재도 인간의 범주에 포함시켜야 한다는 것인데.. 그 능력을 어떻게 판단할 것인가가 또한 문제가 된다.
인간과 비슷한 능력이라고 평가하는 것 자체가 이미 인간을 중심에 놓고 다른 존재를 끌어들이는 것이기 때문이기도 한데.. 이에 대해서도 이 책에서 이야기가 되고 있다.
하지만 명확한 것은 종 기반 논리로만 인간을 정의해서는 안 된다고... 능력에 기반한 것도 포함해서 인간의 범주를 확장해야 한다고, 우리의 경계선을 넓혀가야 한다고 저자는 주장한다. 이것의 대표적인 예가 바로 이미 인간 사회에서 법적인 권리를 누리고 있는 '법인'이고, 이를 참조한다면 AI를 인간의 범주에 포함하는 것도 불가능한 일은 아닐 것이라고 한다.
무엇보다 '우리가 한 번도 경험해보지 못한 새로운 존재, 즉 고차원적 지능 및 의식을 갖추고 추상적 언어를 사용할 줄 아는 '인격체'들이 이 행성에서 우리와 더불어 살아가게 될 수 있다'(522쪽)고 하니, 우리가 그러한 세상에 대비해야 한다고 저자는 주장한다.
인간이란 무엇인가에 대해서 우리의 경계를 넓혀가야 한다는 저자의 의견에 동의하지만... 여전히 어렵다. 도대체 인간이란 무엇인가. 우리는 어디까지 인간으로 받아들여야 하는가...
