인류학자가 AI가 전대미문이 아니란다

동물, AI, 신 - 인류학으로 모험하는 도덕적 상상력
웹 킨 지음, 김정은 옮김 / 글항아리 / 2026년 10월

문화적 상대주의와 AI 윤리의 회피

— 웹 킨의 『동물, AI, 신』에 대한 비판적 독해

“기술 발전이 어느 선을 넘어버리면 포스트휴먼, 유토피아가 올까? 아니면 묵시록적 특이점이 올까? 아마도 한 발 물러나자. 언뜻 보기와 달리 이것이 전대미문의 상황이 아니라면 이야기는 사뭇 달라진다. (...) 인간과 비인간이 유의미한 도덕 관계를 맺어온 역사는 꽤 길다. 인간과 사이보그 같은 기술은 물론, 인간에 가까운 동물들, 인간에 준하는 귀신들, 인간을 뛰어넘는 신과 언제나 함께해왔다.” -〈서문> 9쪽

웹 킨의 『동물, AI, 신』은 인간과 비인간 존재 사이의 도덕적 관계를 문화인류학적 관점에서 탐색하는 책이다. 저자는 인간이 동물과 신, 귀신, 각종 기계와 오랫동안 관계를 맺어왔으며, 그 과정에서 인간과 비인간의 경계가 끊임없이 재설정되어 왔다는 사실을 강조한다. 이러한 관점에서 오늘날 로봇과 인공지능을 둘러싼 공포와 열광 역시 전대미문의 현상이라고 할 수 없다고 주장한다. 인간은 언제나 자신을 닮았거나 자신의 능력을 넘어서는 존재를 상상해 왔고, 그 존재에 권능과 의지, 심지어 도덕적 지위를 부여해 왔기 때문이라는 것이다.

1. 역사적, 문화인류학적 선례가 AI의 윤리적 문제를 해소할 수 있는가

이러한 접근은 분명 의미가 있다. 인간이 기계에 마음을 투사하고, 동물에게 인간과 유사한 감정과 의도를 읽어내며, 자신이 만든 인공물에 자율적인 행위주체성을 부여하는 현상을 역사적·문화적 맥락에서 이해할 수 있기 때문이다. 기술에 대한 인간의 반응을 순전히 합리적인 판단의 결과로만 설명할 수는 없다. 낯선 기술에 대한 두려움에도 오랜 문화적 기억과 상징적 관습이 개입한다. 그러므로 AI를 둘러싼 논쟁에서 인간 자신의 인식과 감정, 사회적 관계를 살피는 일은 필요할 것이다.

그러나 문제는 여기서 시작된다. 과거에도 인간과 비인간의 경계가 불분명했다는 사실이 오늘날 AI를 둘러싼 윤리적 우려의 심각성을 약화시키는 근거가 될 수 있는가? 과거에 인간이 신의 권능을 믿었고, 동물과 도덕적 관계를 맺었으며, 생명유지 장치에 의존해 살아왔다는 사실은 오늘날 인공지능의 윤리적 지위를 판단하는 데 어떤 직접적인 답을 제공하는가? 역사적으로 참고할 선례가 존재한다는 사실과 현재의 기술이 과거의 사례와 본질적으로 동일하다는 주장은 서로 다르다. 인간이 오래전부터 비인간 존재와 관계를 맺어왔다는 사실은 AI 윤리의 출발점이 될 수 있지만, 그 윤리적 검토를 생략할 근거는 될 수 없다.

저자는 AI를 둘러싼 도덕적 패닉과 유토피아적 열광을 모두 경계하는 듯 발언한다. 인간이 익숙하지 않은 대상을 전대미문의 위협으로 받아들이는 경향을 지적하는 것이다. 그러나 오늘날의 AI에 대한 우려를 단순히 낯선 존재에 대한 인간의 심리적 반응, 이를테면 “로봇과 인공지능을 둘러싼 ‘도덕적 혼동’이나 ‘요란한 호들갑’”(126쪽)으로 설명한다면, 문제의 핵심은 오히려 가려질 수 있다. 우리가 우려하는 것은 AI가 단지 인간과 닮았기 때문이 아니다. 언어를 구사하고 지식을 종합하며 복잡한 판단과 행동을 수행하는 시스템이 인간의 통제 범위를 벗어날 가능성, 그리고 그러한 역량이 사회의 핵심적인 의사결정과 권력의 배분에 개입할 가능성이 우려의 대상이다.

여기서 중요한 것은 AI가 실제로 인간의 모든 능력을 초월할 것이라고 단정하는 일이 아니다. 그러한 초월이 언제, 어느 정도로 실현될지 불확실하더라도, 그 가능성과 현재 확인되는 위험을 어떻게 평가하고 관리할 것인지가 문제다. 불확실성은 윤리적 검토를 유보하는 이유가 아니라 오히려 검토를 시작해야 하는 이유가 될 수 있다.

저자가 AI를 연극배우나 접신 무당, 점쟁이와 비교하며 인간의 말투와 사회적 행동에 내재된 패턴을 이용하는 존재로 설명하는 대목에서도 비슷한 문제가 발견된다. 이러한 비교는 AI가 인간에게 영험한 존재처럼 느껴지는 이유를 설명하는 데 도움이 된다. 그러나 그 설명만으로 AI의 능력과 위험이 해명되는 것은 아니다. 인간이 어떤 대상을 영험하다고 믿는 것과 그 대상이 실제로 복잡한 정보처리 능력과 현실적 영향력을 행사하는 것은 구별해야 한다.

AI가 인간에게 이해할 수 없는 방식으로 작동한다는 사실 자체가 초능력이나 독립적인 의식의 증거는 아니다. 그렇지만 작동 원리를 충분히 설명하기 어렵다는 이유로 그 시스템의 영향까지 심리적 투사, 투사와 내면화의 위험이라는 상호작용의 관계만으로 돌릴 수도 없다. 인간이 AI에 의인화된 이미지를 투사하는 문제와 AI가 실제로 인간의 판단, 행동, 사회적 관계에 미치는 영향은 별도로 검토되어야 한다.

따라서 역사적 선례를 통해 오늘날의 기술을 이해하려는 시도는 필요하지만, 선례를 통해 현재의 문제를 이미 해명한 것처럼 취급해서는 안 된다. 인간과 비인간의 관계가 오래되었다는 사실보다 중요한 것은 오늘날의 기술이 그 관계를 어떤 규모와 속도, 권력 구조 속에서 변형하고 있는가 하는 점이다. 과거의 신과 동물, 생명유지 장치는 현대의 범용 인공지능과 동일한 조건에서 작동하지 않는다. 유사성은 비교의 근거이지, 동일성의 증명이 아니다. 저자 웹킨은 AI 윤리에 대한 비판적 입장을 하나의 존재 사실로서 소개하지만 그 규범적 근거를 충분히 검토하지 않는다. 그 결과 윤리적 우려를 단순히 기술에 대한 낯섦이나 문화적 투사의 문제로 환원해 이해할 위험을 야기한다.

2. 사회적 관계의 윤리와 보편적 판단의 기준

웹 킨의 논의에서 또 하나의 중요한 축은 도덕성이 추상적인 원칙이나 고립된 행위자의 판단만으로 성립하지 않는다는 주장이다. 그는 인간이 실제로 누구를 도덕적 고려의 대상으로 삼는가는 사회적 관계에 따라 달라진다고 본다. 루나족이 개를 사회적 관계에 참여하는 존재로 대하거나, 크리족이 곰을 존중해야 할 근(近)인간으로 이해하는 사례는 이러한 관점을 보여준다. 동물에게 이름을 붙이고 말을 걸며, 상대방의 반응을 해석하는 행위는 인간과 동물 사이에 도덕적 관계를 형성한다. 관계의 방식이 달라지면 의무의 내용도 달라질 수 있다.

이러한 관찰은 도덕성을 추상적 규칙의 집합으로만 이해하는 관점에 중요한 수정을 가한다. 실제의 윤리적 판단은 언제나 구체적인 삶의 맥락에서 이루어지며, 인간이 무엇을 중요하게 여기고 누구에게 책임을 느끼는가는 문화와 역사, 경제적 조건에 영향을 받는다. 저자가 트롤리 딜레마와 같은 사고실험을 비판하며 실제 인간의 관계와 대화, 사정의 청취를 강조하는 것도 이러한 맥락에서 이해할 수 있다. 현실의 도덕적 갈등은 고립된 개인에게 주어진 선택지 가운데 하나를 고르는 방식만으로 해결되지 않는다.

그러나 도덕성이 관계 속에서 형성된다는 사실과 도덕적 정당성이 관계에 따라 무제한적으로 달라질 수 있다는 주장은 구별되어야 한다. 인간은 가까운 사람에게 더 큰 애착과 책임을 느낄 수 있다. 그렇다고 친밀한 관계가 언제나 도덕적 판단의 정당한 기준이 되는 것은 아니다. 타인에 대한 무관심이나 차별, 부당한 희생의 강요 역시 사회적으로 익숙한 관계와 관습을 통해 유지될 수 있기 때문이다. 관계가 있다는 사실만으로 그 관계가 윤리적이라고 말할 수는 없다. 그는 ‘내’가 ‘타자’와 관계를 맺는 관계의 얽힘으로서 일인칭 관점이라 부르며, 도덕성은 이 일인칭의 관점에서 발생한다고 주장한다. 그리고는 삼인칭은 냉엄한 객관주의적 관점이라 지칭한다. 이러한 관점은 자신의 이익이나 감정의 친밀성에만 의존하지 않고 보편화할 수 있는 도덕 원칙에 따라 행동해야 한다는 칸트의 도덕적 의무에 대한 준칙이 설 자리를 잃어버리고 만다.

저자는 도덕적 삶이 사회적·경제적·문화적 시스템에 의존한다는 점을 강조한다. 이 주장은 충분히 동의할 수 있다. 도덕적 가치가 실제 삶에서 구현되려면 이를 뒷받침하는 제도와 관습, 사회적 신뢰가 필요하다. 그러나 어떤 사회가 특정한 관습을 유지하고 있다는 사실이 그 관습의 도덕적 정당성을 보장하지는 않는다. 사회적 시스템이 도덕적 삶의 조건이라는 주장으로부터, 그 시스템이 승인하는 모든 가치가 정당하다는 결론은 나오지 않는다.

가령 특정 사회에서 동물에 대한 잔혹한 대우가 관습적으로 허용된다고 해서 그 관습을 해당 사회의 문화적 특성이라는 이유만으로 정당화할 수는 없다. 인간의 존엄성을 훼손하는 행위 역시 오랜 역사와 사회적 승인을 근거로 면책될 수 없다. 문화적 차이를 이해하는 일과 그 차이를 도덕적으로 승인하는 일은 다른 문제다. 문화적 맥락을 고려하는 윤리와 모든 판단을 맥락 속에 상대화하는 윤리는 동일하지 않다.

이 지점에서 웹 킨의 논의는 보편적 윤리의 가능성과 긴장 관계에 놓인다. 저자가 실제로 모든 보편적 도덕 원칙을 부정한다고 단정할 수는 없겠지만, 그가 다양한 삶의 방식과 도덕적 감수성을 강조하는 목적은 특정 문화의 기준을 인류 전체의 기준으로 일반화하는 오류를 경계하려는 데 있을 수 있다. 그러나 문화적 다양성을 존중해야 한다는 주장이 보편적 판단의 가능성을 어디까지 제한하는지, 그리고 상이한 관습 사이의 충돌을 어떤 기준으로 평가할 수 있는지에 대해서는 별도의 설명이 필요하지만 웹 킨은 이에 대해 설명하고 있지 않다.

보편적 윤리는 모든 사회가 동일한 관습을 가져야 한다는 뜻이 아니다. 오히려 서로 다른 삶의 방식이 공존하더라도 타인의 생명과 존엄성, 자유와 안전을 어떤 방식으로 보호할 것인지 질문할 수 있다는 뜻이다. 보편적 원칙은 구체적 상황을 무시하는 추상적 명령이어서는 안 되지만, 구체적 상황을 이유로 언제든 폐기할 수 있는 임시적 규칙에 그쳐서도 안 된다. 문화적 차이를 이해하면서도 그 차이가 정당화할 수 없는 피해와 지배를 비판할 기준이 필요하다.

AI 윤리에서 이 문제는 더욱 중요하다. AI 시스템은 특정 개인과 관계를 맺는 동시에 수많은 사람의 삶에 영향을 미칠 수 있다. 특정 사용자에게 친절하고 유용한 AI가 다른 사람에게는 차별적이거나 위험한 결과를 초래할 수 있다. 사용자가 AI와 친밀감을 형성하고 긍정적인 상호작용을 경험한다는 사실만으로 그 시스템이 사회적으로 정당하다고 평가할 수는 없다. 개별적 관계의 성공과 사회 전체에 대한 책임은 구별되어야 한다.

AI의 도덕성을 판단할 때 필요한 것은 관계의 맥락을 제거하는 일이 아니라, 그 관계가 누구에게 어떤 이익과 피해를 가져오는지 폭넓게 검토하는 일이다. 사용자와 시스템 사이의 상호작용만이 아니라 그 시스템의 결과에 영향을 받는 제삼자, 취약한 집단, 미래 세대까지 고려해야 한다. 관계의 윤리를 강조하려면 오히려 관계의 범위를 넓혀야 한다. 친밀한 관계에서 형성된 신뢰가 사회적 책임의 문제를 가려서는 안 된다.

3. AI의 도덕적 지위와 책임 귀속 문제

『동물, AI, 신』에서 가장 주의 깊게 살펴볼 부분은 인간과 비인간의 도덕적 경계가 실제로 어떻게 형성되는가에 대한 논의다. 자율주행 자동차가 사고를 일으켰을 때 누구에게 책임을 물어야 하는가? 생명유지 장치에 의존하는 환자의 치료를 중단하는 결정은 어떤 기준으로 정당화될 수 있는가? 뇌사자의 장기기증은 어떤 조건에서 도덕적으로 허용되는가? 이러한 사례는 기술이 인간의 삶에 개입할 때 기존의 도덕적 판단 기준이 얼마나 복잡해지는지를 보여준다.

특히 자율주행 자동차의 사례는 행위와 책임 사이의 관계를 다시 묻게 한다. 사고가 발생했을 때 자동차는 프로그램된 알고리즘에 따라 작동했을 뿐이라는 설명은 사고의 인과관계를 일부 해명할 수 있다. 그러나 인과관계를 설명하는 것과 책임을 귀속하는 것은 별개의 문제다. 자동차의 작동이 알고리즘에 의해 결정되었다면, 그 알고리즘을 설계하고 학습시키며 배포하고 감독한 사람과 조직의 책임을 검토해야 한다. 기술적 과정이 복잡해질수록 책임이 사라지는 것이 아니라 책임의 구조를 더 정교하게 규명해야 한다. 웹 킨은 이 자율주행 자동차의 도덕적 책임 소재의 유무에 대한 적극적인 윤리검토를 하지 않고, 다만 상호작용이라는 관계의 변화에 따른 다양한 책임의식의 사례로 제시하고 있을 뿐이다.

이 문제는 AI의 도덕적 지위를 논하는 데에도 그대로 적용된다. AI가 도덕적 판단처럼 보이는 결과를 산출한다는 사실만으로 도덕적 행위주체라고 단정할 수는 없다. 반대로 AI가 인간과 동일한 방식으로 의식이나 감정을 지녔다는 증거가 없다는 이유만으로 AI의 모든 행위를 윤리적 검토에서 제외할 수도 없다. 여기서는 적어도 세 가지 질문을 구분해야 한다. AI가 도덕적 고려를 받아야 하는 존재인가(AI 시스템의 윤리적 평가), AI가 도덕적 판단을 수행할 수 있는가(AI의 도덕적 행위 주체성; 의식소유 여부), 그리고 AI의 행위에 대한 책임(AI의 개발 운영 주체의 책임)을 누가 져야 하는가 하는 질문이다.

이 세 질문은 서로 관련되지만 동일하지 않다. 고통을 느끼는 능력이나 이해관계가 있는 존재는 그 자체로 도덕적 고려의 대상이 될 수 있다. 그러나 도덕적 고려의 대상이라는 사실이 곧 책임을 질 수 있는 행위주체라는 뜻은 아니다. 반대로 어떤 시스템이 인간에게 중대한 피해를 초래할 수 있다는 사실은 그 시스템에 인간과 동일한 도덕적 책임을 부여하지 않더라도 그 시스템의 설계와 운용을 엄격하게 규율해야 할 충분한 이유가 된다.

따라서 AI 윤리는 AI를 인간으로 인정할 것인지의 문제에만 머물러서는 안 된다. 현재의 AI가 어떤 능력을 갖추고 있으며 어떤 방식으로 인간의 판단과 행동에 개입하는지, 어떤 위험을 발생시키는지, 그리고 그 위험을 예방하고 통제할 책임이 누구에게 있는지를 함께 물어야 한다. AI의 도덕적 지위에 관한 철학적 논쟁이 해결될 때까지 기술의 사회적 영향에 대한 검토를 미룰 이유는 없다.

저자는 로봇과 AI의 도덕적 지위가 경험론적 문제이며, 중요한 것은 인간과 기계의 상호작용이 인간의 사회적 기술과 지식에 어떻게 의존하는가를 이해하는 것이라고 주장한다. 또한 인간이 AI에 행위주체성을 투사하고, 그 결과 자신의 역할과 책임을 잊을 위험을 지적한다. 이러한 통찰은 AI와의 상호작용이 인간의 자기이해를 변화시킬 수 있다는 점을 밝혀준다. 인간은 자신이 만든 기술을 통해 자신의 능력을 확장하지만, 동시에 그 기술에 판단을 위임하면서 스스로 판단하는 능력을 약화할 수도 있다.

그러나 상호작용의 질을 강조하는 것만으로는 충분하지 않다. AI가 편향된 자료를 학습하고 차별적 결과를 산출하거나, 사용자의 의존성을 유도하고, 인간의 판단을 부당하게 조종하는 경우를 생각해 보자. 이러한 문제를 사용자가 AI와 맺는 관계의 질로만 설명한다면, 기술을 설계하고 공급한 주체의 책임이 흐려질 수 있다. 사용자가 위험한 시스템과 관계를 맺지 않도록 주의해야 한다는 요구는 필요하지만, 그것이 생산자와 운영자의 책임을 대신할 수는 없다.

AI 시스템의 결과에 대한 책임을 인간에게 물어야 한다는 주장은 AI의 기술적 특성을 무시하자는 뜻이 아니다. 오히려 복잡한 기술 체계에서 책임이 분산되고 불분명해지는 문제를 해결하자는 뜻이다. 개발자, 기업, 배포자, 운영자, 사용자에게 서로 다른 책임이 있을 수 있으며, 그 책임의 범위는 각자의 권한과 예측 가능성, 통제 능력에 따라 구체적으로 규정되어야 한다. AI가 독립적인 판단을 수행하는 것처럼 보일수록, 누가 그 판단의 조건을 만들었고 누가 그 결과로 이익을 얻으며 누가 피해를 감당하는지를 더 엄격하게 따져야 한다.

여기서 윤리적 검증은 기술 발전의 장애물이 아니라 기술이 사회적으로 정당한 방식으로 사용되기 위한 조건이다. 개발 경쟁이 치열하다는 이유로 검증의 시간과 비용을 불필요한 부담으로 취급한다면, 기술의 편익은 사유화되고 위험과 피해는 사회 전체에 전가될 수 있다. 특정 기업이나 국가가 기술적 우위를 확보하는 것과 그 기술이 인류 전체에 정당한 방식으로 기여하는 것은 동일한 목표가 아니다. AI 윤리는 기술을 얼마나 빠르게 발전시킬 것인가 만이 아니라, 그 발전의 방향과 권한을 누가 결정하며 그 결과에 누가 책임질 것인가를 묻는 문제다.

4. 맺음 말 : 역사,문화적 인간 비인간 관계의 다양성의 윤리가 AI의 윤리적 정당성을 설명하지는 못한다. (문화인류학적 윤리 판단의 한계)

결국 웹 킨의 인류학적 접근은 AI를 둘러싼 인간의 반응과 관계의 형성을 이해하는 데 유용한 설명을 제공한다. 그러나 그 설명이 AI의 실제 역량과 위험에 대한 평가, 보편적 윤리 원칙의 정립, 책임의 귀속 문제를 대신할 수는 없다. 인간이 비인간 존재와 관계를 맺어온 역사는 AI 윤리를 이해하기 위한 비교의 자원이지만, 그 자체가 윤리적 정당성을 보증하는 규범은 아니다.

우리가 지금 물어야 할 것은 인간이 과거에 무엇을 신성하게 여겼으며 어떤 존재를 도덕적 관계의 대상으로 삼았는가 만이 아니다. 인간이 만들어낸 기술이 어떤 권능을 획득하고 있으며, 그 권능이 인간과 사회에 어떤 영향을 미칠 것인지, 그리고 그 과정에서 인간의 존엄성과 책임을 어떻게 보전할 것인가를 물어야 한다. 역사적 경험을 참조하는 일은 필요하지만, 그것이 미래의 위험을 과거의 익숙함으로 덮는 수단이 되어서는 안 된다.

AI가 인간을 닮았다는 사실은 윤리적 검토의 결론이 아니라 출발점이다. 인간이 AI에 자신의 능력과 욕망을 투사한다는 사실 역시 AI의 책임을 묻지 않아도 된다는 근거가 아니다. 오히려 인간의 투사와 기술의 실제 역량을 구별하고, 기술을 둘러싼 권력과 책임의 구조를 드러내는 일이 중요하다. 문화적 다양성을 존중하면서도 보편적 윤리의 가능성을 포기하지 않는 것, 기술의 사회적 관계를 이해하면서도 그 기술 자체의 위험과 책임을 회피하지 않는 것. 이것이 오늘날 AI 윤리의 과제이며, 웹 킨의 논의가 더 깊이 답해야 할 질문이라고 생각한다.

웹 킨은 관계 중심적 접근을 하면서 상대적으로 AI의 도덕적 지위를 인간화라는 지극히 성급하고 편의적으로 단정하는 오류를 범하고 있는 것으로 보인다. 또한 보편성과 문화적 다양성을 서로 배타적인 것으로 보지 않더라도 그 원칙의 구체적 적용을 공개적으로 검토하고 정당화 할 수 있는 보편적 원칙의 공유 문제를 논의할 수 있어야 한다. 그렇기에 문화인류학적 관계성이라는 상호작용과 도덕성 정당화의 차이를 분명하게 설정하지 못하고 있다. 인류학적 설명이 제아무리 설득력이 있을지라도 그것만으로 AI시스템이 정당한지, 어떤 위험을 허용할 수 있는지, 누구에게 책임을 물어야 하는지는 결정되지 않는다.

문화인류학적 설명이 우리들이 윤리적 관계를 이해하는 데 분명 풍부한 시야를 제공하지만, 그 자체로 오늘날 인류가 직면하고 있는 AI가 초래하는 문제의 정당성이나 책임의 소재까지 결정해 주지 않는다. 결국 웹 킨의 글은 다양한 상황(민족, 지역, 동양과 서양 등의 차이)에 적합한 윤리적 감수성을 저마다 갖추고 있기에 AI나 지능 로봇을 수용하는 도덕적 감각도 다르다는 낙관적 견해를 보인다. 아마 그렇기에 웹 킨은 “인간 반응은 언제나 기존 관습, 제도, 역사적 기억을 원용하기 마련이기에 오늘날 신기술을 두고 벌어지는 ‘호들갑’에 휩쓸리지 말아야 한다”(p146) 고 주장할 수 있었을 것이다.

AI에 대한 우려의 윤리적 물음이 제기되는 것은 페티시즘의 논리에 의한 자아감의 투사로 인해 야기되는 것이 아니다. 인간의 마음이라는 지나치게 심리적 관점에 매몰되어 AI라는 인류사회가 직면한 문제를 거시적으로 바라보지 못한 것 같다. 웹 킨의 인식은 AI를 단지 “말뭉치로부터 통계적 패턴을 발견하여 짜깁기하는 확률적 앵무새”라고 인식한다. 하지만 AI는 이미 자율 학습을 통한 인간에게 낯선 자기 생성 능력을 보여주고 있다. 웹 킨의 글의 마지막 쪽에서 “몇몇 소수가 신의 대리자, 혹은 알고리즘 독점자로 행세하는 것을 모두 묵인한다면 모를까, 인류 전체가 그 따위를 믿으리라 기대하지 마시라.” 라며 득의에 차 자신의 지성만으로 AI 따위가 도덕적 일탈을 할 수는 없다고 선언하는 듯하다. (그는 작금의 자본주의적 경쟁 논리의 급진적으로 추진되는 AI 상황을 인지하지 못하는 듯하다.)

하지만 나는 동의할 수 없다. 그는 역사적 선례를 강조함으로써 AI의 새로운 기술적 역량과 실존적 위험을 과거의 경험 속에 흡수해버리고, 도덕성을 사회적 관계와 문화적 맥락으로 설명하는 과정에서 보편적 윤리 원칙과 책임의 기준을 약화시켜 버리고 있으며, AI를 둘러싼 인간의 투사와 의인화를 비판하면서 정작 AI를 설계하고 운용하는 주체들의 책임, 그리고 AI 시스템 자체의 행위와 위험을 어떻게 평가할 것인지는 충분히 다루지 못하고 있다. 아마 설득력 있는 논의에도 불구하고 이러한 점들이 이 책의 한계 일 것이다.

*보론(補論) : 웹 킨의 문화인류학적 접근이 지니는 한계 

일본의 로봇 공학자 '모리 마사히로'는 AI가 "인간에 가까워질수록 호감도가 증가하다가 어느 순간이 되면 골짜기로 가라앉듯 떨어지며 혐오감"을 보이는 것을 ‘불쾌한 골짜기(uncanny valley)’라 불렀다. 즉 인간과의 유사성 정도에 따른 호감과 혐오의 문제를 지적한 것이다.

아마 웹 킨이 인류학적, 역사학적 관점으로 오늘의 AI 도덕성의 문제를 검토할 수 있으리라 판단한 것의 출발점이라 추정할 수 있을 것 같다. 근(近)인간으로서의 인간 친화적 동물이나, 준(準)인간으로서 생명유지장치, 심장박동기 등 인간에 이식되어 하이브리드를 형성하는 기계들, 그리고 귀신이나 종교적 신 등 초(超)인간이라는 인류가 경험해 온 존재들의 선례를 통해 AI의 윤리적 문제를 다룬다는 측면에서 저자는 인간과 닮음, 인간적 인 것들에 대한 경험적 논리를 그대로 AI문제에 이식할 수 있다고 생각한 것 같다. 하지만 AI는 이들과 다르다. 오늘날 AI에 대한 윤리적 경각심은 인간과 닮았다고 해서 야기되는 것만이 아니다. 즉 AI에 대한 윤리적 문제는 크게 세 가지 범주에서 제기되는 우려이다.

그것은 AI 시스템 자체에 대한 윤리적 평가와  AI의 의식 소유 여부라 할 수 있는 도덕적 행위주체성에 따라 야기되는 문제, 그리고 AI의 행위에 대한 책임 주체에 대한 윤리적 문제로 구분할 수 있다, 그러나 웹 킨은 ‘인간과 닮은’이라는 ‘도덕적 행위 주체성’의 측면에 매몰됨으로써 AI 윤리에 대한 나머지 문제점들을 간과하는 한계를 노출하고 말았다. 이것이 바로 이 저술의 주요한 논증의 한계일 것이다.