받았거나 화가 났을지도 모른다. (311쪽)
유발 하라리의 『넥서스』를 읽고 있다. 앞부분은 이전 책들에 비해 좀 지루했는데, 중간으로 넘어가니 흥미로운 이야기들이 쏟아지고 있다.
인공지능과 불멸(형) 인간에 대한 책을 연거푸 읽으면서 도나 해러웨이의 책이 생각났다. 인간과 비인간, 생물과 무생물간의 구별이 모호해지는 지점에 대해서 쓰고 싶었다. 차이와 구별을 넘어, 본질에 대한 지난한 집착에 대한 글을 쓰고 싶었다. 해러웨이 책을 3-4권 읽었고 페이퍼도 여러 개 쓴다고 썼는데, 어디서부터 어떻게 써야 할지 잘 모르겠어서, 챗지피티에게 물어보았다.
"인공지능이 인간과 유사한 육체의 형태를 가진 휴먼노이드로 진화하고 인간이 사이보그로 변해갈 때, 서로 간의 차이와 유사점에 대해서, 도나 해러웨이의 입장을 기본으로 해서 정리해 줘."
아, 너무나 야무지게 정리된 깔끔한 글이여. 아무도 모르게 나는 그만 절필을 선언해 버리고. 아, 어쩌란 말이냐, 이 아픈 가슴을.
최근에 AI에 대한 책들을 연거푸 읽지 않았더라면 나는 유발 하라리의 이 책을 읽으며 충격을 받았을 것이다. 하지만, 똑같은 이야기를 이제 4번째 듣는 사람이어서, 인류 멸망에 대한 마음의 준비를 했던 사람이어서, 그렇게 놀라거나 충격받지는 않았다. 물론 깊은 한숨과 걱정, 그리고 나 몰라라의 마음. 350쪽까지 읽은 내가 짚은 이 책의 핵심은 이러하다.
컴퓨터(인공지능)는 인간이 조작해야 하는 수동적인 도구가 아니라 이미 인간의 통제와 이해를 벗어난 능동적인 행위자(286쪽)이며, AI 알고리즘은 인간이 가르쳐 주지 않은 것을 스스로 학습하며 인간 경영진이 예측하지 못한 결정을 내릴(294쪽) 수 있다. 우리 행성의 모든 정보 네트워크는 유기적 연결에 근거해 변화해 왔지만, 컴퓨터(인공지능)는 인간의 상상력이 부여했던 옛 형태(모니터와 키보드)를 버리고 시공간적 한계를 깨뜨릴 것이다(315쪽). 이제 AI를 '이질적인 지능Alien Intelligence'의 약자로 간주하는 것이 더 나을지도 모른다(317쪽).
소셜 미디어 알고리즘의 비극적인 사례로 유발 하라리는 2016-2017년 미얀마에서 페이스북 알고리즘이 반로힝야족 폭력을 부추겼던 일을 서술한다. 로힝야족은 미얀마 서부에 거주하며 무슬림 공동체를 유지하고 있었다. 2016-2017년 아라칸 로힝야 구세군이라는 소규모 이슬람 조직이 아라칸/라카인주에서 수십 명의 비무슬림 민간인을 살해하고 납치했다. 미얀마군과 불교 극단주의자들은 로힝야족에 대한 민족 청소를 시작해 7,000~2만 5,000명에 이르는 비무장 민간인을 죽이고, 1만 8,000~6만 명의 여성과 남성을 강간하거나 성폭행했다. 이런 폭력을 부채질한 것은 로힝야족을 향한 극심한 증오였는데, 선전의 대부분이 페이스북을 통해 퍼져나갔다고 한다(287쪽).
인간 개발자와 경영진이 알고리즘에 잔인하고 부정적인 결정을 내리도록 '입력/지시'하지는 않았을 것이다. 하지만, AI 알고리즘은 독자적 학습을 통해 판단을 내리고, 결정을 내릴 수 있다. 컴퓨터(인공지능)의 결정은, 이세돌과 알파고의 결전에서 확인되듯, 인간이 이해할 수 있는 범주 너머, 인간이 해석할 수 있는 범위 밖에 있다. 이게 하라리의 요점이다. 컴퓨터(인공지능)은 의식이 없지만 지능이 있는 상태에 도달했다는 것. 지능은 목표의 달성을 가능케 하는 능력을 말하고, 그 목표의 달성을 위해 인간은 도덕적 판단을 경유하지만, 컴퓨터(인공지능)은 그 도덕적 판단 지점을 우회할 수 있다는 것. 전혀 새로운 존재, 인간에 필적할 만한 존재가 탄생했다는 것이다. 인간의 손으로. 그 일이 일어났다는 것이다.
분초를 다투지 못했던 건 오늘도 이런저런 집안일로 바빴기 때문이다. 노력하고 애쓴 대로 되지 않지만, 가끔은 노력하지 않았는데도 얻게 되는 개이득이 존재하고. 그래서 아빠한테 고맙다고 하라고 2회 연속 말했다가, 선물의 증여자와 수증자에게 동시에 타박을 듣고야 말았다.
다시 분초를 다퉈야겠다.
