인공지능(artificial intelligence, AI)의 역사와 현재 그리고 정치적 남용에 대해 경고하는 글이다. 전체 구성은 이렇다: 1부는 대략 컴퓨터의 역사, 2부는 AI의 역사 및 현황, 3부는 AI의 정치적 함의 및 위협, 특히 권위주의 정권(ex. 중국)이 어떻게 AI를 남용하고 있는지에 대한 설명과 민주주의 국가에서 어떻게 AI 정책을 세우고 있는지에 대한 논의이다. 컴퓨터의 역사부터 시작해서 정리해주니 좋기는 한데, 사실 AI 자체에 대해 알고 싶으면 2부만, 또는 2부의 9장만 읽으면 될 것 같다.
책을 통해 내가 알고 싶은 인공지능에 대한 궁금증을 해소한 부분은 다음과 같다.
1. 의식(consciousness)과 지능(intelligence)은 다르다. 인공지능은 의식과는 아무런 상관 없이 의도한 업무를 인간보다 훨씬 빨리 할 수 있다. 원문을 인용하면 "In this new world of ours, intelligence and consciousness are not interdependent." (6장, p. 66)
2. 현재 급격한 진보를 이루고 있는 AI는 의도한 특정한 업무만을 잘 할 수 있으며, 인간과 같이 모든 영역에서 판단을 내릴 수 있는 범용 인공지능(artificial general intelligence, AGI)이나 모든 영역에서 인간을 초월하는 초지능(superintelligence)은 앞으로 새로운 돌파구가 생기지 않는 한 나타날 가능성이 없다(9장의 내용). 한 마디로, <터미네이터>는 (현재로서는) 영화일 뿐이다. 특정한 업무만을 하는 현재의 인공지능을 좁은(narrow)[또는 약한(weak)] AI, 범용 인공지능이나 초지능을 강한(strong) AI라고 한다. 인류의 인공지능에 대한 두려움은 강한 AI에 대한 것이다.
(약한) AI는 이미 널리 사용되고 있으며, 앞으로도 지속적으로 그 적용 범위가 확대될 것이다. 민주주의 국가는 개인의 자유와 프라이버시를 보호하기 위해 노력하겠지만, 이러한 서구적 가치를 공유하지 않는 독재 또는 권위주의 국가는 이미 개인의 자유를 침해하는 수준으로 AI를 남용하고 있다. 이러한 인권 침해적 AI 알고리즘의 타국으로의 수출에 대해 저자는 주의를 촉구하는데, 사실 쉽지 않은 문제라는 생각이 든다. 예컨대 저자의 주장을 해석해서 적용하면, 중국에서 만든 앱은 사용하면 안 된다. 의문의 해소와 또 다른 과제를 받은 느낌으로 독서를 마쳤다.