유발 하라리는 '데이터교'를 소개하는데, 이는 만물이 데이터의 흐름으로 이루어져 있다고 믿는 것이다. 교도들은 전자 알고리즘이 생화학적 알고리즘을 대체할 것으로 믿는다. 인공지능이 신이 되는 세상을 꿈꾸는 것이다.
빅데이터의 한계를 무시하고 인공지능에 과도한 역할을 부여하는 것은 인류 종말을 향하는 무리수이다.
기술에 적절한 제동을 걸지 못하면 부작용을 피할 수 없는데 인공지능의 경우는 그것이 인류 종말이다.
대상이 무엇이든 인공지능 알고리즘에는 그저 무의미한 데이터 신호에 불과하다. 인공지능이 하는 일은 온라인에 연결된 대상들이 보인 반응 데이터 간의 상관관계를 수학적으로 분석하는 것이다. 인공지능만의 가치 기준은 없다. 늘 인간의 말단 반응을 좇아 비교 분석하는 게 인공지능 기술이 할 수 있는 전부이다.
인공지능이 데이터를 기반으로 학습하고 미래를 예측하는 것은 점점 더러워지는 구정물에 비유할 수 있다.
깨끗한 샘물 한 통이 있다. 먼저 목을 축이고 남은 물로는 손을 씻고 더러워진 구정물은 버린다. 그런데 그 구정물을 확보한 누군가는 인간이 배출한 구정물을 인간과 동일시한다. 그 구정물은 사용할수록 가치가 떨어질 수밖에 없다.
인공지능이 인간보다 우월하게 보일 방법은 딱 하나다. 인간의 반응이 늘 예측 가능해야 한다.
인공지능의 용도를 데이터 수집과 분석으로 국한하지 않고 판단과 결정의 영역까지 허용한다면, 교육은 인간의 메타역량을 완전히 제거하고 욕망의 명령을 따르는 쾌락 중추만 남기는 데 더욱 박차를 가할 것이다.