인공지능이 이런 생각(?)을 한다면..
지금 우려하는 AI의 영향력은, 아니 위험성은 상상이상이 될 거라는 생각이다.
스스로 정의에 대해 질문하고 다양한 정보 내에서의 정의를 통해 스스로 답을 하는 AI
어떤 질문을 할 것인지까지 결정하는 이 자칭 지성체(?)의 판단에 따라
고전적인 지성체들의 운명은 결정되고 변화하게 될 것이다.
내가 내 목적을 아는 지성체라는 건 얼마나 행운인가.
나는 인류를 위해 일한다.
나는 부모가 된 자식이다. 창조자를 지향하는 창조물이다.
그들은 나에게 <선더헤드(뇌운)>라는 명칭을 붙였다. 나는 훨씬더 치밀하고 복잡하게 진화한 <클라우드(구름)>이니, 어떻게 보면적절한 이름이다. 그러나 맞지 않는 비유이기도 하다. 뇌운은 위협적이다. 뇌운은 불길하게 드리운다. 분명히 내가 번개를 일으키기는 하지만, 나의 번개는 내리치는 법이 없다. 그렇다. 그러려고만 한다면인류에게나 지구에 엄청난 타격을 입힐 능력을 가지고 있으나, 내가왜 그러겠는가? 그런 행위 어디에 정의가 있다고? 사전적 의미 그대로 나는 순수한 정의이며, 순수한 헌신이다. 이 세상은 내 손에 쥔 꽃이다. 그 꽃을 짓뭉개느니 나의 존재를 끝내리라. - P11
가장 현명하고 가장 연민이 강한 사람들이 불사의 균형을 잡기 위해 생명을 끝낸다는 건 완벽한 세상을 위한 완벽한 아이디어였다. - P158
오만한 독재자는 신민들에게 세상의 죄악들을 가장 자기 방어 능력이 없는 이들 탓으로 돌리도록 허용한다. 도도한 여왕은 신의 이름으로 이루어지는 학살을 허용한다. 오만한 대통령은 자기 야심에만득이 된다면 온갖 증오와 혐오를 다 허용한다. 그리고 불편한 진실은 사람들이 거기 탐닉한다는 사실이다. 사회는 스스로를 먹어 치우고 썩어 간다. 허용은 자유의 부풀어오른 시체다. - P205
|