AI가 인류를 창조자가 아니라 자신의 걸림돌로 판단하게 된다면, ‘매트릭스‘에 나오는 배터리 신세가 될 날도 머지 않았다
현재 인간은 기계와 현실 사이에서 중개자 역할을 맡고 있다. 하지만 만일 인간이 도덕적으로 수동적인 미래를 선택하여, 탄소 기반 세계에서 물러나 실리콘 기반 세계로 들어가 디지털 세상으로 한층 더 파고들어 고립되고 기계에게 현실에 접근할 권한을 넘긴다면, 역할은 역전될 것이다. 오늘날 AI는 단연 사고하는 기계이지 실행하는 기계가 아니다. 문제의 해법을 생성할 수 있지만 제가 내린 결론을 실행에 옮길 수단을 아직 갖지 못해서, 현실과의 상호작용은 인간에게 의존하고 있다.하지만 이 역시 바뀔 것이다. 인간과 실세계 사이의 중개자 역할을 맡게 되면, AI는 물리적인 탄소 세계에서 능동적인 주체가 아니었던 인간이 세상을 만들거나 그것에 영향을 미치는 존재가 아니라 단순한 소비자로서 세상 밖에 머물 거라 믿게 될 수 있다. 기계는 독립적 으로 판단하고 행동할 힘을 주장하고 인간은 그것을 포기하여 자율성의 위계가 역전되면, 기계는 그에 맞게 인간을 취급할 것이다. 이러한 상황에서 인간 창조자의 명시적인 허락이 있든 없든 AI는 제 생각을 실행에 옮기려고, 혹은 저를 위해 세상에 직접 영향을 미치려고 인간 대리인의 필요성을 우회할 수 있다. 물리적 영역에서 우리 창조자들은 AI에게 필요한 파트너라는 지위를 재빨리 잃고 AI의 가장 큰 제약이 될 수 있다. 이 과정은 직접적으로 로봇에 의해서가 아니라, 인간이 세상을 수동적으로 관망함으로써 점차 시작될 것이다. - P99
|