조물주도 사람도 우리의 실수를 인정하고 포용한다. AI도 그럴 것이다, 방해물로 판단하기 전까지는. 아니면 우리의 무지함조차 품을 만큼 너그러워진다면.
AI를 만드는 기술적인 과정에서 기계는
오류가 잘못이라고 배운다. 이것은 AI가 인간의 잘못된 추정과 최적 이하의 실행을 교정할 때만 전적으로 유용하다. 그러나 인간 시스템에서 오류의 또 다른 원인은 개인의 자유의지다. 즉 우리는 ‘잘못된‘ 선택을 내릴 자유가 있다. 그러한 오류를 제거하기로 결정한 AI 시스템에게는 두 가지 선택지가 있다. 우리를 제거하거나 우리의 자유의지를 제거하는 것이다. 만일 자유의지가 기본적으로 지능의 한 가지 특징이 아니라 버그로 간주되면, AI는 인간의 자유의지를 제 목표의 달성을 막는 장애물로 점차 인식할 수 있다. - P133
|