우리는 지능 대확산이 일어나기 이전에 필요한, 이렇듯 중요하면서도 긴급한 문제의 해결책에 집중할 필요가 있다. 또한 부정적 가치를 가진(그것을 해결하는 것이 해로운) 문제를 해결하려고 노력하지 않도록 주의해야 한다. 예를 들면, 기계지능 혁명이 유익한 방향으로 일어날 수 있도록 할 수 있는 통제방법의 개발은 촉진하지 않고, 그저 기계지능의 개발 속도만 높이는 한, 인공지능 분야의 몇몇 기술적인 문제들의 해결책은 부정적인 영향을 줄 수 있다.

하나의 중요한 변수는 인공지능 분야와 그것을 선도하는 과제들에서 사용되는 "사회 인식론"의 질이다. 중요한 고려사항의 발견은 가치가 있겠지만, 단지 그것이 실제 행동에 영향을 줄 경우에 한해서이다.

지능 대확산이 일어날 전망이 보이기 이전에는, 인간은 마치 폭탄을 가지고 노는 작은 어린 아이들과 같은 존재이다. 이것은 장난감이 가진 힘과 인간 행위의 미성숙성 사이의 부조화를 잘 보여준다. 초지능은 현재 준비되지 않았고 또한 한동안 준비될 수 없는 힘겨운 목표이다. 언제 폭발이 일어날지에 대해서는 거의 예측이 불가능하지만, 만약 그 장치를 우리 귀에 가까이 가져다대면 비록 희미하게나마 똑딱거리는 소리를 들을 수 있을 것이다.


댓글(0) 먼댓글(0) 좋아요(3)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo