자연적인 유기의 적합성 함수는 단지 지능이나 그 선행 지적 능력만을 염두에 두고 선택을 해오지 않았다는 것이다. 더 뛰어난 정보 처리능력을 가진 유기체가 더 많은 혜택을 얻는환경일지라도, 지능에 따른 선별이 일어나지 않을 수도 있다. 왜냐하면 지는의 향상에는 거의 항창 상당한 비용 - 에너지 소비가 늘어난다거나, 성체로의 성숙기가 더 길어지는 것과 같은 이 수반되기 때문이다. 그리고 이런 비용은 지능의 향상으로 얻는 이득보다 더 클 수도 있다. 생존에 아주 불리한 환경도 지능 향상의 이득을 낮출 수 있다. 생명제의 수명이 짧을수록 학습 능력의 향상에 따른 이득을 볼 시간도 줄어들게 된다. 지능에 대한 선택압(selective pressure)이 낮아질수록 지능 향상에 기여하는 혁신(돌연변이 같은 옮긴이) 요인이 집단 내에서 확산되는 속도가 늦어지고, 따라서 차후에혁신 또한 선택의 기회가 생길 가능성이 낮아진다. 뿐만 아니라 진화는 국소적 최적점(local optima)에서 멈춰 있을 수도 있는데, 인간이라면 이러한 정체점을 알아차리고 탐색과 개척 사이의 균형을 변경하거나 서서히 난이도가높아지는 지능 증진 관련 과제를 해결하는 식으로 지능을 점진적으로 개발하여 국소적 최적점을 회피할 수도 있다. 앞에서 살펴보았듯이, 진화 과정에서 지능과 상관없는 특성들에 많은 선택 기회를 부여함으로써 지능 증진의 기회를 없애버린다(예를 들면, 면역체계와 기생충 사이의 붉은 여왕 효과[Red Queen‘s races : 어떤 대상이 변화하려고 해도 주변의 환경이나 경쟁 대상도 마찬가지로 끊임없이 변화하기 때문에 상대적으로 뒤처지거나 제자리에 머물고 마는 현상, 리 반 베일런이 생태계의 평형관계를 묘사하기 위해서사용/옮긴이]가 나타나는 경쟁적 공진화(competitive co-evolution]), 또한 진화 과정에 일관되게 치명적인 효과를 미치는 돌연변이로 인해서 자원을 계속낭비하게 되고, 서로 다른 형태의 돌연변이의 통계학적 유사성으로부터 이득을 얻는 데에도 실패한다. 자연선택의 이 모든 비효율적인 단점들지능을 진화시키는 측면에서 본다면)은 진화적 알고리즘을 사용해서 지능적인 소프트웨어를 만드는 인간 공학자라면 충분히 피할 수 있는 것들이다.
- P60
이 소단원을 마치기 전에 한 가지 강조할 것이 있다. 그것은 인공지능이인간의 지능체계와 완전히 똑같을 필요는 전혀 없다는 것이다. 인공지능은 우리와는 완전히 이질적일 수도 있다. 사실 대부분이 그럴 것으로 생각된다. 생물학적 지능과는 아주 다른 인지구조를 가지고 있을지도 모르고, 특히 개발 초기 단계에는 인지능력에서 우리와 아주 다른 강점과 약점을 가지고 있을지도 모른다. 게다가 인공지능이 지향하는 목표 시스템(goal system)은 인간의 목표 시스템과 아주 큰 차이가 있을 수도있다. 인공 일반 지능이 사랑이나 증오, 또는 자존심 같은 인간의 감정을행동의 동기로 삼으라는 법은 없다. 오히려 이러한 복잡한 감정을 인공지등에 적용하기 위해서는 신중하고 비용이 많이 드는 노력이 필요할 것이다.
이 부분은 큰 문제이기도 하고, 동시에 좋은 기회일 수도 있다. - P66