인간지능이 인공지능으로 가는 과정

지능의 탄생 - RNA에서 인공지능까지
이대열 지음 / 바다출판사 / 2017년 4월

대니얼 데닛 등 몇몇 분석가들은 인간의 뇌를 컴퓨터의 작동 원리로 축소하는 경향이 있다. ˝데카르트가 인간의 뇌를 물의 흐름에 따라 음악을 연주하기도 하고 스스로 움직이기도 하는 물 분수에 비유했던 것이나, 프로이트가 뇌를 증기기관에 비교했던 것처럼 오늘날 우리는 뇌를 우리가 가진 가장 복잡하고 정밀한 기계인 컴퓨터에 비유˝한다. 즉 우리는 뇌를 판단 가능한 한계 내에서만 말할 수 있다. 저자는 뇌와 컴퓨터의 비교는 적절하지 않다고 말한다. 인간의 유전자에 대한 분석이 많아질수록 인간의 자유의지도 인간 진화 프로그램의 일환처럼 여겨지기도 한다. 우리를 낱낱으로 쪼개고 분석해보며 근원성을 찾고 있는데 깊이 파고 들어갈수록 역설을 만나게 된다. 마치 들뢰즈가 분석한 플라톤《소피스테스Sophiste》상황처럼 말이다. 서양 철학의 근간이라 할 수 있는 플라톤적 사유는 분류하고 선별하는 깊이와 체계를 보여준다.《소피스테스Sophiste》에서 플라톤은 거짓된 주장자(소피스트)를 몰아세우기 위해 환영의 존재를 정의하려 드는데, 환영을 파들어 갈수록 ˝환영이란 단순하게 거짓된 사본이 아니라 오히려 사본과..... 모델의 개념 자체를 의문시한 것임을˝(질 들뢰즈 논문 ˝플라톤주의를 뒤집다(환영들), 1966, 《의미의 논리》에도 수록됨)˝ 발견하게 된다. 이런 복잡함을 낳는 우리의 지능은 과연 무엇인가.

 ˝우리는 지능을 ‘다양한 환경에서 복잡한 의사결정의 문제를 해결하는 능력‘으로 정의했다. 이를 컴퓨터 용어로 다시 바꿔 쓰면 ‘자신(하드웨어)이 처한 환경에서 복잡한 문제를 해결하기 위해 필요한 프로그램(소프트웨어)를 선택하는 능력이라고 쓸 수 있다. 그런데 여기서 프로그램을 선택하는 것은 무엇인가? 이 또한 프로그램이다. 즉, 컴퓨터가 지능을 가지려면 프로그램을 선택하는 메타-프로그램이 필요한 것이다.˝

1977년 화성 탐사에 최초로 투입된 인공지능 로버 ‘소저너 호‘는 인공 지능의 진화과정과 한계를 보여주는 예였다. 화성에 도착한 지 80여 일 만에 건전지 고장으로 무용지물이 된 상태인데, ‘자신의 생존과 번식을 위해서 필요한 영양분(에너지)을 확보하고 안전하게 이동해 가는‘ 지능의 기본적인 조건이 발달되지 못한 걸 보여줬다. 2003년에 더 개선된 인공지능 로버 ‘스피릿 호와 오퍼튜니티 호‘가, 2012년에 ‘큐리오시티‘가 투입되었는데 스스로 탐사 가능한 자율적 의사결정 프로그램이 더 강화되었다. 앞으로 눈여겨볼 문제는 인공지능이 사회적인 의사소통과 물리적 협동이 가능한 진화를 보여줄 수 있을지, 자기복제를 목표로 한 의사결정을 내릴 수 있을지 하는 점이다.

주체를 보존하는 자기복제를 하는 기계(생물 포함)는 DNA와 같은 자기 복제 과정 물질을 가지고 있으며, 세 가지 특성(유전, 변환과 제거를 하는 신진대사, 진화)을 가진다. 복사본이 원본과 원본의 정확한 복사본을 밀어내고 진화에서 더 잘 살아남을 수도 있다는 가설에서 또다시 플라톤의 ‘환영‘ 역설 상황을 떠올렸다. 신경세포가 화석에 흔적이 남지 않기 때문에 정확한 진화 추측은 어렵지만 현존하는 동물들의 DNA 분석을 보면 우리의 조상 개념은 아주 한정적인 틀이라 생각된다. 6억 년 정도에 등장한 해면동물에서 시작해서 해파리와 같은 자포동물이 등장하고 캄브리아기(5억 4천만 년 전~2천만 년 전까지)에 현존하는 동물들의 원형이 등장했다. 절지동물, 선충류, 연체동물, 환형동물, 척추동물을 포함한 척색동물은 공통 조상에서 갈라져 나왔다. 우리는 병뚜껑을 여는 문어를 신기하게 생각하지만 그들과 우리는 유전자가 학습을 거치며 자신의 행동을 실시간으로 제어하는 지능을 가진 공통 진화체이다. 또한 짝짓기나 ˝대부분의 동물들이 단 음식을 뿌리치지 못하거나 뜨거운 물건을 만지지 못하는 것, 고약한 냄새가 나는 물건을 피하는 것 같은 반사처럼 생존과 직결되어 있기 때문에 유전자에 의해서 미리 정해진 행동˝을 하는 공통점도 있다. 고전적 조건화*와 기구적 조건화** 등 많은 학습을 통해 환경 변화에 빠르게 적응한 인류가 지구를 지배하게 됐지만 말이다.
* 고전적 조건화: 자극과 반응을 통해 학습하는 과정, 파블로프 실험이 대표적
**기구적 조건화: 특정한 행동과 그 결과 사이에 존재하는 연결고리를 신속하게 학습하는 과정, 스키너 상자가 대표적

지능을 담는 뇌는 다음 구조 속에서 진화해왔다.
RNA로 시작한 생명체가 유전자와 단백질을 도입하고 더욱 복잡한 구조를 가진 생명체로 진화하면서 유전정보를 저장하는 DNA와 촉매로 작용하는 단백질 사이에서 역할 분담이 일어났다. 세포막으로 주위 환경에서 자신을 보호하며 다세포 생명체로 진화해가며 개체를 보호하고 이동시키며 산소와 영양분을 운반하는 일을 세포들이 분담한다.
유전자와 효소의 역할을 혼자 다 소화해내는 RNA 생명체인 단세포 생명체와 달리, 구조와 기능을 갖춘 세포들이 그에 필요한 단백질을 모으고 제어하는 다세포 생명체는 그 자체가 인간 사회의 축소판처럼 보인다. 또 아미노산 순서와 직접적인 관계가 없는 ‘비암호화된non-coding DNA‘는 우주 대다수를 차지하고 있는 암흑물질과 닮았다. 그 기능을 잘 이해하지 못하고 아무런 기능이 없다고 생각해 ‘쓰레기junk DNA‘라고 불렀지만 그것은 암호 부위의 DNA에서 단백질의 양을 결정하는 조절요소로서 세포의 기능을 제어하는 데 가장 중요한 작용을 한다.

인간의 뇌가 학습과 기억을 분류하는 방법으로 다른 동물과 가장 큰 차이는 ‘언어‘다. 동물들에게 구글과 트위터가 없는 게 그 증거다. 그게 없어도 그들에겐 그들 나름의 좋은 삶이 있는 건지도 모른다.
아무튼 뇌에서 일화적 기억을 형성하는 일은 ‘해마‘가, 절차적 학습은 ‘기저핵‘이 중요한 역할을 한다. 특히 뇌간에 있는 ‘도파민‘ 세포들은 뇌의 거의 모든 영역에 축삭돌기를 뻗치고 있으며 동기와 학습에 중요한 역할을 하는 신경전달물질이다. 운동장애를 동반하는 파킨슨병은 뇌간의 도파민 신경세포들이 죽어가기 때문에 생기는 병이고, 코카인이나 메타암페타민 같은 약물이 중독성을 가지는 것은 뇌 안에 도파민의 농도를 증가시키기 때문이다. 1990년대 중반 울프람 슐츠는 뇌간에 있는 도파민 신경세포들의 활동이 보상예측오류에 관한 신호를 뇌의 여러 부위에 광범위하게 퍼뜨린다는 것을 발견했다. 해마가 손상된 환자들은 미래에 대한 상상 능력이 저하되어 있다.

우리의 뇌는 끝없는 학습 상태에 있다. 어느 길로 가는 게 빠를까 생각하는 ‘심적 시뮬레이션‘ 과정을 거치는 ‘유식한 강화 학습‘, 면도나 청소 등 매일 반복하는 ‘무식한 강화 학습‘ 등을 통해 과거에 습득한 지식을 적절하게 수정하는 일을 계속한다. 강화 학습 이론에 따르면 ‘후회‘와 ‘안도‘와 ‘반추‘는 ‘유식한 강화 학습‘에 해당되고, ‘득의‘와 ‘실망‘은 ‘무식한 강화 학습‘을 적용하는 과정에서 발생하는 보상예측오류값이 양의 값인지 음의 값인지에 따른 개념이다. 유식한 강화 학습을 잠시도 멈출 수 없는 우리의 속성 때문에 우리는 계속해서 후회하게 된다. 물론 안 그런 사람도 있다-_- 안와전두피질을 포함하는 전전두피질은 인간의 뇌에서 가장 앞쪽 부위에 해당하는 영역으로, 감정이나 사고와 같이 비교적 고등한 심리과정에 관여하는데, 안와전두피질에 손상을 입은 환자들은 후회하는 능력을 잃는다고 알려져 있다.

인간의 사회적 의사결정 중 인간이 협동을 선택할 수 있는 능력을 가지게 된 것이 ‘복수심‘과 밀접하다는 것은 의미심장하다. 인간이 집단을 형성하고 삶을 꾸리게 되면서 변절자를 처벌하는 전략은 진화의 산물이기 때문이다. 자신이 손해를 보더라도 사회적으로 바람직하지 않은 행동을 선택한 상대방을 처벌하는 ˝이타적 처벌˝을 통해 우리는 만족감을 얻는다. ˝실제로 이타적 처벌을 하겠다고 결심한 사람의 뇌를 뇌 영상기법으로 촬영해보면 보상과 효용에 관련된 정보를 처리하는 기저핵 일부에서 활성이 증가˝한다.
사회적 의사결정에서도 뇌는 쉬는 부위가 없다. ˝사회적인 상호작용을 하는 동안에는 상대방의 얼굴 표정 하나하나를 자세히 살펴야 하니 시각피질은 당연히 풀가동해야 할 것이고, 상대방이 하는 말을 놓치지 않고 이해하며 적절한 대화를 하기 위해서는 청각피질과 언어 중추 역시 풀가동되어야 한다. 그뿐 아니라 마음이론*을 계속 적용해가면서 상대방의 의도를 파악하기 위해서는 재귀적 추론을 가능케 하는 작업기억과 같은 관련된 기능을 유지해야 한다.
*마음이론: 다른 사람의 지식과 선호도를 예측하고 다른 사람의 행동을 추론할 수 있는 능력. 뇌에서 내측 전전두피질과 관련.

인간이 지나치게 사회적인 뇌를 갖게 되었을 때의 부작용인 ‘의인화anthropomorphization‘도 설득력있는 분석이다.

˝의인화는 조금이라도 사람과 유사한 특성을 갖는 사물을 마치 사람처럼 취급하는 뇌의 과민 반응이다. 이것은 마치 사냥감을 물어오기 위해서 선택적으로 교배된 리트리버 같은 개들이 테니스 공까지도 물어오는 것과 유시하다. 예를 들어 사람들은 많은 자연현상의 배후에 인간적인 의도가 숨어 있다고 생각하는 경향이 있다. 지진이나 대홍수를 신의 천벌로 여기는 태도가 바로 그것이다. 물론 미신적 사고가 간혹 생존에 도움이 되는 경우도 있다. 마치 깜깜한 밤길을 걸을 때 귀신이 있을지도 모른다고 걱정하면서, 목적지에 안전하게 도착하기 위해 발걸음을 재촉하는 경우가 그것이다.˝

저자는 ˝자유의지란 나의 행동을 스스로 통제할 수 있는 능력˝이라고 말하며, ‘자기‘라는 개념이 인간의 의사결정 과정과 무관하게 존재하는 별도의 실체가 아니라는 점을 이해하고 나면, 굳이 자유의지의 존재에 대한 답을 기대할 필요가 없다고 말했다. 철학에서 자유의지가 관념적으로 커지는 것과 달리 매우 합리적이고 명쾌한 분석이다.
맨 앞에서 논의했다시피 마음이론이 고도화되어 자기인식의 경지에 도달하게 되면 우리는 자기지시적 역설에 빠질 위험도 높아지고 부정적인 감정과 정신질환의 위험도 커진다.

결국 생명체의 지능과 앞으로 더욱 향상될 인공지능 간의 우열을 가린다는 것은 잘못된 기대라고 저자는 지적한다.  지능보다 지능지수에 포함되지 않는 개인의 독특한 능력(사회적 지능과 메타인지 능력)이 훨씬 중요한 역할을 해왔고 할 것이기 때문이다. ˝스포츠, 예술, 학문과 관련된 모든 활동은 인간의 사회적 욕구와 관련이 있고, 인간의 본성을 이해하려는 욕망은 메타인지가 없이는 생겨나지 않았을 것이다.˝ 앞으로 인공지능 개발에 있어서도 이 두 능력의 깊은 이해가 필수적이다. 인공지능에 대한 저자의 종합적인 견해는 다음과 같다.

˝인공지능과 관련된 기술이 발전하게 됨에 따라 인간의 사회적 지능 및 메타인지에 관련된 기능마저도 점차 인공지능의 한 부분이 되어갈 것이 분명하다. 그렇지만 소위 기술적 특이점같이 인공지능이 인간의 지능을 완전히 대체하는 일은 당분간 발생하지 않을 것이다. 그 이유는 지능이란 근본적으로 자기복제를 핵심으로 하는 생명현상의 일부이기 때문이다. 비록 지적 능력의 여러 측면에서 기계가 인간을 능가하는 시점이 오더라도 인공지능을 장착한 기계가 자기복제를 시작하지 않는 한 인공지능은 인간을 본인으로 하는 대리인의 자리를 지키게 될 것이다. 유전자와 뇌 사이에 본인-대리인의 관계가 성립되었듯이 인간이 인공지능을 관리하는 역할을 포기하지 않는 한 인간과 인공지능 사이의 관계도 본인-대리인의 관계를 유지하게 될 것이다."

우리의 걱정을 잠재우는 듯한 저자의 말에 안도되기도 하지만 유발 하라리가 기계와 인간의 합체를 예상하는 ˝호모 데우스˝를 말하는 시점에서 인간의 뇌도 생활도 큰 지각변동을 겪을 것이란 우려는 점점 다가오고 있다.

ps)

곧 국내 개봉(2017.5.9)하는 리들리 스콧 《에일리언 커버넌트》에 인공지능에 대한 게 나온다 그래서 더 열심히 읽었다. 헉헉