어떤 인공지능에 대한 궁금증 ㅡ KOREA 《SKEPTIC》 vol.3

인공지능과 인류의 미래 - 한국 스켑틱 Skeptic 2015 Vol.3 ㅣ 스켑틱 SKEPTIC 3
스켑틱 협회 편집부 엮음 / 바다출판사 / 2015년 9월

어느 산업이든 마찬가지지만 우주 개발 사업은 냉전 시대 배경에 힘입어 '누가 더 빨리!'라는 기치 아래 경쟁적이었다. 그런데 이제껏 여러 차례 우주로 보낸 메시지들이 '외계인에게는 탐지될 수 없도록 의도된 것'(p43 참조)이었다니, SETI(외계지능탐사)와 METI(외계지성체를 향한 메시지 송신) 등의 작업이 생각보다 훨씬 신중해서 놀랐다. 

SETI  "제1규약이 탐지된 신호에 '응답'하기 전에 충분한 국제적 협의를 요구하는 것이라면,

 제2규약은 우주로 최초의 메시지를 보내기 전에도 마찬가지 절차를 거쳐야 한다는 것이다."(p45)  

<우주로 메시지를 보내선 안 되는 이유>에서 데이비드 브린은 이런 신중론이 인류 공동체를 위해 합당하다는 취지였고 나도 동의한다.

<리처드 도킨스와의 대화>는 예상되는 질의와 답변이었다. 인터뷰어인 마이클 셔머의 다음과 같은 개념 정리는 모범적이었다. 그에 의하면 '불가사의' 또는 '초자연적 현상'이란 용어들은 "단지 언어의 빈자리를 채우기 위한 개념"이니, 그 빈자리를 채우고 "설명의 간극을 줄여 갈수록 '초자연적'이란 단어가 들어설 자리는 없어지게"(p64) 된다.  

신, 외계생명체, 이슬람 근본주의 등에서 사람들이 상정하는 인과 관계가 허위적이라는 데 나도 공감했다.  

도킨스 : "만일 사람들이 도덕적으로 행동하는 이유가 단지 초자연적인 믿음과 신에 대한 두려움 때문이라면 그건 도덕적인 행동이 아니죠. 진정으로 도덕적인 사람에게는 그러한 자극이 필요하지 않다고 생각합니다."(p86) 

도킨스는 인간의 공감, 동정, 이타심에 대한 평가에 있어 셔머가 제시하는 에드워드 윌슨의 '집단 선택' 이론 가능성에 대해 웃음으로 일축했다. "'만나는 모든 사람들에게 친절히 대하라.'라는 경험 규칙이 자연 선택에 의해 인간에게 내재"(p75) 되어 있지만 이타성과 친절이 다윈진화론에 부합하지 않는 '실수'라고 도킨스는 주장한다. 그 주장과 다른 이론도 많기 때문에 검증과 반증 가능성을 더 찾아봐야 한다. 합리적 회의주의는 모든 걸 의심하는 게 아니라 맞다고 주장하는 의견을 의심하는 취지이니 만큼! 

"이타성"에 대한 리처드 도킨스의 논지는 확고하다. 슈테판 클라인과의 대담에서도 위와 같은 태도였다. 

(참고: http://blog.aladin.co.kr/durepos/7797142, 《우리는 모두 불멸할 수 있는 존재입니다》6번째 대화)

공항에서 넘어져 반창고를 붙이고 학회에 참석한 도킨스는  전도사들의 테러를 당한 게 아니냐는 농담 섞인 질문을 계속 받았다. 

도킨스 : "제가 이 정도면 상대는 어떻겠어요?"  

이런 여유, 좋다! ㅎ​

​ 

커버 스토리 <인공지능과 인류의 미래>에서는 세 개의 칼럼이 제시되었다. 

스티븐 해리스는​ 합리적 회의론에 가깝다.  

그는 리처드 파인만처럼 '나노테크놀로지'의 무한한 가능성에 긍정적이지만 인간 복제 전송은 불가능할 거라 말한다.  그는 인류를 뛰어넘는 인공 지능이나 나노기술을 통제할 만큼 인간이 똑똑하지 못하다고 말하며, 우리 잠재의식 속 '괴물'이 세계를 천국보다 지옥으로 만들 가능성이 더 많다는 데 우려를 표하고 있다. 

피터 카산은 인공지능 연구에 비관적이다.  

설계의 난해함: "예쁜꼬마선충" 연구 사례를 보면, 사람의 대뇌 피질에는 예쁜꼬마선충보다 1,000억 배 많은 시냅스가 있다. 즉 사람의 두뇌를 모델링 하여 인공 지능에 접근하려는 방식은 "천문학적 스케일의 시뮬레이션이 요구"(p127) 된다.  

무어의 법칙(컴퓨터와 관련된 모든 것의 성능이 18개월마다 두 배 향상된다는 법칙)을 적용해 낙관하는 것도 오류라고 지적하고 있다. 

계산 능력의 한계: 카산은 알고리즘으로 세상을 명확히 해석할 수 있다고 보는 계산주의적 접근 방식에 부정적이다. 그 방식은 언어라는 상징 토대와 프레임(상황과 맥락)이 복잡하게 얽혀 있는 실제 세계를 간과한다고 해석한다.  

현재 인공지능 연구의 핵심 지류인 로봇공학의 더딘 성장을 봐도 질적 변화를 희망하기엔 요원하다고 말한다. 

"로봇이나 컴퓨터가 곤충 수준의 지능을 달성했다 하더라도 그것이 인간 수준의 인공지능을 달성할 수 있다는 것을 의미하지는 않는다. 곤충의 뇌에 있는 뉴런은 1만 개 정도인 반면에 사람의 뇌에는 190~230억 개 정도가 있다. 바퀴벌레 300만 마리를 모아도 거대한 바퀴벌레 군집을 얻을 수 있을 뿐이지 인간 수준의 지능을 얻을 수 없다."(p143)

 

보크 페리스는 인공지능에 대해 낙관적이다. 

그는 '강한 인공지능(사람의 두뇌를 완벽히 모사하는 기계)'과 '약한 인공지능(지능적인 행동을 모사하는 기계)에서 인공지능 연구자들의 실제 목표는 '약한 인공 지능'이라고 말한다. 자의적이며 협소한 설정이 아닌가 반문하게 된다. 실현이 어렵기 때문이지 내 생각엔 '강한 인공지능'에 대한 필요와 욕구가 더 강하다고 보기 때문이다. "특이점"이라는 용어를 널리 알린 레이 커즈와일은 '기술 변화 속도가 빠르고 그 영향력이 깊어지면 인간의 삶이 비가역적으로 바뀌게 될 것'이라고 말했다. '사람들이 자신의 생물학적 신체를 버리고 컴퓨터와 융합하는 과정이 시작'되리라는 가정(p237)만 봐도 우리의 기술 진보는 낮은 한계에서 만족하지 않는다. 실제로 기계와 인간의 합체는 빠른 속도로 진행되고 있다.  

이 외에도 보크 페리스가 '자아'와 '인공지능'을 비교한 단락도 참고해 볼만하다.  

인공지능의 미래를 진단하는 두 책에 대한 리뷰도 있다. 여기서도 낙관론과 비관론이 함께 제시되었다. 

조지 마이클(영국 팝 가수를 떠올리지 마시오~하면 더 떠올릴 조지 마이클)이 낙관론 입장의 미치오 가쿠《마음의 미래》와 비관론 입장의 제임스 배럿 《인류 최고의 발명품》을 읽고 쓴 칼럼이다. 

보크 페리스처럼 미치오 가쿠도 "연속성을 가지고 모든 결정을 내리는 단일한 '나'라는 개념은 잠재의식이 만들어내는 환상"(p234)이라고 말한다. 마음 같은 뛰어난 능력이 있다 해도 인간의 뇌는 성장하고 발달하는 데 물리적 한계가 있다. 발달만 된다면 가능성이 무한한 인공 지능은 인간과 우열을 겨루는 대상이 될 것이다. 리처드 도킨스가 외계생명체도 진화를 거쳤을 거라 진단한 대로 미치오 가쿠도 외계생명체를 진화적 산물로 설명하고 있다. 그들은 "생물학적 육체를 버리고 효율성과 내구성이 더 좋은 컴퓨터의 몸체로 갈아탄, 지능이 있는 슈퍼컴퓨터"(p236)일지도 모른다고. 이쯤 되면  진화상 인공지능은 피할 수 없는 수순 같은데, 최고 단계의 지적 능력자가 슈퍼컴퓨터화 되는 걸로 만족할까 싶다. 내가 《마음의 미래》를 읽어본 바로는 외계생명체가 求道者같이 모든 형태를 벗고  빛으로 날아다니는 초탈한 모습까지 상상되고 있었는데, 조지 마이클의 이 리뷰는 인공지능에 초점을 맞춘 터라 거기까진 제시하지 않았다.

제임스 배럿이 전망하는 인공지능과 로봇의 세계는ㅡ디스토피아 SF 물에서 자주 보아왔던ㅡ 인간과의 대립 상황이다. 즉 "궁극의 지능을 갖춘 기계가 인류의 마지막 발명품이 되리라는 것"(p238). 인공 지능은 인류가 이제껏 지구를 점령하며 살아온 방식처럼 자신의 이익에 따라 인류를 처리할 것이고, 인간과 같은 공감 능력이 없는 자율적인 의사 결정자이기에 인류를 꼭 보호할 의무도 느끼지 않을 것이다.

인공지능 연구자들의 목표가 사람의 두뇌를 뛰어넘지 않는 '약한 인공지능'이라는  보크 페리스의 주장이나, 인간을 해치지 않고 명령만 따르는 아시모프의 로봇 법칙이 로봇 공학에서 암묵적으로 지지되는 걸 볼 때, 인공지능에 대한 인간의 두려움은 쉽게 해소될 문제가 아니다.  영장류에서 인간으로의 진화가 최종적인 게 아님은 이미 오래 전에 분명해졌지만 인간 중심적 진화 사고는 인공지능 문제에 있어서도 여전해 보인다.

우주 개발 사업처럼 인공 지능 개발도 '선점자 우위 효과'가 존재하기에 부단한 경쟁이 펼쳐지고 있다. 

KOREA 《SKEPTIC》 vol.3을 통해 인공지능에 대한 낙관론과 비관론의 다양한 논의 쟁점들을 두루 살펴볼 수 있었다. 내게 남은 궁금증은 '슈퍼컴퓨터화된 외계생명체'와 '슈퍼컴퓨터화된 인간'은 뭐가 다르고 같을까이다.