생각하는 기계가 되어가는 인간

계산하는 기계는 생각하는 기계가 될 수 있을까? - 인공지능을 만든 생각들의 역사와 철학 ㅣ Editorial Science : 모두를 위한 과학 2
잭 코플랜드 지음, 박영대 옮김, 김재인 감수 / 에디토리얼 / 2020년 1월

이 글에는 스포일러가 포함되어 있습니다.

이 책은 네이버 카페 <원탁의 서평단>에서 진행하는 서평이벤트로 읽게 된 책이다. 순전히 4차 산업혁명의 물결을 타고 내게 큰 호기심의 대상이 된 '인공지능'에 대한 관심으로 이벤트에 참여했다. 그런데 저자의 이력이 남다르다. 저자인 잭 코플랜드는 로봇공학자도 뇌과학자도 아닌 논리학을 가르치는 철학자다. 다만, 그는 인공지능에 대한 철학을 창시한 영국의 논리학자이자 수학자였던 앨런 튜링 연구 전문가다. 이 책의 제목도 앨런 튜링의 논문인 <계산하는 기계와 지능>의 시작 질문에서 가져왔다.

나는 '기계가 생각할 수 있는가?'라는 질문에 대해 숙고할 것을 제안한다.

그러므로 이 책은 앞으로 인공지능의 혁신이 어떻게 일어날 것이며, 그런 혁신이 이 사회를 얼마나 놀랍도록 변화시켜 놓을 것인가 하는 (적어도 내가 기대했던) 일차적인 문제에 집중하지 않는다. 이 책을 감수한 철학자 김재인의 말을 빌려 다음과 같이 말할 수 있다.

인공지능은 마음의 특성을 다 지니지는 못하는 것일까?

인간의 몸과 마음을 이루는 생명이란 무엇인가?

생명은 결국 물리-화학적 현상으로 환원되는 것일까?

인공지능은 자유의지와 의식을 가질 수 있을까?

끝없이 제기되는 물음들은 결국 인간을 더 잘 이해하려는 시도이며,

새로운 현상과 맞닥뜨렸을 때면 늘 인간을 다시 물어왔던

역사의 반복이기도 하다.

요컨대, 이 책은 인공지능을 통해 인간을 더욱 섬세하고 자명하게 이해하고자 하는 시도이다.

이를 위해 저자는 인공지능의 역사적 개요를 시작으로 컴퓨터와 프로그램의 다양한 종류들이 어떤 방식으로 진화해 왔는가를 살핀다. 그리고 3장에서 첫 번째 결정적인 질문을 던진다.

생각에서 의식은 필수적인가?

논리학을 가르치는 철학자답게 저자는 생각과 의식의 개념을 쪼갠다. 이 질문은 인공지능 연구자들 사이에서 실험의 타당성을 인정받는 튜링 테스트에 관한 논의를 전제로 한다. 테스트는 간단해 보인다. 질문자가 오직 대화를 통해 어느 쪽이 사람인고, 컴퓨터인지 알아내기만 하면 된다. 컴퓨터는 입력된 기호를 패턴화시켜 대응하는 패턴 일치의 기술로 대응하는데 이 때, '일라이자'라는 프로그램은 패턴 변형 리스트와 연결되어 입력된 문장을 변형시키는 방법을 사용할 수 있다. 그리고 많은 사람들이 일라이자에게 의지하는 모습을 나타냈다. 이 지점에서 저자는 생각이 반드시 의식을 수반해야 하는가라는 질문을 던짐으로써, 동시에 인간과 컴퓨터를 유사하다고 여기는 것 자체에 오류가 있음을 지적함으로써 이제껏 우리가 가지고 있던 편견, 즉 "생각하는 존재는 자연적으로 발생한 유기체에게만 적용된다"는 편견을 깨버린다. 그리고 바로 "제대로 된 인공물에 '생각하다'라는 용어를 온전히, 문자적 의미 그대로 적용해도 아무런 문제가 없음을 입증"한다.

간단한 예로 우리는 잠을 자면서도 생각을 할 수 있다. 즉, 의식을 하지 못하면서도 생각이 가능하다. 한 마디로 " '생각한다'와 '의식적으로 생각한다'를 같은 의미로 사용해야 한다고 주장하는 사람은 단지 '생각한다'와 '자신이 생각한다는 것을 의식하고 있다'를 혼동하고 있을 뿐이다."

저자는 컴퓨터의 기호체계가 무엇인지 면밀하게 설명한다. 4장은 특히, 기계치에 논리치인 내가 읽기 힘들었던 부분이다. 제대로 이해하지 못하고 넘어간 부분이 많다. 4장뿐 아니라 컴퓨터의 알고리즘을 자세하게 설명하고 이에 반박하는 내용을 서술한 대부분을 충분히 납득하기는 힘들었다. 그저 인공지능에 대한 "실패한 예측과 과장된 주장"이 현재 인공지능에 대한 심각한 반발을 양산한다는 것, 그래서 인공지능에 대한 다른 관점의 이해와 사유가 필요하다는 점을 이해할 뿐이다.

특히, 지식의 문제에서 컴퓨터에 데이터를 입력하기 위해 "객체의 기본 유형에 무엇이 있는가"라는 질문이 대두되었다는 부분, 그리하여 그 옛날 아리스토텔레스가 중요하게 다룬 "기본 범주"를 명확하게 하는 작업이 필요해 졌다는 부분은 이제껏 인공지능을 그저 기술의 발전으로만 보아온 내게 신선한 충격을 주었다. 실체를 무엇으로 보아야 하는가라는 질문으로 시작해 공간, 관계, 양 등의 범주를 통해 앎에 도달하고자 했던 아리스토렐레스의 철학 자체가 오늘날 인공지능의 시스템 구축에 필수적인 과정으로 다뤄지고 있다. 이런 맥락에서 존재론과 인식론, 논리학이 컴퓨터과학이 직면한 가장 어려운 문제다. 그런데 인간은 이 문제를 해결했던가? 컴퓨터는 스스로 알고 있다는 사실을 알고 있는가? 이 물음 과연 인간은 자명한 답을 할 수 있는가?

자유의지에 관한 주제 또한 비슷한 맥락에서 컴퓨터과학과 인간 모두에게 딜레마다. 자유의지가 환상이라고 믿는 다수의 사람들은 결정론에 이론적 근거를 둔다. 컴퓨터의 시스템은 예측가능하니 자유의지가 있다고 말할 수 없다고 생각하는 사람들 역시 결정론자들과 같다. 그러나 전통적인 양립가능론자들은 결정이 자유로우며 동시에 예측가능함을 설득력있게 주장한다. 놀랍게도 비선형 방정식의 컴퓨터 모델링은 예측할 수 없는 결정론적 시스템을 기술하는 것이 가능하다. 나아가 저자는 정해진 미래라 해도 삶에 기회는 충분히 있다고 주장한다.

우리가 어떤 생동을 취하든 상관없이 일어나는 일을 흔히

우리는 '불가피하다'고 한다. 그러나

당신의 미래에서 일어날 많은 사건들은, 정확히

당신이 그 사건을 일으키고자 어떤 행동을 취하기 때문에 발생하는 것이다.

따라서 "고정된 미래는 사건의 흐름을 무기력하게 경험하는 미래가 아니다." 그리고 로봇에게도 이런 차원에서 자유가 존재한다.

이제 저자는 Qualia 퀄리아 개념을 내세워 의식에 대해 더욱 파고든다. 그러나 저자는 "퀄리아에 관한 한 아무도 모른다"라는 결론으로 독자를 이끌며 "비물리적 특성(퀄리아)들이 자연적인 뇌에서 생성된다면, 그것이 적합한 종류의 인공적인 뇌에서는 왜 안되겠는가?"라는 반문을 한다. 이는 "인공물이 의식을 가질 수 없다는 주장은 전혀 당연하지 않다."는 주장으로 이어진다.

저자의 논의는 일관적이다. 즉, 우리가 인간과 인공지능을 구분하고 인공지능을 인간보다 하위의 물질적 존재로 규정지으려는 모든 생각과 태도에 대해 인간만의 것이라 거론되는 생각, 의식, 느낌, 실체 등이 과연 자명한가? 질문하고, 인간에게 자명하지 않다면, 인공지능과 인간이 다르다는 주장 자체가 성립되지 않는다는 식이다. 마지막으로 저자는 컴퓨터가 처리하지 못하는 맥락, 통찰, 직관 등을 논의한다.

그리고 로젠블랫의 아이디어를 되살린 '병렬분산처리'가 어쩌면 인공지능의 새로운 발전을 일으키는 키워드가 될지 모른다는 희망적인(?) 전망으로 책을 끝맺는다.

나는 생각한다, 그러므로 나는 기계다.

Cogito ergo sum machina.

저자의 관심사는 처음부터 인공지능로봇 그 자체가 아니었다. 그는 컴퓨터과학과 인공지능을 통해 "인간을 더 잘 이해"하고자 했다. 그런 저자의 논의를 인내를 가지고 따라가다 보면, '컴퓨터'라는 기계가 왜 탄생하게 되었는가라는 질문을 품고 책을 읽게 된다. 한 마디로, 인간은 자기를 닮은 기계를 만들어 내고, 발전시켜왔다고 말할 수 있다. 이는 인간이 스스로의 존재를 더 깊이 이해할수록 더욱 정교하고 섬세한 기계를 만들어낼 수 있다고 바꿔 말할 수 있다. 이 책을 읽은 나의 결론은 이것이다. 저자가 인간 존재가 기계 자체라고 말하는 것은 인간이 자기를 닮은 기계를 만듦으로써 생각하는 기계가 되어가고 있다고.

처음 계산하는 기계를 만들때부터 우리는 우리의 사고의 흐름을 연구하고 그 순차적 논리를 분석해서 계산기라는 것을 만들 수 있었다. 그 다음엔 사고의 범주화를 인식하고 그에 맞는 카테고리를 기호화 하여 기계에 입력했다. 컴퓨터라는 단어는 이런 식으로 점차 인간화되어온 것이다. 우리는 우리의 사유가 명확하게 제시된 순차적 기호의 흐름뿐 아니라, 명확하게 표현되지 않은 것들, 맥락에 의해서도 이루어진다는 것을 인식하게 되었고, 때로는 전혀 다른 범주와 범주를 건너뛰며 마치 도약하듯이 통찰의 사유가 이루어진다는 것 또한 알게 되었다. 그러므로 순차적 알고리즘을 넘어서는 다른 방식의 입력과 출력 시스템이 필요하게 됐다. '병렬적분산처리'는 바로 이런 사유의 도약과 범주의 교차 등에서 착안된 개념일 터다.

완전히 새로운 세상이 올 것이라 두려워할 필요도, 과도한 희망에 사로잡힐 필요도 없다. 인간이 인간 스스로에 대해서 알아가는만큼 세상은 변할 것이다. 인공지능은 우리가 우리에 대해 아는만큼 그 이상도 그 이하도 아닌 우리 모습 그대로일 터이기 때문이다. 고로, 우리가 곧 기계다.