무익한 놀이를 즐길 수 있는 존재가 인간

인공지능, 마음을 묻다 - 인공지능의 미래를 탐색하는 7가지 철학 수업
김선희 지음 / 한겨레출판 / 2021년 8월

‘인공지능AI’란 단어가 이제 전혀 낯설지 않은 이들이 많을 것이다. 세기의 바둑대결로 떠들썩하던 시절이 한참 옛 일 같다. 드라마틱하게 ‘충격적’으로 각인된 인공지능은 말릴 새도 없이 이미 우리 삶의 곳곳에 활용되고 있을 뿐만 아니라, 사람을 대신해서 의사결정을 내리고 있다. 몇 주 전에도 나는 인공지능판사의 유용성에 대해 법조계 사람들이 진지하게 긍정하는 이야기를 들었다.

새로운 과학기술이 얼마나 낯설고 저항감이 있는가와 전혀 상관없이 인류는 단 한 번도 과학기술의 사회 확산을 도중에 막아본 적이 없다. 분명 막을 수 없을 것이다. 전 세계에서 인공지능의사, 판사, 과학자, 상담사, 인공지능가수, 화가의 활약이 들려오고 이 책의 저자가 언급한 것처럼 죽은 배우가가 인공 지능으로 부활하여 대화를 나누기도 한다.

그리고 코로나19 바이러스의 단백질 구조를 일부 예측하여 백신과 치료제 개발에 단서를 제공한 것도 인공지능이다.

컴퓨터와 장기, 체스, 바둑, 스타크래프트를 해서 인간이 이기던 시절은 모두 끝났다. 주어진 규칙 내에서 연산하는 모든 종류의 인지 지적 영역에서 인간은 도전의 당위성과 가능성을 영원히 잃었다.

그 자체가 충격적이거나 슬픈 일은 아니다. 이미 오래 전 우리는 연산을 계산기에 맡겼으니까. 그렇다면 인간으로서 우리가 불길해하고 불안해하고 고민하고 경계하고 대비해야할 것은 무엇일까.

“인간처럼 일반지능을 갖춘 기계가 앞으로 출현하게 될까요? 이는 인공지능과의 관계에서 인류의 미래를 바꿀 수 있는 중요한 문제이며 이 주제도 여기서 다룰 예정입니다.”

“인공지능이라는 주제를 탐구하는 철학자로서 나는 ‘인공지능은 사고할 수 있는가?’라는 기본적 물음 자체도 (...) ‘마음이 두뇌의 물리적 구조에서 구현된다면, 그것은 전자적 구조에서도 구현될 수 있는가?’하는 질문으로 이어질 수 있겠지요.”

저자는 여러 중요한 질문들을 제시하고 그에 충실하게 답하려 설명한다. 그 질문들을 읽어 가다 보면 독자 자신의 마음속에 가장 깊이 울리는 불안과 두려움의 정체와 만날 수도 있을 것이다. 나는 아무래도 바둑과 같은 특정한 한 영역이 아니라 “인간처럼 모든 영역의 지능을 구현하는 인간형 인공지능(즉 일반인공지능)이 출현할 경우 우리는 이를 믿을 수 있을까”하는 신뢰의 문제였다.

‘인공지능은 인간을 속일 수 있는가’

‘인공지능은 마음을 구현할 수 있는가’

‘감정을 느낄 수 있는가’

‘생명과 개성을 가질 수 있는가’

‘예술을 감상할 수 있는가’

‘인공지능과 사랑할 수 있을까’

‘인공지능은 젠더 정체성을 갖는가’

‘인공지능을 믿을 수 있을까’

인간이 제공한 정보로 학습한 결과의 편향성에 대해서도 이미 우려할만한 결과들이 속속 보고되고 있고, 일반인공지능이 자기 주도 학습을 하며 진화한다고 해도 정보를 구하는 소스는 여전히 동일하다. 인공지능은 인간이 만들어 놓은 모든 데이터들만을 학습할 수 있으니 결과적으로 인간이 가진 편향성에서 자유롭지 못할 거라 생각하기 때문이다.

“터키어는 3인칭 대명사(그, 그녀, 그들)에서 성별이 구분되지 않는 언어이다. 예컨대 남녀 구별 없이 ‘그 사람은 의사다, 그 사람은 베이비시터다’라고 표기한다. 그런데 구글 번역기는 이 문장을 영어로 ‘그 남자는 의사다, 그 여자는 베이비시터다’라고 번역했다. 터키어가 성별이 표시되지 않는 언어인데도, 의사의 성을 남성 베이비시터의 성은 여성이라고 역할에 따라 다르게 성별을 부여한 것이다. 이 일은 인공지능이 간호사나 돌보미의 역할은 여성성으로, 의사나 법조인 등 전문직이나 권위적 지위의 역할은 남성성으로 규정하는 낡은 젠더 규범을 그대로 반영하고 있음을 보여준다.”

인문학적으로 성찰하는 일이 필요한 일이긴 하나 이러한 고민들이 인공지능과 관련된 초단위의 기술개발에 얼마나 진지하게 고려될지 모를 일이다. 복제양 둘리 체세포 실험 성공 이후 일 년을 여러 학회에서 인문학자들이 수많은 글을 쓰고 떠들썩하게 비판하고 경고했으나 방향과 속도에 미미한 영향이라도 미쳤나 알 수 없었던 지난 일이 떠오른다.

“놀이를 즐기고 예술작품을 향유하는 것은 달리 어떤 목적을 위한 것이 아니라 그 자체로 즐긴다는 점에서 자족적인 가치가 있습니다. 사람은 무익하더라도 재미있는 놀이를 즐기지만 인공지능은 그런 방식으로 놀이를 즐길 수 없습니다.”

이 책은 일견 공학책처럼 보일 수 있으나 인공지능에 관한 인문학적 입문서이다. 수학은 등장하지 않으니 안심하시길! 인지과학, 인공지능철학, 심리철학, 튜링 테스트Turing Test, 기능주의 (...) 몇 가지 사고실험* 등이 설명에 사용되었다.

* 사고실험은 가정적 상황을 설정하여 머릿속에서 상상해봄으로써 우리의 직관에 부합하는 이론이나 개념을 도출하는 실험입니다. 과학자들이 경험적 관찰을 통해 실험한다면 철학자들은 사고를 통해 실험하는 셈입니다.

정말 이런 일이 일어날까?

나는 아직 설득되진 않았다.

앞으로 보게 될 인공지능로봇이 나오는 영화들이 경고하는 바를 유심히 지켜봐야겠다.