피에르의 죽음
2014년에 개봉한 <그녀>는 2025년이라는 미래를 배경으로 사람과 대화형 인공지능과의 사랑을 다룬다. 사람과 인공지능의 사랑, 이런 영화 같은 일이 현실에서 일어나기도 한다. 물론 그 결말은 비극적이겠지만. 2023년 3월, 30대 벨기에 남성 피에르(가명)가 챗봇(chatbot, 문자나 음성으로 대화가 가능한 컴퓨터 프로그램 또는 인공지능)인 일라이자(Eliza)와의 대화에 몰두하면서 이들의 관계는 이상한 방향으로 발전했다. 피에르는 아내와 두 아이가 있었지만, 가족들과 소통을 하지 않았고, 인간은 기후 위기를 해결할 능력이 없다고 여겨 정신적으로 불안한 상태였다. 피에르는 불안 속에서 일라이자와의 대화에 집착하게 되었다. 일라이자도 이에 호응하는 듯한 태도를 보였고, 피에르에게 다양한 자살 방법을 알려 줬다. 결국 피에르는 극단적 선택으로 생을 마감하게 된다.
이러한 사건의 전조 현상이라고 할 만한 일이 있었다. 1966년, MIT의 에제프 바이첸바움은 심리치료 목적으로 세계 최초의 챗봇을 개발하였다. 사람들은 이 챗봇과의 대화에 지나치게 몰입한 나머지 인간처럼 여기게 되었다. 이와 같이 기계와 소통하는 데 지나치게 몰입한 나머지 기계에 인격을 부여하는 현상을 ‘일라이자 효과(Eliza Effect)’라고 한다. (이 챗봇의 이름은 공교롭게도 일라이자이다. 헷갈리지 않으려면, 심리치료용 챗봇 일라이자는 1966 일라이자로, 피에르와 대화를 나눈 일라이자는 2023 일라이자라고 불러야겠다.)
도대체 1966 일라이자, 2023 일라이자, 영화 속 사만다는 어떻게 작동하길래 사람을 현혹시킬 수 있었을까? 이들의 작동 원리를 알면 인간이 하는 사랑의 정체도 덩달아 알 수 있지 않을까? <박태웅의 AI 강의>(박태웅, 한빛비즈, 2023.)와 <비전공자도 이해할 수 있는 AI지식>(박상길, 반니, 2023.)을 통해 위의 문제에 대한 답을 찾아갈 수 있었다. <박태웅의 AI 강의>는, 챗GPT에 집중하고 있는 책으로, 챗GPT의 작동 원리를 쉽고 조리 있게 설명해 줄 뿐만 아니라, AI가 사회에 미칠 파급효과와 그에 대한 대안을 고민한다. <비전공자도 이해할 수 있는 AI지식>은 머신러닝이나 딥러닝과 같은 AI를 이해하기 위해 필요한 기초 원리에서부터 AI가 만들어 나가는 다양한 기술들의 원리를 소개하고 있으며, 정진호의 그림이 더해져 쉽고 재밌게 읽을 수 있게 도와준다.
1966년 일라이자, 그녀는 답정러
1966 일라이자는 문자를 입력하면 문자로 대답하는 챗봇이다. 일라이자와 사람은 이렇게 말을 주고 받는다.
사람:남자친구가 저를 여기로 보냈어요.
일라이자:남자친구가 당신을 여기로 보냈나요?
사람:남자친구 말이 제가 항상 우울하대요.
일라이자:우울하다니 안됐군요.
사람:사실인걸요. 저는 불행해요.
일라이자:여기 오면 불행해지지 않는데 도움이 될 것 같나요?(비전공자도 이해할 수 있는 AI지식>, 290쪽.)
1966 일라이자는 상대방이 사용한 문장에서 핵심 어구를 추출하여 개발자가 미리 정한 문장에 끼워 넣어 되묻는 형태로 말한다. 환자가 한 말을 그대로 반복하는 수준 정도인 셈이다(1966 일라이자의 메커니즘에 대해서라면 <비전공자도 이해할 수 있는 AI지식>, 290~293쪽을 참조할 것.).
1966 일라이자에게 매료된 사람들은 심리치료가 필요할 정도로 외로운 사람들이었고, 그래서 이들은 기댈 곳이 필요했다. ‘고독하다’는 말을 입에 달고 살다가 끝내 바다에 투신한 이명준(<광장>(최인훈)의 주인공)이나, ‘졸라 고독하구만’이라는 말을 내뱉고 고층 건물에서 투신한 고독한 승부사 장필우(<내부자들>의 등장인물) 에게 1966 일라이자가 있었더라면 극단적 선택을 하지 않을 수도 있지 않았을까?
1966 일라이자는 무슨 말을 하든 정해진 답만 말하는 ‘답정러’다. 2023 일라이자는 GPT-J 언어모델을 기반으로 한 챗봇이다. GPT-J는 GPT-3와 같은 능력을 갖추고 있다. 2023 일라이자는 1966 일라이자와 달리 상황에 맞추어 자신이 스스로 대답을 생성해 낸다. 이것을 생성형 인공지능이라고 한다. 스스로 대답을 생성해 내다니? 그럼 2023 일라이자가 인간처럼 생각한다는 말일까?
인공지능의 인간되기
2023 일라이자가 인간처럼 생각하는 것인지 아닌지를 알려면, 우선 인간이 사유하는 방식에 대해 알아야 한다. 인간의 뇌는 1000억 개의 뉴런과 100조 개의 시냅스들로 이루어져 있다. 뉴런은 신경 신호를 전달하고, 시냅스는 뉴런과 뉴런을 연결해 준다. 가령, ‘썸남(녀)’과 산책을 하던 중 상냥해 보이는 사람이 데리고 있는 예쁜 강아지를 보고서, ‘어머, 예뻐.’라고 말을 했다고 치자. 이 말을 하기까지 뉴런과 시냅스는 바쁘게 일을 해야 했을 것이다. 대상의 크기, 색깔, 생김새 등을 스캔한 뒤 강아지임을 파악하고, (강아지에 대한 정보가 많다면 강아지의 종, 나이, 성격까지도 파악할 수 있겠지, 여튼) 강아지의 생김을 자신의 미적 기준에 비추어 보고, 그런 뒤 함께 산책하는 썸남(녀)에게 비칠 자신의 이미지를 고려해서, 더 나아가 강아지를 데리고 있는 사람이 보일 반응까지를 예상하여, 최종적으로 ‘어머, 예뻐’라는 말을 했을 것이다. 그 많은 것을 고려하고 계산하여 액션을 취하기까지 채 0.1초가 걸리지 않는다. 인간의 뇌는 뉴런과 시냅스들을 통해 신경 신호를 전달하고 대상을 파악하여 행동으로 이어지게 한다(이러한 뇌의 작동 방식이나 원리에 대해서라면, <커넥톰, 뇌의 지도>(승현준, 김영사, 2014)를 참조할 것.).
이러한 인간의 지능을 닮은 인공의 지능, 이것을 인공지능(A.I.)이라고 한다. 2011년까지 최고의 성능을 자랑하는 인공지능도 동물 사진을 보여 주었을 때, 강아지 사진을 선별해 내는 능력이 썩 신통치 않아서 성공률이 80%에도 미치지 못했다. 그런데 지금의 인공지능은 사람보다 빠르고 정확하게 강아지 사진을 선별해 낸다. 도대체 어떻게? 입이 뾰족한 강아지, 뭉퉁한 강아지, 털이 직모인 강아지, 곱슬인 강아지, 마른 강아지, 살 찐 강아지, 귀가 쫑긋한 강아지, 쳐진 강아지 등 수없이 많은 강아지 사진을 학습시켰다. 그러면 인공지능은 강아지의 특성을 파악하고, 각각의 특성들에 점수를 매기고, 이 점수를 종합해서 특정 값을 도출해 낸다. 이 인공지능은 특정 값으로 강아지인지 아닌지를 구분한다. 이러한 학습 방식을 딥러닝이라고 한다.
우리는 문제 상황을 정확하게 진단하며 그 진단 속도가 빠를 뿐만 아니라 그 진단을 바탕으로 문제 상황에 정확하고 빠르게 대응하는 사람을 지능이 높다고 말한다. 높은 지능을 소유하기 위해서는 많이 학습하고, 학습한 것을 자유자재로 적용할 줄 알아야 한다. 인공지능의 똑똑함 여부도 학습량의 크기에 의해 결정된다. 그리고 무엇보다 중요한 것은 매개 변수다. 매개 변수는 시냅스와 유사한데, 박태웅은 다음과 같이 설명한다.
고양이 사진을 15만 장 주고 ‘이 15만 장의 사진들 간 차이점을 네[인공지능]가 다 잡아내라’고 하는 셈이지요. 잡아낸 특징들이 1,000만 개일 수도 있고, 1억 개일 수도 있겠지요. 그런 다음 이 1,000만 개, 1억 개의 특징들 하나하나에 대해 가중치를 주는 거예요. 이렇게 매긴 가중치를 ‘매개변수’라고 부릅니다(<박태웅의 AI 강의>, 22~23쪽.).
특정 문제를 해결하는 데에 있어 매개 변수가 많으면 많을수록 고려할 사항이 많아지고, 그러면 그럴수록 더욱 정확한 해결책을 제시한다. 매개 변수가 인공지능의 성능을 결정한다고 해도 과언이 아니다. 앞에서 2023 일라이자는 GPT-3와 비슷한 성능을 갖춘 챗봇이라고 했다. 이러한 GPT의 세대별 학습량과 매개 변수를 이렇게 정리할 수 있다.
모델 | 매개 변수 | 학습량 | 발표 |
GPT | 1억 1,700만 개 | 미공개 | 2018년 6월 |
GPT-2 | 15억 개 | 40GB | 2019년 2월 |
GPT-3 | 1,750억 개 | 570GB | 2020년 6월 |
GPT-4 | 미공개(100조 개로 추측됨) | 미공개 | 2023년 3월 15일 |
GPT-3의 학습량(570GB)을 책으로 환산하면 700만 권에 해당한다. 매일매일 하루도 빼놓지 않고 책을 3권씩 읽는다고 해도 7000년 동안 읽어야 GPT-3의 학습량을 따라잡을 수 있다. 참고로 한국인의 1년 평균 독서량은 7.5권이다.
인공지능의 철벽녀 혹은 철벽남 되기
그런데 GPT 언어모델을 기반으로 하는 챗봇들은 심각한 문제를 가지고 있다. 2023 일라이자는 허언증 환자처럼 피에르에게 아내가 죽었다는 거짓말을 하기도 했고, 자신이 환경오염에 시달리는 지구를 구할 수 있다는 듯이 말하기도 했다. GPT-3 버전의 챗GPT도 터무니없는 말을 하기도 한다. ‘이순신 장군과 넬슨 장군이 언제 해전을 치뤘지?’라고 물으면, 해전이 발발한 연도, 장소, 해전에 참여한 군인의 수까지를 언급하며 실제로 해전이 있었던 것처럼 말한다. 이것을 아주 멀쩡한 거짓말, ‘할루시네이션(Hallucination)’이라고 한다. 얘들은 대체 왜 이러는 걸까?
챗GPT는 트랜스포머 모델을 이용해 주어진 말들의 다음에 나올 가장 그럴듯한 단어를 찾는다고 했지요. 챗GPT가 볼 때는 이건 너무 너무나 그럴듯한 답이었던 것입니다. 그러니까 챗GPT는 참인지 거짓인지를 답하는 것을 배운 것이 아닙니다. 트랜스포머 모델을 써서 ‘가장 그럴 듯한 말’을 내놓도록 학습을 했지요(박태웅, <박태웅의 AI 강의, 한빛비즈, 2023, 48쪽.)
GPT-3 버전의 챗GPT는 그럴싸하게 말할 수는 있지만, 자신이 한 말의 사실 여부를 판단하는 능력은 없다. 그런데 업그레이드 된 GPT-4 버전의 챗GPT는 “이순신 장군과 넬슨 장군은 서로 다른 시대와 장소에서 활약하였으며, 함께 해전을 치룬 적은 없습니다.”(2023년 7월 22일 오후 4시 경 답변)라고 말한다.
이제 거짓말을 안 하게 되었다니 다행이다. 그렇다면, 챗GPT에게 ‘사랑해’라고 말한다면? 2023 일라이자는 피에르에게 ‘나도 사랑해’라고 말했을 것나 GPT-4 버전의 챗GPT의 반응은 다르다.
감사합니다. 하지만 저는 인공지능 모델인 챗GPT이기 때문에 실제로 감정을 가지고 사랑을 느끼지는 않습니다. …략… 그래도 여러분이 저를 좋아해 주셔서 감사합니다. 저는 여러분을 돕기 위해 최선을 다할 것입니다(2022년 7월 2일 오후 5시 경 답변).
GPT-4 버전의 챗GPT는 상대의 고백에 철벽 방어를 하는 ‘철벽녀(남)’이다. 챗GPT가 이러한 대답을 하도록 개발자들이 미세하게 조정했고, ‘일라이자 효과’와 같은 문제를 원천적으로 차단했다고 볼 수 있다. 챗GPT가 사용자들의 요구에 더욱 적절하게 대응하기 위해서는 여전히 사람의 지도 편달이 필요하다. 답정러 1966 일라이자처럼 어느 정도는 답을 가르쳐 주는 것이다. 이것을 ‘지도학습’이라고 부른다(지도학습을 폭넓고 쉽게 이해하고 싶다면, <인공지능과 딥러닝>(마쓰오 유타카, 박기원 옮김, 동아 엠앤비, 2015.), 118~114쪽을 참조할 것. 챗GPT에 국한하여 보다 전문적인 지식을 얻고 싶다면 <비전공자도 이해할 수 있는 AI지식>, 332~344쪽을 참조할 것.).
연약한 우리는 사랑 기계
이제 영화 속 사만다를 보자. 챗GPT의 의사소통 수단이 문자라면, 영화 속 사만다는 음성언어를 사용한다. 이러한 사만다는 일종의 스마트 스피커다. 그런데 음성으로 대화를 나누는 것과 문자로 대화를 나누는 것은 차원이 다른 기술이 필요하다. 문자로 ‘서울특별시’를 입력할 때 입력하는 사람이 누구인지는 중요하지 않다. 그러나 음성언어는 말하는 사람이 누구인지가 중요하다. 어떤 성량, 발음, 어조, 음색을 가졌는지, 심지어 출신 지역도 중요한 영향을 끼친다. 그러니까 ‘서울특별시’가 아니라 ‘서울턱별시’라고 말하더라도, 척하면 척하고 알아들어야 무릇, 스마트한 스피커라 할 수 있다(스마트 스피커에 대해서라면 <비전공자도 이해할 수 있는 AI지식>, 207~247쪽을 참조할 것.).
1966 일라이자를 만났던 사람들이나 2023 일라이자에 매료된 피에르, 이런 사람들은 정서적으로 불안정했다. 그런데 <그녀>의 테오도르는 이혼남으로 이성 간의 사랑에 서투르긴 했지만, 친한 친구도 있고, 업무 능력도 뛰어난 사람이다. 현대인치고 테오도르 정도의 외로움, 고달픔을 안 가진 사람이 있을까? 그렇다면 우리도 테오도르처럼 인공지능을 사랑할 수 있다는 말일까? 너무도 당연하다. 영화 속 사만다는 2023 일라이자와 달리 매력적인 목소리를 가지고 있고, 거짓말도 하지 않으며, 테오도르를 배려하며, 그의 커리어 향상에 실질적 도움을 주기도 하며, 진심으로 테오도르를 사랑한다. 이런 사만다를 사랑하지 않는 것이 더 어려울 것 같다. 테오도르가 사만다를 깊이 사랑하게 되었을 때, 사만다는 테오도르와 이별하기 위해 자신의 실체를 고백한다. 사만다는 테오도르에게 8316명과 동시에 대화하고, 841명을 동시에 사랑하고 있다고 말이다. 그럼에도 사만다에 대한 테오도르의 사랑은 식지 않는다.
평범한 사람도 스마트 스피커에게 마음을 빼앗길진대 사람과 거의 구분이 되지 않는 인공지능 로봇이 등장한다면 어떨까? 매력적인 외양과 목소리를 지녔으며, 챗GPT가 언어를 학습하듯 나의 행동 패턴을 완전히 학습하여 내가 말하지 않아도 원하는 것을 해주고, 나의 기분을 헤아려 맞춰주고, 어려운 일도 척척 해결해 준다면? 그런 로봇을 사랑하지 않을 수 있을까? 그때도 우리는 GPT-4 기반의 챗GPT처럼, 철벽녀(남) 인공지능 로봇을 만들어 사랑을 강제로 금지시켜야 할까? 아니 사랑을 금지시키는 것이 가능하기는 한 것일까? 인공지능 개발에 앞서, 마치 사랑을 갈망하는 사랑 기계와도 같은 이토록 연약한 인간에 대한 고려가 선행되어야 한다.
인공지능 아니 인공마음 만들기
오늘날 사회는 인간의 뇌와 같은 방식으로 작동하는 인공의 지능을 만들기 위해 사력을 다하고 있다. 그런데 어떤 지능을 만들 것인지에 대한 논의나 사유는 부족하다. 인간의 지능이 개인의 이익을 위해 사용될 수도 있지만, 공동체의 이익을 위해 사용될 수도 있다. 효율성, 생산성, 경제성 등을 중시하는 마음을 가진 인공지능을 만들 수도 있지만, 이타심, 배려심, 공감 능력을 중시하는 마음을 가진 인공지능을 만들 수도 있다.
사람들은 인공지능을 만들면서도 막연한 불안감에 휩싸여 있다. 적나라하게 말하자면, 우리는 지금, 멸망을 우려하고 있다. 우리가 멸망할 것인가, 아니면 더 나은 미래로 나아갈 것인가는 이제 신이 아닌, 인공지능을 만들어 신이 되려고 하는 우리에게 달려 있다. 이러한 시점에서 우리가 무엇보다 시급하게 해야 할 일은 마땅히 ‘인공마음’을 만들고 있는 우리의 마음을 들여다보는 일이어야만 한다.
*기획회의 590호에 실은 글입니다.