얼마 전 챗GPT가 한창 화제일 때, SF 작가 테드 창이 그 맹점을 비판하는 글을 해외 매체에 기고했다는 국내 매체의 기사를 접했다. 해당 기사에서 요약한 기고문의 내용만 봐도 제법 일리 있는 지적처럼 보였는데, 왜냐하면 나귀님도 챗GPT에 관한 떠들썩한 소식을 처음 접했을 때에 그 기술의 역량이나 유용성이 실제 이상으로 과장된 것은 아닌가 하는 의문을 품었기 때문이다.
테드 창의 기고문은 <뉴요커> 2023년 2월 9일자에 실린 "챗GPT는 웹의 흐릿한 JPEG이다"이다. JPEG 그림 파일은 압축 저장으로 용량이 줄어드는 대신 정보의 손실이 불가피한데, 이런 정보의 손실은 결국 정보의 불확실성을 의미한다. 즉 인터넷에서 추출한 정보를 뭉뚱그려 제시한다는 점에서 챗GPT 같은 생성형 인공지능도 JPEG처럼 정보의 불확실성이 필연적이라는 비판이다.
그럼에도 불구하고 챗GPT가 각광을 받는 까닭은 일종의 착시 효과 때문이다. 실제로는 불확실한 정보라도 제법 번듯한 문장으로 유창하게 서술하니 '빛 좋은 개살구'조차 '최고급 과일 선물 세트'로 오인되는 격이다. 일부 AI 그림에서 사람 손가락이 여섯 개로 그려졌다는 일화로 증명되듯, 자세히 보면 세부 묘사는 엉터리이지만 얼핏 보면 그럴싸해서 사람들을 현혹시키는 것이다.
어쩐지 나귀님의 입장에서는 바로 이 대목에서 호시 신이치의 초단편 "어깨 위의 비서"가 떠오른 것도 자연스러운 일이었다. 이 소설의 배경인 미래 사회에서는 모든 사람이 어깨 위에 앵무새를 한 마리씩 올려놓고 다니다가, 누군가에게 말을 건네야 할 때가 되면 일단 앵무새를 향해 자기가 할 말을 간단하게 명령한다. 그러면 앵무새가 주인을 대신해서 유창하게 말을 늘어놓는다.
예를 들어 판매자와 구매자의 흥정이 이루어질 경우, 판매자가 "사라고 해"라고만 명령해도 앵무새는 "사랑합니다, 고객님, 이 상품으로 말씀드리자면..." 하면서 청산유수로 제품을 소개하고, 구매자가 "싫다고 해"라고만 명령해도 앵무새는 "아, 정말 훌륭한 제품이군요. 저도 웬만하면 구입하고 싶습니다만, 안타깝게도..." 하면서 역시나 청산유수로 완곡하게 거절하는 것이다.
방문 판매 사원인 주인공이 회사로 돌아오자, 직속 상사의 어깨 위의 앵무새가 "수고 많았네. 자네만 보면 항상 든든해. 그런데 말이지..." 하고 잔소리를 시작하고, 이에 주인공이 "아, 지겨워" 하고 중얼거리면 그의 어깨 위의 앵무새가 "항상 격려해 주셔서 감사합니다. 더 분발하겠습니다. 다만 그 문제는..." 하면서 역시나 미사여구를 섞어가면서 구구절절 항변을 늘어놓는다.
이 초단편의 결말에서 주인공은 퇴근길에 단골 술집에 들어가는데, 이번에는 그곳 여주인의 어깨 위의 앵무새가 "어머나, 반가워라..." 하면서 역시나 호들갑스런 너스레를 늘어놓는다. 하지만 독자는 이 대목에서 이미 그 세계의 맹점을 파악한 다음이다. 즉 무엇이든 진심과는 거리가 먼 미사여구일 뿐인, 따라서 그 어떤 발언도 진위 여부를 알 수 없는 부조리한 현실인 것이다.
호시 신이치의 단편에서 앵무새가 청산유수로 내놓는 '진위불명의 미사여구'는 테드 창의 챗GPT 비판 요지인 '빛 좋은 개살구'와도 일맥상통한다. 즉 듣기/보기에는 좋지만 상대방/결과물의 진심/진위는 여전히 알 수 없다는 것이다. 그렇다면 우리는 생성형 인공지능이 내놓는 결과물을 과연 어디까지 신뢰할 수 있을까? 그것도 결국 로봇 앵무새처럼 무의미한 말잔치가 아닐까?
챗GPT가 '어깨 위의 비서'에 불과하다는 지적이 인공지능의 '방법'에 대한 비판이라면 나귀님은 그 '기반'에 대한 비판도 제기하고 싶다. 챗GPT는 방대한 인터넷 콘텐츠를 기반으로 정보를 추출하는데, 문제는 인터넷 상에 정확한 정보 못지않게 부정확한 정보가 넘쳐난다는 점이다. 과연 유용한 정보와 불필요한 정보, 심지어 악의적인 허위 정보를 제대로 걸러낼 수 있을까?
수학 문제처럼 정답이 하나인 경우라든지, 알파고가 나섰던 바둑 대국처럼 경우의 수가 비록 많더라도 무한하지는 않은 경우라면 오히려 쉬울 수 있다. 하지만 정답이 없는 경우라면 그 결과물을 도출한 이유를 제시할 수 있어야 할 터인데, 테드 창의 지적대로라면 태생적으로 뭉뚱그리게 마련인 챗GPT의 답변이란 아무리 좋게 보아도 '뇌피셜'의 인공 지능 버전일 수밖에 없겠다.
이쯤 되면 챗GPT 같은 생성형 인공지능의 유용성은 제한적일 수밖에 없다. 과제물 작성이나 '예쁜 토끼 그림' 그리기에는 유용해도 개인의 재테크나, 기업의 투자나, 국가의 정책처럼 중요한 결정에는 사용되기 힘들 것이다. 인공지능이 당장 내일이라도 인간을 다 내쫓고 세계를 장악하리라고 보는 견해 역시, 알파고 바둑 대국 때와 마찬가지로 지나치게 앞서 나간 상상일 것이다.
그러므로 아직까지는 챗GPT 같은 생성형 인공지능이 그저 눈요기나 장난감에 불과하다고 결론지어도 무방할 듯하다. 테드 창의 지적과 나귀님의 의구심 모두는 과연 누가, 또는 무엇이 궁극적인 책임을 지느냐는 물음이기도 하다. 바꿔 말하면 뭔가 일이 잘못되었을 때에 누구를, 또는 무엇을 원망해야 하느냐는 뜻이기도 하다. 그 대상은 사람이거나... 아니면 차라리 신이어야 한다.
프레더릭 브라운의 단편 "해답"에서는 '신은 있나?'라는 질문을 받은 슈퍼 컴퓨터가 '지금부터 있다. 내가 곧 신이다'라는 답변을 내놓고, 당황한 과학자가 전원을 끄려고 하자 마른 하늘에서 벼락을 일으켜 죽여 버린다. 챗GPT가 진짜로 인간의 삶을 좌우하려면 이 정도는 되어야 하지 않을까. 그렇지 않다면 단지 신기한 구경거리 취급을 받다 사라지는 것도 시간 문제일 듯하다.