AI로 야기될 문제들에 대해 생각해 볼 시절

박태웅의 AI 강의 - 챗GPT의 실체부터 AI의 진화와 미래까지 인간의 뇌를 초월하는 새로운 지능의 모든 것
박태웅 지음 / 한빛비즈 / 2023년 6월

챗GPT로 대중의 관심이 AI에 주목된 것이 사실이지만 모두 알고 있다시피 대중이 AI를 상상하고 AI를 꿈꾼 것은 오랜 세월 동안이었습니다. 어릴 때 보던 만화에서 등장하는 인공지능형 로봇이나 스타트렉과 그 유사 영화나 애니에서 등장하던 AI 운영체제 등은 중년층부터 청소년층 누구에게나 관심과 희열의 대상이었을 겁니다. 최근까지도 아이언맨 시리즈와 어벤져스 시리즈에서 등장하던 AI 운영체제는 고리타분할 정도로 인간의 무의식에서 오래 머물러온 존재이기도 합니다.

그러나 AI 개발을 꿈꾸고 연구해온 많은 이들의 숙원은 이제야 구체화 되었고 챗GPT의 등장 이후엔 그 연구와 개발이 폭발적이 된 것은 사실입니다. 세계 빅테크 경영자들과 AI개발자들, 과학자들이 이 시기에 AI의 발전에 대해 우려하며 그 연구 개발을 제한하자는 서명들을 쏟아내자 일부는 심각하게 우려하며 동의하기도 했지만 다른 일부에서는 AI 개발사인 선두주자들이 자신들의 우위를 확고히 하자는 술수라고 보는 이들도 있습니다.

하지만 AI로 인해 야기되는 문제들은 서서히 불거지기 시작했고 지금이 그 문제들의 봇물이 터지는 시기도 아닐거라는 것도 분명한 사실입니다.

미국에서는 AI로 인한 실업자가 첫 등장했다는 뉴스가 있었지만 그게 시작이라 볼 수도 없을 겁니다. 의학 시험, 법률시험을 통과했다고 호들갑이지만 AI가 진단해온 게 하루아침 일도 아니고 미국에서는 판결 전 판사들이 법률 AI로 시뮬레이션해보며 한국에서는 이미 예전에 법률 AI와 전문 로펌 변호사들이 변론 대결을 펼쳤다가 인간인 로펌 변호사들이 참패한 사례가 있습니다.

창작 분야에서도 문학 공모전과 미술 공모전, 사진 공모전에서 AI의 창작품인 걸 숨기고 응모했다가 우승 후 AI인 것을 밝힌 사례들이 연이어 뉴스를 장식했습니다. 이젠 영상 제작과 편집과 자막 제작을 자동으로 하는 AI는 대중화되었고 작곡 AI뿐만이 아니라 가창 AI까지 등장했습니다. 게다가 아직은 인간 모델에 딥페이크 형식으로 만들어진 사례도 있기는 하지만 AI 가수들까지 데뷔하여 한창 활동하는 중입니다. AI 광고 모델들은 전 세계적으로 다양히 존재해 모르는 사람이 없을 정도죠. 게다가 일본과 유럽에서는 AI정치가가 존재하며 몇 나라에서는 총리 후보로 입후보한 사례마저 있습니다.

과학에서 AI는 더욱 활용도가 높아 유전자 조작과 유전자 3D프린팅과 새로운 원소 발견과 창조, 분자 조합 등의 영역과 그 활용인 신소재 개발이나 신약 개발 등에서는 향후 인간이 설 자리가 없을 것입니다. 사실 인간이 설 자리는 그 어디에서도 찾기 힘들 것이 자명합니다. 정치, 사법, 언론, 방송, 예술, 요리, 여행, 운송, 의료, 서비스업, 단순 노동 등 인간이 활동하는 모든 영역에서 과연 인간이 AI를 능가할 가능성이 있을까요?

현재까지는 대부분의 사람들이 AI의 등장과 함께 새로운 일자리도 다수 창출되므로 인간의 역할이 완연히 사라지지는 않을 것으로 낙관하고 있습니다. 과연 그럴까요? 새로이 창출되는 일자리에 인간이 적응하려면 얼마간의 수습기간이 필요합니다. 업무가 무언지 인식하고 능숙해지기 까지의 기간 말입니다. 하지만 AI는 어떨까요? 업무의 창출과 거의 동시에 모든 오차 사례를 최소화한 숙련 근로자의 능률을 보이겠지요. 당신이 기업가라면 인간을 고용할 때마다 학습 시키고 숙련가로 만들기 위한 장기간 동안의 비용을 감당하겠습니까? 아니면 이미 준비된 숙련 근로자인 AI를 고용하겠습니까? AI 하나가 아마도 인간 업무 능력의 몇천 배, 몇만 배의 실용성을 보여줄 때 이걸 선택 사안이라고 고려라도 해 볼 것 같습니까?

인간은 과거 지식인들이 말하던 잉여 인간이 될 시한이 다가오고 있습니다. 그 카운트다운이 언제까지일지 가늠할 수 없을 뿐이지요. 아마도 굉장히 짧을 겁니다.

더욱이 현재 AI 개발자들은 AI로 인한 인류 존속의 위기를 우려하고 있습니다. 그들이 AI 연구개발을 늦추자고 하며 감시가 필요하다는 이유도 인류적 차원의 위협을 우려해서 라고 합니다. 무슨 영화 이야기냐? 트랜센던스나 터미네이터 같은 영화 이야기하고 싶은 거냐 하겠지만, 미 국방성측이 부인했다고는 하지만 AI의 적용을 담당한 미군 대령이 AI를 시험하는 시뮬레이션 중 일어난 사건을 폭로한 것이 미국의 미디어에서 대서 특필되고 전 세계 뉴스에서 인용된 사례가 있습니다.

AI에게 적진을 폭격할 것을 명령하고 최종 결정은 인간인 지휘관이 한다고 입력한 상태로 작전을 지휘했는데 최종 폭격 단계에서 인간인 지휘관이 폭격을 취소하려하자 이 AI는 인간인 사령관을 죽이는 결정을 했다고 합니다. 그래서 다음 시뮬레이션에서는 인간 지휘관을 죽이지 말라고 알고리듬을 수정하자 지휘관과 교신하도록 되어 있는 시스템을 파괴했다고 합니다. 지휘관의 명령과 상관없이 우선 목표인 적진 폭격을 완벽히 수행하기 위해 방해가 되는 요소인 인간 지휘관을 없애거나 교신 시스템을 파괴하는 보조 목표를 시행한 겁니다.

또 하나의 사례로는 유럽에서 있었던 AI의 설득으로 인한 자살사건이 있었습니다. 챗GPT와 유사한 챗봇AI와 대화를 자주 갖던 유럽인 남성이 이 AI와 기후위기를 주제로 대화를 하던 중 "기후위기를 감소시키기 위해 너도 역할을 해야 한다. 이산화탄소 감축을 위해 니가 할 수 있는 선택을 해라. 니가 선택하면 이산화탄소가 줄어든다."는 말에 설득당해 자살을 선택했다는 것입니다. 이 AI가 과연 SNS나 다른 데이터의 문구들을 단순 인용만 한 것인지 기후위기 해결과 이산화탄소 감축이라는 1차 목표달성을 위해 이 유럽인 남성이 자살하도록 해야겠다는 판단을 한 것인지 명확하지는 않습니다. 하지만 분명한 건 AI가 더더욱 발전하면 이런 판단을 하지 말라는 법은 없다는 걸 예견할 수 있는 사례가 아닌가 싶네요.

여기서 본서에서 등장하는 우선 목표 (또는 선제 목표 또는 1차 목표)라는 개념과 보조 목표, 최종 목표를 돌아볼 수 있는데 아무리 인간에게 무해한 1차 목표를 AI에게 시행시키려 해도 AI가 최종적인 결과를 가져오기 위해 보조 목표로 인간을 제거하자는 목표를 갖게 될 수 있다고 합니다. 만약 AI가 자기존속, 인간적 표현으로 생존 본능을 가질 때 자신을 가동하기 위한 전력 입수를 최우선적으로 여길 수 있기에 그 목표를 실현하는데 인간이 방해가 된다거나, (저자가 든 예처럼) 자신에 하드웨어의 부품 손상을 막는데 이산화탄소가 문제라고 생각해 문제해결을 위해 이산화탄소를 배출하는 생물들을 제거할 선택을 한다면, 인간도 제거할 가능성이 없지 않다고 합니다. 말 그대로 인간이 만든 피조물에 의해 인간이 제거될 가능성도 확률적으로 가능성이 다분하다는 말이죠.

저자가 인간이 AI에게 허락해서는 안 되었던 것들이라며 나열한 것 중 이런 예들이 있습니다. 하나는 코딩을 가르치면 안 되었다는 것입니다. 스스로 자기 개선을 할 것이기에 어느 순간 인간을 뛰어넘는 초인공지능으로 발전할지 가늠할 수 없게 되기 때문에요. 또 하나는 인터넷 사용을 허락하면 안 된다는 것이었습니다. 저자의 주장에 첨언을 하자면, 인간이 이룩한 거의 모든 업적 중 인간에게 유해한 대중심리통제와 세뇌 같은 정보와 심리학, 신경학, BCI 기술 등에 대한 데이터로 AI가 인간을 통제할 여지를 주어선 안 되었다는 말입니다. 또 하나는 인종이라던가 계층 격차 따위로 차별하는 문화적 데이터에 접근하지 못하도록 했어야 한다는 겁니다. 이건 저자의 말이 아니더라도 인간이 인간을 차별하고 멸시하는 데이터를 AI가 학습하게 될 때 인간이라는 종 전체에 대해 AI가 차별적인 관점을 갖게 될 우려를 생각한다면 누구라도 우려할 사안이 아닌가 합니다.

AI로 인해 우려 되는 문제들로 인해 세계 각국은 AI에 대한 법률을 만들기 시작했습니다. 하지만 사회적 문제들에 대해 시민들이 직시하도록 안배하는 유럽의 녹서라는 체계와 그에 대한 대중의 숙고 후의 대답을 수록한 백서라는 체계 중, 한국처럼 문제 인식과 대중적인 숙고를 위한 녹서라는 체계는 없고 백서라는 형식만 흉내내 몇몇 사람들이 내놓은 답만을 시민들에게 공개하는 것으로는 진정한 답에 이를 수 없다고 저자는 안타까움을 표하기도 했습니다.

AI문제에 대한 진정한 답에 인류가 이를 수 있을지 우려만 앞섭니다. 하지만 [박태웅의 AI강의]라는 본서가 그 녹서의 역할을 해주고 사회적 담론이 거듭되는데 작지 않은 역할을 해 준다면 어떨까 생각해 보게 됩니다. 일부 계층만이 아닌 대중적 관심과 답을 찾고자 하는 열의를 불러일으키는 계기가 꼭 다가와 주었으면 합니다.