어떻게 인간과 공존하는 인공지능을 만들 것인가

어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 6월

AI는 인류에게 최고가 될 것인가 아니면 최악이 될 것인가? 인공지능이 가져다 줄 혜택은 수 십만 년 전 사피엔스가 지구상에 첫 발을 디딘 후 가장 강력한 선물이 될 것이라는 것은 누구도 부정할 수 없을 것이다. 택배 기사의 과도한 노동으로 인한 과로사로 문제가 되고 있는 택배 집하는 피킹 로봇이 해결사로 등장할 것이고, 자율 주행, 사물 인터넷, AI 비서, 스마트 홈서비스, 스마트 도시, 지구환경 보호 프로그램 등 인공지능은 인류의 삶을 혁신적으로 바꾸어 줄 도깨비방망이와 같은 도구가 될 것이다.

그러나, 인공지능이나 로봇의 확대로 인한 일자리 축소 문제와 부의 쏠림 현상은 기술적 발전과 함께 동반되는 사회적 이슈가 될 것이다. 이를 해결하기 위한 사회적 기회비용은 인공지능이란 허구가 인류에게 던져 주는 짐이다. 부의 편향에 대항하여 어떻게 재분배할 것인가에 대한 논의들은 보편적 기본소득을 탄생시켰고, 보편적 기본소득을 바라보는 입장에 따라 보수와 진보라는 양대 진영의 선이 뚜렷하게 드러나고 있다. 일하지 않고 소득이 발생하는 인류 초유의 사건은 인공지능의 혜택이 될 것인지 독이 될 것인지 궁금증을 자아낸다.

그런데, 부를 꼭 돈으로 재분배해야 할까. 르네상스처럼 문화, 예술, 과학, 기술, 관광, 탄소중립과 같은 분야에 재투자해서 일자리를 늘리고 문명을 발전시키는 방향으로 행동한다면 인공지능과 인류가 아름답게 공존하는 미래가 될 수 있지 않을까.

그리고, 인공지능 기술의 발전은 인간을 뛰어넘는 초지능 AI의 탄생을 예고한다. 인간이 주는 가설을 통한 심층학습은 바둑과 같이 특정 분야에서만 인간을 넘어서고 있지만, 만약 인공지능이 스스로 가설을 정할 수 있다면 무한한 데이터를 바탕으로 새로운 것을 창조할 것이다. 만일 이런 일이 발생한다면 인간은 AI가 어떤 일을 하고 있는지 알 수 없고 통제할 수 없을 것이다. 인간의 유일한 장점인 직관력, 통찰력, 영감을 인공지능이 스스로 하게 되는 것이다.

AI가 초지능을 갖추고 인간을 넘어선다면 큰 위기가 초래될 수도 있을 것이다. 이런 우려에 우리들은 어떤 준비를 해야 할까. 핵 발전소를 전력 생산의 한계가 분명한데도 불구하고 일어날 확률이 적은 안전성 문제로 폐쇄해야 말지 고민해야 하는 선택의 문제와 닮은 꼴이다. 최악을 피하기 위해 인류가 고려해야 할 것은 무엇일까?

책 '어떻게 인간과 공존하는 인공지능을 만들 것인가'라는 AI의 유명한 전문가인 캘리포니아 대학 컴퓨터과학 교수인 스튜어트 러셀이 그 해답을 제시한다. 인공지능을 이해하기 위해 탄생에서부터 진화와 미래를 전망하고 감시와 치명적 자율 무기, 일자리 등 AI의 오용과 초지능이 가져올 혜택과 인류 파멸 사이의 여러 가지 논쟁들을 소개한다. AI를 바라보는 시각을 인간화 하여 이타적인 기계, 원칙과 겸손을 겸비한 기계, 인간의 선호를 예측하는 기계 등 이로운 AI로의 발전 방향을 제안한다.

민주주의 국가, 특히 미국은 사회적 관심사에 가짜 정보를 전달하지 못하게 막는 데 대체로 주저해왔다. 아니, 헌법적으로 불가능하다. 정부가 언론을 통제하지나 않을까 하는 타당한 두려움 때문이다. 민주주의 국가들은 참인 정보를 접하지 못한다면 사상의 자유도 없다는 개념을 추구하기보다는 결국에는 진실이 승리할 것이라는 생각을 소박하게 믿고 있는 듯한데, 이 신뢰는 우리를 보호해 주지 못했다. 독일은 예외다. 최근에 네트워크 시행법을 제정했다. 이 법은 콘텐츠를 플랫폼에 미리 정한 규정에 따라서 증오 발언과 가짜 뉴스를 삭제할 것을 요구한다. 그러나 이 방법은 먹히지 않는 것이고 비민주주의적이라는 비판도 많이 받고 있다.

민주주의가 태동했을 당시에는 정보의 공유와 전파 속도가 한정되어 있었고, 진실에 대한 요구가 솟구쳤으므로 표현의 자유가 주요 핵심이었다는 것은 부정할 수 없을 것이다. 그러나, 현재와 같이 정보의 제약이 전혀 없는 상황에서 난무하는 가짜 뉴스와 정보들은 공동체의 평온을 위해서는 법적인 테두리 안에 가두어 두어야 할 필요성이 있다. 가짜 뉴스와 정보를 걸러낼 수 있는 장치에 인공지능을 활용해야 하지 않을까.

인공지능이 가져다 줄 혜택과 통제 불능의 위험 사이에서 우리가 준비해야 할 것은, 삶과 존재의 가치를 잃어버리지 않도록 사회적, 경제적, 문화적 이득을 모두 담을 수 있는 방법과 제도를 시스템화 하는 것이다. 200여 년 전 산업혁명 당시 일자를 빼앗긴 노동자들이 기계들을 부쉈던 것과 같은 일이 되풀이되지 않도록 해야 할 것이다. 아마도 인공지능을 파괴해야 한다는 결론이 나게 되는 시점이 도래하게 된다면 인류는 아무것도 못하는 상황에 놓여있게 된 상황일 것이다. 200년 전에는 인간이 집어 던질 수 있었지만 인공지능은 그전에 인간을 통제하지 않을까.