2029 기계가 멈추는 날

2029 기계가 멈추는 날 - AI가 인간을 초월하는 특이점은 정말 오는가
게리 마커스.어니스트 데이비스 지음, 이영래 옮김 / 비즈니스북스 / 2021년 6월

"AI가 인간을 초월하는 특이점은 정말 오는가?"

인공지능의 미래와 관련하여 가장 많이 언급하는 질문입니다. 

그 누구도 정확하게 미래를 예측할 수는 없습니다. 다만 이 책은 인공지능 연구 분야의 세계적인 전문가 두 사람이 가장 안전하고 믿을 수 있으며 실현가능한 방향을 제시하고 있습니다. 그런 의미에서 이 책은 인공지능에 관한 미래 전망이 아닌 현실적인 진단이라고 볼 수 있습니다.

우선 왜 사람들은 인공지능을 위협적인 대상으로 인식하게 되었을까요.

이는 인공지능의 능력을 과장하여 보도한 언론의 영향과 무관하지 않습니다. 자율주행차, AI 시스템 왓슨 등 지난 몇 년간 인공지능은 꾸준히 진보해왔고, 우리 일상에 이미 게임, 음성 인식, 얼굴 인식에 이르기까지 스며들었습니다. 또한 데이터와 함께 부각된 기술인 알고리즘, 즉 딥러닝이 다양한 응용 분야에서 성공적으로 활용되면서 많은 미디어가 기술의 성과를 과장해 보도했고, 그 결과 대중은 인공지능이 실제보다 완성형에 가깝다는 믿음을 가지게 된 것입니다. 

우리는 모르는 것을 만났을 때 공포심을 느낍니다. 아이러니하게도 대중에게 인공지능은 친숙하게 느껴질 뿐 무지의 대상입니다. 잘못 알고 있는 건 모르는 것과 같습니다.

저자는 이 책을 통해 꿈과 현실의 간극에 선 인공지능의 실체를 밝히고 있습니다.

실제 세상에서는 대상 인식과 진정한 이해 사이의 차이가 매우 중요합니다. 예를 들어 현재 소셜미디어 플랫폼을 작동시키는 인공지능 프로그램은 클릭 수를 올리는 자극적인 기사들을 우리에게 제공함으로써 가짜 뉴스를 확산시키는 데 한몫하고 있습니다. 하지만 인공지능은 그 내용이 가짜인지 진짜인지를 판단하지 못합니다. 아직까지 인공지능은 인간적인 판단을 대신할 만한 수준이 아닙니다. 문제의 핵심은 현재의 인공지능은 '제한적' narrow 이기 때문에 정해진 조건 하에 특정한 과제만을 수행할 수 있습니다.

우리가 가정에서 사용하는 범용 로봇을 아직 만들지 못하는 진짜 이유는 현실 세계에 대처할 만큼 유연한 로봇을 만들 방법을 모르기 때문입니다. 소프트웨어의 문제라는 겁니다. 자율주행차는 혼자 운행을 할 수 있지만 안전하지 못합니다. 강화된 인지 모델 없이는 믿을 수 있는 가정용 로봇은 존재할 수 없다고 합니다. 이러한 강화된 인지 모델과 상식이 바로 인간의 정신입니다.

따라서 우려할 부분은 신뢰할 수 없고 인간에 대한 아무런 이해가 없는 기계에게 점점 더 많은 권한을 넘겨주고 있다는 점이며, 우리에게 필요한 건 오류를 피할 수 있을 만큼 똑똑한 시스템입니다. 그러기 위해서 저자는 인지과학에서 얻은 인간 정신에 관한 11가지를 단서로 제시하고 있습니다. 이 11가지를 바탕으로 한 인지 모델을 구축한 시스템이 바로 딥 언더스탠딩입니다. 신뢰할 수 있는 인지 시스템을 만드는 일은 세상에 대한 심층적인 이해, 즉 딥 언더스탠딩이 있는 시스템을 만드는 데에서 출발해야 한다는 겁니다. 

결국 위험한 인공지능에 대한 치료제는 더 나은 인공지능이라는 것입니다. 공포와 두려움에 떠는 것이 아니라 상식, 인지 모델, 강력한 추론 도구들을 갖춘 더 나은 인공지능을 만드는 것이 유일한 해결책이라는 겁니다. 인간이 신뢰할 수 있는 인공지능으로의 전환이 우리의 미래가 되도록 최선을 다해야 한다는 것.

<2029 기계가 멈추는 날>은 인공지능의 모든 것을 정확하게 분석하고 진단했다는 점에서 우리 모두가 읽어야 할 책인 것 같습니다.