박태웅의 AI강의 2025

박태웅의 AI 강의 2025 - 인공지능의 출현부터 일상으로의 침투까지 우리와 미래를 함께할 새로운 지능의 모든 것
박태웅 지음 / 한빛비즈 / 2024년 9월

"인간 세계에서는 1년 넘게 걸릴 일이, 인공지능 세계에서는 단 하루도 안 되어 바뀌고 있다." 책 커버

인공지능이 생활 여러 군데에 퍼져 있다. 챗GPT, 로봇청소기, 식당에서 음식을 가져다주는 로봇, 주식 추천과 매수매도를 해주는 프로그램처럼 언뜻 생각해도 몇 가지는 댈 수 있을 정도로 AI는 곁에 가까이 와 있다. 앞으로 어디까지 갈 것인지, 인간의 지능 혹은 그 이상을 가진 존재가 주는 위협은 무엇인지 궁금하다.

책은 6강으로 구성되어있다. 1강 걷잡을 수 없는 변화의 물결, 2강 모두를 놀라게 만든 거대언어모델, LLM의 등장, 3강 인공지능이 인간보다 똑똑해질 수 있을까?, 4강 열려버린 판도라의 상자, 5강 신뢰할 수 있는 인공지능, 어떻게 구축할까? 6강 우리사회는 어떻게 대응해야하는가?

첫 장에서 저자는 AI가 어떻게 전개되고 있는지를 6가지로 정리한다. AI as OS, Contextual interface, AI as a partner, Multimodal, Cheaper, Faster and Smaller, Humanoid이다. 모든 소프트 웨어가 AI와 연동해서 사용자가 대충의 정보만 줘도 맥락 속에서 일을 처리한다. 글자뿐 아니라 이미지, 동영상, 오디오와 같은 다양한 형태의 정보를 학습하고, 점차 작고, 빠르고, 저렴해질 것이다. 인간의 외모를 한 로봇에 AI를 장착한 휴머노이드는 모방, 전이, 강화학습을 통해 점점 인간에 가까워질 것이다. 이 요약을 충분히 이해한다면 책을 읽어나가기 수월해진다.

책 속에 등장하는 빅테크 기업들의 인공지능과 휴머노이드를 정리해보자. 인공지능은 오픈 AI의 챗GPT를 비롯해서, 앤트로픽의 클로드, 구글의 제미나이, 메타의 리마, 마이크로소프트의 파이-3가 있다. 휴머노이드에는 구글과 스탠퍼드 대학이 협업한 알로하, 테슬라의 옵티머스 젠2, GPT-4 터보와 로봇을 결합한 피겨AI, 현대가 인수한 보스턴 다이내믹스의 올 뉴 아틀라스가 소개된다.

챗GPT로 대표되는 오픈 AI는 비영리단체로 시작하였지만 마이크로소프트가 대거 지분을 차지하며 더 이상 비영리 단체가 아니다. 마이크로소프트는 오픈 AI의 윤리에 관한 연구개발비를 삭제하고, 샘 올트먼(CEO)은 이로 인해 퇴사한 직원들에게 회사에 대해 부정적인 말을 하면 주식을 몰수하겠다는 각서를 쓰게 했다. 이 사실이 드러나면서 제프리 힌턴(올해 2024년 노벨 물리학상 수상자)을 비롯한 전문가들의 지탄을 받고 있다. 일론 머스크 역시 오픈 AI가 초심을 저버렸다고 비판했지만, 뒤로는 거대 AI 그록을 만들고 가짜뉴스를 올리며 즐거워했다는 사실은 기업의 AI개발 윤리를 점검해봐야한다는 문제를 제기한다.

AI는 인간이 완전히 통제할 수 없다. 제프리 힌턴 교수의 설명을 보면, AI에게 최종목표를 지시하면 스스로 중간목표를 세우는데, 이 것이 위험할 수 있다. 사용자가 '방 안의 이산화탄소를 줄여달라'고 부탁하면 인공지능은 CO2를 뿜어내는 존재를 없애버릴 수 있기때문이다. 사용자가 의도하지 않은 중간목표는 AI가 멋대로 설정하므로 인간에게 해를 입힐 수도 있을 것이다.

AI의 개발에는 여러 문제점이 있다. 천문학적 비용과 전기료가 들고, 엄청난 탄소를 배출한다. AI가 어떤 왜곡된 내용과 편견을 학습하고 있는지 모르고, AI에만 집중하면 다른 연구의 예산이 삭감될 우려가 있다. 또한 AI의 그럴듯한 거짓말인 할루시네이션의 구분이 어렵고, 개인정보침해와 인공지능이 잘못 학습한 내용을 지우기가 어렵다. 사용자의 허락없이 프롬프트를 저장해서 비밀 누설의 위험도 있다. 나아가 무서운 속도로 연결되어 학습하는 인공지능의 예상하지 못한 능력향상이 한 기업이나 국가에 집중되어 그 이익을 위해서 움직인다면 나머지 국가나 기업은 불이익을 당할 지도 모를 일이고, 인류 전체에 위기를 초래할 수 있다. 통제할 수없는 AI의 개발은 인간에게 위협적인 존재가 될 수 있고, 개발자의 양심에만 맡길 수 없는 문제이다.

이에 따라 독일은 5년 간 AI에 관한 문제점을 공론화하고 숙고과정을 거쳐 2024년 유럽의 인공지능법을 발효시켰다. 반면, 우리 정부는 공론화 없이 법제화하였다. 무엇보다 정부가 2023년 R&D 예산을 대폭 삭감했다. IMF와 같이 어려운 시기에도 줄이지 않았던 R&D 예산을 삭감하여 30년 전으로 돌아갔다. <네이처>는 한국의 연구비용축소와 인구감소로 인한 인재감소를 일본의 예를 들어 한국의 미래를 걱정한다. 1년의 예산 축소로 많은 연구분야가 뒤쳐진다. 나아가 저자는 신기술이 나올 때마다 자격증과 학과를 만드는 단기적 정부정책보다 기초 과학을 탄탄히 가져가야한다고 조언한다. 정부 정책담당자들이 귀담아 들을 일이다.

책을 읽기 전과 후에 AI를 이해하는 정도가 달라질 것이다. 이 책은 AI에 관한 거의 모든 것을 아주 쉽고도 깊이있게 설명한다. AI의 생성과 발전, 장점과 문제점, 윤리적 문제점, 세계각국의 윤리원칙과 법제화 노력에 비해 떨어지는 우리나라의 실상을 알고 싶다면 필독할 책이다.