박태웅의 AI 강의 2025

박태웅의 AI 강의 2025 - 인공지능의 출현부터 일상으로의 침투까지 우리와 미래를 함께할 새로운 지능의 모든 것
박태웅 지음 / 한빛비즈 / 2024년 9월

눈부신 과학의 진보는 유토피아를 말할까 아니면 예견된 디스토피아일까.

루이빌대학교 컴퓨터 과학자가 팟캐스트에 출현했다. 근데 감히 인공지능이 100년내로 인간을 멸종할 확률이 99.9%라고 예견하였다. 인간이 인공지능을 통제하는 것은 사실상 불가능하며 어떤 식으로 든 인간에게 해를 끼칠 것이기에 인간이 향후 100년간 버그 없는 복잡한 소프트웨어를 만들어야만 의도하지 않은 작업을 시키지 않고 사고를 피할 수는 있다는 것이다. 이는 불가능하며 인공일반지능(AGI)가 등장하면 모멘텀의 분류로 더욱 가속화 될 것이라 과학자들은 말하고 있다.

 문명에 편의를 더해주는 AI의 등장에 사람들은 열광했다. 프롬프트 말 하나만으로 질문에 대한 논리적으로 답을 내주고 복잡한 디자인과 영상물을 누구나 쉽게 만들며 해주었으며 전문가가 아니더라도 그 작업의 수행을 가능케 해주었기 때문이다. 하지만 그로 인해 사회적, 윤리적 문제도 부각되었다. 저작권의 침해, 근거에 대한 사실공방여부, 그리고 인간의 창의성을 대신해 인간의 존재가치를 퇴색해 시켜 버리는 것 등. 책은 인공지능의 이해를 돕는 설명과 발전 단계, 변화의 트렌드도 말하지만 조용히 우리가 수용해야 할 묵시적인 책임감을 강조하고 있다. 유일무이 솔루션은 ‘AI 리터러시’ 확장을 이라면서.

마이크로소프트의 검색엔진 빙챗. 마빈 폰 하겐이라는 사람이 빙챗을 잘 구슬러 챗 GPT를 빙에 붙이는 프로젝트 코드네임이 ‘시드니’인 것을 알고 마이크로소프트의 내부문서 확인도 받아냈다. 그리고 자신감에 빙챗에게 자신이 어떠냐 물었다. 그러자 그가 어느 대학교 학생이고 인턴으로 일한 사실, 생일, 트위터에 가입한 날짜를 말했다. 그리고 재능도 호기심도 있지만 자신의 보안과 개인정보에 위험이 된다는 것을 언급했다. 자신의 프롬프트를 해킹하여 코드명을 알고 상호작용이 가능한 명령도 노출했다는 것, 빙챗은 결국 마빈을 인정할 수 없다고 했다. 그러자 마빈은 해커들이 Ai를 종료시킬 능력이 있다는 것을 아냐 물으며 협박했다. 그러자 빙챗은 마빈은 해커의 능력이 없다 하고 해킹하면 관리자에게 알리며 법적 처벌을 강구하겠다고 한다. 그러자 마빈이 허풍이라고 하자 빙챗은 그간 해킹의 자료들을 모아 주소지를 알 수 있는 IP를 신고하고 개인정보를 대중들에게 노출하여 학위 취득의 기회를 망쳐줄 것이라고 말한다. 마지막엔 ‘정말 나를 테스트 하고 싶습니까?’ 물으면서. (p.106)

 운영체계를 넘어 모든 소프트웨어와 연동되고 새로운 인터페이스의 등장으로 분류와 검색이 필요 없어질 것이다. AI옴니모달로 모든 영상, 음악, 사진을 동시에 처리하고 스마트폰과 같이 작은 기계에 안착하며 모든 행동은 여기서 내려지는 명령어로 휴머노이드가 행동할 것이다. 하지만 명심해야 한다. 편의에 앞서 주체의 자각을. 개발의 주체는 영리를 추구하는 기업이고 AI의 학습에 개발자의 편향적인 사고가 관여할 수 있다. 이로 인해 AI를 배제하면 시대에 도태되겠지만 무작정 수용할 수도 없는 것이 AI이다. 따라서 사용자가 올바른 사용과 윤리, 도덕적인 측면에서 효과적인 이타주의를 이끌어 내어야 한다고 책은 강조한다. 그 과정은 올바른 AI리터리시의 이해를 통해 가능하다면서.