[마이리뷰] AI 이후의 세계

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

AI가 불러올 세상에서는 의사결정 방식이 세 갈래로 나뉠 것이다. 하나는 인간에 의한 결정이고(이미 익숙한 방식), 다른 하나는 기계에 의한 결정이며 점점 익숙해지는 방식), 나머지하나는 인간과 기계의 협력에 의한 결정이다(생경하고 유례없는 방식). AI는 이제껏 도구에 불과했던 기계를 우리의 파트너로 격상시켰다. 앞으로 우리는 AI에게 부여한 목표를 어떤 식으로 달성하라고 세세하게 지시하지 않을 것이다. 웬만해서는AI에게 모호한 목표를 부여하고 이렇게 물을 것이다. ‘네‘가판단하기에는 우리가 어떻게 해야 할 것 같아?" - P56

AI는 예측하고, 결정하고, 결론을 도출할 수 있지만 자의식은 없다. 즉, 이 세상에서 자신이 수행하는 역할을 사유하는능력은 없다. AI는 의도도, 동기도, 양심도, 감정도 없다. 그런것이 없어도 주어진 목표를 달성할 의외의 방법을 제법 잘 찾아낸다. 하지만 이런 AI로 인해 인간은, 그리고 인간이 사는 환경은 바뀔 수밖에 없다. 어릴 때부터 AI를 경험하거나 AI로 교육이나 훈련을 받은 사람은 무의식중에라도, AI를 의인화하며자신과 같은 존재로 대하고 싶은 충동을 느낄 수 있다. - P63

AI는 인간처럼 맥락을 이해하거나 행동을 반추하지 못하기 때문에 더더욱 인간이 주시해야 한다. 구글의 이미지 인식소프트웨어가 사진 속 사람을 동물로 인식하고 동물을 총으로 인식한 사례는 이미 잘 알려졌다. 인간이 봤을 때는 당연히잘못됐지만 AI는 잘못을 인지하지 못했다. AI는 반추만 못 하는 것이 아니라 실수도 저지른다. 인간이라면 어린아이도 저지르지 않을 실수를 범하기도 한다. 개발자가 아무리 결점을 보완한 후 가동한다고 해도 문제가 다 잡히진 않는다. - P117