챗GPT가 결국엔 인공지능의 한 종류인만큼
이 책은 인공지능에 대한 얘기도 많이 다루고 있는데
인공지능이 전지전능한가에 대한 의문을 제기한다.
그 예시로 바둑에 대해 말을 하는데
인상깊었던 점은 인공지능이 아무리 바둑의 모든 수를 외우고 있더라도
결국 그 반절은 사람이 두는 것이므로,
사람이 어떻게 두냐에 따라 인공지능의 대응도 달라진다는 것이다.
사람이 어떤 수를 뒀을 때 인공지능은 그 수의 약점을 찾는 것이므로
결국 인공지능과 바둑을 두는 것은 자신과의 싸움이라는 것이다.
즉 내 약점을 스스로 노출하고, 그 약점때문에 인공지능과의 바둑에서 진다는 것이다.
인공지능이 똑똑해서 이기기 어렵지 않나라고 막연히 생각했었는데
이런식의 관점이 신선했다.
거기다 이를 뒷받침하는 내용으로 2023년에 AI 연구소 켈린 펠린 연구원이
AI프로그램과의 바둑 대결에서 15판 중 14판을 이겼다는 기사가 있는데
AI를 이긴 전략으로 변칙 전략을 이용했다고 한다.
즉 이상한 수를 둬서 AI가 이미 학습했던 수로 대응할 수 없게 했다는 것이다.
그렇다면 인공지능의 한계는 명확해지는 것같다.
학습된 것은 인간이 따라갈 수 없지만,
학습하지 못한 부분에선 아직 인간이 우세할 수 있다는 것이다.
또 챗GPT의 경우 2021년 까지의 데이터를 토대로 답변을 하는데
이는 실시간 데이터를 완벽하게 활용할 수 없다는 한계를 가진다.
그렇다면 아직은 없지만 실시간 데이터를 활용하는 챗GPT가 나오면 어떻게 될까?
이것이 바로 이 책을 출간한 이유라고 저자는 말한다.
그렇게 되면 인공지능은 지구상에 CCTV가 비추는 모든곳에서 벌어지는 일들을 알 수 있고,
심지어 CCTV나 인터넷이 없는 곳이더라도 인공위성이나 위성통신으로 움직이는 드론을 통해
데이터를 축적할 수 있다고 한다.
이렇게 되면 비밀이 지켜질 거라는 확신을 가질 수 없게 되는데,
우리끼리의 대화여도 어딘가에서 인공지능이 우리의 대화를 데이터로 축적해 유출될 수 있기 때문이다.
개인정보보호법 등 데이터 관리에서 규제를 가할 수는 있으나
내용 자체를 볼 수 있는 기술이 없는 것은 아니므로,
기술을 가진 누군가가 마음을 먹으면 그 내용을 확인하고 악용할 수 있다는 것이다.
이제 이런 이야기가 더이상 소설이 아니고 우리의 미래라는 게 두려울 수 있다.
하지만 저자는 그럼에도 AI에 분명 한계가 있다고 한다.
이 책에서 그런 AI의 한계에 대해 분석하여 알려준다.
뿐만 아니라 AI가 아직 무엇인지 제대로 모르는 사람들을 위해
AI에 관련하여 총괄적인인 설명부터
AI의 위험성,
특히 이 책의 제목인 AI의 거짓말 (부정확한 정보) 등에 대해 이야기 하고 있다.