-
-
에이전틱 AI - 행동하는 인공지능의 탄생
파스칼 보넷 외 지음, 정미진 옮김, 김재필 감수 / 한즈미디어(한스미디어) / 2026년 1월
평점 :
*출판사를 통해 도서를 직원받아 작성한 리뷰입니다.

2024년 말부터 인공지능분야에 점차적으로 다가온 두가지 변화를 공유한바 있습니다.. 첫번째는 기업분야, 특히 공장 자동화 부분등 생산과 관리에 있어서의 ‘피지컬 AI’입니다. 이는 많은 센서와 칩, 그리고 소프트웨어를 위한 데이터가 필요한 인공지능입니다. 두번째는 바로 개인과 커머스부문에 있어서의 에이전틱 AI입니다. 에이전틱 AI는 범용인공지능(AGI)의 중간단계라고 보시면 됩니다. 예를 들어 자율주행역시 범용인공지능으로 가고있고, 현재의 테슬라의 미국주행시에 적용하는 FSD는 이 에이전틱 AI의 단계에 와있습니다. 고객은 지시를 하고, 자율주행으로 시간과 에너지를 절약합니다. 에이전틱 AI도 마찬가지입니다. 이제 다양한 인공지능에서 과업지시를 하면, 이를 상황과 데이터에 따라 판단해서 진행하고 보고합니다. 하지만 이 에이전틱 AI는 몇가지 문제를 갖고 있으며 이는 앞으로 더욱 심각한 상황이 올 것입니다. 파스칼 보넷의 <에이전틱 AI>는 그 문제점과 해결방안을 방대하게 다루는 서적입니다.

에이전틱 AI는 기존 대규모 언어모델의 인공지능과 다른 것이 스스로 ‘행동’할 수 있다는 점입니다. 예를 들어 알파라는 과업지시를 반복적으로 동시간에 맡기면 별도 설정을 하지 않으면 해당 에어전트는 이를 당연히 인식을 하고 수행을 하고, 그 수행을 통한 데이터 정밀도를 높여갑니다. 이것을 저자는 ‘일관된 지속성’이라고 합니다. 문제는 이 일관된 지속성이 한계에 부딫혔을때에 이를 피드백 해줄 인간의 역량이 부족했을때, 그리고 지속적인 행동을 통해 ‘과업 지시’라는 수행단계에 초점이 맞춰져 있다보니 심각한 보안이슈에는 대응이 부족하며 심지어는 보안상의 문제라고 인식자체를 못하는 단계에 도달할 수도 있다는 점입니다. 이는 어디까지나 에이전틱 AI가 설계단계에서의 심각성 자체에 대한 프로그래밍이 결여될 때 더욱 쉽게 발생하는 문제인 것이죠.
본서는 이러한 에이전틱 AI는 이미 피할 수 없으니 이제 이들의 ‘행동’, ‘추론’, ‘기억’이라는 핵심요소를 안정적이고 효율적으로 활용하는 것에 달려있다고 합니다.이를 저자는 인공지능을 통한 자동화의 효과성과 명확한 규칙을 통한 실행 가능성, 그리고 노력을 적게해도 사용할 수 있는 지점에서 사용을 하면 좋다는 것이죠. 굉장히 개념적인 설명인데, 이를 조금 쉽게 풀이해서 바꿔말하자면, 결국은 에이전틱 AI를 사용하는데 있어 인간이 필요없는 영역을 구분하자는 이야기입니다. (이것을 휴믹스라고 이야기하죠)한편으로 인간만이 할 수 있는 비판적 사고력과 사회적 진정성등을 분리하자는 얘기이고, 이것이 필요없는 지점에 인공지능을 사용하자는 것이죠.
하지만 저는 이게 전부일거라 생각하지 않습니다. 이미 다가온 에이전틱 AI시대에 휴믹스의 능력과 인공지능의 능력을 구분해서 사용하는게 어디까지가 현실적인지는 함부로 단언하기 어렵습니다. 오히려 제가 생각하는 것은 2가지입니다. 첫째, 에이전틱 AI시대에는 결국 인공지능 아키텍쳐를 이해하고, 에이전트를 직접 만들어본 사람과 조직이 우위에 서게 될것입니다. 둘째, ‘진짜 데이터’의 시대가 도래했습니다. 이제 데이터의 양은 많지만 그것이 정말로 유요한 데이터인지에 대한 이슈가 불거져 나올겁니다. 앤트로픽의 클로드 코드를 훈련하는데 앤트로픽은 엄청난 규모의 중고서적을 매입해서 해당 데이터들을 심었습니다. 왜냐하면 서적에 나온 진짜 데이터를 훈련하기 위해서였죠. 누구나 거대언어모델로 검색을 하는 시대에 검색량은 많지만 진짜데이터의 활용성은 더욱 떨어지기에 앞으로는 타인이 경험하거나 작성하지 못한 진짜 데이터가 가진 암묵지가 더욱 중요해질것이며, 이런 진짜 데이터로 에이전틱 AI를 활용하는 시대가 더욱 각광받을 것입니다.

‘준비해야할 것들’