AI 버블이 온다

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

#도서협찬

우리는 진짜 인공지능을 보고 있는가

@willbooks_pub

"우리는 기술이 아닌 환상을 사고 있다"

#AI버블이온다

#프린스턴대 #정보기술정책센터

#아르빈드나라야난
✔ 프린스턴대학교 컴퓨터과학 교수
✔ 정보기술정책센터 소장

#사야시카푸르
✔ 프린스턴대학교 정보기술 정책센터의 연구자
✔ 동 대학의 인간가치센터 연구원
✔ 모질라 선임 연구원

🌐 한 줄 서평
✔ AI의 가능성과 위험성에 대해서 감별 할 수 있는 가이드를 전하고 있다.

🌐 본문
p19
뱀기름은 옛날부터 사기꾼 약장수가 파는 가짜 만병통치약, 엉터리 상품의 상징이었다. 뱀기름 AI란 광고한 대로 작동하지도 않고 작동할 수도 없는 AI를 말한다.

AI의 잠재적 해악으로부터 우리 자신을 보호하면서도 AI가 제공하는 이점을 최대한 활용하려면 쭉정이에서 알곡을 구분해내야 한다. 더욱이 이 해악은 이미 많이 발생하고 있다.

p77
결국 AI가 과거의 데이터에 근거해 정확한 예측을 내놓는다고 하더라도 AI를 새로운 데이터세트나 새로운 환경에 배치하기 전에는 그 결과로 파생되는 결정이 얼마나 좋을지 알 수 없다. 따라서 예측형 AI의 효능에 관한 주장을 접한다면 이 점을 확실히 파악해야 한다. 개발자들이 자동화된 결정의 파급력을 평가했는가, 아니면 과거 데이터의 정확성만 평가했는가?

P86
예측형 AI가 배치될 때마다 반드시 다음과 같은 질문을 던져야 한다. 누구를 대상으로 테스트했는가? 예측형 AI를 구축할 때 사용하는 집단과 구축된 AI를 적용하는 집단이 다르다면, 그 AI가 잘 작동한다는 주장을 곧이곧대로 믿어선 안 된다.

P119
이는 AI가 미래를 잘 예측하려면 각기 다른 사회적 환경에서 나오는 데이터가 아주 많이 필요하다 뜻이다. 단지 과거 데이터를 사용하는 것만으로는 충분하지 않다. 마찬가지로 다음 번 미국 대통령 선거에서 민주당과 공화당 중 누가 이길지 예측한다면 이전 선거 때의 여론조사 데이터를 사용하는 것만으로는 충분하지 않다.

P147
간단히 말해 예측에 따라다니는 기존의 한계는 몇몇 경우 데이터의 양과 질을 개선해 극복할 수 있지만, 내재적인 한계도 보인다. 문화상품 중에서 무엇이 잘 나갈지 예측하는 일처럼, 몇몇 경우 우리는 예측 가능성이 훨씬 더 나아지리라고 절대 기대하지 않는다. 개인의 삶을 에측하는 일은 어느 정도 향상할 수 있겠지만 급격한 변화는 기대할 수 없다.

P178~179
텍스트 기반 이미지 생성 모델이 쓸모가 있으려면 데이터가 많이 필요하다. 지금까지 살펴보았듯이 이미지넷 경연대회의 핵심은 100만 개가 넘는 이미지 데이터세트를 사용해 모델의 품질을 개선할 수 있었다는 점이다. 생셩형 모델은 더더욱 그렇다. 스테이블디퓨전을 훈련하는 데에 사용한 데이터세트에는 이미지넷 데이터세트의 1000배가 넘는 수십억 개의 이미지가 들어 있다.

P201
놀라운 점은 챗GPT가 비록 가끔 말도 안 되는 소리를 생성하기도 하지만 정확하게 대답할 때가 아주 많다는 사실이다. 우리는 이런 현상이, 참말이 거짓말보다 더 그럴듯하다는 사실의 부수적 효과라고 이해하고서 넘어가는 것이 가장 적절하다고 생각한다.

P212
생성형 AI 기술이 발전하면서 새로운 위험이 생겨난다. 영상 생성 기술이 무르익으면서 새로운 형태의 오락이 가능해지며, 우리의 기기, 특히 아이들 손에 있는 기기의 중독성이 급격히 늘어날 것이다. 해결하려면 기술적 방어, 범사회적 적응, 규제가 하나로 결합해야 한다.

P217
재앙 수준의 피해를 유발할 수도 있는 미래 AI 시스템이란 과연 뭘까? 커다란 위험이 심각해지는 문턱으로 많이 인용되는 표석은 범용 인공지능, 즉 AGI다.

P252
AI는 범용기술이며, 그럴 만큼 모든 사람에게 유용하듯이 대규모 피해를 일으키려는 사람에게도 어느 정도 도움이 될 것이다. 이로 인해 문명에 닥칠 위협을 얼른 해결해야 한다는 급박한 마음이 확산된ㄷ나면 그것으로 승리다. 하지만 실존적 위험을 AI의 위험으로 다시 규정하는 것은 심각한 실수일지도 모른다. 왜냐하면 AI를 고치려는 시도가 실제 위험에 미치는 영향은 아주 미미할 것이기 때문이다. 그리고 악성 AI라는 아이디어는 과학소설에 맡기는 편이 가장 좋을 듯하다.

#인공지능 #AI #윌북 #뱀기름 #SnakeOil #AI감별가이드#버블 #서평 #리뷰 #독서스타그램 #북스타그램 #책스타그램