알라딘서재

활자중독자의 옹알이
  • AI 버블이 온다
  • 아르빈드 나라야난.사야시 카푸르
  • 22,320원 (10%↓1,240)
  • 2025-12-24
  • : 4,162

남녀노소, 직장, 학교, 정부정책, 언제 어디에서든

우리 주변으로 AI 광풍이 불고 있다.

챗GPT가 상용화된 초기에 느낀 흥분에 휩싸여

앞으로도 AI가 가져올 변화에 부푼 기대감을 갖고 바라보는 시선이 있는가하면

일각에서는 AI로 인한 사회적 피로감을 호소하기도 한다.

말 그대로 '광풍'이기 때문이다.

버티고 버텨봐야 휩쓸릴 수밖에 없다면

AI에 대해 일단 제대로 아는 것이 중요하다.

​

시중에 AI에 관한 책은 넘쳐 흐를 지경이다.

그 중에는 변화하는 환경에 적응할 수 있도록

AI 활용법을 소개하는 책도 있지만,

근본적으로 AI의 방향성에 대해 진단하거나

근원적인 질문을 던지는 책들도 쏟아지고 있다.

이런저런 예언들이 난무하지만

결론적으로 우리는 "미래를 알 수 없다."라는 것이

지금 현 상황에서 명확하게 말 할 수 있는 부분인 것 같다.

​

이 책의 영문 제목은 "AI Snake Oil"이다. 뱀기름.

​

"뱀기름은 옛날부터 사기꾼 약장수가 파는 가짜 만병통치약, 엉터리 상품의 상징이었다. 뱀기름 AI란 광고한 대로 작동하지도 않고 작동할 수도 없는 AI를 말한다. AI는 과학기술과 그 적용의 방대한 집합체라는 점에서, 대부분의 사람은 어떤 유형의 AI가 약속처럼 실제로도 잘 작동하고 또 어떤 유형이 뱀기름에 지나지 않는지를 아직은 능숙하게 구별하지 못한다."(p.19)

​

"사람들 대부분은 주변의 AI 중 상당수가 가짜가 아닐까 의심하면서도 의문을 제기할 어휘나 권위가 없다. 어쨌든 이 제품은 이른바 천재라는 사람들과 조 단위의 시장 가치를 자랑하는 회사들이 팔고 있다."(p.40)

​

AI 시대가 되었으니 AI를 제대로 알고 적응해야 한다고 말할 때

전문가가 아닌 일반 대중들은 어떤 모습의 AI를 그리고 있을까?

비전문가인 내가 떠올리는 AI는 통화를 요약해주고, 음악을 추천해주고,

내가 구매한 책들을 바탕으로 신간을 추천해주는 AI,

그리고 업무에서 비서처럼 나를 도와주는 생성형 AI 정도이다.

하지만 저자들은 그게 AI의 전부가 아니라는 점부터 짚고 시작한다.

다양한 유형의 AI가 있으며 이 책에서는 우리에게 그나마 잘 알려지고 상용화된 

생성형 AI, 예측형 AI, 콘텐츠조정 AI(SNS 등에서 콘텐츠를 걸러주는 역할)에 대해서 다루고 있다.

그 모든 것들을 "AI"라는 한 단어로 뭉뚱그려서

(심지어 로봇 이미지와 연결시켜서-실제 AI는 로봇처럼 생기지 않았다.)

미래를 낙관하거나 비관하지 않아야 한다는 취지이다.

​

저명한 컴퓨터과학자 두 명이 공동으로 집필한 이 책에서는

뱀기름처럼 팔리는 AI에 대한 지나친 기대와 낙관도,

그리고 그 반대편에 선 지나친 걱정과 우려도 모두 버블이라고 말한다.

일단 흥분된 마음을 가라앉히고 제대로 아는 것부터 시작하자는 의미이다.

​

우리나라에서도 널리 보급(?)되어 활용되고 생성형 AI와는 달리

예측형 AI는 외국(특히 미국)의 기업, 공공기관들이 많이 활용하고 있는 상황인것 같다.

인력 채용, 범죄예측, 내전예측, 환자들의 병 진행상황 예측 같은 분야에서

광범위하게 활용되고 있는데, 그 중에는 무분별한 활용,

즉 뱀기름도 존재한다는 것이다.

몇몇 분야 AI들의 유해성(피해정도)과 과장 정도를 표시한 아래 그림(p.54)을 보면

이 책의 방향과 취지를 짐작해볼 수 있다.

모든 AI가 뱀기름은 아니며, 오히려 우리 생활을 편리하고 효율적으로 만들어 주는 AI도 많다.

또한 저자들이 덧붙이듯, 이 책을 읽을 때 쯤이면 기술이 한층 더 발전해서

AI의 성능이 더 좋아져 있을 수도 있다.

순기능을 하는 그런 '착한' AI는 이 책에서 다루는 대상이 아니다.



사람의 삶을 설명불가능한 이유로 불행하게 만들거나 위험하게 만드는 AI,

회사에서 광고한 것보다 실제로는 예측성능이 터무니없이 낮은 AI들,

이런 것들이 대표적인 뱀기름 AI이며,

작동을 잘 하고 상당히 효율적이지만 인간사회의 윤리와 부딪치는 AI들도 여기에 해당된다. 


"예측형 AI가 배치될 때마다 반드시 다음과 같은 질문을 던져야 한다. 누구를 대상으로 테스트했는가? 예측형 AI를 구축할 때 사용하는 집단과 구축된 AI를 적용하는 집단이 다르다면, 그 AI가 잘 작동한다는 주장을 곧이곧대로 믿어선 안된다."(p.86)

​

예측형 AI의 폐해는 이 책이 아니어도 많은 사례들이 알려져 있다.

저자들은 뱀기름의 먹이가 되지 않으려면

예측형 AI가 어떻게 실패하고 어떤 해를 끼치는지 파악해야 하고

그 첫 단계는 정보력을 갖추는 것이라고 설명한다.

책에서는 콘텐츠 조정 AI에 대해서도 상세하게 다루는데,

SNS 환경에서 어떤 과정으로 특정 콘텐츠가 조정되는지를 자세히 설명하고 있다.

​

"콘텐츠 조정은 AI의 실패와 한계가 기술 자체보다는 그 도구를 채택하는 기관과 더 연관된 문제라는 사실을 보여주는 또 다른 사례다."(p.316)

​

AI에 관한 여러 방향의 논란들을 맞닥뜨렸을 때,

뱀기름 AI를 판별하거나 과장 광고를 거를 수 있는 비판적 시각을 갖추어야 하지만

인지편향처럼 우리의 판단이 합리적 결정을 방해할 수 있다는 점을

저자들은 마지막으로 지적한다.

​그 외에도, 아래와 같은 편향들이 우리의 이성적 사고를 방해한다.(p.355-357)

  • 자동화 편향: 자동화 시스템을 지나치게 의존하려는 우리의 성향

  • 설명깊이의 착각: 사람들이 자신은 복잡한 개념을 실제보다 더 깊이 이해했다고 믿는 인지편향

  • 후광효과: 눈길을 끄는 몇몇 사례에 기대서 제품이나 기술을 판단하려는 성향

  • 점화효과: 어떤 개념에 노출됐던 과거 경험이 미래의 결정에 지나치게 영향을 미치는 현상(예: 과학소설과 대중매체는 우리가 AI와 킬러 로봇을 동일시하도록 부추김)

  • 진실착각 효과: 단순히 반복하는 것만으로도 부정확한 정보가 진짜라고 믿게 만드는 효과

  • 닻 내림 효과: 사람들이 의견을 형성하거나 결정을 내릴 때 맨 처음 접한 정보에 지나치게 많이 의존하는 현상

  • 확증 편향: 우리의 신념에 이의를 제기하기보다 정당성을 부여하는 정보를 추구하려는 성향

  • 정량화 편향: 양적 증거를 과대평가하는 경향

  • ​

    마지막으로 책에서는 현재의 상황을 짚으면서

    우리가 어디로 나아갈지에 대해 정리하고 있다.

    뱀기름 AI를 채택하는 "고장 난 기관(p.367)"들과,

    규제의 주체인 규제 당국이 공공의 이익보다 기업의 이익을 대변하는

    "규제포획(regulatory capture)(p.381)" 등을 경고하고 있으며,

    아마도 대부분의 사람들이 두려워하는 문제,

    AI가 노동인력을 어느 분야에서 어느 정도로 대체할 것인가에 대해서는

    SF 소설가 테드 창의 말을 이용하여

    "과학기술에 대한 두려움은 자본주의에 대한 두려움"이라고 말한다.

    "다시 말해 노동자들은 기술 발전 그 자체가 아니라 고용주와 기업이 AI를 앞세워 일터에서 노동자가 행사하는 권한과 주체성을 약화하는 방식을 두려워한다. AI가 노동에 미치는 여파를 해결하려면 자본주의의 여파를 해결해야 한다."(p.386)

    ​

    AI가 만들어갈 우리의 미래는 정말로 예측하기 어렵다.

    하지만 적어도 AI에 대해 (전문가 수준까지는 아니어도) 정보력을 갖추고,

    과도한 기대를 부추기는 뱀기름 광고를 식별해내고

    기술변화가 일으키는 사회적 변화의 저변에 깔린 본질을 직시하고 있어야 할 것 같다.

    책에서 이 문장이 가장 오래 기억에 남는다.

    ​

    "AI가 혼자 어떤 일을 할지보다 사람들이 AI로 무엇을 할지를 훨씬 더 걱정해야 한다."(p.244)


    ----------------------------------------------------


    저자들은 친절하게도 이 책에 대한 참고자료들과 교육자료, 각주 등을 따로 웹사이트에 게시해 놓았다.


    AI Snake Oil: Exercises and discussion prompts


    ​


    • 댓글쓰기
    • 좋아요
    • 공유하기
    • 찜하기
    로그인 l PC버전 l 전체 메뉴 l 나의 서재