Ai를 보는 인간의 고민

두 얼굴의 신기술: AI 딜레마 - 수익과 안전, 두 마리 토끼를 잡는 AI 활용법 ㅣ AcornLoft
케일럽 브릭스.렉스 브릭스 지음, 김상현 옮김 / 에이콘온 / 2025년 5월

* 네이버 책과 콩나무 카페 서평단 자격으로 작성한 주관적인 리뷰입니다.

두 얼굴의 신기술: AI 딜레마
수익과 안전, 두 마리 토끼를 잡는 AI 활용법
케일럽 브릭스, 렉스 브릭스, 김상현 (옮긴이) 에이콘온 2025-05-29

브릭스 부자 간에 합작하여 니온 공저입니다. 번역자 김상현 선생의 이야기에 재미있고 유익하다고 해서 기대했는데... 어렵습니다. 한번 읽고 깜짝 놀랬습니다. 3번은 읽어야 아아, 약간 이해가 갑니다. 저는 그저 돈내고 이용만 하는 문과계 시용자입니다. 하지만 AI를 상대하려니 글이 어려울 수밖에 없는 듯합니다.

1장. 인공지능은 인간 지능이 아니다
AI는 인간의 생각을 모방하는 것이 아니라 데이터 패턴을 재구성할 뿐입니다. 학습된 정보의 의미를 이해하지 못하고, 인간처럼 인과관계를 추론할 수 없습니다. AI의 본질은 ˝연관 지능˝이며, 인간의 인지 능력과는 시작부터 다릅니다.

2장. AI는 어떻게 패턴에 맞추는가
AI는 방대한 데이터에서 통계적 패턴을 추출해 의사결정을 합니다. 경사 하강법 등의 알고리즘으로 오차를 최소화하는 방식으로 학습합니다. 내부적으로 복잡한 구조입니다.

3장. AI는 어떻게 경사 하강법을 사용하는가
경사 하강법은 AI 모델이 오차를 점차 줄여가는 최적화 기술입니다. 복잡한 모델일수록 학습 데이터에 지나치게 의존해 새로운 데이터 적용 시 오류가 발생하기 쉽습니다.

4장. 경계 사례, 압축, 그리고 연관 지능의 한계
AI는 학습한 데이터 범위를 벗어난 ˝경계 사례˝ 처리가 취약합니다. 데이터 압축 과정에서 맥락이 생략되며, 연관성(correlation)과 인과성(causation)을 구분하지 못합니다.

5장. 정밀도, 입력 제어, 그리고 의사 결정의 논거
AI 적용 시 핵심은 정밀도(precision), 입력 제어(input control), 의사결정 근거(explainability)입니다. 의료, 법률처럼 사소한 오류가 치명적인 분야에선 적용하기 어렵습니다. 그래도 광고나 번역은 오류 허용 범위가 넓어 상대적으로 안전합니다.

6장. AI 응용 프로그램의 위험 평가
위험 평가는 AI의 오류 발생의 영향을 종합적으로 분석하는 과정입니다. ˝AI가 편향된 판단을 내릴 때 결과는 무엇인가?˝, ˝위험에도 불구하고 사용 가치가 있는가?˝라는 두 질문을 통해 위험을 정량화합니다.

7장. AI의 사례 연구: 판매와 마케팅 분야에서의 AI 혁명
판매·마케팅 분야 AI는 고객 패턴 분석을 할 수 있습니다. 그러나 과한 데이터 수집은 프라이버시 침해를 유발하며, 알고리즘 편향으로 빠질 수 있습니다.

8, 9, 10잠은 사례 연구입니다.
번역, MRI, 부정 적발, 자율주행차, 노동
시장 거래 부문에서의 AI 활용
얼굴 인식, 인력 채용, 그리고 광고 분야의 편향성

뭔가 양날의 검입니다. 잘 잘려서 좋기는 한데 잘못잡으면 손을 다칠 염려가 있습니다.

11장. AI라는 딜레마
AI의 딜레마는 효율성과 안전성의 상충입니다. 주체성, 안전성, 유용성의 균형이 필요합니다. 인간은 AI를 보완 도구로 활용해야 하며, 최종 의사결정과 책임을 가져야 합니다.

지구 위에 버티고 있는 인간은 라이벌의 출현을 두려워하는 걸까요. 원숭이의 지능이 높아질 것같다는 생각에 혹성탈출같은 영화가 나오고, AI의 출현에 저들이 인간보다 뛰어나게 되어 인간을 동물원에 가두는 반란(?)을 일으킬까 걱정입니다. 그러나 AI가 실제보다 더 강력할 것같다는 생각은 헐리우드 SF 영화와 같은 이야기입니다. 우리가 손에 쥐는 결과물이나 최종 화면만 보면 엄청난 능력을 가지고 있을 것만 같습니다. 패턴 분석과 연산 속도가 빠른 것입니다. AI가 보는 세계는 우리가 알고 있는 물리법칙이 적용되지 않을 수 있습니다. 인간과 같은 논리적 추론을 하지 않고 통계적 패턴 인식으로 정보를 처리하고 답을 생성합니다.

어려운 책을 읽고 AI의 빛과 그림자를 조금 볼 수 있게 되었습니다. 왜 지피티가 틈만 나면 거짓말을 하는 건지 이상했는데 원해 그런 녀석, 구조였습니다.