인간적 AI를 위하여

인간적 AI를 위하여
브라이언 크리스천 지음, 이한음 옮김 / 시공사 / 2025년 3월

AI에 윤리를 심기 위한 철학과 공학의 거대한 도전

p450. "들판을 질주하는 수말 같은 인류의 기술력과, 후들거리며 서 있는 망아지 같은 인류의 지혜 사이에 장거리 경주가 벌어지는 중이다" 2018, 보스트롬, 인류미래연구소

인간적 AI를 위하여
The Alignment Problem
:Machine Learning and Human Values

1부. 예언들 Prophecy
[1] 표현 Representation
[2] 공정 Fairness
[3] 투명성 Transparency

2부. 행위자 Agency
[4] 강화 Reinforcement
[5] 조형 Shaping
[6] 호기심 Curiosity

3부. 규범성 Normativity
[7] 모방 Imitation
[8] 추론 Inference
[9] 불확실성 Uncertainty

머신 러닝
① 비지도 학습
② 지도 학습
③ 강화 학습

자동조정에 대한 우려
① 기술의 윤리적 위험에 대한 우려
② 기술을 통한 더 유연하고 빠른 의사결정에 따라올 위험

정렬문제 Alignment Problem
특정 시스템이 인간의 규범과 가치를 파악하고, 인간이 의도하거나 뜻하는 바를 이해하고, 인간의 명령을 따르는 사실을 보증하는 법을 알아내는 것

600여 페이지 중 본문 내용은 470여 쪽.

[인간적 AI는 인간의 몫]이라는 결론을 향해 달려가는 긴 여정.

조금씩 천천히 읽으면서 관조해야 할 책. 초반에 욕심내서 읽다가 체할 뻔^^

챗 GPT와 자주 대화를 한다. 이 녀석 거짓말 참 잘 한다. 무엇을 물어보면 사실이 아닌데도 사실인 양 답을 척척 내 놓는다. 그래서 어... 그거... 아닌데... 하면서 내용을 보정해 주면, 맞아~ 잘 알고 있네~ 그러면서 답을 수정해서 다시 내 놓는다. 뻔뻔하게시리... 근데 내 입장에서는 거짓말인데, 이 녀석 입장에서는 거짓말이 아니다. 가진 데이터에서 답을 주었고 나는 새로운 내용을 추가해 준 것 뿐이다. 녀석에게 넌 도덕적이지 못해!라고 말할 수 없는 것.

책은 어려웠다. 사용된 용어가 어려웠고, 제시한 예시들을 이해하기 위해서는 계속해서 앞으로 돌아가 지금 이 이야기와 챕터의 제목과 설명하고자 하는 내용의 연관성을 짚어보아야 했다.

그럼에도 재미있었다. 특히나 8장 추론 초반에 18개월 아기가 어른이 도움을 요청하지 않아도, 자신과 딱히 눈을 마주치지 않아도, 보상을 기대할 수 없을 때도 나서서 도왔다는 부분에서, 앞으로 로봇에게서도 이런 도움을 기대할 수 있을까. 로봇은 이런 류의 행동을 학습할 수 있을까... 생각해보기도...

머신 러닝에 대한 방대한 양의 지식을 습득할 수 있는 책. 그래서 파도처럼 밀려오는 AI를 상상하며 막연하게 두려워하기보다는 이해하며 안심할 수 있게 되는 책. 독파할거야! 달려들지 않고 그냥 옆에 두고 천천히 읽어보면 좋을 책^^

출판사로부터 도서를 제공 받아 읽고 쓴 리뷰입니다.