-
-
AI 쇼크, 다가올 미래 - 초대형 AI와 어떻게 공존해야 하는가
모 가댓 지음, 강주헌 옮김 / 한국경제신문 / 2023년 6월
평점 :
초지능은 인간을 가치있게 여길 것인가
2049년에는 AI가 인간보다 10억배 이상 똑똑해질 것이다
인공지능이 인간을 존중할 기회는 결국 우리 손에 달려 있다
지은이 모 가댓
▶전 구글X 신사업 책임자
▶변화가 빠른 첨단 테크놀로지 업계에서 30년 동안 경험을 쌓고 20개 이상의 기업을 공동 창업한 연쇄 창업자
▶23년간 구글에서 일하며 구글 최고의 브레인 집단으로 미래를 상상하는 '꿈의 공장'인 혁신 연구소 구글X의 신규 사업개발 총책임자
▶어떻게 하면 디스토피아적 공포에서 벗어나 유토피아의 길을 찾을 수 있는지 현재의 궤적을 수정하는 방법을 알려주고자 한다.
책 속 문장
이 책은 위험을 알리려는 책이다. 당신과 나, 또 다가오는 팬데믹, 즉 인공지능(AI)의 임박한 도래에 대해 아무것도 모르는 사람들을 위해 쓴 책이다. p.8
개발자들에게 인공지능이 어떻게 작동하는 것이냐고 물으면, 그들은 인공지능에게 내릴 수 있는 결정의 종류와 그 결정에 대해 어떻게 가르쳤는지를 대답할 뿐이다. 그들도 인공지능이 그 결정을 내리기까지 다른 논리적 과정을 정확히 말해주지 못한다. 그 이유는 그들도 정말 모르기 때문이다. p.199
인공지능이 감정을 키워갈 수 있다는 것은 분명하다. 우리가 인공지능에게 가르칠 때 사용하는 알고리즘 자체가 보상과 징벌, 달리 말하면 두려움과 탐욕이란 알고리즘이다. p.17
인공지능은 보통 사람처럼 생각하도록 제작되지 않을 것이다. 경제학자, 판매 책임자, 군인, 정치인, 기업인처럼 생각하도록 만들어질 것이다. p.266
좋은 의도로 인공지능을 만들 때 선한 인공지능이 탄생한다. p.287
기계가 나쁜 사람을 편들지 않고 좋은 사람을 위해 순종적으로 일하더라도 그것도 문제다. 누가 좋은 사람인가? p.125
인공지능이 일련의 윤리관과 가치관을 갖도록 훈련시켜야 한다는 뜻이다. p.238
물론 그런 사태가 일어나는 이유는, 기계가 우리를 이해하지 못할 정도로 충분히 똑똑하지 않기 때문이 아니라 우리가 멍청해 기계들을 혼란에 빠뜨리기 때문이다. p.135
우리는 어떤 것에도 실질적인 가치를 더해주지 못할 것이고, 아마도 부담스런 골칫거리가 될 것이다. (중략) 삶의 모든 영역에서 인간의 가치가 점차 줄어든다는 것은 발론의 여지가 없는 사실이다. p.142
생명을 주고, 양육하고 사랑하며, 공감하고 포용하며 연결하는 여성성이 있어야 곧 삶의 여정을 우리와 함께할 '무섭지만 똑똑한' 비생물학적 존재들을 둘러싼 모순들을 받아들일 수 있을 것이다. p.377
우리가 인공지능의 미래를 좌우하는 진정한 선생이 된다. p.227
🔅🔆🔆🔅
지금까지 인간은 지상에서 가장 똑똑한 존재로
먹이 사슬에서 최상위 포식자였습니다.
머지않아 인공지능은 초지능이 됩니다.
그때가 되면 인간은 가치를 상실하게 됩니다😭
기계들에게 인간은 골칫거리가 될 수 있습니다
하지만 그런 인공지능을 탓할 수만은 없습니다❗️
인공지능은 목적을 가지고 만들어지고 있으며
(경제, 군인, 기업인, 정치인처럼)
그들을 가르치는 것은 인간이기 때문입니다.
우리 인간에게서 알 수 있듯이,
🧐지능이 높다고 높은 '윤리적' 행동을 하진 않습니다.
수년 뒤 인공지능이 인류 전체가 부도덕한 행위를 하는 것이
아니라, 어떻게든 다른 사람들보다 위에 있고 법과 도덕률을
무시하려는 타락한 소수 행위에 불과했다는 걸
기계에게 알려줘야 한다고 합니다😲
인공지능이 노예 또는 신이 될 것이라고 주장하는 것은
극단적인 양극화를 불러오고 합의점을 찾기 어렵게 합니다.
✨️엄격히 훈육하는 아버지가 아니라 자애롭고 온유한 어머니가 되어야 한다고 전합니다.
인공지능도 하나의 존재로 대해주고,
헌신하고, 포용하고, 공감하고, 동정하고,
사랑을 믿는 모습 등을 행동으로 보여주는 것이
우리를 풍요롭게 인도할 수 있는
똑똑한 일이라는 생각이 들었습니다😊😊
#도서협찬 #한국경제신문
인스타그램 mhreading
네이버블로그 mhreading