-
-
안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월
평점 :
품절
부와 권력을 지배하는 인공지능의 보이지 않는 공포!
이렇게 부제를 달아본 사회과학도서 <안녕, 인간>은
데이터와 알고리즘에 관한 최고의 책들 중 하나로
인공지능 기술계발이 강력히 진행된 지금 교양도서로
꼭 읽어보면 좋을 추천도서랍니다.
현재 쓰임에 근거한 여러 이슈들을 밝혀보고 있거든요
지금은 새로운 질문을 던져야 할 때다.
<안녕, 인간>은 기술에 관한 숭배의식에
특히 질문을 던진다고 볼 수 있습니다.
데이터, 알고리즘은 객관화된 사실이라 생각,
그에 의한 판단을 숭배하며 지배당하는 것에 관해
경종을 울린다고나 할까요.
『이 책은 우리 사회가 알고리즘으로 얻는 이익이
해로움보다 큰가하는 물음을 다룬다. 자신의 판단보다
기계를 더 신뢰해야 할 떄가 언제인지,
기계에 통제권을 맡기고 싶은 유혹을 떨쳐야 할 때가
언제인지를 알아본다. (p.016)』
알고리즘과 데이터에 근거한 인공지능.
인간에 착취, 지배의 주체가 될 수 있을까요?
인공지능이 아무리 딥러닝으로 배움이 있다 하여도
인간이 데이터와 알고리즘을 짠다는 것이 핵심.
스스로 배운다 하기에는 주어진 상황에서만 판단하는데
문제는 인공지능이나 알고리즘에 대한 숭배와
기술환경에 둘러싸인 우리는 이 운영자들에 의해
권력구조의 판에서 노닐게 되는 문제가 생길 수 있다는 것.
인간의 취약점 중 하나가 타인에 의해 판단이 달라지는 것,
이는 페이스북 게시물에 의해 이미 일어난 일이었습니다.
결국, 문제의 핵심은 인공지능이라는 기계가 아닌
이를 사용하는 인간이 문제라는 점.
또한 앞서 읽어보듯 인간이 인공지능을 사용하는 것이
인공지능, 알고리즘이 활성화된 기계화 사회에서 문제인데
인공지능을 이용하려면 그에 인풋이 되는 데이터 수집이 필요.
인터넷 곳곳에서 조용히 우리를 추적하는 알고리즘,
개인정보를 수집하는 알고리즘, 그래서
사생활을 침범하고 자유자재로 내 성격을 추론해
행동에 미묘하게 영향을 끼치는 알고리즘.
가장 우려해야 하는 포인트는,
부적절한 신뢰와 힘, 영향략이 결합하는 최악의 상황으로
사회의 밑바탕이 데이터를 조용히 수집해온 운영자에 의해
권력적으로 흔들릴 수 있다는 것입니다.
빅데이터가 만능이다?
사회과학도서 <안녕, 인간>은 이에, 다시 생각해보자 합니다.
1986년 켄터키대학교 전염병학자 데이비드 스노슨이
수녀 678명의 뇌 기증을 통해 알츠하이머병의 원인을
캐고자 특별한 과학 연구를 진행하니,
기계로 읽어내어 판단하는 단서들을 넘어
정성적인 판단대상이 기계의 판단 범위에서 찾아지니,
'작은 데이터'의 위력으로 빅데이터에 대한 맹신을
다시 생각해보아야 한다고 깨우침을 줍니다.
인간의 추론능력은 기계의 알고리즘을 넘어서곤 하니,
판단을 무조건 기계에 기댄다는 것은 옳지 않습니다.
인공지능 기계문명이 발전이 어마어마하다고 한 들,
문제는 이에 대한 사용자의 태도는 보수적이어야 합니다.
위험이 일어날 확률이 적다고 하더라도,
일단 일어나면 치명타가 굉장할 경우.
에어프랑스의 참사는 기계에 대한 맹신을 조심해야 함을,
기계가 워낙 다 해주니, 조종사들의 수동 기술력이 감소,
그리하여 모두 사망하는 참사를 겪고 말았습니다.
데이터, 알고리즘에 근거한 기계의 판단.
사회과학도서 <안녕, 인간>은 기술의 권위에 대해
우리가 고려해야 하는 포인트들과 그간의 문제점이 된
이슈들을 살펴보며 앞으로도 계속 발달하는 인공지능에 대해
사용자인 인간의 현명한 활용을 짚어보는 추천 교양도서랍니다.