≪안녕, 인간≫ 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

인간 vs 기계, 세상은 이미 생존을 둘러싼 전쟁을 하고 있다.

인공지능이라는 말은 이전에도 나왔지만 눈으로 활용되고, 체감하는 건 지금에서 많이 느끼고 있는 것 같다. 베르나르 베르베르 소설 <뇌>에서 체스 세계 챔피언을 이긴 내용이 나왔었는데 그보다 더 복잡하다고 여겨지는 바둑에서도 알파고가 나오면서 인간을 이기는 장면에서 인공지능이 얼마만큼 급속도로 발전하고 있고, 발전했을 때 어떤 영향력을 줄 수 있는지 크게 느낄 수 있었다. 알파고가 이세돌 9단을 이겼을 때, 어떤 느낌이 들었나? 기술의 발전에 흥미를 느꼈는지, 아니면 기계가 인간한테 이기는 모습을 보고 측은한 마음이 들었나? <안녕, 인간>은 그런 인공지능의 발전과 영향력에 관한 이야기를 다룬다.

p.16

이 책의 핵심 주제가 인간이라는 뜻이다. 이 책은 인간이 어떤 존재인지, 어디로 가고 있는지, 우리에게 중요한 것이 무엇인지, 그리고 이런 개념이 기술 때문에 어떻게 바뀌고 있는지를 다룬다.

알고리즘은 무조건 나쁜 것일까? 점점 확장해나가는 영역에서 인간의 역할은 점점 줄어들고 있고 미래 일자리까지 위협하는 것에서 많은 두려움을 느끼고 있다. 하지만 이러한 현실은 부정할 수 없다. 이 책의 목적은 그러한 현실을 부정하는 것이 아닌 냉철하게 인간의 약점, 결함을 알고 대비하고자 하는 책이다.

알고리즘은 결과를 만드는데 만들어가는 과정, 단계와 같다. 어떤 우선순위를 선정할 수도 있고, 분류를 할 수도 있고, 연관된 무엇을 알려줄 수 있고, 중요한 것을 분리하는 알고리즘이 있을 수 있다. 점점 더 많은 정보가 넘쳐나는 지금 시대에서 필요한 정보를 찾아내는 능력인 알고리즘을 활용하는 사례는 점점 더 늘어가고 있다.

p.46

우리가 기계와 맺는 관계에는 역설이 있다. 우리에게는 이해하지도 못하는 대상을 덮어놓고 과신하는 성향이 있다. 알고리즘이 실수할 수도 있다는 사실을 아는 순간, 과잉 반응을 일으켜 알고리즘을 깡그리 무시한 채 알고리즘 대신 인간의 결점투성이 판단으로 되돌아가는 고약한 습성도 있다.

알고리즘은 잘 만들어진 프로세스 안에서 나온 결과가 나오기 때문에 완벽할 것이라는 믿음이 있다. 그래서 그 알고리즘이 어떻게 돌아가는지 관심을 가지지 않고 결과에 대해서도 크게 의문을 갖지 않는다. 또한 알고리즘으로 인해 나의 선택권을 제한 받을 수도 있지만 과정 속에서 신뢰성을 크게 담보할 수 없는 상황을 크게 연연하지 않는다. 아이러니한 건 자신의 실수에 대해서는 인간은 관대하나 알고리즘의 실수에 대해서는 관대하지 못하다는 것이다.

이런 알고리즘에 대해서 어떻게 생각하는가? 내가 다니는 웹사이트의 모든 행동이 기록되고 있고 이에 맞춰서 새로운 정보, 가공된 정보가 나에게 제공되고 있다. 내가 주는 데이터의 가치는 그렇게 계속 올라가고 있고 활용되고 있다.

알고리즘은 결과에 기반 하기 때문에 우범 지역에서 발생하는 사건으로 인해 경찰관에 많은 배치를 유도하고, 이는 다시 우범지역에 많은 범죄를 보게 되면서 더 많은 경찰관의 배치를 주문하면서 무한 반복되는 잘못된 고리를 만들 수 있다. 평균의 오류와 같은 경우도 만들어낼 수 있지만 흥행할 영화를 예상해보는 등 다양한 영역으로 확대할 수도 있다.

알고리즘은 과연 어떤 힘을 가지고 있을까? 인공지능이 활용하는 알고리즘은 우리 생활을 분명 유익하게 만들어줄 것이지만, 양날의 검과 같이 기술의 이점만 생각하여 놓치고 있는 부분에 대해서는 알아야 할 필요성도 있는 듯하다. 알고리즘이 좋다고 생각하는 사람들에게 생각할 수 있는 중요한 질문을 던지는 책이다.