알고리즘의 권력에 대한 주도권은 인간에게 있다!!

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

이 글에는 스포일러가 포함되어 있습니다.

​데이터, 알고리즘, 인공지능, AI.

4차 산업혁명이 이 세상에 어느 순간 위협적으로 다가와

 인간이 설 자리를 앗아가고 있고 급기야는

인간이 인공지능에 밀리고 있다는 공포 마저 엄습하는 시대.

공포를 조장하는 것은 물론 아니지만 인간과 기계가 생존을 위해 전쟁을 하는 지금,

알고리즘과 인공지능을 똑바로 파악하고 현명하게 대처해야 한다고 저자는 말합니다.

그렇다고 알고리즘과 인간이 적대적으로 맞설 상대라고 말하진 않아요.

결국은 착취당할 것인가, 지배할 것인가.

아니면 완벽하게 공생할 것인가!!

주도권을 누가 쥐어야 할것인지 질문에 대한 답은 당연하고 심플합니다.

제목으로 봐서는 왠지 과학기술에 대한 이야기를 할 거 같은데

전반적으로는 데이터와 알고리즘, 인공지능이 인간 사회에 얼마나 침투해 있고

우리가 얼마나 알고리즘의 권력에 무력하게 대응해 왔는지,

독재적이고 오만한 알고리즘과 인공지능에 대해 정확히 알려고 들지도 않고

그저 휩쓸려 간 것에 대해서도 정신 차리게 하는 <안녕, 인간> 이예요.

관심영역에 들어와 있는 내용은 아닌데도 불구하고

어렵게 읽혀지지 않고 알고리즘의 특징들과 사회현상에 영향을 미치고 있는 일화들을

소개해 주면서 데이터, 알고리즘, 인공지능을 똑바로 인지할 수 있게 도와줍니다.

​그리고 나는 이 대상들에 대해서 지금까지 어떻게 생각해 왔고,

나도 모르게 얼마나 잠식되어 왔는지 돌아보게 하기도 하구요.

이미 싸움은 끝났고 점령 당했다고 자포자기 할 일도 결코 아닙니다.

 알고리즘의 권력에 대한 주도권은 인간이 쥐고 있다는 에필로그 제목이 매우 인상 깊어요!!!

결국은 우리가 사는 이 사회에서 위기를 극복할 수 있는 힘은

인간에게 있어요.

 기계가 인간에게 도전하는 듯한 이 형국을 <안녕, 인간> 이라고 제목으로 표현하듯,

인공지능의 도전에 과감히 맞서고 지혜롭게 대처하려는 새로운 인식이

인간에게도 필요하다는 생각이 듭니다.

알고리즘과 데이터에 대하여 / 알고리즘이 인간 세상에 침투한 이야기 /

알고리즘은 인간의 몸을 알고 있다 / 인간들의 욕망을 보여주는 자동화의 역설 /

경찰관 역할을 하는 알고리즘이 갖는 오류 / 창의성이라는 인간의 영역, 예술에 기계가 관여할 수 있는가 /

 아무것도 예측할 수 없는 이 시대에

인공지능이 독점하고 있고 알고리즘의 권위를 악용하는 일부 인간들의 씁쓸한 모습도 보입니다.

인공지능이 인간성을 얼마나 바꿔놓고 있는지 그 은밀한 힘이 무섭기도 하죠.

인간의 습성을 파고드는 알고리즘은 마치 어떤 살아있는 존재인듯

꿈틀거리며 인간의 욕망을 끊임없이 자극합니다.

스스로 사유하지 않으면 무기력하게 잠식됩니다.

저자 해나 프라이는 그 권위적이고 오만한 알고리즘 조차 완벽하지 않다고

인간부터 인정하고 의문을 갖는 것이 중요하다고 말합니다.

수학자이자 대중 연설가인 저자의 담담하고도 냉철한 문체 속에서

인간으로서 우리는 어떤 존재인지,

우리 사회가 어떤 곳이 되기를 바라는지,

머지 않아 닥칠 기술의 권위에 얼마나 대응할 수 있을지에 대해

인간의 독창적 사고가 필요한 시기임을 강조하고 있음이 전해졌고

 저도 모르게 고개가 끄덕여지기도 하더라구요.

저 또한 인공지능과 알고리즘, 데이터들을 편리한 우리의 생활을 위해 이용하고 있다고 생각했는데

알고 보니 우리는 갈수록 그것들에 의지하면서도

그 존재를 제대로 인식하지 못하고 있었던 것입니다.

알고리즘이 갖고 있는 기능과 그 은밀한 힘, 풀지 못한 문제들을 앞두고

알고리즘 자체가 선하거나 악한 것이 아니라

우리가 그것을 어떻게 사용하느냐가 아주 중요한 지점이었던 것이죠!!

알고리즘과 데이터가 범죄자의 수감기간, 환자의 암 치료법, 교통사고시 대응방식 등을

결정하며 우리의 생활에 영향력을 키우는 사이

우리는 알고리즘의 특성 조차 확실히 이해하지 못한채 신뢰만 했던 것이 

결국은 "위기"라고 인식하는 지금에 이르렀다는 생각이 머리속에 계속 남아있어요.

인간이 알고리즘의 이면에서 무슨 일이 벌어지는지

궁금해 하지 않은 채 곧이곧대로 믿는 습성에 대해서

저자가 문제를 제기하는 순간에는 저 역시 의심을 품게 됩니다.

인터넷 곳곳에서 조용히 우리를 추적하는 알고리즘,

개인정보를 수집하는 알고리즘,

사생활 침범은 기본이고 내 성격까지 추론해서

미묘하게 영향을 끼치는 알고리즘에 인간의 생각하는 힘조차 멈춰버린 건 아닌지

돌아봐야 할 필요도 느낍니다.

우리는 자신이 제공한 데이터가 어떻게 활용되는지도 모르며 살아가고 있어요.

지구 곳곳의 최신정보와 지식들을 무료로 누리고 있으면서

그 대신 기업은 우리의 데이터를 확보해

그 데이터로 우리에게 영향을 미치고 이익을 얻고 있는 실상에 눈을 뜨게 합니다.

의문을 갖는 것은 항상 "왜" 로부터 시작하지요.

이 앱이 나에게 이런 것을 공짜로 주는 이유,

이 알고리즘이 실제로 하는 일이 무엇이고

이 거래를 받아들여도 안전할지 한번 더 생각해 보는 일들.

"자동화의 역설" 에서는 특히나 인간이 스스로 생각하고 창의적으로 사고하는 것이

얼마나 큰 힘을 발휘할 수 있는지 역설적으로 보여주는 일례가 깨달음을 주기도 합니다.

2009년 프랑스로 가는 에어프랑스는  자동운항 시스템으로 비행하고

그 시스템을 조종사는 살피기만 하면 되었는데요.

문제가 생겨 자동운항 시스템에 경고가 울렸고 인간 조종사에게 조종 임무를 넘깁니다.

하지만 경험 부족이었던 조종사는 과잉대응을 하게 되면서 대서양으로 추락해

 228명 탑승자 전원이 사망하는 비극이 생기죠.

인간이 자동화 시스템에 지나치게 의존할 때 생기는 위험에 대해 경고하는 일례였고

자율주행 차량도 같은 일이 일어나리라는 우려가 따르는 지점입니다.

인간의 욕망으로 역량을 높이고자 테슬라의 자율주행 자동차 같이 기계를 개발하지만

역설적이게도 자동화 시스템이 인간의 역량을 줄어들게 하고 있음을 얘기하는 이 부분은

격하게 공감이 가고 우려도 되는 바입니다.

정신줄 붙잡아야 할듯.....

인간의 창의적 사고가 끌어내는 예술의 영역까지도 인공지능과 알고리즘이 침투할 수 있는가.

자동화가 우리 삶 모든 영역에 영향을 끼치고 있지만

감정의 교류를 다루는 예술은 인간의 고유한 영역이라고 생각하고 있고

저자 역시 이 지점에 좀 더 무게중심을 두고 말하고 있어요.

알고리즘도 예술작품을 만들 수 있는가에 대한 생각을 하려면

그보다 먼저 우리는 무엇을 예술로 볼 것인가 부터 깊은 고민에 들어가야 하는 숙제도 남겨줍니다.

알고리즘의 능력에 분명히 한계가 있는데도 불구하고

많은 것을 자동화하려는 인간의 욕망과

세상의 많은 쟁점을 서둘러 해결하려는 마음에 인간들은 사로잡혀 있습니다.

한 문제를 해결하는 대가로 다른 문제를 얻게 되는 이 사회에서

알고리즘에 일종의 권위가 있다는 생각,

그래서 우리가 잘못을 저지르고 있다는 인식부터 시작해야 할 거 같아요.

그동안 우리는 알고리즘의 힘에 의문을 제기하기를 주저했지만

<안녕, 인간> 을 많은 독자들이 읽게 된다면

아마도 알고리즘과 인간에 대한 이해가 제대로 정립되기 시작할거라 믿습니다.

알고리즘과 인간은 상대의 강점은 활용하고

결점은 포용하면서 동반자로 함께 일할 때

알고리즘의 효과는 사회에 바람직한 힘으로 작용할 수 있다는 저자의 확신을 저 또한 믿고 싶어요!!!

 제 안에 있는 인공지능과 알고리즘에 대한 지식과 정보들,

그리고 이 사회에 기계의 침투가 주는 영향력을 직시할 수 있는 시야는

와이즈베리 인문 사회학 <안녕, 인간> 을 읽기 전과 후로 나뉠 것 같습니다.

인간과 기계, 알고리즘과 인간, 인공지능과 인간의 관계에서

인간이 주도권을 잡고 공생하는 지혜를 도모해야 할 때예요!!!