<안녕,인간> 보이지 않는 알고리즘의 공포 그리고 우리의 선택

안녕, 인간 - 부와 권력을 지배하는 인공지능의 보이지 않는 공포가 온다
해나 프라이 지음, 김정아 옮김 / 와이즈베리 / 2019년 7월

자동화는 우리에게 많은 편리함을 안겨주었다.

의사들을 도와서 인간의 병을 진단하고, 범죄자들을 잡는데도 도움을 주었으며, 세계의 넘쳐나는 정보들을 무료로 쉽게 얻을 수 있게 해주었다. 하지만 동전이 양면을 지니고 있듯이 알고리즘은 우리에게 편리함과 더불어 또 다른 문제를 안겨주었다.

알고리즘은 이 세상에 등장해서 인간의 옆에서 역량을 키우고 실수를 바로 잡고 문제를 해결해주지만 그 과정에서 우리가 얻을 해악과 이익을 구분하고 어떤 세상에서 우리가 살아야할지에 대한 선택지를 던져주었다는 말이다.

01. 알고리즘, 우리는 얼마나 신뢰할 수 있을까?

<안녕,인간> 도서에서는 7가지 영역에서 알고리즘에 대해 들여다보고 있는데 알고리즘이 우리 생활에 어떻게 쓰이고 있는지에 대해서 실제적인 예를 들어서 쉽게 설명하고 있는데 , 나는 그러한 예를 통해서 스스로에게 어떤 선택을 내릴지 질문을 하게 되었다. 나 스스로는 어떤 선택을 할까?

이 질문은 흡사 '정의란 무엇인가'에 나오는 질문과 비슷했다. 공공의 선을 위해서 한 명을 희생시킬 수 있을까 등의...

특히 자율주행 자동차의 예를 들면서 한 사례가 생각나는데 '누구를 살릴 것인가'에 대한 문제였다.

'만약 당신이 자율주행 자동차를 타고 도심거리는 신나게 달리고 있는데 교통 신호가 빨간 불로 바뀌었는데 자동차에 이상이 생겨서 차를 멈출 수가 없다. 충돌을 피할 수 없는 상황에서 차는 선택을 해야한다. 도로에서 벗어나 콘크리트 벽을 들이받아 탑승자를 죽음에 이르게 할 것인가? 아니면 계속 달려 탑승자는 살리되, 횡단보도를 건너는 보행자를 칠 것인가? 알고리즘이 어떻게 되도록 설계해야할까?'

이에 대해 메르세데스 벤츠는 태도를 분명히 했다.

"우리는 탑승자를 구합니다. 다른 것은 몰라도 한 사람의 죽음만은 막을 수 있다고

확신한다면, 그게 1순위죠"

당신은 어떤 선택을 할 것인가? 나는 채을 읽으면서 사실 벤츠의 태도에 분노를 느꼈다. 그러다 다시금 다음 구절을 보고

다시금 생각해보게 되었다. 다들 벤츠의 태도에 격분하는 분들이 많을 것이다. 만약 횡단보도에 인원이 더 많아도 벤츠는 탑승자를 구한다는 것이기 때문이다. 다른 사람의 희생을 치루더라도 탑승장의 목숨을 살리겠다는 그 태도.

동의하는가?

여기 내가 차를 타는 입장이라고 생각해보자, 내가 운전자이며, 탑승자이다. 당신은 다른 사람의 목숨을 구하는 차를 살 것인가.

나의 목숨을 살리는 차를 살 것인가? 벤츠의 물음에 대한 분노는 여기에서 지극히 합당한 처사라는 생각이 드는 순간이다.

그럼 자율운행 자동차, 즉 알고리즘을 우리는 버랴야할까? 그것은 아니다.

이 책에서는 운전을 하지 않고 자율운행에 맡기는 운전능력이 퇴화되는 운전자가 되기보다는 운전자가 메인이고, 서브로 운전자가 놓치는 부분을 콕 잡아주는 그런 알고리즘의 역할이 우리에게 필요한 것이 아니냐고 물어보고 있다.

02. 창조적인 영역은 인간의 영역이다?

흔히 예술(art)부분에 있어서는 인간의 고유의 영역이라고 우리는 자부해왔다. 음악,미술 등 예술분야는 기계가 할 수 없는 영역이라는 것이다.

하지만 최근 실험에 따르면 바흐의 곡을 인간이 , 그리고 기계가 (기계의 경우 딥러닝을 통해 ) 각각 작곡한 곡을 사람들에게 들려주고 이 중에 바흐가 작곡한 곡을 고르라는 실험이 있었는데 , 사람들이 기계가 작곡한 곡이 바흐의 곡이다 라고 선택했다는 것이다.

이 기계는 바흐의 작곡스타일을 그대로 배운뒤 곡을 작곡하였다고 한다.

이런 것을 보면 예술분야 꼭 인간만의 고유영역이라 불릴 수 있을까?

나 또한 예술분야는 독보적이란 생각을 했었는데 기계가 창조적인 부분까지 깊숙이 들어온 느낌이 들어서 소름이 돋았다.

그럼 미술 또한 안될 것은 무엇이란 말인가 어떤 사람의 그림스타일을 익히게 하고, 그 사람의 스타일로 그림을 그려보게 한다면?

과연 창조적인 분야가 아니라면 인간만이 할 수 있는 영역은 과연 어디일까?

03.알고리즘에 대해 새로운 생각을 갖게 해 준 책 <안녕,인간>

사실 알고리즘의 내용이라고 하면 딱딱한 4차산업혁명 이야기, 프로그램이야기, 기계이야기 라고 생각해온 나로써, 알고리즘의 보이지 않는

공포에 대한 내용, 그리고 우리의 선택에 대한 이야기를 다른 <안녕,인간>은 나에게 새로운 시각을 선사해주었다.

의료에도 큰 도움이 될거라 생각했지만 의료에 대한 데이터를 수집하면서 낳게될 많은 인권침해라던가의 문제 또 범죄자를 수색하고 걸러내는데 사용되어 아주 유용할 것 같은 프로그램에도, 많은 범죄자들을 빠르게 검거하지만 무고한 사람을 잡아낼 가능성 에 대한 선택의 문제 등. 알고리즘의 편리함 뒤에는 소수의 사람들의 희생이라는 문제가 항상 자리하고 있었다.

그래서 정의란 무엇인가에 대한 질문이 계속 맴돌았다.

다수를 위해서 소수가 희생하는 프로그램을 계속 사용하는게 좋을까? 그래도 많은 범죄를 사전에 예방하고 병의 치료에도 도움이 되는 이 편리한 알고리즘을 우리는 거부해야할 것인가. 아니면 사용해야할 것인가.

지은이는 그에 대한 해답으로 마지막까지 인간을 중심에, 알고리즘을 도움을 주는 헬프의 개념으로 두자고 이야기하고 있다. 나도 그 의견에 많이 동의하는 바이지만, 모든 사람들이 그렇게 생각하지는 않을터이고, 개발뒤에 따르는 어둠은 염두해둬야할 것 같다는 생각이 들었다.

우린 무료프로그램과 무료정보를 사용하지만 그런 것들을 사용하는 댓가로 개인정보가 이리저리 팔리고 있다. 이것 또한 알고리즘의 양과 음의 영역이다. 나의 정보를 지키기 위해서 정보를 사용하지 말아야할까?

인공지능시대가 오기 전에 , 아니 지금부터 우리는 사실 이러한 물음들을 지속적으로 묻고 앞으로 미래에 우리가 어떤 선택을 해야할지에 대해 깊게 생각해봐야한다고 생각한다. 미래는 우리가 그려가는 세계이기 때문이다.