당시 질문은 "어떻게 느끼십니까?"가 아니라 "어떻게 생각하십니까?"였다고 반박할지도 모르겠다. 하지만 이 점이야말로 사람들의 공통된 오해다. 국민투표와 선거는 언제나 인간의 느낌에 관한 것이지 이성적 판단에 관한 것이 아니다. 만약 민주주의가 이성적인 의사 결정의 문제라면 모든 사람에게 동등한 투표권을, 혹은 그 어떤 투표권을 줘야 할 이유가 전혀 없다. 어떤 사람들은 다른 사람들보다 훨씬 더 박식하고 이성적이라는 증거는 충분하다. 경제나 정치에 관한 구체적인 질문에 관한 한 확실히 그렇다. 브렉시트 투표가 있고 난 후에 저명한 생물학자 리처드 도킨스는 자신을 포함한 영국 대중의 대다수는 (이 문제를 두고) 국민투표에서 투표하도록 요구받는 일이 없어야 했다면서, 그들에게는 경제학과 정치학의 필요한 배경 지식이 없기 때문이라고 항변했다. "차라리 아인슈타인이 대수학을 맞게 풀었는지 결정하기 위해 국민투표를 실시하거나, 조종사가 어느 활주로에 착륙해야 할지를 두고 승객에게 투표하게 하는 것이 낫겠다."
그렇지만 좋든 나쁘든, 선거와 국민투표는 우리가 어떻게 생각하는지 묻는 게 아니다. 우리가 어떻게 느끼는지를 묻는 것이다. 느낌에 관한 한 아인슈타인과 도킨스도 다른 사람보다 나을 게 없다. 민주주의는 인간의 느낌이 신비롭고 심오한 ‘자유 의지’를 반영하고, 이 ‘자유 의지’가 권위의 궁극적인 원천이며, 어떤 사람이 다른 사람보다 더 똑똑하더라도 모든 인간은 평등하게 자유롭다고 가정한다. 아인슈타인, 도킨스와 마찬가지로, 문맹의 가정부 또한 자유 의지가 있으며 따라서 선거일에는 그녀의 느낌ㅡ투표로 표시되는ㅡ도 다른 사람과 똑같이 계산된다.
느낌에 이끌리는 것은 유권자뿐 아니라 지도자도 해당된다. 2016년 브렉시트 국민투표에서 탈퇴 캠페인을 이끈 지도자는 보리스 존슨과 마이클 고브였다. 데이비드 캐머런이 사임한 후 고브는 처음에 존슨을 총리로 지지했다. 하지만 마지막 순간에 고브는 존슨이 부적격자라고 선언하고 자신이 직접 출마하겠다는 의사를 발표했다. 존슨의 기회를 날려버린 고브의 행동을 두고 사람들은 마키아벨리적인 정치적 암살이라고 불렀다. 하지만 고브는 자신의 행동을 변호하는 과정에서 자신의 느낌에 호소하며 이렇게 설명했다. "정치 인생에서 걸음을 옮길 때마다 나 자신에게 한 가지 질문을 해왔다. ‘무엇이 옳은 일인가? 너의 마음은 네게 뭐라고 하는가?’ 고브에 따르면, 그가 브렉시트를 위해 그토록 열심히 싸운 이유도, 그때까지 동지였던 보리스 존슨의 등에 칼을 꽂을 수밖에 없었던 이유도, 자신이 우두머리 자리에 나선 것도 그 때문이었다. 즉, 그의 마음이 그렇게 하라고 했다는 것이다.
마음에 대한 이러한 의존은 자유민주주의의 아킬레스건으로 드러날지도 모른다. 왜냐하면 (베이징이나 샌프란시스코의) 누군가가 인간의 마음을 해킹해서 조작하는 기술력을 얻게 되면, 민주 정치는 감정의 인형극으로 돌변할 것이기 때문이다. - P82
개인의 느낌과 자유 선택에 대한 자유주의의 믿음은 자연적인 것도 아니고 그리 오래되지도 않았다. 수천 년 동안 사람들은, 권위는 인간의 마음보다는 신법에서 오는 것이며 따라서 우리는 인간의 자유보다 신의 말씀을 신성시해야 한다고 믿었다. 불과 지난 수 세기 동안 권위의 원천은 천상의 신에게서 피와 살을 가진 인간으로 이동했다.
조만간 권위는 다시 이동할지 모른다. 이번에는 인간에게서 알고리즘으로 말이다. 과거 신적 권위를 종교적 신화로 정당화한 것처럼 인간의 권위를 정당화한 것은 자유주의 이야기였다. 따라서 다가오는 기술 혁명은 빅데이터 알고리즘의 권위를 정당화하는 과정에서 바로 개인의 자유라는 생각의 기반을 위태롭게 할 수 있다.
앞 장에서 이야기했듯이, 과학적 통찰이 우리 뇌와 몸의 작동 방식에 대해 제시하는 견해는, 우리의 감정은 인간만의 어떤 독특한 영적 특성이 아니며 어떤 유의 ‘자유 의지’도 반영하지 않는다는 것이다. 그보다 감정은 모든 포유류와 조류가 생존과 재생산의 확률을 재빨리 계산하기 위해 사용하는 생화학적 기제라고 말한다. 감정은 직관이나 영감, 자유가 아니라 계산에 기반을 둔 것이다.
원숭이나 쥐, 인간은 뱀을 보면 두려움이 일어난다. 곧바로 뇌 속의 수백만 개 뉴런이 관련 데이터를 계산해서 죽을 확률이 높다고 결론짓기 때문이다. 성적 매력을 느끼는 것은, 다른 생화학적 알고리즘이 인근 개체와의 짝짓기와 사회적 결속의 가능성과 그 외 다른 갈망하는 목적을 이룰 확률이 높다고 계산했을 때다. 분노나 죄책감, 용서 같은 도덕적 감정은 집단 협력이 가능하도록 진화한 신경 메커니즘에서 나온다. 이 모든 생화학적 알고리즘은 수백만 년에 이르는 진화를 거치면서 연마된 것이다. 만약 어떤 고대의 선조가 실수를 했다면 이런 감정을 구성하는 유전자들은 다음 세대에 전수되지 않았을 것이다. 따라서 감정은 합리성의 반대가 아니다. 감정이 체화한 것이 진화적 합리성이다.
우리는 대체로 감정이 사실은 계산이라는 것을 깨닫지 못한다. 왜냐하면 계산의 과정이 자각의 문턱 훨씬 아래에서 순식간에 일어나기 때문이다. 우리는 생존과 재생산의 확률을 계산하고 있는 뇌 속의 수백만 개 뉴런을 느끼지 못한다. 그래서 뱀에 대한 공포나 성관계 상대의 선택 혹은 유럽연합에 관한 의견이 어떤 신비한 ‘자유 의지’의 결과라고 착각한다.
비록 자유주의가 우리의 감정이 자유 의지를 반영한다고 잘못 생각하고 있기는 하지만 지금까지도 감정에 의존해 살아가는 방식은 여전히 현실적으로 잘 통했다. 왜냐하면 우리의 감정에 마법 같거나 자유로운 것이라고는 전혀 없었다 하더라도, 무엇을 공부할지, 누구와 결혼할지, 어느 당에 투표할지 결정하기 위한 방법으로는 감정이 우주에서 최선이었기 때문이다. 외부의 어떤 시스템도 나보다 내 감정을 더 잘 이해할 거라고 기대할 수 없었다. 스페인 종교 재판관이나 소련 KGB가 매 순간 나를 감시한다 해도, 그들에게 내 욕망과 선택을 형성하는 생화학적 과정을 해킹하는 데 필요한 생물학적 지식과 컴퓨팅 능력은 없었다. 그러니 현실적으로 내게 자유 의지가 있다고 주장하는 것은 무리가 아니었다. 내 의지는 주로 내부 힘들의 상호작용으로 형성되었고, 이것은 외부에서는 아무도 볼 수 없었기 때문이다. 나는 나의 은밀한 내부 영역을 지배한다는 환상을 즐길 수 있었던 반면, 외부인들은 내 안에서 어떤 일이 일어나는지, 내가 어떻게 결정을 내리는지 실제로 전혀 이해할 수 없었다.
따라서 자유주의가 사람들에게 어떤 사제나 당 기관원의 지시보다 자기 마음을 따르라고 조언한 것은 옳았다. 하지만 조만간 컴퓨터 알고리즘은 인간의 감정보다 더 나은 조언을 해줄 수 있을 것이다. 스페인 종교재판관과 KGB가 구글과 바이두에 길을 내줌에 따라 ‘자유 의지’는 신화로 드러날 가능성이 크고, 자유주의는 현실적 이점을 잃을지도 모른다.
우리는 지금 엄청난 두 가지 혁명이 합쳐지는 지점에 와 있다. 한편으로는 생물학자들이 인간 신체, 특히 인간의 뇌와 감정의 신비를 해독하고 있다. 동시에 컴퓨터 과학자들은 우리에게 유례없는 데이터 처리 능력을 선사하고 있다. 생명기술 혁명과 정보기술 혁명이 합쳐지면 빅데이터 알고리즘을 만들어낼 것이고, 그것은 내 감정을 나보다 훨씬 더 잘 모니터하고 이해할 수 있다. 그런 다음에 권위는 아마도 인간에게서 컴퓨터로 이동할 것이다. 지금까지 접근 불가였던 나의 내부 영역을 제도와 기업, 정부 기관이 이해하고 조작하는 것을 일상적으로 접하면서, 자유 의지에 대한 나의 환상은 산산조각 날 가능성이 높다.
이미 의료 분야에서는 이런 일이 일어나고 있다. 우리 삶에서 가장 중요한 의료 결정을 내릴 때 근거로 삼는 것은 아프다거나 괜찮다는 우리의 느낌 혹은 주치의가 내리는 식견 있는 예측이 아니다. 우리 몸을 우리보다 훨씬 더 잘 이해하는 컴퓨터의 계산이다. 수십 년 내에 빅데이터 알고리즘은 끊임없이 입력되는 생체측정 데이터를 토대로 우리의 건강을 쉴 새 없이 모니터할 것이다. 우리가 몸에 어떤 문제가 있다고 느끼기 훨씬 전에, 빅데이터 알고리즘은 독감이나 암, 알츠하이머 같은 질병이 발병하는 첫 순간부터 감지할 것이다. 그런 다음 우리의 독특한 체격과 DNA, 인성에 맞춰 처방된 적절한 치료법과 식단, 식이요법을 추천할 것이다.
사람들은 사상 최고의 의료 서비스를 누릴 것이다. 하지만 바로 이런 이유 때문에 그들은 늘 환자 신세가 될 가능성이 높다. 우리 몸 어딘가에는 늘 어떤 문제가 있기 때문이다. 항상 무언가 개선될 것이 있게 마련이다. 과거에는 몸에 고통을 느끼거나 절름발이처럼 눈에 보이는 장애로 고생하지 않는 한 더할 나위 없이 건강하다고 느꼈다. 하지만 2050년이면 생체측정 센서와 빅데이터 알고리즘 덕분에 질병이 고통이나 장애로 나타나기 훨씬 전에 진단과 처방이 내려질 것이다. 그 결과 당신은 늘 어떤 ‘의료가 필요한 상태’에 놓이고, 이런저런 알고리즘 추천을 따르게 될 것이다. 거절하면 의료보험 효력이 정지되거나 상사가 당신을 해고할지도 모른다. 왜 당신이 고집 부린 대가를 그들이 지불해야 하나?
일반적 통계상 흡연이 폐암과 상관있다는 사실을 알면서도 121 그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. 인간 능력을 연구하고 개발할 때조차 의식을 가진 존재로서 장기적 필요에 따르기보다 주로 경제와 정치 시스템의 즉각적인 필요에 좌우된다. 나의 상사는 이메일에 되도록 빨리 답하기를 바라지만, 내가 음식을 맛보고 음미하는 능력에는 조금의 관심도 없다. 그 결과 나는 식사 중에도 이메일을 확인하지만 나 자신의 감각에 집중하는 능력은 잃어간다. 경제 시스템은 나의 투자 포트폴리오를 늘리고 다변화하는 쪽으로 나를 내모는 반면, 나의 연민을 확장하고 다변화할 동기는 조금도 부여하지 않는다. 나는 증권 거래소의 수수께끼를 풀려고 안간힘을 쓰면서도, 고통의 깊은 원인을 이해하려는 노력은 거의 하지 않는다.
이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. 하지만 이 데이터-젖소는 좀처럼 인간적인 잠재력을 극대화할 줄은 모른다. 실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다. 그 대신 인터넷 연결 속도와 빅데이터 알고리즘의 효율성을 높이는 데 집중한다. 앞으로 우리가 조심하지 않는다면, 다운그레이드된 인간이 업그레이드된 컴퓨터를 오용하여 자신과 세계에 재앙적 결과를 가져오는 상황을 맞게 될 것이다.
흡연을 계속하는 것과, 생체측정 센서가 좌상부 폐에서 암세포가 17개 감지됐다고 구체적으로 경고하는 것을 듣고도 계속 담배를 피우는 것은 완전히 다른 문제다. 설령 당신은 센서를 무시할 의향이 있다 해도, 센서가 보험 대리점과 직장 매니저, 어머니에게 경보를 전달하면 어떻게 할 것인가?
이 모든 질병들을 처리할 시간과 에너지가 있는 사람은 누구일까? 십중팔구, 우리는 이런 문제 대부분을 다루는 데 적합해 보이는 건강 알고리즘에 지시만 내릴 수 있을 뿐이다. 기껏해야 알고리즘은 우리 스마트폰에 수신되는 주기적인 업데이트를 통해 "17개의 암세포가 감지돼 제거되었다"는 사실이나 알려줄 것이다. 건강 염려증이 있는 사람은 이런 업데이트들을 충실하게 읽을지도 모르지만, 우리 중 대다수는 컴퓨터에 성가시게 뜨는 바이러스 퇴치 통지문처럼 무시하고 말 것이다._자유 - P85
드라마
의료 분야에서 이미 일어나기 시작한 것은 앞으로 점점 더 많은 분야에서도 일어날 가능성이 높다. 핵심 발명품은 생체 측정 센서인데 몸에 착용할 수도 있고 체내에 이식할 수도 있다. 생물학적 과정을 전자 정보로 전환해서 컴퓨터가 저장하고 분석할 수 있다는 장치다. 생체측정 데이터와 컴퓨팅 능력만 충분하면 외장 데이터 처리 시스템은 당신의 모든 욕망과 결정 그리고 의견까지 해킹할 수 있다. 그것은 당신이 어떤 사람인지 정확히 알 수 있다는 것이다.
사람들은 대부분 자신을 잘 모른다. 나는 스물한 살 때 비로소 내가 동성애자라는 사실을 깨달았다. 스스로 부인하면서 몇 년을 살고 난 뒤였다. 동성애자 대부분이 비슷한 과정을 겪는다. 동성애 남성 다수가 자신의 성 정체성에 대해 확신하지 못한 채 10대 시절을 겪는다. 이제 2050년이면 어떻게 될지 상상해보자. 그때는 알고리즘이 모든 10대에게 그가 동성애/이성애 스펙트럼의 어느 지점에 있는지 (그리고 그 지점이 얼마나 가변적인지조차) 정확히 알려줄 수 있다. 아마 알고리즘은 매력적인 남성과 여성의 사진이나 동영상을 보여주고 안구 움직임과 혈압, 뇌 활동을 추적한 다음, 5분 이내에 킨제이 척도상의 수치를 출력할 것이다. 그런 알고리즘이 있었다면 나도 수년간을 좌절감 속에 살지 않았을 것이다. 아마 당신은 개인적으로 그런 테스트를 해볼 마음이 없을 수도 있다. 하지만 미래에 당신은 미셸의 따분한 생일 파티에 친구들과 함께 있다가 누군가 이 멋진 새 알고리즘으로 돌아가면서 테스트를 해보자고 하는 일을 겪을 수도 있다. (결과를 보려고, 그리고 그에 대해 한마디씩 하려고 모두 주변에 둘러서 있다.) 당신은 그 자리를 떠날 텐가?
당신이 그 자리를 떠난다 해도, 그 후로도 계속 자신과 친구로부터 숨는다 해도, 아마존이나 알리바바, 비밀경찰의 눈까지 피할 수는 없을 것이다. 당신이 웹을 서핑하고 유튜브를 보고 소셜미디어 게시물을 읽을 때, 알고리즘은 용의주도하게 당신을 모니터하고 분석해서, 어떤 탄산음료를 당신에게 팔고 싶다면 셔츠를 입지 않은 소녀보다 웃통을 벗은 사내가 주인공인 광고를 사용하는 게 나을 거라고 코카콜라 측에 알려줄 것이다. 당신은 그런 사실도 모르겠지만 그들은 알 것이다. 그런 정보야말로 수십억의 가치가 있을 테니까.
이번에도 역시, 아마 모든 것이 공개돼 있을 것이고, 사람들은 기꺼이 자신의 정보를 공유해서 좀 더 나은 추천을 받으려 할 것이고, 결국에는 알고리즘이 자신을 위한 결정까지 내려주기를 바랄 것이다. 그것은 아주 단순한 것, 가령 어떤 영화를 볼지 결정하는 일 같은 것으로 시작된다. 친구들과 티브이 앞에 둘러앉아 아늑한 저녁을 보내려면 우선 무엇을 볼지 골라야 한다. 50년 전만 해도 선택의 여지가 없었지만 지금은 온디맨드on-demand 서비스 덕분에 시청할 수 있는 영화가 수천 편에 이른다. 그러다 보니 친구들과의 의견 통일이 꽤 어려울 수 있다. 당신은 SF 스릴러를 좋아하는 반면, 잭은 로맨틱 코미디를 선호하고, 질은 프랑스 예술 영화를 추천한다. 결국 절충하다 보면 모두가 실망하는 그저 그런 B급 영화를 보게 되기 십상이다.
이런 상황에서 알고리즘이 해결사가 될 수 있다. 당신과 친구들 각자가 과거에 재미있게 본 영화를 알고리즘에 알려주면, 통계에 근거한 데이터베이스를 기반으로 알고리즘은 그 집단에 꼭 맞는 영화를 찾아낼 수 있다. 하지만 불행히도, 그런 저급한 알고리즘은 속아 넘어가기 쉽다. 무엇보다 셀프리포팅은 사람들의 진짜 선호를 알려주는 척도로는 믿을 수 없기로 악명 높기 때문이다. 많은 사람이 어떤 영화를 걸작이라고 칭찬하는 것을 듣고, 나도 봐야겠다 싶어서 보다가 중간에 잠이 들었는데도, 교양 없는 속물처럼 보이기는 싫어서 모두에게 대단한 경험이었다고 이야기하는 경우가 얼마나 많은가.
하지만 그런 문제도 해결될 수 있다. 우리 자신의 의심스런 셀프 리포트에 의존하는 대신, 알고리즘이 우리가 실제로 영화를 볼 때 나타나는 실시간 데이터를 수집하도록 허용하기만 하면 된다. 우선 알고리즘은 우리가 끝까지 본 영화와 도중에 중단한 영화를 모니터할 수 있다. 우리가 온 세상에 <바람과 함께 사라지다>야말로 사상 최고의 영화라고 말하긴 해도, 사실은 전반 30분을 넘긴 적이 없고 애틀란타가 불타는 장면은 실제로 본 적도 없다는 것을 알고리즘은 알 것이다.
하지만 알고리즘은 그보다도 훨씬 더 깊이 들어갈 수 있다. 현재 엔지니어들은 우리 눈과 얼굴 근육의 움직임을 토대로 인간 감정을 감지할 수 있는 소프트웨어를 개발하고 있다. 텔레비전에 카메라를 장착하면 그런 소프트웨어가 어떤 장면에서 우리가 웃고 슬퍼하고 지루해하는지 알 것이다. 그다음 그런 알고리즘을 생체측정센서에 연결하면 각 프레임이 우리 심장 박동과 혈압, 뇌 활동에 어떤 영향을 주는지도 알 것이다. 가령 우리가 쿠엔틴 타란티노의 <펄프 픽션>을 관람하는 동안, 강간 장면에서는 거의 감지할 수 없는 성적 기미를 보였고, 빈센트가 우연히 마빈의 얼굴에 총을 쐈을 때는 웃으면서도 죄책감을 느꼈으며, 빅 카후나 버거에 관한 농담은 알아듣지도 못했으면서 멍청해 보이지 않으려고 웃었다는 사실을 알고리즘은 알아차릴 수 있다. 우리는 억지로 웃을 때는, 진짜로 우스워서 웃을 때와는 다른 뇌 회로와 근육을 사용한다. 인간은 보통 그 차이를 감지할 수 없지만 생체측정 센서는 할 수 있을 것이다.
텔레비전이라는 단어는 그리스어 ‘텔레tele’에서 나왔는데 ‘멀리’라는 뜻이다. 라틴어 ‘비지오visio’는 시야를 뜻한다. 원래 텔레비전은 우리가 멀리서도 볼 수 있도록 해주는 기기로 인식됐다. 하지만 조만간 텔레비전은 멀리서부터 우리를 보이게 해줄 수도 있을 것이다. 조지 오웰이 《1984》에서 상상한 것처럼, 우리가 텔레비전을 보는 동안 텔레비전도 우리를 감시할 것이다. 우리는 타란티노의 영화를 다 보고 나서 대부분을 잊어버릴지도 모르지만, 넷플릭스나 아마존 혹은 티브이 알고리즘을 소유한 사람은 누구든지 우리의 인성 유형과, 우리의 감정 유발 버튼을 누르는 법을 알 수 있을 것이다. 그런 데이터들 덕분에 넷플릭스와 아마존은 기괴할 정도로 정확히 우리에게 맞는 영화를 골라줄 것이다. 나아가 우리를 위해 인생에서 가장 중요한 결정까지 내려줄 것이다. 이를테면 무엇을 공부해야 하는지, 어디서 일해야 하는지, 누구와 결혼해야 하는지도.
물론 아마존의 답이 늘 옳지는 않을 것이다. 그것은 불가능하다. 데이터 부족, 프로그램 오류, 목표 설정 혼란, 삶의 근본적인 무질서 때문에 알고리즘은 반복해서 실수를 범할 수밖에 없다. 하지만 아마존이 완벽해야 할 필요는 없다. 평균적으로 우리 인간보다 낫기만 하면 된다. 그 정도는 그리 어려운 일이 아니다. 왜냐하면 대부분의 사람은 자신을 잘 모르기 때문이다. 사람들은 자기 인생에서 가장 중요한 결정을 내리면서도 끔찍한 실수를 저지를 때가 많다. 데이터 부족과 (유전적이고 문화적인) 프로그램 오류, 목표 설정 혼란과 인생의 무질서로 인한 고충도 인간이 알고리즘보다 훨씬 더 크게 겪는다.
당신은 알고리즘을 둘러싼 많은 문제들을 열거하고 나서는, 그렇기 때문에 사람들은 결코 알고리즘을 신뢰하지 않을 거라고 결론내릴 수도 있다. 하지만 그것은 민주주의의 모든 결점들을 나열한 후에 제정신인 사람이라면 그런 체제는 지지하려 들지 않을 거라고 결론짓는 것과 비슷하다. 윈스턴 처칠의 유명한 말이 있지 않은가. ‘민주주의는 세상에서 가장 나쁜 정치 체제다, 다른 모든 체제를 제외하면.’ 빅데이터 알고리즘에 대해서도 사람들은 그런 판단이 옳든 그르든 똑같은 결론에 이를 수 있다. 즉, 알고리즘은 장애도 많지만 더 나은 대안이 없다.
인간의 의사 결정 방식에 대한 과학자들의 이해가 깊어질수록 알고리즘에 의존하고 싶은 유혹은 점점 커질 가능성이 높다. 인간의 의사 결정을 해킹하면 빅데이터 알고리즘의 신뢰도는 더욱 커지고, 그와 동시에 인간의 감정은 점점 더 의심받게 될 것이다. 정부와 기업이 인간의 운영 체계를 해킹하는 데 성공하면서 우리는 정밀 유도된 조작, 광고와 프로파간다의 융단폭격에 노출될 것이다. 마치 버티고vertigo(공간 정위 상실-옮긴이) 상태에 빠진 조종사가 자기 감각이 말하는 것은 다 무시한 채 오로지 기계만 믿어야 하듯이, 앞으로 알고리즘에 의존할 수밖에 없을 우리의 의견과 감정을 조작하기란 너무나 쉬워질 수 있다.
어떤 나라와 어떤 상황에서는 사람들이 아무런 기회도 갖지 못한 채, 마지못해 빅데이터 알고리즘의 결정을 따를 수밖에 없게 될 것이다. 하지만 이른바 자유 사회에서도 알고리즘은 다시 권위를 얻을 수 있다. 그것은 사람들이 경험에서 얻는 학습을 통해 점점 더 많은 이슈들에 대해 알고리즘을 신뢰하게 되는 반면, 자기 스스로 결정을 내리는 능력은 잃어가면서 생기는 현상일 것이다. 불과 20년 사이에 일어난 과정만 돌이켜봐도 알 수 있다. 이제 수십억 명이 의미 있고 믿을 만한 정보를 찾을 때 구글 검색 알고리즘을 가장 중요한 도구 중 하나로 신뢰하게 되었다. 우리는 더 이상 정보를 검색하지 않는다. 대신 우리는 ‘구글한다’. 우리가 어떤 답을 찾을 때 구글에 의존하는 경향이 커짐에 따라 우리 자신의 정보 검색 능력은 갈수록 감퇴한다. 오늘날 이미 ‘진실’은 구글 검색의 최상위 결과와 동의어다.
알고리즘 의존의 심화는 우리의 신체 능력에서도 진행되고 있다. 공간 속 길 찾기 같은 것이 대표적이다. 사람들은 구글에 주변 안내를 부탁한다. 교차로에 이르렀을 때 육감은 ‘좌회전’을 말하는데 구글 지도는 ‘우회전’을 지시할 수 있다. 처음에는 육감을 믿고 좌회전을 하지만 교통 체증에 막혀 중요한 미팅을 놓친다. 다음번에는 구글 말을 듣고 우회전해서 정각에 도착한다. 이런 식으로 사람들은 경험을 통해 구글을 신뢰하게 된다. 1~2년 이내에 구글 지도가 알려주는 것이라면 무조건 따른다. 그러다 스마트폰이 불통되면 속수무책이다.
2012년 3월 일본 관광객 세 명이 호주 연안의 작은 섬으로 당일치기 여행을 가기로 했다. 그들은 차를 몰고 가다가 그대로 태평양에 뛰어들었다. 운전을 했던 21세 유주 노다 씨는 나중에 자신은 GPS 지시를 따랐을 뿐이라고 했다. "GPS가 우리한테 그쪽으로 곧장 갈 수 있다고 했어요. 길로 안내해줄 거라고 계속 말하더군요. 그러다 꼼짝없이 빠졌지요." 그와 비슷하게 사람들이 GPS 지시만 믿고 차를 몰고 가다가 호수에 빠지거나 철거된 다리에서 떨어지는 사고가 여러 차례 일어났다. 길 찾기 능력은 근육과 같다. 사용하지 않으면 잃는다. 배우자나 직업을 고르는 능력도 마찬가지다.
매년 수백만의 젊은이들이 대학에서 무엇을 공부할지 결정해야 한다. 이것은 대단히 중요하면서 그만큼 어려운 결정이다. 부모와 친구, 교사 들로부터 압력을 받기 마련이다. 더구나 이들의 관심과 의견도 다 다르다. 여기에 자기 자신의 두려움과 환상까지 더해진다. 할리우드 블록버스터, 시답잖은 소설, 정교한 광고 캠페인까지 가세하면서 판단은 더욱더 흐려지고 이리저리 흔들린다. 특히나 현명한 결정을 내리기 어려운 이유는 각각 다른 직업에서 성공하는 데 필요한 것이 무엇인지 정말 모르는 데다, 자신의 장단점을 자신이 정확히 아는 것도 아니기 때문이다. 변호사로 성공하려면 무엇이 필요할까? 압박감 속에서 나는 어떻게 일을 해나갈까? 나는 팀워크가 좋은 사람일까?
한 학생이 처음에 법대 진학을 선택한 이유가 사실은 자신의 역량을 정확히 모르는 데다, 변호사에게 필요한 자질이 무엇인지에 대해서는 훨씬 왜곡된 견해를 가졌기 때문일 수 있다(변호사가 되었다고 해서 온종일 극적인 연설을 하고 "이의 있습니다, 재판관님!"을 외치는 것은 아니다). 그런가 하면 그녀의 친구는 어릴 적 꿈을 이루려고 전문적인 발레를 공부하기로 결심할 수도 있다. 하지만 정작 발레리나가 되는 데 필요한 골격을 갖추었거나 훈련을 받은 것은 아니다. 몇 년이 지난 후에야 둘은 자신의 선택을 깊이 후회한다. 미래에는 그런 결정을 내릴 때 구글에 의지할 수 있을 것이다. 구글은 내게 법대나 발레 학교에 가면 시간 낭비가 될 거라고, 하지만 뛰어난 (게다가 아주 행복한) 심리학자나 배관공은 될 수 있을 거라고 조언해줄 수 있을 것이다.
AI가 직업과 심지어 인간관계에 대해서까지 우리보다 더 나은 결정을 하게 된다면, 우리가 생각하는 인간성과 인생의 개념도 바뀌어야만 할 것이다. 인간은 삶을 의사 결정의 드라마로 생각하는 데 익숙하다. 자유민주주의와 자유 시장 자본주의는 각 개인을 끊임없이 세상에 관한 결정을 내리는 자율적인 주체로 본다. 예술 작품ㅡ셰익스피어의 희곡이든 제인 오스틴의 소설이든 할리우드의 조악한 코미디물이든ㅡ은 어떤 특별히 중요한 결정을 내려야만 하는 영웅을 중심으로 돌아간다. 사느냐 죽느냐? 아내의 말을 듣고 덩컨 왕을 죽일 것인가, 양심의 소리를 듣고 살려줄 것인가? 결혼은 콜린스 씨랑 할까, 다시 씨랑 할까? 마찬가지로 기독교와 이슬람교의 신학에서도 초점은 의사 결정의 드라마에 맞춰진다. 그리하여 이렇게 주장한다. 영원한 구원이냐 지옥이냐는 당신의 올바른 선택에 달렸다고.
우리가 내려야 할 결정을 점점 AI에 의존하게 되면서 인생을 보는 우리 관점에는 어떤 변화가 생길까? 현재 우리는 영화를 고를 때는 넷플릭스의 추천을, 길에서 좌/우회전을 선택할 때는 구글 지도를 신뢰한다. 하지만 무엇을 공부할지, 어디에서 일할지, 누구와 결혼할지를 선택할 때도 AI에 기대기 시작하면 인간의 삶은 더 이상 의사 결정의 드라마로는 보이지 않을 것이다. 민주 선거와 자유 시장도 별 의미가 없을 것이다. 대부분의 종교와 예술 작업도 마찬가지가 될 것이다. 안나 카레니나가 스마트폰을 꺼내 들고 남편 카레닌 곁에 머물러야 할지, 돌진해 오는 브론스키 백작과 달아나야 할지 페이스북 알고리즘에 묻는 장면을 상상해보라. 혹은 자신이 가장 좋아하는 셰익스피어 희곡 속의 모든 결정적인 의사 결정을 구글 알고리즘이 한다고 상상해보라. 그러면 햄릿과 맥베스는 훨씬 편안한 인생을 누릴 것이다. 하지만 그런 인생이란 정확히 어떤 인생일까? 그런 인생을 의미 있게 해줄 모델이 우리에게 있는가?
권위가 인간에게서 알고리즘으로 이동함에 따라, 우리는 더 이상 세계를 자율적인 개인들이 올바른 선택을 하기 위해 분투하는 장으로 보지 않게 될 수도 있다. 그 대신 온 우주를 데이터의 흐름으로,, 생화학적 알고리즘과 다름없는 유기체로 보고, 인간의 우주적 소명이란 모든 것을 포괄하는 데이터 처리 시스템을 만든 다음 그 속으로 통합되는 것이라고 믿을 수도 있다. 이미 지금 우리는 그 전모를 진정으로 이해하는 사람이 아무도 없는 거대한 데이터 처리 시스템 속의 작은 칩이 되어가고 있다. 매일 나는 이메일과 트윗, 기사 들을 통해 수없이 많은 데이터 조각들을 빨아들이고, 그 데이터들을 처리하고, 더 많은 이메일, 트윗, 기사 들을 통해 새로운 조각들을 반송한다. 그 거대한 사물의 체계 속에서 나는 어디에 들어맞는지, 또 나의 데이터 조각들이 수십억의 다른 인간들과 컴퓨터들이 생산하는 조각들과는 어떻게 연결되는지는 정말 모른다. 알아낼 시간도 없다. 모든 이메일에 답하는 것만으로도 너무 바쁘기 때문이다. - P90
하지만 현실에서 인공지능이 의식을 얻을 거라고 가정할 이유는 조금도 없다. 지능과 의식은 상이한 것이기 때문이다. 지능은 문제를 해결하는 능력인 데 반해 의식은 고통, 기쁨, 사랑, 분노처럼 어떤 것을 느끼는 능력이다. 이 둘을 우리는 혼동하기 쉽다. 왜냐하면 인간과 다른 포유동물의 경우 지능이 의식과 함께 가기 때문이다. 포유류는 느낌으로 대부분의 문제를 해결한다. 하지만 컴퓨터가 문제를 푸는 방식은 아주 다르다. - P118
그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. 인간 능력을 연구하고 개발할 때조차 의식을 가진 존재로서 장기적 필요에 따르기보다 주로 경제와 정치 시스템의 즉각적인 필요에 좌우된다. 나의 상사는 이메일에 되도록 빨리 답하기를 바라지만, 내가 음식을 맛보고 음미하는 능력에는 조금의 관심도 없다. 그 결과 나는 식사 중에도 이메일을 확인하지만 나 자신의 감각에 집중하는 능력은 잃어간다. 경제 시스템은 나의 투자 포트폴리오를 늘리고 다변화하는 쪽으로 나를 내모는 반면, 나의 연민을 확장하고 다변화할 동기는 조금도 부여하지 않는다. 나는 증권 거래소의 수수께끼를 풀려고 안간힘을 쓰면서도, 고통의 깊은 원인을 이해하려는 노력은 거의 하지 않는다.
이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. 하지만 이 데이터-젖소는 좀처럼 인간적인 잠재력을 극대화할 줄은 모른다. 실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다. 그 대신 인터넷 연결 속도와 빅데이터 알고리즘의 효율성을 높이는 데 집중한다. 앞으로 우리가 조심하지 않는다면, 다운그레이드된 인간이 업그레이드된 컴퓨터를 오용하여 자신과 세계에 재앙적 결과를 가져오는 상황을 맞게 될 것이다. - P121
|