[오늘의 한문장] 21세기를 위한 21가지 제언

당시 질문은 "어떻게 느끼십니까?"가 아니라 "어떻게 생각하십니까?"였다고 반박할지도 모르겠다. 하지만 이 점이야말로 사람들의 공통된 오해다. 국민투표와 선거는 언제나 인간의 느낌에 관한 것이지 이성적 판단에 관한 것이 아니다. 만약 민주주의가 이성적인 의사 결정의 문제라면 모든 사람에게 동등한 투표권을, 혹은 그 어떤 투표권을 줘야 할 이유가 전혀 없다. 어떤 사람들은 다른 사람들보다 훨씬 더 박식하고 이성적이라는 증거는 충분하다. 경제나 정치에 관한 구체적인 질문에 관한 한 확실히 그렇다. 브렉시트 투표가 있고 난 후에 저명한 생물학자 리처드 도킨스는 자신을 포함한 영국 대중의 대다수는 (이 문제를 두고) 국민투표에서 투표하도록 요구받는 일이 없어야 했다면서, 그들에게는 경제학과 정치학의 필요한 배경 지식이 없기 때문이라고 항변했다. "차라리 아인슈타인이 대수학을 맞게 풀었는지 결정하기 위해 국민투표를 실시하거나, 조종사가 어느 활주로에 착륙해야 할지를 두고 승객에게 투표하게 하는 것이 낫겠다."
그렇지만 좋든 나쁘든, 선거와 국민투표는 우리가 어떻게 생각하는지 묻는 게 아니다. 우리가 어떻게 느끼는지를 묻는 것이다. 느낌에 관한 한 아인슈타인과 도킨스도 다른 사람보다 나을 게 없다. 민주주의는 인간의 느낌이 신비롭고 심오한 ‘자유 의지’를 반영하고, 이 ‘자유 의지’가 권위의 궁극적인 원천이며, 어떤 사람이 다른 사람보다 더 똑똑하더라도 모든 인간은 평등하게 자유롭다고 가정한다. 아인슈타인, 도킨스와 마찬가지로, 문맹의 가정부 또한 자유 의지가 있으며 따라서 선거일에는 그녀의 느낌ㅡ투표로 표시되는ㅡ도 다른 사람과 똑같이 계산된다.
느낌에 이끌리는 것은 유권자뿐 아니라 지도자도 해당된다. 2016년 브렉시트 국민투표에서 탈퇴 캠페인을 이끈 지도자는 보리스 존슨과 마이클 고브였다. 데이비드 캐머런이 사임한 후 고브는 처음에 존슨을 총리로 지지했다. 하지만 마지막 순간에 고브는 존슨이 부적격자라고 선언하고 자신이 직접 출마하겠다는 의사를 발표했다. 존슨의 기회를 날려버린 고브의 행동을 두고 사람들은 마키아벨리적인 정치적 암살이라고 불렀다. 하지만 고브는 자신의 행동을 변호하는 과정에서 자신의 느낌에 호소하며 이렇게 설명했다. "정치 인생에서 걸음을 옮길 때마다 나 자신에게 한 가지 질문을 해왔다. ‘무엇이 옳은 일인가? 너의 마음은 네게 뭐라고 하는가?’ 고브에 따르면, 그가 브렉시트를 위해 그토록 열심히 싸운 이유도, 그때까지 동지였던 보리스 존슨의 등에 칼을 꽂을 수밖에 없었던 이유도, 자신이 우두머리 자리에 나선 것도 그 때문이었다. 즉, 그의 마음이 그렇게 하라고 했다는 것이다.
마음에 대한 이러한 의존은 자유민주주의의 아킬레스건으로 드러날지도 모른다. 왜냐하면 (베이징이나 샌프란시스코의) 누군가가 인간의 마음을 해킹해서 조작하는 기술력을 얻게 되면, 민주 정치는 감정의 인형극으로 돌변할 것이기 때문이다. - P82

개인의 느낌과 자유 선택에 대한 자유주의의 믿음은 자연적인 것도 아니고 그리 오래되지도 않았다. 수천 년 동안 사람들은, 권위는 인간의 마음보다는 신법에서 오는 것이며 따라서 우리는 인간의 자유보다 신의 말씀을 신성시해야 한다고 믿었다. 불과 지난 수 세기 동안 권위의 원천은 천상의 신에게서 피와 살을 가진 인간으로 이동했다.
조만간 권위는 다시 이동할지 모른다. 이번에는 인간에게서 알고리즘으로 말이다. 과거 신적 권위를 종교적 신화로 정당화한 것처럼 인간의 권위를 정당화한 것은 자유주의 이야기였다. 따라서 다가오는 기술 혁명은 빅데이터 알고리즘의 권위를 정당화하는 과정에서 바로 개인의 자유라는 생각의 기반을 위태롭게 할 수 있다.
앞 장에서 이야기했듯이, 과학적 통찰이 우리 뇌와 몸의 작동 방식에 대해 제시하는 견해는, 우리의 감정은 인간만의 어떤 독특한 영적 특성이 아니며 어떤 유의 ‘자유 의지’도 반영하지 않는다는 것이다. 그보다 감정은 모든 포유류와 조류가 생존과 재생산의 확률을 재빨리 계산하기 위해 사용하는 생화학적 기제라고 말한다. 감정은 직관이나 영감, 자유가 아니라 계산에 기반을 둔 것이다.
원숭이나 쥐, 인간은 뱀을 보면 두려움이 일어난다. 곧바로 뇌 속의 수백만 개 뉴런이 관련 데이터를 계산해서 죽을 확률이 높다고 결론짓기 때문이다. 성적 매력을 느끼는 것은, 다른 생화학적 알고리즘이 인근 개체와의 짝짓기와 사회적 결속의 가능성과 그 외 다른 갈망하는 목적을 이룰 확률이 높다고 계산했을 때다. 분노나 죄책감, 용서 같은 도덕적 감정은 집단 협력이 가능하도록 진화한 신경 메커니즘에서 나온다. 이 모든 생화학적 알고리즘은 수백만 년에 이르는 진화를 거치면서 연마된 것이다. 만약 어떤 고대의 선조가 실수를 했다면 이런 감정을 구성하는 유전자들은 다음 세대에 전수되지 않았을 것이다. 따라서 감정은 합리성의 반대가 아니다. 감정이 체화한 것이 진화적 합리성이다.
우리는 대체로 감정이 사실은 계산이라는 것을 깨닫지 못한다. 왜냐하면 계산의 과정이 자각의 문턱 훨씬 아래에서 순식간에 일어나기 때문이다. 우리는 생존과 재생산의 확률을 계산하고 있는 뇌 속의 수백만 개 뉴런을 느끼지 못한다. 그래서 뱀에 대한 공포나 성관계 상대의 선택 혹은 유럽연합에 관한 의견이 어떤 신비한 ‘자유 의지’의 결과라고 착각한다.
비록 자유주의가 우리의 감정이 자유 의지를 반영한다고 잘못 생각하고 있기는 하지만 지금까지도 감정에 의존해 살아가는 방식은 여전히 현실적으로 잘 통했다. 왜냐하면 우리의 감정에 마법 같거나 자유로운 것이라고는 전혀 없었다 하더라도, 무엇을 공부할지, 누구와 결혼할지, 어느 당에 투표할지 결정하기 위한 방법으로는 감정이 우주에서 최선이었기 때문이다. 외부의 어떤 시스템도 나보다 내 감정을 더 잘 이해할 거라고 기대할 수 없었다. 스페인 종교 재판관이나 소련 KGB가 매 순간 나를 감시한다 해도, 그들에게 내 욕망과 선택을 형성하는 생화학적 과정을 해킹하는 데 필요한 생물학적 지식과 컴퓨팅 능력은 없었다. 그러니 현실적으로 내게 자유 의지가 있다고 주장하는 것은 무리가 아니었다. 내 의지는 주로 내부 힘들의 상호작용으로 형성되었고, 이것은 외부에서는 아무도 볼 수 없었기 때문이다. 나는 나의 은밀한 내부 영역을 지배한다는 환상을 즐길 수 있었던 반면, 외부인들은 내 안에서 어떤 일이 일어나는지, 내가 어떻게 결정을 내리는지 실제로 전혀 이해할 수 없었다.
따라서 자유주의가 사람들에게 어떤 사제나 당 기관원의 지시보다 자기 마음을 따르라고 조언한 것은 옳았다. 하지만 조만간 컴퓨터 알고리즘은 인간의 감정보다 더 나은 조언을 해줄 수 있을 것이다. 스페인 종교재판관과 KGB가 구글과 바이두에 길을 내줌에 따라 ‘자유 의지’는 신화로 드러날 가능성이 크고, 자유주의는 현실적 이점을 잃을지도 모른다.
우리는 지금 엄청난 두 가지 혁명이 합쳐지는 지점에 와 있다. 한편으로는 생물학자들이 인간 신체, 특히 인간의 뇌와 감정의 신비를 해독하고 있다. 동시에 컴퓨터 과학자들은 우리에게 유례없는 데이터 처리 능력을 선사하고 있다. 생명기술 혁명과 정보기술 혁명이 합쳐지면 빅데이터 알고리즘을 만들어낼 것이고, 그것은 내 감정을 나보다 훨씬 더 잘 모니터하고 이해할 수 있다. 그런 다음에 권위는 아마도 인간에게서 컴퓨터로 이동할 것이다. 지금까지 접근 불가였던 나의 내부 영역을 제도와 기업, 정부 기관이 이해하고 조작하는 것을 일상적으로 접하면서, 자유 의지에 대한 나의 환상은 산산조각 날 가능성이 높다.
이미 의료 분야에서는 이런 일이 일어나고 있다. 우리 삶에서 가장 중요한 의료 결정을 내릴 때 근거로 삼는 것은 아프다거나 괜찮다는 우리의 느낌 혹은 주치의가 내리는 식견 있는 예측이 아니다. 우리 몸을 우리보다 훨씬 더 잘 이해하는 컴퓨터의 계산이다. 수십 년 내에 빅데이터 알고리즘은 끊임없이 입력되는 생체측정 데이터를 토대로 우리의 건강을 쉴 새 없이 모니터할 것이다. 우리가 몸에 어떤 문제가 있다고 느끼기 훨씬 전에, 빅데이터 알고리즘은 독감이나 암, 알츠하이머 같은 질병이 발병하는 첫 순간부터 감지할 것이다. 그런 다음 우리의 독특한 체격과 DNA, 인성에 맞춰 처방된 적절한 치료법과 식단, 식이요법을 추천할 것이다.
사람들은 사상 최고의 의료 서비스를 누릴 것이다. 하지만 바로 이런 이유 때문에 그들은 늘 환자 신세가 될 가능성이 높다. 우리 몸 어딘가에는 늘 어떤 문제가 있기 때문이다. 항상 무언가 개선될 것이 있게 마련이다. 과거에는 몸에 고통을 느끼거나 절름발이처럼 눈에 보이는 장애로 고생하지 않는 한 더할 나위 없이 건강하다고 느꼈다. 하지만 2050년이면 생체측정 센서와 빅데이터 알고리즘 덕분에 질병이 고통이나 장애로 나타나기 훨씬 전에 진단과 처방이 내려질 것이다. 그 결과 당신은 늘 어떤 ‘의료가 필요한 상태’에 놓이고, 이런저런 알고리즘 추천을 따르게 될 것이다. 거절하면 의료보험 효력이 정지되거나 상사가 당신을 해고할지도 모른다. 왜 당신이 고집 부린 대가를 그들이 지불해야 하나?
일반적 통계상 흡연이 폐암과 상관있다는 사실을 알면서도 121 그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. 인간 능력을 연구하고 개발할 때조차 의식을 가진 존재로서 장기적 필요에 따르기보다 주로 경제와 정치 시스템의 즉각적인 필요에 좌우된다. 나의 상사는 이메일에 되도록 빨리 답하기를 바라지만, 내가 음식을 맛보고 음미하는 능력에는 조금의 관심도 없다. 그 결과 나는 식사 중에도 이메일을 확인하지만 나 자신의 감각에 집중하는 능력은 잃어간다. 경제 시스템은 나의 투자 포트폴리오를 늘리고 다변화하는 쪽으로 나를 내모는 반면, 나의 연민을 확장하고 다변화할 동기는 조금도 부여하지 않는다. 나는 증권 거래소의 수수께끼를 풀려고 안간힘을 쓰면서도, 고통의 깊은 원인을 이해하려는 노력은 거의 하지 않는다.
 이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. 하지만 이 데이터-젖소는 좀처럼 인간적인 잠재력을 극대화할 줄은 모른다. 실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다. 그 대신 인터넷 연결 속도와 빅데이터 알고리즘의 효율성을 높이는 데 집중한다. 앞으로 우리가 조심하지 않는다면, 다운그레이드된 인간이 업그레이드된 컴퓨터를 오용하여 자신과 세계에 재앙적 결과를 가져오는 상황을 맞게 될 것이다.
흡연을 계속하는 것과, 생체측정 센서가 좌상부 폐에서 암세포가 17개 감지됐다고 구체적으로 경고하는 것을 듣고도 계속 담배를 피우는 것은 완전히 다른 문제다. 설령 당신은 센서를 무시할 의향이 있다 해도, 센서가 보험 대리점과 직장 매니저, 어머니에게 경보를 전달하면 어떻게 할 것인가?
이 모든 질병들을 처리할 시간과 에너지가 있는 사람은 누구일까? 십중팔구, 우리는 이런 문제 대부분을 다루는 데 적합해 보이는 건강 알고리즘에 지시만 내릴 수 있을 뿐이다. 기껏해야 알고리즘은 우리 스마트폰에 수신되는 주기적인 업데이트를 통해 "17개의 암세포가 감지돼 제거되었다"는 사실이나 알려줄 것이다. 건강 염려증이 있는 사람은 이런 업데이트들을 충실하게 읽을지도 모르지만, 우리 중 대다수는 컴퓨터에 성가시게 뜨는 바이러스 퇴치 통지문처럼 무시하고 말 것이다._자유 - P85

드라마
의료 분야에서 이미 일어나기 시작한 것은 앞으로 점점 더 많은 분야에서도 일어날 가능성이 높다. 핵심 발명품은 생체 측정 센서인데 몸에 착용할 수도 있고 체내에 이식할 수도 있다. 생물학적 과정을 전자 정보로 전환해서 컴퓨터가 저장하고 분석할 수 있다는 장치다. 생체측정 데이터와 컴퓨팅 능력만 충분하면 외장 데이터 처리 시스템은 당신의 모든 욕망과 결정 그리고 의견까지 해킹할 수 있다. 그것은 당신이 어떤 사람인지 정확히 알 수 있다는 것이다.
사람들은 대부분 자신을 잘 모른다. 나는 스물한 살 때 비로소 내가 동성애자라는 사실을 깨달았다. 스스로 부인하면서 몇 년을 살고 난 뒤였다. 동성애자 대부분이 비슷한 과정을 겪는다. 동성애 남성 다수가 자신의 성 정체성에 대해 확신하지 못한 채 10대 시절을 겪는다. 이제 2050년이면 어떻게 될지 상상해보자. 그때는 알고리즘이 모든 10대에게 그가 동성애/이성애 스펙트럼의 어느 지점에 있는지 (그리고 그 지점이 얼마나 가변적인지조차) 정확히 알려줄 수 있다. 아마 알고리즘은 매력적인 남성과 여성의 사진이나 동영상을 보여주고 안구 움직임과 혈압, 뇌 활동을 추적한 다음, 5분 이내에 킨제이 척도상의 수치를 출력할 것이다. 그런 알고리즘이 있었다면 나도 수년간을 좌절감 속에 살지 않았을 것이다. 아마 당신은 개인적으로 그런 테스트를 해볼 마음이 없을 수도 있다. 하지만 미래에 당신은 미셸의 따분한 생일 파티에 친구들과 함께 있다가 누군가 이 멋진 새 알고리즘으로 돌아가면서 테스트를 해보자고 하는 일을 겪을 수도 있다. (결과를 보려고, 그리고 그에 대해 한마디씩 하려고 모두 주변에 둘러서 있다.) 당신은 그 자리를 떠날 텐가?
당신이 그 자리를 떠난다 해도, 그 후로도 계속 자신과 친구로부터 숨는다 해도, 아마존이나 알리바바, 비밀경찰의 눈까지 피할 수는 없을 것이다. 당신이 웹을 서핑하고 유튜브를 보고 소셜미디어 게시물을 읽을 때, 알고리즘은 용의주도하게 당신을 모니터하고 분석해서, 어떤 탄산음료를 당신에게 팔고 싶다면 셔츠를 입지 않은 소녀보다 웃통을 벗은 사내가 주인공인 광고를 사용하는 게 나을 거라고 코카콜라 측에 알려줄 것이다. 당신은 그런 사실도 모르겠지만 그들은 알 것이다. 그런 정보야말로 수십억의 가치가 있을 테니까.
이번에도 역시, 아마 모든 것이 공개돼 있을 것이고, 사람들은 기꺼이 자신의 정보를 공유해서 좀 더 나은 추천을 받으려 할 것이고, 결국에는 알고리즘이 자신을 위한 결정까지 내려주기를 바랄 것이다. 그것은 아주 단순한 것, 가령 어떤 영화를 볼지 결정하는 일 같은 것으로 시작된다. 친구들과 티브이 앞에 둘러앉아 아늑한 저녁을 보내려면 우선 무엇을 볼지 골라야 한다. 50년 전만 해도 선택의 여지가 없었지만 지금은 온디맨드on-demand 서비스 덕분에 시청할 수 있는 영화가 수천 편에 이른다. 그러다 보니 친구들과의 의견 통일이 꽤 어려울 수 있다. 당신은 SF 스릴러를 좋아하는 반면, 잭은 로맨틱 코미디를 선호하고, 질은 프랑스 예술 영화를 추천한다. 결국 절충하다 보면 모두가 실망하는 그저 그런 B급 영화를 보게 되기 십상이다.
이런 상황에서 알고리즘이 해결사가 될 수 있다. 당신과 친구들 각자가 과거에 재미있게 본 영화를 알고리즘에 알려주면, 통계에 근거한 데이터베이스를 기반으로 알고리즘은 그 집단에 꼭 맞는 영화를 찾아낼 수 있다. 하지만 불행히도, 그런 저급한 알고리즘은 속아 넘어가기 쉽다. 무엇보다 셀프리포팅은 사람들의 진짜 선호를 알려주는 척도로는 믿을 수 없기로 악명 높기 때문이다. 많은 사람이 어떤 영화를 걸작이라고 칭찬하는 것을 듣고, 나도 봐야겠다 싶어서 보다가 중간에 잠이 들었는데도, 교양 없는 속물처럼 보이기는 싫어서 모두에게 대단한 경험이었다고 이야기하는 경우가 얼마나 많은가.
하지만 그런 문제도 해결될 수 있다. 우리 자신의 의심스런 셀프 리포트에 의존하는 대신, 알고리즘이 우리가 실제로 영화를 볼 때 나타나는 실시간 데이터를 수집하도록 허용하기만 하면 된다. 우선 알고리즘은 우리가 끝까지 본 영화와 도중에 중단한 영화를 모니터할 수 있다. 우리가 온 세상에 <바람과 함께 사라지다>야말로 사상 최고의 영화라고 말하긴 해도, 사실은 전반 30분을 넘긴 적이 없고 애틀란타가 불타는 장면은 실제로 본 적도 없다는 것을 알고리즘은 알 것이다.
하지만 알고리즘은 그보다도 훨씬 더 깊이 들어갈 수 있다. 현재 엔지니어들은 우리 눈과 얼굴 근육의 움직임을 토대로 인간 감정을 감지할 수 있는 소프트웨어를 개발하고 있다. 텔레비전에 카메라를 장착하면 그런 소프트웨어가 어떤 장면에서 우리가 웃고 슬퍼하고 지루해하는지 알 것이다. 그다음 그런 알고리즘을 생체측정센서에 연결하면 각 프레임이 우리 심장 박동과 혈압, 뇌 활동에 어떤 영향을 주는지도 알 것이다. 가령 우리가 쿠엔틴 타란티노의 <펄프 픽션>을 관람하는 동안, 강간 장면에서는 거의 감지할 수 없는 성적 기미를 보였고, 빈센트가 우연히 마빈의 얼굴에 총을 쐈을 때는 웃으면서도 죄책감을 느꼈으며, 빅 카후나 버거에 관한 농담은 알아듣지도 못했으면서 멍청해 보이지 않으려고 웃었다는 사실을 알고리즘은 알아차릴 수 있다. 우리는 억지로 웃을 때는, 진짜로 우스워서 웃을 때와는 다른 뇌 회로와 근육을 사용한다. 인간은 보통 그 차이를 감지할 수 없지만 생체측정 센서는 할 수 있을 것이다.
텔레비전이라는 단어는 그리스어 ‘텔레tele’에서 나왔는데 ‘멀리’라는 뜻이다. 라틴어 ‘비지오visio’는 시야를 뜻한다. 원래 텔레비전은 우리가 멀리서도 볼 수 있도록 해주는 기기로 인식됐다. 하지만 조만간 텔레비전은 멀리서부터 우리를 보이게 해줄 수도 있을 것이다. 조지 오웰이 《1984》에서 상상한 것처럼, 우리가 텔레비전을 보는 동안 텔레비전도 우리를 감시할 것이다. 우리는 타란티노의 영화를 다 보고 나서 대부분을 잊어버릴지도 모르지만, 넷플릭스나 아마존 혹은 티브이 알고리즘을 소유한 사람은 누구든지 우리의 인성 유형과, 우리의 감정 유발 버튼을 누르는 법을 알 수 있을 것이다. 그런 데이터들 덕분에 넷플릭스와 아마존은 기괴할 정도로 정확히 우리에게 맞는 영화를 골라줄 것이다. 나아가 우리를 위해 인생에서 가장 중요한 결정까지 내려줄 것이다. 이를테면 무엇을 공부해야 하는지, 어디서 일해야 하는지, 누구와 결혼해야 하는지도.
물론 아마존의 답이 늘 옳지는 않을 것이다. 그것은 불가능하다. 데이터 부족, 프로그램 오류, 목표 설정 혼란, 삶의 근본적인 무질서 때문에 알고리즘은 반복해서 실수를 범할 수밖에 없다. 하지만 아마존이 완벽해야 할 필요는 없다. 평균적으로 우리 인간보다 낫기만 하면 된다. 그 정도는 그리 어려운 일이 아니다. 왜냐하면 대부분의 사람은 자신을 잘 모르기 때문이다. 사람들은 자기 인생에서 가장 중요한 결정을 내리면서도 끔찍한 실수를 저지를 때가 많다. 데이터 부족과 (유전적이고 문화적인) 프로그램 오류, 목표 설정 혼란과 인생의 무질서로 인한 고충도 인간이 알고리즘보다 훨씬 더 크게 겪는다.
당신은 알고리즘을 둘러싼 많은 문제들을 열거하고 나서는, 그렇기 때문에 사람들은 결코 알고리즘을 신뢰하지 않을 거라고 결론내릴 수도 있다. 하지만 그것은 민주주의의 모든 결점들을 나열한 후에 제정신인 사람이라면 그런 체제는 지지하려 들지 않을 거라고 결론짓는 것과 비슷하다. 윈스턴 처칠의 유명한 말이 있지 않은가. ‘민주주의는 세상에서 가장 나쁜 정치 체제다, 다른 모든 체제를 제외하면.’ 빅데이터 알고리즘에 대해서도 사람들은 그런 판단이 옳든 그르든 똑같은 결론에 이를 수 있다. 즉, 알고리즘은 장애도 많지만 더 나은 대안이 없다.
인간의 의사 결정 방식에 대한 과학자들의 이해가 깊어질수록 알고리즘에 의존하고 싶은 유혹은 점점 커질 가능성이 높다. 인간의 의사 결정을 해킹하면 빅데이터 알고리즘의 신뢰도는 더욱 커지고, 그와 동시에 인간의 감정은 점점 더 의심받게 될 것이다. 정부와 기업이 인간의 운영 체계를 해킹하는 데 성공하면서 우리는 정밀 유도된 조작, 광고와 프로파간다의 융단폭격에 노출될 것이다. 마치 버티고vertigo(공간 정위 상실-옮긴이) 상태에 빠진 조종사가 자기 감각이 말하는 것은 다 무시한 채 오로지 기계만 믿어야 하듯이, 앞으로 알고리즘에 의존할 수밖에 없을 우리의 의견과 감정을 조작하기란 너무나 쉬워질 수 있다.
어떤 나라와 어떤 상황에서는 사람들이 아무런 기회도 갖지 못한 채, 마지못해 빅데이터 알고리즘의 결정을 따를 수밖에 없게 될 것이다. 하지만 이른바 자유 사회에서도 알고리즘은 다시 권위를 얻을 수 있다. 그것은 사람들이 경험에서 얻는 학습을 통해 점점 더 많은 이슈들에 대해 알고리즘을 신뢰하게 되는 반면, 자기 스스로 결정을 내리는 능력은 잃어가면서 생기는 현상일 것이다. 불과 20년 사이에 일어난 과정만 돌이켜봐도 알 수 있다. 이제 수십억 명이 의미 있고 믿을 만한 정보를 찾을 때 구글 검색 알고리즘을 가장 중요한 도구 중 하나로 신뢰하게 되었다. 우리는 더 이상 정보를 검색하지 않는다. 대신 우리는 ‘구글한다’. 우리가 어떤 답을 찾을 때 구글에 의존하는 경향이 커짐에 따라 우리 자신의 정보 검색 능력은 갈수록 감퇴한다. 오늘날 이미 ‘진실’은 구글 검색의 최상위 결과와 동의어다.
알고리즘 의존의 심화는 우리의 신체 능력에서도 진행되고 있다. 공간 속 길 찾기 같은 것이 대표적이다. 사람들은 구글에 주변 안내를 부탁한다. 교차로에 이르렀을 때 육감은 ‘좌회전’을 말하는데 구글 지도는 ‘우회전’을 지시할 수 있다. 처음에는 육감을 믿고 좌회전을 하지만 교통 체증에 막혀 중요한 미팅을 놓친다. 다음번에는 구글 말을 듣고 우회전해서 정각에 도착한다. 이런 식으로 사람들은 경험을 통해 구글을 신뢰하게 된다. 1~2년 이내에 구글 지도가 알려주는 것이라면 무조건 따른다. 그러다 스마트폰이 불통되면 속수무책이다.
2012년 3월 일본 관광객 세 명이 호주 연안의 작은 섬으로 당일치기 여행을 가기로 했다. 그들은 차를 몰고 가다가 그대로 태평양에 뛰어들었다. 운전을 했던 21세 유주 노다 씨는 나중에 자신은 GPS 지시를 따랐을 뿐이라고 했다. "GPS가 우리한테 그쪽으로 곧장 갈 수 있다고 했어요. 길로 안내해줄 거라고 계속 말하더군요. 그러다 꼼짝없이 빠졌지요." 그와 비슷하게 사람들이 GPS 지시만 믿고 차를 몰고 가다가 호수에 빠지거나 철거된 다리에서 떨어지는 사고가 여러 차례 일어났다. 길 찾기 능력은 근육과 같다. 사용하지 않으면 잃는다. 배우자나 직업을 고르는 능력도 마찬가지다.
매년 수백만의 젊은이들이 대학에서 무엇을 공부할지 결정해야 한다. 이것은 대단히 중요하면서 그만큼 어려운 결정이다. 부모와 친구, 교사 들로부터 압력을 받기 마련이다. 더구나 이들의 관심과 의견도 다 다르다. 여기에 자기 자신의 두려움과 환상까지 더해진다. 할리우드 블록버스터, 시답잖은 소설, 정교한 광고 캠페인까지 가세하면서 판단은 더욱더 흐려지고 이리저리 흔들린다. 특히나 현명한 결정을 내리기 어려운 이유는 각각 다른 직업에서 성공하는 데 필요한 것이 무엇인지 정말 모르는 데다, 자신의 장단점을 자신이 정확히 아는 것도 아니기 때문이다. 변호사로 성공하려면 무엇이 필요할까? 압박감 속에서 나는 어떻게 일을 해나갈까? 나는 팀워크가 좋은 사람일까?
한 학생이 처음에 법대 진학을 선택한 이유가 사실은 자신의 역량을 정확히 모르는 데다, 변호사에게 필요한 자질이 무엇인지에 대해서는 훨씬 왜곡된 견해를 가졌기 때문일 수 있다(변호사가 되었다고 해서 온종일 극적인 연설을 하고 "이의 있습니다, 재판관님!"을 외치는 것은 아니다). 그런가 하면 그녀의 친구는 어릴 적 꿈을 이루려고 전문적인 발레를 공부하기로 결심할 수도 있다. 하지만 정작 발레리나가 되는 데 필요한 골격을 갖추었거나 훈련을 받은 것은 아니다. 몇 년이 지난 후에야 둘은 자신의 선택을 깊이 후회한다. 미래에는 그런 결정을 내릴 때 구글에 의지할 수 있을 것이다. 구글은 내게 법대나 발레 학교에 가면 시간 낭비가 될 거라고, 하지만 뛰어난 (게다가 아주 행복한) 심리학자나 배관공은 될 수 있을 거라고 조언해줄 수 있을 것이다.
AI가 직업과 심지어 인간관계에 대해서까지 우리보다 더 나은 결정을 하게 된다면, 우리가 생각하는 인간성과 인생의 개념도 바뀌어야만 할 것이다. 인간은 삶을 의사 결정의 드라마로 생각하는 데 익숙하다. 자유민주주의와 자유 시장 자본주의는 각 개인을 끊임없이 세상에 관한 결정을 내리는 자율적인 주체로 본다. 예술 작품ㅡ셰익스피어의 희곡이든 제인 오스틴의 소설이든 할리우드의 조악한 코미디물이든ㅡ은 어떤 특별히 중요한 결정을 내려야만 하는 영웅을 중심으로 돌아간다. 사느냐 죽느냐? 아내의 말을 듣고 덩컨 왕을 죽일 것인가, 양심의 소리를 듣고 살려줄 것인가? 결혼은 콜린스 씨랑 할까, 다시 씨랑 할까? 마찬가지로 기독교와 이슬람교의 신학에서도 초점은 의사 결정의 드라마에 맞춰진다. 그리하여 이렇게 주장한다. 영원한 구원이냐 지옥이냐는 당신의 올바른 선택에 달렸다고.
우리가 내려야 할 결정을 점점 AI에 의존하게 되면서 인생을 보는 우리 관점에는 어떤 변화가 생길까? 현재 우리는 영화를 고를 때는 넷플릭스의 추천을, 길에서 좌/우회전을 선택할 때는 구글 지도를 신뢰한다. 하지만 무엇을 공부할지, 어디에서 일할지, 누구와 결혼할지를 선택할 때도 AI에 기대기 시작하면 인간의 삶은 더 이상 의사 결정의 드라마로는 보이지 않을 것이다. 민주 선거와 자유 시장도 별 의미가 없을 것이다. 대부분의 종교와 예술 작업도 마찬가지가 될 것이다. 안나 카레니나가 스마트폰을 꺼내 들고 남편 카레닌 곁에 머물러야 할지, 돌진해 오는 브론스키 백작과 달아나야 할지 페이스북 알고리즘에 묻는 장면을 상상해보라. 혹은 자신이 가장 좋아하는 셰익스피어 희곡 속의 모든 결정적인 의사 결정을 구글 알고리즘이 한다고 상상해보라. 그러면 햄릿과 맥베스는 훨씬 편안한 인생을 누릴 것이다. 하지만 그런 인생이란 정확히 어떤 인생일까? 그런 인생을 의미 있게 해줄 모델이 우리에게 있는가?
권위가 인간에게서 알고리즘으로 이동함에 따라, 우리는 더 이상 세계를 자율적인 개인들이 올바른 선택을 하기 위해 분투하는 장으로 보지 않게 될 수도 있다. 그 대신 온 우주를 데이터의 흐름으로,, 생화학적 알고리즘과 다름없는 유기체로 보고, 인간의 우주적 소명이란 모든 것을 포괄하는 데이터 처리 시스템을 만든 다음 그 속으로 통합되는 것이라고 믿을 수도 있다. 이미 지금 우리는 그 전모를 진정으로 이해하는 사람이 아무도 없는 거대한 데이터 처리 시스템 속의 작은 칩이 되어가고 있다. 매일 나는 이메일과 트윗, 기사 들을 통해 수없이 많은 데이터 조각들을 빨아들이고, 그 데이터들을 처리하고, 더 많은 이메일, 트윗, 기사 들을 통해 새로운 조각들을 반송한다. 그 거대한 사물의 체계 속에서 나는 어디에 들어맞는지, 또 나의 데이터 조각들이 수십억의 다른 인간들과 컴퓨터들이 생산하는 조각들과는 어떻게 연결되는지는 정말 모른다. 알아낼 시간도 없다. 모든 이메일에 답하는 것만으로도 너무 바쁘기 때문이다. - P90

하지만 현실에서 인공지능이 의식을 얻을 거라고 가정할 이유는 조금도 없다. 지능과 의식은 상이한 것이기 때문이다. 지능은 문제를 해결하는 능력인 데 반해 의식은 고통, 기쁨, 사랑, 분노처럼 어떤 것을 느끼는 능력이다. 이 둘을 우리는 혼동하기 쉽다. 왜냐하면 인간과 다른 포유동물의 경우 지능이 의식과 함께 가기 때문이다. 포유류는 느낌으로 대부분의 문제를 해결한다. 하지만 컴퓨터가 문제를 푸는 방식은 아주 다르다. - P118

그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. 인간 능력을 연구하고 개발할 때조차 의식을 가진 존재로서 장기적 필요에 따르기보다 주로 경제와 정치 시스템의 즉각적인 필요에 좌우된다. 나의 상사는 이메일에 되도록 빨리 답하기를 바라지만, 내가 음식을 맛보고 음미하는 능력에는 조금의 관심도 없다. 그 결과 나는 식사 중에도 이메일을 확인하지만 나 자신의 감각에 집중하는 능력은 잃어간다. 경제 시스템은 나의 투자 포트폴리오를 늘리고 다변화하는 쪽으로 나를 내모는 반면, 나의 연민을 확장하고 다변화할 동기는 조금도 부여하지 않는다. 나는 증권 거래소의 수수께끼를 풀려고 안간힘을 쓰면서도, 고통의 깊은 원인을 이해하려는 노력은 거의 하지 않는다.
이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. 하지만 이 데이터-젖소는 좀처럼 인간적인 잠재력을 극대화할 줄은 모른다. 실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다. 그 대신 인터넷 연결 속도와 빅데이터 알고리즘의 효율성을 높이는 데 집중한다. 앞으로 우리가 조심하지 않는다면, 다운그레이드된 인간이 업그레이드된 컴퓨터를 오용하여 자신과 세계에 재앙적 결과를 가져오는 상황을 맞게 될 것이다. - P121

[오늘의 한문장] 21세기를 위한 21가지 제언

혹자는 인간이 작업장에서는 AI와 경쟁할 수 없더라도 소비자로서는 늘 필요할 것이기 때문에 앞으로도 경제적으로 사회와 무관한 존재가 되지는 않을 거라고 주장할 수도 있다. 하지만 미래 경제가 우리를 소비자로서조차 필요한 존재로 여길지는 결코 확실하지 않다. 그 역할도 기계와 컴퓨터가 할 수 있을 것이기 때문이다. 이론적으로는 이런 경제도 충분히 가능하다. 광산 기업이 철을 생산해서 로봇 기업에 팔고, 로봇 기업은 로봇을 만들어 광산 기업에 팔고, 다시 광산 기업은 더 많은 철을 생산하고, 이렇게 생산된 철은 다시 더 많은 로봇을 만드는 데 쓰이고, 이런 식으로 계속된다. 이런 기업은 은하계 멀리까지 성장하고 확장해갈 수 있다. 이 과정에서 그들에게 필요한 것이라고는 로봇과 컴퓨터뿐이다. 자신들의 생산물을 인간이 사주는 일조차도 필요하지 않다.
실제로 이미 컴퓨터와 알고리즘은 생산자일 뿐만 아니라 고객으로도 작동하고 있다. 가령, 증권거래소에서 알고리즘은 채권, 주식, 상품의 가장 중요한 매입자가 되고 있다. 마찬가지로 광고 사업에서도 가장 중요한 고객은 사람이 아닌 일개 알고리즘, 즉 구글 검색 알고리즘이다. 사람들은 이제 웹페이지를 디자인할 때 어떤 사람의 취향보다 구글 검색 알고리즘의 취향에 더 신경을 쓴다.
알고리즘에는 의식이 없는 게 확실하다. 인간 소비자와 전혀 달리 자신이 구매한 것을 즐길 수도 없고, 자신의 감각과 감정에 따라 구매 결정을 내리는 것도 아니다. 구글 검색 알고리즘은 아이스크림을 맛볼 수 없다. 하지만 알고리즘은 내부 계산과 내장된 선호를 기반으로 대상을 고른다. 이런 선호가 점점 우리가 사는 세상을 규정할 것이다. 구글 검색 알고리즘은 아이스크림 판매자의 웹페이지 순위를 매기는 데 관한 한 대단히 정교한 취향을 갖고 있다. 가장 크게 성공하는 아이스크림 판매자는 가장 맛있는 아이스크림을 생산하는 사람이 아니라 구글 알고리즘이 최상위에 올려놓는 사람이다.
나는 이 사실을 직접 겪어봐서 안다. 책을 출간할 때 출판사는 내게 온라인 홍보에 쓸 짧은 글귀를 써달라고 부탁한다. 하지만 출판사에는 그 분야의 특별한 전문가가 있어서 내가 써준 것을 구글 알고리즘의 취향에 맞춰 다듬는다. 이 전문가는 내가 쓴 문장을 검토한 후에 이렇게 말한다. "이 단어는 쓰지 마세요. 대신 저 단어를 쓰세요. 그러면 구글 알고리즘에서 주목을 더 많이 받을 테니까요." 우리는 알고리즘의 시선만 붙잡을 수 있다면 인간의 시선은 당연히 따라올 거라는 사실을 안다. - P69

따라서 어떤 식으로든 보편 지원 구상 덕분에 2050년에는 빈곤층이 지금보다 훨씬 나은 의료 서비스와 교육을 누린다 하더라도, 그들은 전 지구에 불평등이 만연하고 사회적 이동성이 사라진 것에 극도로 분노할 수 있다. 사람들은 시스템이 자신들에게 불리하게 조작돼 있고, 정부는 초부유층에만 봉사하며, 미래는 자신과 자녀들에게 더욱 나빠질 거라고 느낄 것이다. - P77

호모 사피엔스는 만족을 위해서만 설계되지는 않았다. 인간의 행복은 객관적 조건보다는 우리 자신의 기대에 더 크게 좌우된다. 하지만 기대는 조건에 적응하기 마련이다. 여기에는 다른 사람의 조건도 포함된다. 상황이 좋아지면 기대는 높아지며, 그 결과 여건이 극적으로 좋아진 후에도 이전처럼 불만족스러운 상태가 된다. 보편 기본 지원이 2050년 평균인의 객관적 조건을 개선하는 것을 목표로 한다면 성공할 가능성은 꽤 높다. 하지만 사람들이 자신의 운명에 대해 주관적으로 더 만족하는 것과 사회적 불만을 막는 것을 목표로 한다면 실패할 가능성이 높다. - P77

그 목표를 진정으로 달성하려면 보편 기본 지원은 스포츠에서 종교에 이르기까지 다른 의미 있는 추구에 의해 보완돼야 할 것이다. 아마도 이스라엘에서 행해진 실험이 일-이후 세계에서 만족스런 삶을 사는 방법으로는 지금까지 가장 성공적이었을 것이다. 이곳에서는 초정통파 유대교 남성의 약 50퍼센트가 일을 하지 않는다. 이들은 성경을 공부하고 종교 의식을 수행하는 데 삶을 바친다. 그들과 가족이 굶어 죽지 않는 비결은 흔히 부인들이 일을 하기 때문이기도 하고, 생활에 필요한 기본적인 것들에 부족함이 없도록 정부가 보조금과 무료 서비스를 제공하기 때문이기도 하다. 이것이야말로 ‘그런 말이 생기기도 전’의 보편 기본 지원이다.
이 초정통파 유대교 남성들은 가난하고 직업도 없다. 하지만 설문조사를 해보면 삶의 만족도가 이스라엘 사회의 다른 어떤 분파보다 높게 나온다. 이는 공동체의 유대감이 주는 결속력과 더불어, 성경 공부와 의례 수행에서 찾을 수 있는 깊은 의미 때문이다. 열악한 환경 속에서 땀 흘려 일하는 노동자들로 가득한 대형 직물공장보다, 남성들이 함께 모여 탈무드를 공부하는 작은 방에서 더 큰 즐거움과 참여감과 통찰이 생기는 것은 당연하다. 전 세계를 대상으로 삶의 만족도를 묻는 조사에서 이스라엘이 상위권에 오르는 이유도 부분적으로 이런 무직의 가난한 사람들이 점수를 올려주기 때문이다. - P78

자유주의 이야기는 인간의 자유를 첫 번째 가치로 소중하게 여긴다. 모든 권위는 궁극적으로 인간 개인의 자유 의지에서 나오며, 그것은 각 개인의 감정과 욕망, 선택으로 표현된다고 주장한다. 정치에서 자유주의는 유권자가 제일 잘 안다고 믿는다. 따라서 민주적인 선거를 옹호한다. 경제에서 자유주의는 고객은 언제나 옳다는 원칙을 고수한다. 따라서 자유 시장 원리를 반긴다. 사적인 문제에서 자유주의는 자기 목소리에 귀 기울이고, 자신에게 진실하고, 자신의 마음을 따르라고 권장한다. 다만 타인의 자유를 침해해서는 안 된다. 이런 개인의 자유는 인권 속에 간직되어 있다._자유 - P81

[오늘의 한문장] 우연과 필연

사고가 주관적 시뮬레이션 과정에 의거하고 있다는 견해가 옳다면 인간의 이 능력이 고도로 발달한 것은 진화의 결과라고 생각하여야 한다. 그 진화 과정에서 가공적인 상상상의 경험에 의하여 준비된 것이 구체적 행동으로 옮겨짐에 있어 그 유효성ㅡ즉 그것이 뒤에까지 살아남는 가치다ㅡ이 도태에 의해 시험되어 온 것이다. 따라서 우리의 먼 조상의 중추신경계에 깃들여 있던 시뮬레이션의 능력이 호모 사피엔스가 도달한 상태에까지 발전한 것은 구체적 경험에 의하여 확인된 인간의 적절한 표상 능력과 확실한 예견 능력에 의한 것이다. 아우스트랄란트로푸스나 피테칸트로푸스 나아가서는 크로마뇽인으로서의 호모 사피엔스가, 그들이 다룰 수 있는 무기로 표(표범) 사냥이라도 나갈 경우에 주관적 모시 장치에 틀림이 있어서는 안 되었던 것이다. 그러므로 우리가 선조로부터 계승한 선천적 논리 장치는 우리를 기만하는 일 없이 우리가 우주의 사상을 ‘이해‘하며ㅡ 즉 이들 사상을 표상적인 언어로 기술하며ㅡ 예견할 수 있게 해주는 것이다. 물론 그러기 위해서는 필요한 정보 요소가 시뮬레이트에 주어지지 않으면 안 된다.
그 자신의 주관적 경험에 의해서 끊임없이 풍부해지는 예측 장치인 시뮬레이트는 발견과 창조의 장치이기도 하다. 그 주관적인 작용의 논리를 분석함으로써 객관적 논리의 규칙을 정식화하기도 하고 수학과 같은 새로운 상징적 도구를 창조할 수도 있었던 것이다. 아인슈타인 같은 대사상가는 인간에 의해 창조된 수학이라는 존재가 조금도 경험의 힘을 입지 않고 자연을 그처럼 충실히 표상할 수 있다는 사실에 경탄을 금치 못하였는데 이것은 지극히 당연한 이야기다. 실제로 각 개인의 구체적인 경험에는 조금도 힘입고 있지 않지만 부지런히 살아온 우리 선조들의 헤아릴 수 없이 많은 힘든 경험으로 단련된 시뮬레이트에 모든 것을 힘입고 있는 것이다. 우리가 과학적 방법에 따라서 논리와 경험을 조직적으로 조립하고 있을 때에 실은 우리 조상들의 경험의 일체와 현실의 경험과를 조립시키고 있는 셈이 되는 것이다. - P197

이원론적 환상과 정신의 존재
여기에 경계선이 있는 것이며 데카르트와 마찬가지로 우리도 이것을 넘어설 수가 없다. 그것을 넘어설 때까지는 우리의 활동 속에서 이원론이 계속 진실을 유지하는 것이다. 뇌라는 관념과 정신이라는 관념과는 17세기의 인간에 있어서와 마찬가지로 우리에게도 실제 생활 체험 속에서 구별되고 있다. 객관적 분석에 의해서 우리 속에 있는 피상적인 이원론이 환상이라는 것을 인정하지 않을 수 없다. 그런데 이 이원론은 우리의 존재 자체와 실로 밀접히 결부되어 있기 때문에 주관을 명백히 이해함으로써 그것을 제거하려 하거나 그것 없이 감정적·도덕적으로 살아가고자 하여도 도로에 그치고 말 것이다. 도대체 그럴 필요가 어디에 있을까? 누가 정신의 존재를 의심할 수 있을 것인가? 영혼 속에 비물질적인 ‘실체‘를 인정한다는 환상을 단념하는 일은 영혼의 실재를 부정하는 것이 아니라 오히려 유전적·문화적 유산과 의식적이건 무의식적이건 간에 개인적 경험이 가지고 있는 복잡성·풍부함·측량할 수 없는 깊이 등을 인정하기 시작하는 것이다. 그리고 이 유산과 경험이 한데 어우러져 우리라는 존재, 즉 자기에 대한 유일무이하며 반박할 여지가 없는 증인을 만들어내고 있는 것이다. - P199

중요한 점은, 지금까지 수십만 년 동안에 걸쳐서 문화적 진화가 신체상의 진화에 영향을 미치지 않을 수 없었다는 점이다. 다른 모든 동물의 경우 이상으로 인간의 경우에도 ㅡ 인간의 무한하며 고도한 자율성 때문에 ㅡ 행동이야말로 도태의 압력을 방향지은 것이라고 할 수 있다. 행동이 주로 자동적이었던 단계를 지나 문화적으로 된 뒤로는 문화적 특징 자체가 유전 정보의 진화에 대하여 압력을 미치게 된 것이다.
그러나 그것은 어느 시기까지의 일이며, 그 후로는 문화적 진화의 속도가 빨랐기 때문에 그것과 유전 정보의 진화와는 완전히 분리되어 버렸다. - P204

현대 사회와 유전적 쇠퇴의 위험
현대 사회의 심층에서 이 분리가 완전히 이루어지고 있다는 것은 명백하다. 거기에는 도태가 폐절되어 버리고 없다. 이 도태에는 다윈적인 의미에서의 ‘자연스러운‘ 것은 이미 하나도 찾아볼 수 없게 되었다. 현대 사회 속에서 도태가 아직도 작용하고 있다면 그것은 ‘적자 생존‘이라는 사실에 유리하게 작용하고 있는 것이 아니다. 보다 현대적인 말로 표현한다면 아이를 늘림으로써 ‘적자‘가 유전적으로 생존한다는 사실에 도태가 유리하게 작용하고 있는 것은 아니다. 지능, 양심, 용기, 상상력 등은 확실히 현대 사회에 있어서 여전히 성공의 요인이다. 그러나 이것은 개인적 성공의 요인이지 유전적 성공의 요인은 아니다. 그런데 진화에 있어서 중요한 것은 유전적 성공뿐이다. 그러나 전혀 반대로 되어버렸다. 주지하는 바와 같이 통계에 의하면 지능 지수(혹은 문화 수준)와 부부 사이의 아이들의 평균 인수와의 상관 관계는 마이너스다. 똑같은 통계가 한편으로는 부부의 지능 지수 사이에 높은 플러스의 상관 관계가 존재하고 있음을 증명하고 있다. 이것은 위험한 일이다. 가장 높은 유전적 포텐셜이 엘리트 쪽으로 흡수되고 그 엘리트는 상대적으로 자손을 만드는 일을 자제하는 경향이 있기 때문이다.
그뿐만이 아니다. 얼마 전까지만 해도 비교적 ‘선진적인‘ 사회에 있어서도 신체적으로나 지적인 면에서나 부적자의 배제는 자동적이며 가혹한 것이었다. 그들의 대부분은 사춘기의 연령까지 살지 못하였다. 오늘날에는 이들 유전적 장애자의 대부분이 자손을 만들 수 있는 연령까지 살 수 있게 되었다. 지금까지는 종의 쇠퇴 ㅡ자연 도태가 없어지면 쇠퇴는 불가피하다ㅡ를 지켜온 기구가 지식과 사회 윤리의 발달 덕분에 매우 중대한 결함을 지닌 경우 이외에는 거의 작용하지 않게 되었다.
이상의 위험은 흔히 지적되어 온 것인데, 이에 대하여 분자 유전학의 최근의 진보는 기대할 수 있는 구제책을 때때로 제기하고 있다. 이 환상은 일부의 학자들 사이에 퍼져 있는 것으로, 없애 버리지 않으면 안 된다. 이것은 약간의 유전적 결함을 일시적으로 호전시킬 수는 있을 테지만, 단지 침해를 입은 개인에 관한 것에 불과하며 자손에 대해서까지는 불가능하다. 현대 분자유전학은 유전적 유산에 작용하여 새로운 특징을 추가하거나 유전적 ‘초인‘을 창조할 수 있는 수단은 아무것도 부여하지 않을 뿐만 아니라, 그러한 희망의 공허함을 더욱 돋보이게 하는 것이다. 왜냐하면 유전 정보의 미시적 스케일은, 지금으로서는 ㅡ아마도 영구히ㅡ 그러한 조작을 받아들이지 않기 때문이다. 공상 과학적인 환상을 잠시 덮어둔다면 인류를 ‘개량하는‘ 유일한 수단은 다만 깊이 생각한 다음에 엄격한 도태를 실행하는 일이 있을 뿐이다. 그러나 아무도 감히 그러한 수단을 사용할 수 없을 것이다.
선진적인 사회에 있어서는 비도태 또는 역도태라는 상태가 지배적인데, 이것이 위험을 수반하는 것임은 말할 것도 없다. 다만 그 위험이 매우 중대하다는 것은 먼 훗날의 일일 뿐이다. 10 내지 15세대, 즉 수세기 후의 일이라 하여두자. 그런데 현대 사회는 이와는 또 다른 절실하고 중대한 위협에 직면하고 있는 것이다. - P204

내가 여기에서 말하고자 하는 것은 인구 폭발이나 자연 환경의 파괴 또는 메가톤급의 핵의 위협이 아니고 훨씬 심각하며 중대한 질환, 즉 영혼의 질환에 대한 것이다. 관념 구성상의 진화 속에서 일어날 최대의 전기가 이 질환을 만들고 그것을 악화시키고 있다. 지금까지 3세기 동안에 걸쳐 지식이 굉장히 발달하여 온 결과로 인간은 자기 자신에 대하여 또 자기와 우주와의 관계에 대하여 수만 년 동안 깊이 뿌리박고 있던 개념을 가슴이 찢어지는 듯한 마음으로 재검토하지 않을 수 없게 되었다.
그러나 영혼의 질환이라든지 메가톤의 위력이라든지 하는 것은 모두 어떤 단순한 사상에서 생겨난 것이다. 즉 자연은 객관적인 것이고 참다운 지식은 논리와 경험을 조직적으로 맞춤으로써 얻어진다고 하는 사상이다. 사상의 왕국 안에서도 이만큼 단순하고 또 명석한 사상이 호모 사피엔스가 출현한 지 10만 년이 지난 후에야 비로소 백일하에 나타난 것은 어찌된 일일까? 예컨대 중국 문명과 같은 몇 개의 최고 문명이 이 사상을 모르고 지내오다가 서구로부터 처음으로 배웠다는 것은 어찌된 일일까? 또한 그 서구에 있어서도 이 사상은 실용 위주의 기계 공학 속에 밀폐되어 있었던 것이며 이것이 마침내 두꺼운 껍질을 깨치고 풀려 나오기까지 탈레스와 피타고라스에서 갈릴레이, 데카르트, 베이컨까지의 2천5백여 년 간의 세월이 필요하였던 것은 어찌된 일일까? 이 모든 것은 실로 이해하기 어려운 일들이다. - P206

[오늘의 한문장] 21세기를 위한 21가지 제언

사람을 돌보는 능력과 더불어 창의성 또한 자동화가 넘기 어려운 장애물이다. 요즘은 음악을 파는 데는 사람이 필요하지 않다. 아이튠스 스토어에서 음악을 직접 내려받을 수 있다. 하지만 음악을 만드는 작곡가와 뮤지션, 가수, DJ는 여전히 피와 살로 된 인간이어야 한다. 완전히 새로운 음악을 만들기 위해서만이 아니라 가늠할 수 없을 정도로 많은 가능성 중에서 선택하기 위해서라도 우리는 그들의 창의성에 의존한다.
그럼에도, 결국에는 어떤 일자리도 자동화의 위협으로부터 절대적으로 안전한 상태로 남아 있지는 못할 것이다. 현대 세계에서 예술은 보통 인간의 감정과 결부돼 있다. 우리는 예술가의 역할이 우리 내부의 정신적 힘들을 연결하는 것이고, 예술의 모든 목적은 우리를 서로 간의 감정으로 연결하거나 우리 내면에 어떤 새로운 느낌을 불러일으키는 것이라고 생각하기 쉽다. 그러다 보니, 예술을 평가할 때도 그것이 청중에게 미치는 감정적 영향으로 판단하는 경향이 있다. 하지만 예술이 인간의 감정에 의해 규정된다고 했을 때, 외부 알고리즘이 인간의 감정을 셰익스피어나 프리다 칼로, 혹은 비욘세보다 더 잘 이해하고 조종할 수 있다면 어떤 일이 일어날까? - P52

사람들이 자신을 예술과 연결하는 것은 그 속에서 자신을 발견하기 때문이라고들 한다. 그렇다면 가령, 페이스북이 당신에 관해 아는 모든 정보를 기반으로 맞춤식 예술을 만들기 시작한다면 놀라우면서도 다소 불길한 결과가 나올 수도 있다. 그럴 경우 당신의 남자 친구가 떠났을 때 페이스북은 아델이나 앨라리스 모리셋의 가슴을 아프게 한 미지의 사람보다는 특정한 그 망할 자식에 관한 맞춤 노래로 당신을 달래줄 것이다. 그 곡은 심지어 당신이 그와 맺은 관계에서 겪은 실제 일들까지 떠올리게 해줄 텐데, 그것에 대해서는 세상의 그 누구도 알지 못할 것이다. - P56

인간의 생화학 체계만 알면 위대한 예술이 나올까? 답은 예술을 어떻게 정의하느냐에 달렸다. 만일 아름다움이 실제로는 청중의 귀에 있다면, 그리고 고객이 언제나 옳다면, 생체측정 알고리즘은 역사상 최고의 예술을 생산할 가능성이 있다. 하지만 예술이 인간의 감정보다 더 깊은 무엇에 관한 것이라면, 그리고 우리의 생화학적 진동 너머의 진실을 표현해야 한다면, 생체측정 알고리즘은 그리 뛰어난 예술가가 되지 못할 수도 있다. 하지만 그 점에 관해서는 대부분의 인간 예술가도 사정은 같다. 단지 예술 시장에 진입해서 많은 인간 작곡가와 연주자를 대체하는 것이 목표라면, 알고리즘은 곧장 차이코프스키를 추월할 필요는 없다. 브리트니 스피어스를 능가하는 것만으로도 충분할 것이다. - P57

예술에서 의료에 이르기까지 모든 분야의 전통적인 일자리 다수가 사라지면 새로운 인간 일자리의 창출로 상쇄될 것이다. 알려진 질병을 진단하고 익숙한 치료를 관장하는 데 집중하는 일반 의사들은 AI 의사로 대체될 가능성이 높다. 하지만 바로 그 점 때문에 획기적인 연구를 수행하고 신약이나 수술 절차를 개발하기 위해서는 인간 의사와 연구소 조교에게 훨씬 더 많은 돈을 지급해야 할 것이다.
AI는 다른 방식으로 새로운 인간 일자리 창출을 도울 수 있다. 인간은 AI와 경쟁하는 대신 AI를 정비하고 활용하는 데 집중할 수 있을 것이다. 가령, 드론이 인간 비행사를 대체하면서 일자리가 사라졌지만 정비와 원격 조종, 데이터 분석, 사이버 보안 분야에서는 새로운 기회가 많이 생겨났다. 미군의 경우 무인기 프레데터나 리퍼 드론 한 대를 시리아 상공으로 날려보내는 데 30명이 필요한데, 그렇게 수집해 온 정보를 분석하는 데는 최소 80명이 더 필요하다. 2015년 미 공군은 이 직무를 맡을 숙련자가 부족해, 무인 항공기 운용 인력 부족이라는 역설적인 위기에 직면하기도 했다.
그렇다면 2050년 고용 시장은 인간-AI의 경쟁보다는 상호 협력이 두드러진 형태가 될 가능성이 높다. 경찰부터 은행 업무에 이르기까지 인간과 AI가 한 팀을 이루면서 인간과 컴퓨터 모두를 능가할 수 있을 것이다. 1997년 IBM의 체스 프로그램인 딥 블루가 세계 챔피언 가리 카스파로프를 꺾은 후에도 인간이 체스를 그만두는 일은 일어나지 않았다. 오히려 AI 트레이너 덕분에 인간 체스 챔피언은 실력이 유례없이 좋아졌고, 잠시나마 ‘켄타우로스‘로 알려진 인간-AI 팀이 체스에서 인간과 컴퓨터 모두를 능가했다. 마찬가지로 AI는 인간이 사상 최고의 형사, 은행원, 군인으로 단장하는 데도 도움을 줄 수 있을 것이다.
하지만 문제는, 그렇게 생겨난 새로운 일자리는 모두 고도의 전문성을 필요로 할 가능성이 높고, 따라서 비숙련 노동자의 실직 문제를 해결할 수는 없을 거라는 점이다. 그런 일자리를 실제로 메울 사람을 재교육하기보다 아예 새로운 인간 일자리를 창출하는 것이 더 쉬운 일로 판명될 수 있다. 이전에 자동화 물결이 밀려들었을 때, 사람들은 특별한 기술이 필요 없는 기계적인 직업을 또 다른 비슷한 수준의 일로 바꿀 수 있었다. 1920년 농업이 기계화하면서 해고된 농장의 일꾼들은 트랙터를 생산하는 공장에서 새 일을 찾을 수 있었다. 1980년 공장 노동자는 실직하더라도 슈퍼마켓의 현금출납원으로 새 출발을 할 수 있었다. 그런 직업 변화가 가능했다. 농장에서 공장으로, 다시 공장에서 슈퍼마켓으로 옮겨가는 데는 훈련이 많이 필요하지 않았다. - P58

하지만 정부 지원이 충분하게 제공된다 해도 수십억 명이 반복해서 자신을 바꿔나가는 과정에서 정신적 균형을 잃지 않을 수 있을지는 의심스럽다. 따라서 우리의 모든 노력에도 인류의 상당한 비중이 고용 시장에서 밀려난다면 일-이후 사회와 일-이후 경제, 일-이후 정치를 위한 새로운 모델을 탐구해야 할 것이다. 그 첫걸음은 우리가 과거로부터 물려받은 경제적, 정치적 모델이 앞으로 직면할 새로운 과제를 해결하기에는 맞지 않는다는 사실을 솔직히 인정하는 것이다. - P68

[오늘의 한문장] 우연과 필연

그런데 유전의 메시지의 복제에 잘못을 일으키거나 그것을 가능케 하는 사건과 그 잘못의 기능적 결과 사이에는 앞서의 예와 마찬가지로 전혀 아무런 관계도 없다. 기능적 영향은 변화를 입은 단백질의 구조와 그 실제상의 역할이라든지, 그 단백질이 일으키는 상호작용이라든지 또는 그 단백질이 촉매가 되는 반응 등에 의존하고 있는 것이며 그것들은 모두 돌연변이를 일으키는 사건 자체와도, 그 근인 또는 원인과도 전혀 무관하다.
마지막으로 불확정성을 일으키는 더욱 근본적인 원천이 미시적 레벨에 존재하는데, 이것은 물질 자체의 양자적 구조에 기인하는 것이다. 돌연변이는 그 자체로서는 미시적·양자적 사건이며 따라서 이 사건에는 불확정성 원리가 적용된다. 요컨대 그것은 본성 자체가 본질적으로 예견이 불가능한 사건인 것이다.
주지하는 바와 같이 아인슈타인을 비롯한 현대의 최대 물리학자 몇 사람에게는 불확정성 원리가 전면적으로는 받아들여지지 않았다. 아인슈타인은 "신이 주사위놀이를 한다"는 것을 인정할 수 없다고 말하였다. 어떤 학파는 그것을 단지 조작적인 개념으로 인정하고 본질적인 것이 아니라 하였다. 그러나 양자론을 보다 ‘정묘‘한 구조ㅡ불확정성이 남을 여지가 없는ㅡ로 바꿔놓으려는 노력은 모두 실패로 돌아가 버리고, 오늘날에는 이 원리가 언젠가는 자기들의 학문에서 사라져버릴지도 모른다고 믿는 물리학자란 거의 없다.
아무튼 여기에서 강조하고자 하는 것은 비록 불확정성 원리가 언젠가는 포기되어야 한다 하더라도 DNA 중의 누클레오티드 배열의 돌연변이를 일으키는 결정론적 과정(그것이 아무리 완전한 것일지라도)과 단백질의 상호작용이라는 레벨에서의 영향을 일으키는 결정론적 과정 사이에는 ‘완전히 우연적인 일치‘ ㅡ앞에서 미장이와 의사의 우화로 정의한 의미에 있어서의ㅡ 밖에 보이지 않으리라는 것이다. 그러므로 이 사건은 여전히 ‘본질적‘ 우연의 영역에 머물러 있다. 물론 라플라스의 우주로 되돌아가고자 한다면 이야기는 달라진다. 거기서는 우연이라는 말의 정의조차도 찾아볼 수 없으며, 그 의사가 미장이의 쇠망치에 맞아 죽는 것은 천지개벽 이래로 설정되어 있어야 하는 것이다. - P149

그러한 것을 합쳐 현재의 약 삼십억에 이르는 인류는 각 세대마다 천억 내지 일조의 돌연변이를 일으키고 있다. 내가 이 숫자를 드는 이유는 어떤 생물의 유전정보가 우연히 변화하는 가능성이 얼마나 큰 것인가에 대해서 추측할 수 있도록 하기 위해서다. 복제기구는 매우 엄격하게 또한 열심히 자기 보존을 행하고 있음에도 불구하고 그러한 것이다. - P157

우주 속에서 일어날 수 있는 모든 사건 중에서 어떤 특정한 사건이 생길 선험적인 확률은 제로에 가깝다. 그러나 우주는 실재하고 있으며 그 속에서 확률이(그것이 일어나기 이전에는) 거의 제로였던 사건도 확실히 일어나는 것이다. 현재로서는 생명이 지구상에서 단 한 번만 출현하였다는 것과 생명이 태어나기 이전에는 출현할 확률이 거의 제로였다는 것을 긍정할 권리도, 부정할 권리도 우리에게는 없다.
이 관념은 단지 과학도로서의 생물학자에게만 불유쾌한 것이 아니다. 우리 인간은 누구나 현재의 우주 속에 실재하는 모든 것이 원초에서 미래 영겁에 걸친 필연적인 존재라고 믿는 경향이 있는데, 위에서 말한 관념은 그것과 상충되는 것이다. 우리는 실로 강렬한 이 숙명관에 대해서 항상 경계를 게을리해서는 안 된다. 현대 과학은 일체의 내재성을 무시한다. 운명은 그것이 만들어짐에 따라서 기록되는 것이지 사전에 기록되어 있는 것은 아니다. 생물권에서 상징적 전달이라는 논리적 체계를 사용할 수 있는 유일한 종인 인류가 출현하기 이전에도 우리의 숙명이 기록되어 있지는 않았던 것이다. 인류의 출현이라는 것 역시 또 하나의 유일무이한 사건이었으므로 우리는 일체의 인간중심주의에 빠지지 않도록 하여야 할 것이다. 생명 자체의 출현과 마찬가지로 인류의 출현도 유일무이한 사건이었다는 것은, 그것이 나타나기 이전에는 그 출현의 확률이 거의 제로였기 때문이다. 우주는 생물을 잉태하고 있지 않았으며, 생물권도 인류를 잉태하고 있지는 않았었다. 우리가 선택된 기회는 몬테카를로 도박장에서 딸 수 있는 기회와 같은 것이다. 따라서 10억 프랑을 따가지고 망연히 서 있는 인간처럼 우리가 자기 자신의 이상스러움에 당혹하고 있다 해도 조금도 놀라울 게 없다. - P183

오늘날에도 아직 일부의 동물 행동학자는 동물의 행동 제 요소는 선천적인 것이거나 아니면 학습한 것 중의 하나며, 이 둘은 서로 다른 쪽을 배제한다는 생각을 고집하고 있다. 이러한 생각이 얼마나 잘못된 것인가는 로렌츠가 철저히 논증하고 있다. 경험에 의해서 습득된 요소가 행동 속에 보일 경우에도 그것은 어떤 프로그램에 따라서 습득된 것이며 이 프로그램은 선천적, 즉 유전적으로 결정된 것이다. 프로그램의 구조가 학습을 불러일으키고 그것을 인도하는 것이다. 따라서 이 학습이라는 것도 종의 유전적 유산으로서 미리 만들어진 ‘형태‘속에 기입되어 있는 것이다. 유아가 말을 처음으로 익히는 과정도 이와 같이 해석하여야 할 것이다(제 7장 참고). - P192

그러나 어떤 매우 중요한 의미에서, 19세기의 위대한 경험론자는 과오가 없었다. 꿀벌의 기계적인 행동이라든지 인간 인식의 선천적인 구조라든지, 유전적 선천성도 포함하여, 생물에 있어서는 모든 것이 경험에서 유래한다는 것은 틀림없는 사실이다. 그러나 그것은 세대마다 되풀이되는 하나하나의 개체의 경험에 유래하는 것이 아니라 진화의 도상 전체에 걸친 종의 모든 조상에 의하여 축적된 경험에 유래하는 것이다. 단지 우연에서 이루어진 이 경험만이 그리고 도태에 의하여 나쁜 점이 제거된 그 무수한 시도만이 다른 기관의 경우와 마찬가지로 그 독특한 기능에 적응한 중추신경계를 만들어 낼 수 있었던 것이다. 뇌에 관하여 말하자면 감각 세계에 대하여 생물종의 작용에 적합한 표상을 부여하고, 그 자체는 쓸모 없는 직접적인 경험의 데이터를 유효하게 분류하기 위한 구조를 제공하고, 또한 인간의 경우에는 결과를 예견하여 행동의 준비를 할 수 있도록 주관적으로 경험을 모시(본떠서 시험함)하는 데 적합한 계로서 형성된 것이다. - P193