로봇 시대의 여러 문제들에 대한 알기 쉬운 안내서

로봇 시대, 인간의 일 - 인공지능 시대를 살아가야 할 이들을 위한 안내서
구본권 지음 / 어크로스 / 2015년 11월

정보화 사회의 시민들이 꼭 알아야 할 

로봇 시대의 사회적, 철학적 문제들을 알기 쉽게 소개해 주는 책이다.

수많은 관련 연구들을 재빠르게 소개하고 넘어가는 리뷰 페이퍼 같은 느낌이라,

약간 TMI랄까, 읽고 있으면 숨가쁜 느낌도 들었지만,

더 읽어볼 만한 책들을 알게 된 것은 큰 소득이다.

니콜라스 카 <유리 감옥>과 <생각하지 않는 사람들>

대니얼 샥터 <기억의 일곱 가지 죄악)

질 프라이스, 바트 데이비스 <모든 것을 기억하는 여자>

대니얼 부어스틴 <이미지와 환상>

을 읽어야 할 책 리스트에 올려둔다.

사람을 상대하는 것이 딱 질색인 나의 생각으로는

로봇 시대의 가장 큰 위험은 우리가 사람을 상대하지 않아도 되게 만들어 준다는 것이다.

개인이 사람을 상대하는 능력을 길러야 하는 이유와 동기가 사라지면,

사회 구성원들의 관계 능력이 심각하게 저하됨으로써 사회의 유지도 어려워질 것이다.

쉴 필요도 없고 잊어버리지도 않는 성실한 학습자인 인공지능 로봇이

태양열을 이용해서 스스로 에너지를 마련하고 스스로를 수리할 수도 있게 된다면

결국 인간은 자신이 멸종시킨 많은 생물들처럼 멸종하게 될 수도 있지 않을까 싶은데,

뭐, 워낙 못되처먹은 종이었으니, 멸종한다 해도 별로 안타깝지는 않다.

디지털 세상에서 모든 것은 0과 1로 이뤄진 데이터이고, 모든 데이터는 기계에 의해서 처리processing된다. 데이터에 접근할 수 있고 그를 활용한 알고리즘과 플랫폼을 만들어내는 능력을 소유한 집단이 모든 것을 지배한다. 그 지배집단은 검색과 디지털 서비스의 운영체제, 소셜미디어 플랫폼을 만들어낸 글로벌 정보기술 기업들이고, 사용자들의 활동내역에 접근하고자 하는 국가권력이다. 우리는 데이터를 만들어내는 주체이지만, 사용하는 주인이 아니다. - P14

등록금 부담이 없거나 낮고 출석과 과제 등의 의무가 적은데다 학생이 시간과 장소에 구애받지 않고 언제 어디서든 스마트폰으로 수강할 수 있다는 편리함은 동시에 온라인 교육 프로그램의 치명적 단점이 됐다. 낮은 참여율과 몰입도, 높은 중도 포기율, 학습 의무감 저하, 시험 성적 저하 등의 결과가 나타났던 것이다.
- P91

대학은 특정한 목표를 추구하는 호기심 강한 동년배 집단을 강의실과 실험실, 커뮤니티를 통해서 만나게 하는, 대체 불가능한 공간이자 제도라는 특성을 지닌다. 온라인에 대한 의존도가 높아질수록 거꾸로 오프라인에서의 면대면 만남과 몰입이라는 희소해진 경험을 제공하는 기능도 주목받는다. - P94

구글의 검색 기술은 해당 페이지가 다른 사이트에서 얼마나 많이 언급되고 링크로 연결되어 있는가를 통해 순위를 알려준다고 해서 PageRank로 불린다. 페이지랭크는 인터넷의 정보량이 많아질수록 진가가 드러났다. 야후의 즐겨찾기(디렉토리) 방식은 검색 전문가가 일일이 사이트를 살펴본 후 추천사이트로 올리는 구조이기 때문에 정보량이 증가하면 정확성이 떨어지고 최신 상태를 반영하기도 어렵다. 야후가 눈썰미 좋은 안내자를 통해 인터넷 서핑의 비결을 알려주고자 했다면 구글은 최대한 정교한 수학공식을 만들어 사람의 개입 없이 기계가 가장 정확한 답을 빠르게 내놓을 수 있도록 설계됐다. 정보량이 늘어나고 참여자가 많아질수록 효율성과 정확도가 높아진다는 점에서 인터넷 구조에 적합한 알고리즘이다.
- P108

로봇robot이라는 단어 자체가 인간의 노동을 대체한다는 뜻을 담고 있다. 체코의 극작가 카렐 차페크가 1920년에 발표한 희곡 <로숨의 유니버설 로봇>에서 처음 사용했으며, 허드렛일 또는 노예상태를 뜻하는 체코어 로보타robota로부터 만든 말이다. 차페크는 "우리는 왜 로봇을 만드는가"에 대해 "일을 시키기 위해서"라고 말한다. 로봇과 비교하면 인간 노동은 "대책이 안 설 만큼 불완전"하다는 것이다. 차페크가 작품에서 ‘로봇’을 등장시킨 지 100년이 채 안 되어, 현실에서 인간의 일자리를 로봇이 위협하기 시작했다. - P125

특정 계층의 전유물이었던 여가가 대중사회에서 대중화, 민주화되었다는 것은 여가 활동이 누구나 손쉽게 구매하고 소비할 수 있는 상품이 되었다는 의미다. 대표적인 것이 여행이다. 미국의 역사학자 대니얼 부어스틴은 1962년 "이미지와 환상"에서 지난날 일종의 모험이자 수고로운 일travail로서의 고유한 경험이던 여행travel이 대중사회화와 상품화로 인해 누구나 구매할 수 있는 관광tour으로 변한 현실을 지적했다. 미지의 모험이자 예측 불가능한 경험의 연속이라는 여행의 본질은 사라지고 모든 과정이 예측되고 통제되는 준비된 상품으로서의 이미지만 남아 대중적으로 소비되는 현실을 꼬집은 것이다. 수고로움과 위험을 동반한 트래블이 투어가 되면서 여행의 진짜 경험은 사라져버리고 사진 찍기용 상품이 되어버린 가짜 사건pseudo-event의 연속이 되어버린 것이다. - P166

우리는 왜 성실하고 유능한 시간 절약 도우미들을 여럿 고용했는데도 오히려 그 이전보다 시간이 더 부족하다고 느끼는 것일까? (중략) 첫째, 과거에 비해서 할 일이 훨씬 많아졌기 때문이다. (중략) 둘째, 과거보다 소비 영역이 확대되고 하고 싶은 일이 많아졌다. (중략) 셋째, 자신의 시간을 중요하지 않은 영역에 주로 사용하는 바람에 정작 필요한 일을 처리할 시간이 부족한 경우다. (중략) 스마트폰을 들여다본 몇 시간 동안 무엇을 했는지 기억나지 않지만 현실에서 해야 할 일들은 그대로 쌓여 있으니 언제나 바쁜 것이 당연하다.
- P172

사교와 돌봄 기능을 대신할 반려로봇은 우리가 사람과의 관계에서 피하기 어려운 정서적 부담을 회피할 방법을 제시하는 도구이기도 하다. 로봇과 감정적 유대를 경험한다는 것은 사람과의 관계에서 불가피하게 만나게 되는 다양한 감정들 중에서 내가 원하지 않는 감정들을 제거하고 내가 필요로 하는 감정들만으로 관계를 맺는다는 의미다. 인간관계에서 만족감을 느끼기도 하지만 동시에 피로감을 느끼는 배경에는 내가 통제할 수 없는 감정 상태를 경험하게 된다는 점과 상대의 요구와 기대를 충족시켜야 한다는 점이 있다. 일라이자의 사례처럼 로봇과의 관계는 교감으로 보이지만 사실은 상대가 나에게 요구하는 것이 없는, 의무 없는 편안한 관계다.
- P212

빅데이터는 이유를 알지 못해도 인과 법칙과 유사한 수준의 정확도로 결과를 예측할 수 있게 해준다. (중략) 이유를 알지 못해도 빅데이터를 통한 상관분석만으로도 충분한 결론에 이를 수 있게 해준다. (중략) 검색과 빅데이터를 활용한 예측 알고리즘은 유용한 결과를 제공하지만 우리가 사고와 추리를 통해 지적 능력을 작동시키고 강화하는 과정을 퇴화시킨다. 우리가 세상을 이해하기 위해 가설과 추론으로 이어지는 인과성을 추구할 필요가 없어지는 것이다.
- P267

2011년 2월 14, 15일 ‘제퍼디 쇼’에서 인간 대표는 컴퓨터 왓슨에게 깨끗하게 패배했다. 제닝스는 퀴즈 대회의 승패가 결정 난 직후 이렇게 말했다. "20세기에 새 조립라인 로봇이 등장하면서 공장의 일자리가 사라졌듯이 나는 새로운 세대의 생각하는 기계에 밀려난 최초의 지식산업 노동자입니다. 퀴즈쇼 참가는 왓슨에게 밀려난 첫 일자리이지 않을까요? 내가 마지막은 아닐 거라고 봅니다." - P285

도구에 기억을 의존하게 되면서 우리는 외부에 저장 관리되는 정보를 필요한 순간에 호출할 수 있게 된 대신 해당 정보에 대해 통제력을 잃어버리게 되는, 예상하지 못한 결과에 직면하게 됐다. 기억을 통제하는 사람은 의식의 주체인 내가 아니다. 기기와 서비스를 개발하고 운영하는 기업 그리고 그 데이터에 접근권을 갖고 있는 국가권력이다. 여기에서 중요한 문제는 이 데이터가 지워지지 않는다는 점이다. - P290

플라톤의 "파이드로스"에는 소크라테스가 기억의 외부 의존에 대해 경고하는 내용이 실려 있다. (중략) 기억을 외부에 의존하는 행위가 스스로의 무지함을 깨닫지 못한 채 자신에게 지식이 있는 것으로 잘못 판단하게 만든다는 말은 인터넷 환경에서 더욱 돋보이는 통찰이다. - P304

우리가 기억을 아웃소싱하게 되면 기억의 주인이 더 이상 우리가 아닐 수 있다. 기억을 아웃소싱하는 행위는 우리가 무엇인가를 기억하려고 시도하기도 전에 스스로 기억을 포기하는 행위이기 때문이다. "뉴욕타임스" 칼럼니스트 데이비드 브룩스는 이러한 자발적인 기억의 포기가 결국 자신이 내려야 하는 판단과 결정을 포기하는 것과 마찬가지라고 지적했다. 우리의 사고와 판단은 내재된 기억을 통해서 가능하다. 기억을 아웃소싱하는 것은 결국 자신의 판단과 결정까지도 기계와 알고리즘에 맡긴다는 의미이고, 기억에 대해 자신의 통제를 상실하도록 방치하는 행위일 수도 있다. - P305

인공지능 시대에 사람을 사람답게 만드는 것은 무엇보다 결핍과 그로 인한 고통이다. 인류의 역사와 문명은 이러한 결핍과 고통에서 느낀 감정을 동력으로 삼아 발달시켜온 고유의 생존 시스템이다. 처음 직면하는 위험과 결핍은 두렵고 고통스러웠지만 인류는 놀라운 유연성과 창의적 능력으로 대응체계를 만들어냈다. 결핍과 고통을 벗어나는 과정에서 인류가 경험을 통해 체득한 생존의 노하유가 유연성과 창의성이다. 결핍에서 오는 절박함이 만들어낸 인간의 유연성과 창의성은 기계에게 가르치기가 거의 불가능한 속성이다. 그래서 인간의 약점은 인간을 인간답게 하는, 기계와 구별되는 최후의 요소다.
- P327