그렇게 되기 위해서는 국가라는 것 자체가 상당히 거대한 기계와 비슷해질 수밖에 없다. 그러다 보면 이런 ‘기계‘를 작동시키는 사람들이 큰 권력을 가질 수밖에 없다. 국민이 무엇을 필요로 하는지 알기 위해서 국가는 국민의 삶에 간섭하고 감시할 수밖에 없다. 그렇지 않으면 생산과 소비와 관련된 정보를 얻어낼 수 없기 때문이다. 그런데 나도내가 무엇을 원하는지 정확히 모르는데, 국가가 어떻게 나의 필요를 정확히 알 수 있다는 말인가.
이런 시스템이 제대로 작동하기 위해서는 굉장히 거대한 기계가 또 돌아가야 하는 것이다. 기술철학자 루이스 멈퍼드가 ‘메가머신 megamachine‘이라고 불렀던 힘을 가진 관료집단이 만들어지고 수많은 정보가 수집되어야 하는데, 이것은 실제로 20세기 러시아혁명 이후 설립된 소련에서 시도되기도 했다. 그렇지만 한 국가의 경제를 계획해서 실행하는 것은 가능하지 않은 일이라는 게 판명되었다. - P153
비밀에 가려져 있는 NSA(National Security Agency)에서 프리즘prism이라는 해외 정보 수집 프로그램을 운영했다는것을 2013년 에드워드 스노든 Edward Snowden 이라는 내부고발자가 샅샅이 폭로해서 사회적으로 큰 파장을 가져온 일이있다. 그 프리즘이란 것은 쉽게 말해 모든 미국인의 이메일을 다 열어보고 모든 전화를 감청하는 시스템이다. 물론 컴퓨터가 하는 일이지만 이를 통해 이상한 문구나 단어 등을발견하면 자동적으로 요주의 인물로 판단해서 주목한 사람을 계속 모니터링하는 시스템이다.
미국 NSA는 미국인을 넘어서 전 세계 사람들로 그 감시망을 확대했다. 물론 NSA가 직접 하는 것은 아니고, 다른회사와 계약을 맺어 돈을 주면 그 회사가 정보를 제공하는식이다. 처음에는 마이크로소프트와 계약했고, 2008년에야후, 2009년에 구글, 페이스북, 페이톡, 유튜브, 스카이프, AOL, 그리고 2014년에 애플 등과 모두 계약해서 이 회사들을 통해 주고받은 개인정보들을 전부 감청하거나 도청해왔다. 이런 감시 시스템이 이미 오래전부터 운영되어 왔다는 것을 스노든이 폭로한 것이다.
- P156
20세기 프랑스 철학자 미셸 푸코Michel Foucault는 이러한 벤담의 판옵티콘에 주목했다. 우선 이 판옵티콘이 사람들로하여금 규율을 내면화하게 만드는 기능에 주목했는데, 푸코는 동시에 이러한 시스템이 당시 감옥만이 아니라 병원이라든지 학교, 공장 등으로 실제 확산되었다는 주장을 했다. 근대 사회가 발전하면서 모든 공공기관 및 사설기관에서 효과적인 감시 시스템으로 이러한 판옵티콘시스템을 도입했다는 것이다. 쉽게 말해서 우리 사회 전체가 판옵티콘화되었다는 것으로, 푸코의 이런 주장은 당시 상당히 큰반향을 불러일으킨 바 있었다. - P164
『당신은 데이터의 주인이 아니다』라는 책을 쓴 브루스 슈나이어 Bruce Schneier는 이런 말을 하기도 했다. "어떤 서비스가 무료라면 당신은 고객이 아니다." 고객이 아니라면 무얼까? 그는 단언한다. "당신은 제품에 불과하다."
우리 주변에는 무료가 많다. 페이스북도 무료, 지메일도 구글도 무료이다. 또한 인터넷신문, 쇼핑사이트, 할인사이트도 모두 이용이 무료이다. 슈나이어는 그곳에서 우리의 정보가 기업에 팔리고 있기 때문에 고객 자신이 상품이라는 이야기를 하고 있는 것이다. - P171
페이스북의 CEO 마크 저커버그가 몇 년 전 자신의 입으로 프라이버시는 죽었다"는 말을 한 적이 있다. 이 말은 우리가 생각하듯 페이스북에 자신의 프라이버시가 노출됨으로써 그렇다는 말이 아니다. 즉 빅브라더로서의 페이스북 기능을 문제 삼은 것이 아니다. 저커버그는 프라이버시가 죽은 더 큰 이유를 ‘자발적인 공유sharing‘라고했다.
실로 지금은 사람들이 자발적으로 자기를 드러내는 시대이다. 페이스북이 요청하지도 않았는데 자신의 온갖 사생활을 일일이 보고하고 기록하고 저장한다. 아침에 몇 시에 일어났는지부터 어디에 갔고 무엇을 먹었는지, 어떤 음식이 맛있고 어느 장소가 예쁜지 등을 시시콜콜 공개한다. 아주 적극적으로 더 많은 사람에게 자기 자신을 노출하려고 애를 쓴다. 어떤 이는 자신의 일상을 실시간으로 중계하기도 한다. 자기를 감추기보다 알리려고 애를 쓰는 것, 저커버그는 이를 두고 프라이버시는 죽었다고 말한 것이다.
- P173
요즘에는 행복이라는 것이 ‘얼마나 욕망을 더 충족하는가‘로 정의되는 것 같다. 욕망을 충족하기 위해서는 경제적으로 일단 여유가 있어야 할 테니 돈이 많은 사람이 행복하다는 생각이 널리 퍼져 있고, 그래서 돈을 많이 버는 직업을 가져야 한다고 생각하고, 그러기 위해서 치열하게 경쟁하는 것이다. 우리나라 고교생 중에 10억을 벌 수 있다면 감옥행을 마다하지 않겠다는 답을 한 학생 비율이 절반을 넘는다고 한다. 이런 사회가 수백 년 동안 계속 발전한다면, 그 논리적 귀결은 결국 헉슬리가 묘사한 역설적으로 ‘멋진 신세계‘가 되지 않을까? - P183
이런 세상이라 할지라도 우리는 여전히 프라이버시에 민감해져야 한다. 그 이유는 개인정보가 사람을 평가하고, 더 극단적으로는 사람을 차별하는 데 사용될 수 있기 때문이다. 어느 지역 출신인지, 어느 학교를 나왔는지, 가정환경은 어떤지,
질병을 가지고 있지는 않은지 등에 대한 정보가 그것을 오용하는 사람들의 손에 들어가면 나로부터 내가 가질 수 있는 기회를 빼앗아가는 데 사용될 수도 있다. - P189
유전자가위 기술이 발전하게 된계기는 바이러스와 박테리아 연구에 있다. 바이러스는 사람만 공격하는 게 아니라 박테리아도 공격한다. 그런데 박테리아들은 바이러스에 공격을 당하다가도 어느 정도 시간이 지난 뒤에는 이를 이겨낸다. 과학자들이 어떻게 이러한 일이 가능한지 연구해보니, 박테리아들은 처음 공격한 바이러스의 DNA 조각을 기억하고 있다가 나중에 똑같은게 공격하면 그 바이러스의 DNA 조각을 잘라버린다는 것을 알게 되었다. 그리고 몇 년 전에 학자들이 이를 이용해서 원하는 DNA 조각들을 잘라내는 기술적 방안을 생각해낸 것이다. - P194
그런데 유전자가위 기술은 유전자 조작 식품과는 다르다고 한다. 유전자가위는 유전자를 자를 뿐, 다른 생명체의 유전자를 섞는 행위는 하지 않기 때문이다. 따라서 과학자들은 유전자가위가 유전자 조작 기술에 대해 사람들이 가진 두려움을 피해갈 수 있다고 강조한다. 자체 유전자를 잘라내 비활성화시키는 것이기 때문이다. - P198
인간과 초지능의 중요한 차이는, 초지능은 인간이 중요하게 생각하는 가치들, 예를 들어 사랑, 명예, 우정, 행복 등을 조금도 중요하게 생각하지 않을 가능성이 매우 높다는것이다. 이러한 가치들은 인간이 진화하면서 획득한 것이다. 인간이라는 좋은 수백만 년 동안 진화하면서 타인과의 협력이 중요하고 공감이 중요하며, 공감을 위해서는 사랑이 필요하고, 살아남으려면 자식을 낳아야 하며, 자식을 낳으려면 짝을 찾는 과정이 수반되어야 한다는 사실을 몸소 깨달았다. 이런 일들은 생존에 필수적이므로 현대인들도이러한 가치에 동의하는 것이다.
하지만 초지능은 이런 식으로 진화를 통해 발전한 기게가 아니기 때문에 그런 가치들을 전혀 중요하게 생각하지않는다. 다시 말해 인간이 ‘내가 저 인공지능을 만들었으니, 저 기계는 우리 사정을 봐주지 않겠냐‘고 생각하는 것은 대단히 큰 오산일 수 있다는 것이다. 인간을 다 죽이는일이 우리 인간에게는 상상하기 힘들 정도로 비도덕적인일일 수 있지만, 기계에게는 그렇지 않을 수 있다. - P269
그래서 무엇을 해야 하느냐? 보스트롬에 따르면 우선적으로 지금부터 초지능이 도래할 시대에 대비해야 한다. 그리고 대비를 위해 먼저 초지능을 인간에게 친화적인friendly것으로 만들 방법을 찾아야 한다. 첫 초지능 기계가 인간에게 적대감을 가진 것으로 나온다면 그 기계는 모두 인간에게 위협적일 것이기 때문이다.
닉 보스트롬은 특히 초지능을 인간 친화적으로 만들기위해서는 지능에 어떤 코드를 심어주는 것이 아니라 스스로 배우게 해야 한다고 강조했다. 예를 들어 사랑이라는 중요한 가치를 무조건 기억하라고 하기보다 스스로 그 형태의 가치를 경험하도록 해야 한다는 것이다. 생명을 함부로 죽이면 좋지 않다는 사실을 스스로 깨닫게 하는 것이다. - P270
|