그렇게 되기 위해서는 국가라는 것 자체가 상당히 거대...

그렇게 되기 위해서는 국가라는 것 자체가 상당히 거대한 기계와 비슷해질 수밖에 없다. 그러다 보면 이런 ‘기계‘를 작동시키는 사람들이 큰 권력을 가질 수밖에 없다. 국민이 무엇을 필요로 하는지 알기 위해서 국가는 국민의 삶에 간섭하고 감시할 수밖에 없다. 그렇지 않으면 생산과 소비와 관련된 정보를 얻어낼 수 없기 때문이다. 그런데 나도내가 무엇을 원하는지 정확히 모르는데, 국가가 어떻게 나의 필요를 정확히 알 수 있다는 말인가.
이런 시스템이 제대로 작동하기 위해서는 굉장히 거대한 기계가 또 돌아가야 하는 것이다. 기술철학자 루이스 멈퍼드가 ‘메가머신 megamachine‘이라고 불렀던 힘을 가진 관료집단이 만들어지고 수많은 정보가 수집되어야 하는데, 이것은 실제로 20세기 러시아혁명 이후 설립된 소련에서 시도되기도 했다. 그렇지만 한 국가의 경제를 계획해서 실행하는 것은 가능하지 않은 일이라는 게 판명되었다. - P153

비밀에 가려져 있는 NSA(National Security Agency)에서 프리즘prism이라는 해외 정보 수집 프로그램을 운영했다는것을 2013년 에드워드 스노든 Edward Snowden 이라는 내부고발자가 샅샅이 폭로해서 사회적으로 큰 파장을 가져온 일이있다. 그 프리즘이란 것은 쉽게 말해 모든 미국인의 이메일을 다 열어보고 모든 전화를 감청하는 시스템이다. 물론 컴퓨터가 하는 일이지만 이를 통해 이상한 문구나 단어 등을발견하면 자동적으로 요주의 인물로 판단해서 주목한 사람을 계속 모니터링하는 시스템이다.
미국 NSA는 미국인을 넘어서 전 세계 사람들로 그 감시망을 확대했다. 물론 NSA가 직접 하는 것은 아니고, 다른회사와 계약을 맺어 돈을 주면 그 회사가 정보를 제공하는식이다. 처음에는 마이크로소프트와 계약했고, 2008년에야후, 2009년에 구글, 페이스북, 페이톡, 유튜브, 스카이프, AOL, 그리고 2014년에 애플 등과 모두 계약해서 이 회사들을 통해 주고받은 개인정보들을 전부 감청하거나 도청해왔다. 이런 감시 시스템이 이미 오래전부터 운영되어 왔다는 것을 스노든이 폭로한 것이다.
- P156

20세기 프랑스 철학자 미셸 푸코Michel Foucault는 이러한 벤담의 판옵티콘에 주목했다. 우선 이 판옵티콘이 사람들로하여금 규율을 내면화하게 만드는 기능에 주목했는데, 푸코는 동시에 이러한 시스템이 당시 감옥만이 아니라 병원이라든지 학교, 공장 등으로 실제 확산되었다는 주장을 했다. 근대 사회가 발전하면서 모든 공공기관 및 사설기관에서 효과적인 감시 시스템으로 이러한 판옵티콘시스템을 도입했다는 것이다. 쉽게 말해서 우리 사회 전체가 판옵티콘화되었다는 것으로, 푸코의 이런 주장은 당시 상당히 큰반향을 불러일으킨 바 있었다. - P164

『당신은 데이터의 주인이 아니다』라는 책을 쓴 브루스 슈나이어 Bruce Schneier는 이런 말을 하기도 했다. "어떤 서비스가 무료라면 당신은 고객이 아니다." 고객이 아니라면 무얼까? 그는 단언한다. "당신은 제품에 불과하다."
우리 주변에는 무료가 많다. 페이스북도 무료, 지메일도 구글도 무료이다. 또한 인터넷신문, 쇼핑사이트, 할인사이트도 모두 이용이 무료이다. 슈나이어는 그곳에서 우리의 정보가 기업에 팔리고 있기 때문에 고객 자신이 상품이라는 이야기를 하고 있는 것이다. - P171

페이스북의 CEO 마크 저커버그가 몇 년 전 자신의 입으로 프라이버시는 죽었다"는 말을 한 적이 있다. 이 말은 우리가 생각하듯 페이스북에 자신의 프라이버시가 노출됨으로써 그렇다는 말이 아니다. 즉 빅브라더로서의 페이스북 기능을 문제 삼은 것이 아니다. 저커버그는 프라이버시가 죽은 더 큰 이유를 ‘자발적인 공유sharing‘라고했다.
실로 지금은 사람들이 자발적으로 자기를 드러내는 시대이다. 페이스북이 요청하지도 않았는데 자신의 온갖 사생활을 일일이 보고하고 기록하고 저장한다. 아침에 몇 시에 일어났는지부터 어디에 갔고 무엇을 먹었는지, 어떤 음식이 맛있고 어느 장소가 예쁜지 등을 시시콜콜 공개한다. 아주 적극적으로 더 많은 사람에게 자기 자신을 노출하려고 애를 쓴다. 어떤 이는 자신의 일상을 실시간으로 중계하기도 한다. 자기를 감추기보다 알리려고 애를 쓰는 것, 저커버그는 이를 두고 프라이버시는 죽었다고 말한 것이다.
- P173

요즘에는 행복이라는 것이 ‘얼마나 욕망을 더 충족하는가‘로 정의되는 것 같다. 욕망을 충족하기 위해서는 경제적으로 일단 여유가 있어야 할 테니 돈이 많은 사람이 행복하다는 생각이 널리 퍼져 있고, 그래서 돈을 많이 버는 직업을 가져야 한다고 생각하고, 그러기 위해서 치열하게 경쟁하는 것이다. 우리나라 고교생 중에 10억을 벌 수 있다면 감옥행을 마다하지 않겠다는 답을 한 학생 비율이 절반을 넘는다고 한다. 이런 사회가 수백 년 동안 계속 발전한다면, 그 논리적 귀결은 결국 헉슬리가 묘사한 역설적으로 ‘멋진 신세계‘가 되지 않을까? - P183

이런 세상이라 할지라도 우리는 여전히 프라이버시에 민감해져야 한다. 그 이유는 개인정보가 사람을 평가하고, 더 극단적으로는 사람을 차별하는 데 사용될 수 있기 때문이다. 어느 지역 출신인지, 어느 학교를 나왔는지, 가정환경은 어떤지,
질병을 가지고 있지는 않은지 등에 대한 정보가 그것을 오용하는 사람들의 손에 들어가면 나로부터 내가 가질 수 있는 기회를 빼앗아가는 데 사용될 수도 있다. - P189

유전자가위 기술이 발전하게 된계기는 바이러스와 박테리아 연구에 있다. 바이러스는 사람만 공격하는 게 아니라 박테리아도 공격한다. 그런데 박테리아들은 바이러스에 공격을 당하다가도 어느 정도 시간이 지난 뒤에는 이를 이겨낸다. 과학자들이 어떻게 이러한 일이 가능한지 연구해보니, 박테리아들은 처음 공격한 바이러스의 DNA 조각을 기억하고 있다가 나중에 똑같은게 공격하면 그 바이러스의 DNA 조각을 잘라버린다는 것을 알게 되었다. 그리고 몇 년 전에 학자들이 이를 이용해서 원하는 DNA 조각들을 잘라내는 기술적 방안을 생각해낸 것이다. - P194

그런데 유전자가위 기술은 유전자 조작 식품과는 다르다고 한다. 유전자가위는 유전자를 자를 뿐, 다른 생명체의 유전자를 섞는 행위는 하지 않기 때문이다. 따라서 과학자들은 유전자가위가 유전자 조작 기술에 대해 사람들이 가진 두려움을 피해갈 수 있다고 강조한다. 자체 유전자를 잘라내 비활성화시키는 것이기 때문이다. - P198

인간과 초지능의 중요한 차이는, 초지능은 인간이 중요하게 생각하는 가치들, 예를 들어 사랑, 명예, 우정, 행복 등을 조금도 중요하게 생각하지 않을 가능성이 매우 높다는것이다. 이러한 가치들은 인간이 진화하면서 획득한 것이다. 인간이라는 좋은 수백만 년 동안 진화하면서 타인과의 협력이 중요하고 공감이 중요하며, 공감을 위해서는 사랑이 필요하고, 살아남으려면 자식을 낳아야 하며, 자식을 낳으려면 짝을 찾는 과정이 수반되어야 한다는 사실을 몸소 깨달았다. 이런 일들은 생존에 필수적이므로 현대인들도이러한 가치에 동의하는 것이다.
하지만 초지능은 이런 식으로 진화를 통해 발전한 기게가 아니기 때문에 그런 가치들을 전혀 중요하게 생각하지않는다. 다시 말해 인간이 ‘내가 저 인공지능을 만들었으니, 저 기계는 우리 사정을 봐주지 않겠냐‘고 생각하는 것은 대단히 큰 오산일 수 있다는 것이다. 인간을 다 죽이는일이 우리 인간에게는 상상하기 힘들 정도로 비도덕적인일일 수 있지만, 기계에게는 그렇지 않을 수 있다. - P269

그래서 무엇을 해야 하느냐? 보스트롬에 따르면 우선적으로 지금부터 초지능이 도래할 시대에 대비해야 한다. 그리고 대비를 위해 먼저 초지능을 인간에게 친화적인friendly것으로 만들 방법을 찾아야 한다. 첫 초지능 기계가 인간에게 적대감을 가진 것으로 나온다면 그 기계는 모두 인간에게 위협적일 것이기 때문이다.
닉 보스트롬은 특히 초지능을 인간 친화적으로 만들기위해서는 지능에 어떤 코드를 심어주는 것이 아니라 스스로 배우게 해야 한다고 강조했다. 예를 들어 사랑이라는 중요한 가치를 무조건 기억하라고 하기보다 스스로 그 형태의 가치를 경험하도록 해야 한다는 것이다. 생명을 함부로 죽이면 좋지 않다는 사실을 스스로 깨닫게 하는 것이다. - P270

[오늘의 한문장] 크로스 사이언스

지금은 과학의 가장 중요한 핵심이 실험이라는 생각이당연하다고 간주된다. 현재 과학자의 90퍼센트가 실험과학자이다. 그런데 베이컨 시대만 해도 과학자가 실험을 해야 한다는 생각 자체가 굉장히 낯선 것이었다. 당시 철학자들은 실험을 하면 자연을 교란시키고 망치기 때문에 자연에 대해서 온전하게 이해할 수 없다고 생각했다. 그래서 자연을 건드리지 않고 세심하게 관찰하는 것만이 올바른 방법이라 여겼다.
그런데 베이컨은 이런 기존의 철학적 입장을 논박했다. 그는 사람의 본심도 평상시보다는 자극을 받았을 때 훨씬 더 잘 드러나듯이, 자연도 그대로 놔두었을 때보다 인간이 기술로 조작을 가했을 때 그 정체가 훨씬 더 잘 드러난다고 강조했다. - P139

[오늘의 한문장] 아메리칸 더트

"제발 이해해줘. 노력해봐." 하비에르가 말했다.
지난주 세바스티안의 폴더에서 하비에르의 사진을 발견했을 때 리디아는 정말로 고통스러워서 가슴이 찢어지는 듯했다. 살면서 그렇게 깊고 진정한 우정을 쌓은 적이 별로 없었다. 그런 애착 관계를 잃는다고 생각하니 슬펐다. 하지만 하비에르가 계산대 맞은편에 앉아 그녀의 손을 꽉 잡은 지금, 둘 사이에서 그 이야기가 오가고 사실로 확인된 지금, 리디아에게 남은 것은 부검뿐이었다. 그를 향한 애정은 이미 새어나가고 있었다. 그 애정이 유령처럼 희미하고 생기 없이 아직 책방에 남아 있는 게 느껴졌지만 이제 그녀의가슴에서는 느껴지지 않았다. 애정은 사라지고 걸러졌다. 사체에서 피가 빠지듯이. 하비에르가 그녀의 손가락을 꽉 쥐었을 때 리디아는 희미한 포르말린 냄새를 맡았다. 하비에르가 슬픈 눈으로 그녀를 바라봤을 때는 그의 안경에 튄 핏방울이 보였다. - P129

동물 학대의 근거, 데카르트의 동물기계론 동물과 ...

동물 학대의 근거, 데카르트의 동물기계론
동물과 인간 사이에 존재하는 질적인 차이를 강조한 기독교의 입장은 근대 철학자 데카르트에 의해서 재확인되었다. 데카르트에 의하면 세상에는 물질과 영혼이 존재하는데, 사유하고 의심할 줄 아는 인간에게만 영혼(마음)이 있었다. 물질의 속성은 운동하는 것이고, 영혼의 속성은 사유하는 것이다. 인간의 경우 육체는 물질로 구성되어 있지만, 육체와 영혼과의 접점이 뇌 속에 있는 송과선이라는 곳에 존재하기 때문에, 영혼을 통해 육체를 움직일 수 있다.
반면 동물의 육체는 우리가 본능이라고 부르는 방식으로, 자동적으로, 영혼 없이 움직인다. 즉 동물은 그 자체로 복잡한 기계, 복잡한 자동인형 automata에 불과하다. 인간의 육체도 자동인형에 불과하지만, 인간은 영혼을 가지고 있기때문에 동물 기계와는 질적으로 다른 존재가 되는 것이다. - P98

데카르트의 동물기계론bète machine은 영혼/물질의 이분법이 자연세계에 적용되었을 때 필연적으로 유도되는 결론이었다. 동물기계론에 따르면 동물은 영혼이 없고, 생각이나 의지가 없을 뿐만 아니라, 인간이 느끼는 기쁨이나 슬픔은 물론 고통도 느끼지 못하는 존재이다. 불에 데었을 때 인간이 고통을 느끼는 것은 말단신경세포의 파괴를 고통으로 느끼게 하는 영혼이 있기 때문인데, 동물은 영혼이 없기 때문에 그러한 고통을 느낄 수 없다는 것이다. 기쁨과 슬픔도 마찬가지다. 인간과 달리 동물들은 "즐거움 없이먹고, 고통 없이 우는" 존재인 것이다. - P100

사이비과학은 이런 마음을 비집고 자라난다. 누군가 과학의 이름으로 내가, 한민족이, 한국 사람이 과학적으로 못났다고 한다면 이를 쉽게 받아들이지 않을 것이다. 그렇지만 과학이 나를, 한민족을, 한국 사람을 잘났다고 하면 이런 얘기는 우리의 허영심을 살살 간지럽힌다.
"중국인들은 ‘천성이 그래." "여자가 그런 건 ‘자연‘스러운 거야." "저 사람은 범죄자의 ‘피‘를 타고났어." "유전자‘가 그런데 어쩌겠니." "그건 남자의 ‘본성‘이야."
여기서 ‘천성‘, ‘자연‘, ‘피‘, ‘유전자‘, ‘본성‘은 대부분 과학의 외피를 쓴 사이비과학이다. 사이비과학의 정반대는신중한 과학일 텐데, 신중한 과학은 인종의 자연적 차이, 인간성과 지능의 유전적 차이, 고정된 성차에 대해서 회의적이다. 18~19세기 사이비과학은 자취를 감추었지만, 과학이 만들어내는 차별이 사라진 것은 결코 아니다. 우리는 새로운 차별에 대해서 경계를 늦추지 말아야 한다. 새로운 차별은 항상 더 과학적인 것처럼 보이고, 더 은밀하게 우리의 허영심을 비집고 들어오기에 그렇다. - P117

루이스 멈퍼드는 유토피아를 두 가지로 분류했는데 그중 하나가 도피 유토피아이다. 이것은 현실이 너무 가혹하기 때문에 사람들이 거기 숨고자 하는 것으로, 예술과 문학에서 주로 나타나는 유토피아이다. 이런 유토피아는 주로깊은 산속이나 섬에 고립되어 있으며, 샹그릴라처럼 인간 삶의 조건이 완벽한 이상향의 장소로 묘사된다.
그리고 다른 하나는 재건 유토피아인데 이는 생활 조건을 실제로 변화 및 개선시키려는 노력에서 나타나는 개념으로, 이런 개선에는 물리적 환경만이 아니라 새로운 습관, 가치관 등이 포함된다. 사실상 지난 인류 역사에서는 재건유토피아를 만들어보려는 꾸준한 시도가 있었고 지금도 각 나라 곳곳에서 비슷한 시도가 이루어지고 있다. 특히 시골 마을 등지에서는 마음 맞는 사람들이 자기네들만의 독특한 방식으로 아이들을 교육한다든지 하는 식의 공동체를 꾸리는 경우들이 종종 있다. - P126

들어가는 글 과학과 인문학, 사실과 가치의 ‘크로...

들어가는 글
과학과 인문학, 사실과 가치의 ‘크로스‘

어떤 개념들은 오래 지속되는데, 그중 하나가 ‘두 문화‘라는 것이다. 두 문화는 1959년에 영국의 작가이자 화학자였던 찰스 스노Charles Snow가 케임브리지대학교 강연에서 처음한 말이다. 그는 여기서 과학자들이 인문학에 대해 무지하고, 인문학자들이 과학에 대해 거의 아무것도 모르는 채로 지식인 행세를 하는 세태를 꼬집었다. - P11

그런데 당시 미국과 소련의 핵경쟁이 이 비슷한 상황이었던 것이다.
치킨게임을 할 때는 안전벨트도 하지 않은 상태에서 시속 100킬로미터로 달려와서 부딪치기에, 실제 충돌이 일어나면 양쪽 모두 살아남을 방법이 없다. 죽기를 원하지 않는다면 부딪힐 리가 없는 것이다. 결국, 나는 상대가 언젠가 핸들을 돌릴 것임을 알고 있고, 상대도 그렇다. 이런 상황에서 필승의 방법이 있는가? 하나 있기는 하다. 바로 시동 걸고 출발 준비를 할 때 한쪽에서 핸들을 뽑아 보란 듯이 창밖으로 던진 후 출발하는 것이다. 그러면 핸들을 돌릴수 없는 상대를 보고 맞은편 차는 살기 위해 자신이 핸들을 돌릴 수밖에 없게 된다.
그 비슷한 상황이 <닥터 스트레인지러브>에서 묘사된다. 영화 중반 이후에나 등장하는 스트레인지러브 박사가 공포감을 심어주는 것이야말로 핵전쟁을 억제하는 전략이라는 이야기를 하는 장면이 있다.
"전쟁억제력이란 적에게 공포심을 안겨주는 예술이다."
핵전쟁 전략이 매우 복잡하고 전문적인 것 같지만 결국 그 본질은 치킨게임의 전략이었던 것이다. - P45

불과 몇 만 년 전까지만 해도 인간은 문자도 없이, 특별한 재능 없이 자기 몸 하나를 걱정하던 동물에 가까운 존재였다. 그러던 인간이 이제는 급기야 자그마한 플루토늄 폭탄 하나로 도시 하나를 날려버리는 기술을 소유하게 되었다. 실로 엄청난 발전이 아닐 수 없다. 하지만 그런 문명 발달과 달리 인간이 가진 야만성은 조금도 순화되거나 성숙해지지 못해서 지금도 인간은 여전히 사람을 고문하면서도 재미를 느끼는 존재이다. 인간의 지혜는 기술 발전에 걸맞게 발전하지 못했으니, 이는 마치 몸은 성인이 되었지만 머리는 어린아이 같은 형상이라고나 할까.
고문을 즐기면서도 카메라를 잘 만드는 사람들, 덩치는 산만큼 커졌지만 마음은 아직도 유치한 사람들, 발전한 기술문명을 책임질 수 없는 사람들, 결국 이들에 대한 통렬한 비판이 이 영화의 주제인 것이다. - P51

우리는 마리 퀴리에 대한 최근의 역사적 연구들을 통해 에브 퀴리가 묘사한 『퀴리 부인』에서는 충분히 드러나지않은 그녀의 다양한 모습을 볼 수 있다. 이를 조금 더 일반화하자면, 위인의 전기를 읽는 데는 여러 가지 독법이 필요하다는 결론을 얻을 수 있다.
내가 읽는 이 전기의 원형原型을 만든 작가는 누구인가?
왜 그 작가는 위인에 대한 특정한 이미지와 내러티브를 만들어냈는가? 왜 이런 내러티브가 인기를 얻을 수 있었는가? 이런 이야기에서 왜곡되거나 과장된 부분은 없는가? 여기에서 사실과 달리 작가에 의해 삽입된 부분, 아니면 빠진 부분은 없는가? 그런 부분들이 있다면 그 이유는 무엇인가? 등등. 이런 질문에 대한 답을 찾아가면서 전기를 읽는 작업은 인문학적인 해석의 힘을 이용해서 중층적으로 전기를 읽는 독법이다. - P81

사실 사람을 중심으로 세상은 이분이 아니라 삼분된다.
세상에는 인간보다 더 높은 존재가 있고, 인간 아래 존재가있게 된다. 서양에서는 인간보다 더 높은 존재를 천사, 신이라고 생각했다. 반면 동양에서는 신선, 부처가 인간을 초월한 존재였다. 그리고 인간 아래에는 동물들, 미물들이 존재했는데, 인간 중에서도 특정한 부류의 인간들은 보통 인간보다 아래에 있는 존재들이라고 간주되었다.
노예제 사회에서 노예는 동물보다 조금 더 나은 대우를 받을 뿐이었다. 20세기 중엽 이전의 수많은 사회에서 여성은 남성보다 훨씬 더 낮은 지위를 가지고 있었으며, 노예가해방된 뒤에도 흑인에 대한 편견은 널리 퍼져 있었다. 유럽에서는 유대인에 대한 차별과 증오가 보편적이었고, 동성애자나 양성애자에 대한 혐오도 일반적이었다.
과학은 인간에 대해서도 적용된다. 과학은 인간을 분류해서 이해하지만, 동시에 이런 분류는 차별을 낳기도 한다. - P84