처음 처음 | 이전 이전 | 1 | 2 | 3 | 4 |다음 다음 | 마지막 마지막
신, 만들어진 위험 - 신의 존재를 의심하는 당신에게
리처드 도킨스 지음, 김명주 옮김 / 김영사 / 2021년 2월
평점 :
장바구니담기


  '이기적 유전자'를 통해서 유전자의 신비를 우리에게 설명해준 리처드 도킨스가 종교에 도전장을 냈다. '만들어진 신'이라는 책과 '신, 만들어진 위험'이라는 책 중에서 어느 책을 읽을지 고민했다.  '신, 만들어진 위험'이 표지도 매력적이었을 뿐만 아니라 쪽수가 '만들어진 신'의 절반인 350여쪽이었다. 매력적인 쪽수이다. 그런데, 책의 내용은 더 매력적이다. 

  

  우선, 리처드 도킨스는 과학자이다. 이과 남자가 문과 방면에도 상당한 지식을 가지고 있다. 이것이 그가 '이기적 유전자'와 같은 명작을 쓴 원동력이었으리라... 구약에 대한 리처드 도킨스의 지식은 상당하다. 여러 신학자와 역사학자들의 연구를 섭렵하고 성경을 비판적으로 읽고 있다. 

  물론, 역사를 전공한 나는 구약의 '모세 5경'을 모세가 쓰지 않았다는 사실을 역사학자들이 사료비판을 통해서 밝혀냈음을 알고 있으며, 구약의 여러 신화가 메소포타미아의 수많은 신화와 이야기 속에서 장점만 뽑아내어 만들었다는 사실을 알고 있다. 그랬기에 리처드 도킨스가 성경이 고유한 유대인들의 이야기가 아닌, 메소포타미아 지역의 신화를 그들 나름의 이야기로 재창조했다는 지적이 새로울 것이 없었다. 

  진정 그의 탁월성이 돋보이는 것은 성경을 새로운 관점에서 읽은 것이다. 아브라함이 이삭을 번죄물로 신께 바치려는 장면을 이삭의 관점에서 다시 서술했다. 이삭을 얼마나 두려웠을까? 트라우마에 시달리며 아버지와 신에 대한 불신에 가득차서평생을 고통받았을 것이다. 이삭의 관점에서 성경을 다시 읽으니, 성경의 잔인성에 몸서리가 쳐진다. 

  도킨스는 출애굽 이후, 유대인이 저지른 제노사이드를 비판한다. '젖과 꿀이 흐르는땅'에 사는 모든 사람을 죽이라는 신의 명령을 리처드 도킨스는 히틀러의 레벤스라움과 비교한다. 지금 벌어지고 있는 이스라엘과 팔레스타인 전쟁은 이미 3천여년 전에도 벌어졌던 것이다. 도킨스의 표현대로라면 이스라엘은 히틀러보다 나을 것이 없는 행위를 3천년에도 그리고 지금도 벌이고 있다. 이스라엘이 팔레스타인을 박해하는 것은 그들의 경전인 구약의 가르침을 따른 결과인가?

  성경을 읽다보면, 여성비하적 표현과 노예제도를 옹호하는 표현들을 심심치 않게 발견할 수 있다. 성경이 완전한 경전이라면 이러한 표현이 있으면 안된다. 그렇다. 리처드 도킨스가 말했듯이, 이들 책들은 시대적 한계 속에서 탄생했다. 그러니 그러한 표현이 있을 수밖에 없다. 오히려 성경을 무결점의 성스러운 서적으로 여기는 우리의 관점을 바꾸어야한다. 

  1부에서 성경의 헛점을 지적한 도킨스는 2부에서 진화론의 관점에서 신의 존재를 부정한다. 신이 없이도 진화론으로 우리 자연계의 존재를 설명할 수 있다. 그런데, 존재하지도 않는 신을 부모에 의해서 주입된 거짓 지식에 의해서 일평생을 특정한 종교인으로 살아야하는가? 


  "내가 만일 바이킹 부모에게서 태어났다면 오딘과 토르를 굳게 믿었을 것"

  "어째서 여러분이 태어난 나라에서 우연히 물려받은 신앙이 옳아야하는가?" (20쪽)


  그렇다. 만15세가 되기 전에 부모와 사회, 국가에 의해서 강제로 주입당한 신앙에 의해서 일평생을 신앙인으로 살아야한다는 것은 문제가 있다. 15세가 되어 스스로 세상을 판단할 수 있는 이성을 갖았을 때, 스스로 무신론자와 종교인 중에서 하나를 선택하도록하고, 종교를 선택한 자는 다시 세상의 여러 종교 중에서 한 종교를 선택할 수 있도록 해야한다. 

  물론, 도킨스의 이러한 주장을 내가 적극 지지하는 이유는 나 자신이 초등학교 시절에 교회에 다니지 않는다고 초등학교 동급생과 초등학교 2학교 담임 교사에게 미움과 따돌림, 구타를 당했기 때문이다. 특히 초등학교 2학년 담임 선생은 수업시간에 노골적으로 기독교를 믿으라고 설교했다. 

  도킨스는 '예수천국 불신지옥'을 외치는 기독교인들에게 날카로운 일침을 가한다. 


  "그런 사람들은 지옥 같은 장소가 없는 것을 천만 다행으로 알아야한다. 아이들에게 지옥에 간다고 협박하는 사람보다 더 지옥에 가도 싼사람은 없기 때문이다."(135쪽)


  협박으로 자신의 목적을 달성하려는 자를 정당화할 수 없다. 그런데, 우리 주변의 기독교인들은 '예수천국 불신지옥'이라는 협박으로 우리를 종교의 노예로 만들려한다. 도킨스는 기독교인들의 공격을 두려워하지 않고 용감히 맞서고 있다. 그의 용기에 박수를 보낸다. 


  리처드 도킨스는 이성적으로 신의 존재를 부정하면 많은 사람들이 비종교인이 될 것이라 기대하고 있다. 그래서 열정적인 저술을 통해서 신의 존재를 부정하고 있다. 그러나, 인간은 과학적 설명에 귀기울이지 않을 것이다. 인간이 나약한 존재이기에 존재하지 않는다는 사실을 알지만 신의 존재를 믿고 싶어한다. 인간은 그럴정도로 나약한 존재이다. 

  책을 덮으며, 신이 존재하지 않는 종교를 생각해보았다. 바로 불교이다. 부처는 '깨달은자'라는 뜻이다. 싯다르타는 먼저 깨달은 존재일 뿐이다. 우리도 수행을 하면 부처가 될 수 있다. 그런 의미에서 깨달음의 철학이고 가장 우주적인 종교이다. 도킨스에게 불교에 대한 견해를 묻는다면 그는 어떻게 답할까? 철학자 강신주가 벙커1에서 말했듯이, '기독교를 믿고 계신 분이 있다면, 불교로 바꾸세요.'라고 말할까? 아니면, 불교 조차도 필요없다며 오직 과학만이 진리라고 말할까?


댓글(0) 먼댓글(0) 좋아요(27)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
이기적 유전자 - 40주년 기념판
리처드 도킨스 지음, 홍영남.이상임 옮김 / 을유문화사 / 2018년 10월
평점 :
장바구니담기


 '이기적 유전자'를 읽은 계기는 유시민 작가 덕분이다. 유작가는 '문과 남자의 과학공부'를 집필하고 나서 각종 언론과 유튜브에 나와서 자신이 과학을 통해서 깨달은 바를 말하기 시작했다. 유튜브 '최재천의 아마존'에 나와서 유시민은 '과학적으로 삶은 의미 없다.'라고 단언했다. 경제학을 전공했으나 그도 인문학적 소양을 가지고 있는 존재로 보았기에 유시민의 주장은 충격적이었다. '물고기는 존재하지 않는다.'라는 책에도 우리의 존재가 아무 의미없다는 말이 나온다. 과연 그럴까? 유시민의 말처럼 이 세계는 아무런 의미가 없는 것일까? 인간이 숭고하게 여기는 모성애도, 자신의 신념을 지키기 위해서 죽음을 불사하는 정신도 모두가 유전자가 프로그램화한 유전자 운반 기계의 행동일뿐일까? 


1. 생물을 통해서 인간을 이해하다.

  인간을 동물과 다른 별개의 존재로 볼 수 없다. 동물도 인간 처럼 도구를 사용할 수 있으며, 불완전하지만 나름의 언어를 가지고 있다. 또한 그들도 슬픔과 기쁨을 느낄 수 있는 존재이다. 그렇기에 역으로 동물을 통해서 인간을 설명할 수도 있다. 

  리처드 도킨스가 소개한 기생 일개미를 보며 인간세계를 생각해 볼 수 있다. 기생 일개미 중에서 일부(Bothriomyrmex regicidus와 B. decapitans)는 기생 일개미 여왕이 다른 개미종의 집에 침입하여 영왕개미를 죽이고 개미 사회를 장악한다. 그리고 기생 개미 영왕은 자신의 알을 낳고, 노예 개미의 시중을 받으며 서서히 원래의 종을 대체한다. 더욱 충격적인 사계도 있다. 

  기생 개미 중에서 Monomorium santschii의 여왕개미는 노예 일개미에게 자기 자신의 여왕 개미를 살해하도록한다. 그리고는 노예 개미의 시중을 받으며 왕국을 빼앗아 자신의 왕국을 구축한다. 정말 충격적인 사례이다. 

  그러나, 놀라운 일이 아니다. 우리 주변에서도 이러한 모습을 볼 수 있지 않은가! 소위 축출 이혼이 그러한 사례이다. 범죄 관련 팟캐스트에서 알게된 사연이다. 술집 여자와 하룻밤을 잤고, 그결과 아이를 갖게 되어 결혼을 했다. 그러나, 그녀는 남편의 부모를 모욕하고 두자녀는 그 남자의 아이가 아니라는 사실을 알린다. 이성을 잃은 남자가 그녀에게 폭력을 휘줄렀고, 결국 그 남자는 법원에서 접근금지 처분을 받았다. 모든 재산을 그녀에게 빼앗기고 이혼까지 당했다. 그녀는 다른 남자와 새로운 삶을 살면서 자녀를 고아원에 보내고 남자에게는 양육비라는 명목으로 돈까지 계속 뜯어내려한다고한다. Bothriomyrmex regicidus와 B. decapitans는 우리 사회에서도 볼 수 있다.

  그러나, 우리 사회에는 Monomorium santschii도 존재한다. 일본의 신친일파 육성 프로그램에 따라서 일본 정부나 사사카와 재단의 돈을 받으며 신친일파로 육성되는 사람이 많다고 호사카 유지 교수는 말한다. 그리고 그들이 정권을 잡고 친일적인 정책과 행보를 한다면 당신은 어떻게 하겠는가? 더욱이 좌우의 이념 갈등 속에서 자신의 정체성이 우파라는 신념(?) 혹은 망상 속에서 친일 정권의 매국행위를 동조하는 이웃을 보면 당신은 어떻게 하겠는가? Monomorium santschii는 우리 사회에도 존재한다. 단지 우리가 그것을 보지 못하기 때문이다. 

  리처드 도킨스는 "유전자 역시 인형을 직접 조정하는 것이 아니라 컴퓨터 프로그램 처럼 간접적으로 자기 생존 기계의 행동을 제어한다."(113쪽)고 말한다. 리처드 도킨스가 제시한 프로그램 명령어 중에는 다음과 같은 것도 있다. 


  "자기 종의 구성원을 만나면 누구에게나 친절해라."(182쪽)

  "거주자면 공격하고, 침입자면 물러나라!"(153쪽)


  이주민에게 배타적인 모습을 띄는 것은 인간의 본능이며 자연스러운 것이다. 적어도 리처드 도킨스의 말이 맞다면 말이다. 그리고 이는 생존을 위해서 반드시 필요한 프로그램이기도 했다. 고구려가 수,당 전쟁을 끈질기게 수행한 것도 유전자에 의해서 프로그램 되어 있기 때문에 가능한 것이다. 앞도적으로 불리한 군사적 차이에도 불구하고 우리가 우리의 국토를 지킬 수 있었던 힘의 원천도 '거주자면 공격하고, 침입자면 물러나라'라는 명령어 덕분이다. 이를 수행하기 위해서는 '자기 종의 구성원을 만나면 누구에게나 친절해라'라는 명령어가 필요했다. 

  그러나, 세월이 흐르고 시대가 변했다. 전쟁은 줄어들었으며 세계화의 흐름 속에서 이방인을 만나는 빈도가 늘어났다. 이방인에게 환대를 해야하는 시대가 되었다. 유전자의 프로그램을 인간이라는 생존기계가 거역해야할 필요성이 대두되고 있으며, 거역하는 일이 발생하고 있다. 바로 여기에서 인간의 희망과 존재 가치가 발견된다. 


2. 이 세계는 아무런 의미가 없는 것일까?

  리처드 도킨스의 '이기적 유전자'를 읽고는 회의주의에 빠진 사람이 많다고 한다. 유전자의 조작에 의해서 유전자가 시켜 결혼하고 짝짓기를하며 기뻐하고 슬퍼한다는 회의주의에 빠진 사람이 많다. 여기에서 더 나아가서 '과학적으로 세계는 아무 의미가 없다.'라고 단언하는 사람도 있다. 유전자 운반 기계에 불과한 인간이 그들에게는 아무런 의미 없는 존재로 보일 수도 있다. 그러나, 과연 그럴까?

  불교에서 달을 가리키면 달을 보지 못하고 손가락 끝을 달이라 생각한다는 말이 있다. 리처드 도킨스는 "개체의 몸이란 일시적인 유전자의 조합을 위한 임시 운반체에 불과하다."라고 표현했다. 그러나, 이것은 도킨스도 말했듯이 은유적 표현이다. '내 마음은 호수요. 당신은 노저어오오.'라고 말하는 연인에게 '당신의 마음이 호수라며 왜? 노 저어 갈 수 없지? 호수는 어디있소?'라고 말하는 사람이 있다면 당신은 그 사람과 대화할 수 있겠는가?

  '이기적 유전자'를 잘못 읽은 사람들이 유전자가 모든 것을 결정해 놓았다는 유전자 결정론에 빠져든다. 더 나아가 '인생은 의미 없다.'라고 결론 짓는다. 과학의 한계를 생각하지 못하며, 과학이 아직까지 밝혀내지 못한 진실이 밝혀낸 것보다 많다는 사실을 그들은 알지 못한다. 우주에 있는 84.5%를 차지하는 암흑물질을 우리는 알지 못한다. 단지 알고 있는 것은 절반도 안되는 15.5%만을 알면서 우주 전체를 이해했다고 말한다면 얼마나 한심한 일인가! 더욱이 과학에 문외한이 과학책 몇권을 읽고서는 '과학적으로 세계는 아무 의미가 없다.'라고 단언한다면 당신은 그 말에 동의할 수 있겠는가? 벼는 익을 수록 고개를 숙인다. 우리가 과학에 대해서 알면 알 수록 고개를 숙여야한다. 인간이 알고 있는 것은 백사장의 수많은 모래알 중에서 모래 몇알밖에 되지 않는다는 진실을 인정해야한다.

  리처드 도킨스는 "나는 어머니를 하나의 기계로 취급한다."(218쪽)고 말했다. 인간을 "생존기계"로 표현하는 도킨스의 극단적 비유가 많은 사람들에게 오해를 불러일으켰다. 리처드 도킨스를 유전자 결론론자로 이해하는데 일말의 빌미를 도킨스가 제공한셈이다. 

  그러나, 리처드 도킨스는 분명히 말했다. "우리에게는 우리의 창조자에게 대항할 힘이 있다. 이 지구에서는 우리 인간만이 유일하게 이기적인 자기 복재자의 폭정에 반역할 수 있다."(335쪽) 또한, "뇌는 유전자의 독재에 반항하는 힘까지 갖추고 있다."(123쪽) 리처드 도킨스는 유전자 결정론자가 아니다. 유전자는 프로그램화를 시켰을 뿐이다. 유전자가 우리의 뇌를 직접 지배할 수는 없다. 바로 그 틈, 그 공간을 통해서 우리는 삶의 의미를 창조하고 이 세계에 의미를 부여할 수 있다. 유전자의 운반체인 인간이 문화와 문명! 혹은 밈을 통해서 새로운 가치를 창조할 수 있다.


 

  다시 최재천 교수의 유튜브 아마존으로 가자. 최재천 교수는 그의 유튜브에서 유시민의 '과학적으로 삶은 의미 없다.'는 표현을 언잖아 했다. 심장의 일부분을 떼어서 모아 놓으면 심장 박동을 만들어 낸다고한다. 이를 전문용어로 페이스메이킹이라한다. 부분은 전체의 합 그 이상이다. 챗GPT가 일정한 용양이상을 학습하고 파라미터의 수를 증대시키자 우리가 이해할 수 없는 능력을 보이기 시작한 것 처럼, 세포와 유전자로 이뤄진 우리의 몸도 그것이 모여서 그 이상의 의미를 가진 '운반 기계'를 만든다. 그리고 그 운반 기계가 모여 문명을 만든다. 그들은 과학으로는 설명할 수 없는 철학이라는 형이상학을 만들어냈다. 그리고 과학자 최재천 교수는 '철학'에서 과학이 하지 못하는 삶의 의미를 찾을 수 있다고 말한다. 자칭 인문학을 공부했다는 자는 과학을 영접하면서 허무주의에 빠져들었다면, 과학을 공부한 석학은 인문학을 통해서 의미를 찾고 창조하려한다. 나는 의미는 주어지는 것이 아니라 부여하고 창조하는것이라 생각한다. 


  



댓글(0) 먼댓글(0) 좋아요(30)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
다윈의 사도들 - 최재천이 만난 다윈주의자들 드디어 다윈 6
최재천 지음, 다윈 포럼 기획 / 사이언스북스 / 2023년 2월
평점 :
장바구니담기


제목이 심상치 않다. '다윈의 사도들(Darwin's 12 Apostles)'은 다윈을 절대 틀리지 않는 교주로 모시며 일생을 바쳐 다윈의 말이 진리임을 과학적인 근거로 증명한다. 원래는 13명의 사도를 다룰 계획이었으나 하버드 대학교 에드워드 윌슨 교수와의 인터뷰 내용이 인터뷰 후에 무자비하게 난도질 당하는 바람에 이 책에 싣지 못했다. 다윈주의자 최재천이 만난 12명의 사도들에게 다윈은 어떠한 매력이 있기에 그들은 기꺼이 다윈의 사도가 되었을까?

 

최재천이 만난 사도들 중에서 나의 흥미를 끈 첫번째 사도는 헬레나 크로닌이다. 그녀는 페미니스트들과 논쟁도 불사하는 전투적 여성이다. 한국에 미투 열풍이 불어닥치면서 차기 대권그룹에 있었던 정치인들이 줄줄이 낙마하는 사태를 겪으며 한국에서는 페미니스트에게 부정적 발언을 하는 것이 금기시되었다. 사회적 매장을 각오하지 않으면 그들에게 반박할 수 없었다. 성적 피해를 당했다는 증거를 요구하는 말조차 2차 가해로 뭇매를 당했다. 석연치 않은 의심을 지울 수 없지만 나 또한 침묵할 수 밖에 없었다. 그런데, 여성인 그녀가 페미니스트와 설전도 불사하고 있다. 그녀는 말한다.

 

"페미니즘을 정치 쟁점화하는 것은 세상을 더 공평한 곳으로 만들고, 여성에 대한 부당한 처사를 바로 잡기 위함입니다. 하지만 성이 어떻게 다른지에 관한 기본적인 이해 없이 어떻게 더 나은 세상을 구축할 수 있겠습니까? 애초부터 과학적 정보를 바탕으로 한 고려를 배제한다면 어떻게 목표를 달성할 수 있겠습니까? (중략) 이것이 페미니즘의 이름으로 거행된 것들이라면, 저는 정치 운동으로서의 페미니즘은 타당성을 잃었다고 말하겠습니다."-86

 

과학문명시대에 살고 있는 사람이라면 과학적 지식을 바탕으로 합리적으로 세상을 바라보고 과학에 근거한 판단을 해야한다. 그러나, 우리의 현실은 과학적 진실보다는 자신이 보고 싶은 현실을 만들려고 과학이라는 지식을 견강부회(牽强附會)하는 경우가 많다.

1정 연수 때의 일이다. 페미니즘에 대해서 설명하는 강사가 여성이 남성보다 수학이나 과학을 못한다는 선입견을 가져서는 안된다고 강조했다. 그런데, 그 강사는 강의 중에 남성이 여성보다 수학과 과학에서 우수한 성적을 보인다고 말했다. 그래서 질문을 했다. "남성이 여성보다 수학과 과학에서 우수한 성적을 보인다면 이를 인정하고 그에 맞도록 수업을 해야하는데, 여성이 남성보다 수학과 과학을 못한다는 선입견을 가져서는 안된다라는 말은 모순이 아닌가요? 남성이 여성보다 수학을 잘하는 현실을 인정해야 올바른 교육이 되지 않나요?" 나의 질문에 그 강사는 짜증나는 목소리로 "그건 알아서 잘 이해하세요."라고 말했다. 그때 페미니스트는 감정적일뿐 이성적 사고는 상당히 박약하다는 인상을 받았다.

이성적 두뇌로 이해되지 않으면 그 주장을 납득할 수 없다. 페미니스트 강사는 여권신장이라는 목표에 눈이 멀어서 현실을 직시하지 못했다. 그 강사는 헬레나 크로닌의 책을 읽었어야했다. 헬레나 크로닌이 나의 질문에 답한다면 어떻게 했을까? 아마도 "멍청이도 많지만 노벨상 수상자도 많네"라고 단순 명쾌하게 말했을 것이다. 경쟁이 많은 남성에게 변이가 많다. 그렇기에 노벨상을 타는 사람 중에 남자가 많지만, 멍청한 사람들 중에도 남자가 많다. 그에 비해서 여성 집단은 서로 비슷하다. 중간층이 두텁다는 뜻이다. 그렇기에 과학과 수학 점수의 상위권자들 중에는 남성이 많을 수 밖에 없다. 상위권 학생에 집중하는 사람들은 하위권에 머물고 있는 다수의 남성은 무시된다.

헬레나 크로닌의 설명은 오랜 동안 해결되지 않고 나의 머릿속을 맴돌던 의문을 깔끔히 정리해주었다. 우리 학교에 남학생들의 학업 성취가 낮을 수밖에 없는 이유도 설명해주었다. 우리 현실을 제대로 보기 위해서는 과학적 진실을 직시할 수 있는 용기가 필요하다. 그럴 때만이 하위권의 남학생을 중위권으로 끌어올리고 중위권의 여학생을 상위권으로 끌어올릴 수 있는 교수학습 방법을 개발할 수 있다.

말이 나온 김에 헬레나 크로닌이 소개한 남녀의 차이를 더 살펴보자. 신생아 중에서 남아는 경쟁적이며, 모빌을 더 선호한다. 그에 비해서 여아는 협력적이며 인간 얼굴을 더 선호한다. 페미니스트들은 이러한 현실을 부정하며 부모의 양육 때문이라고 말한다. 그러면서 예외적인 사례를 말한다. 남아인데도 협력적이며 인간 얼굴을 더 선호하는 아이가 있으며, 여아인데도 경쟁적이고 모빌을 선호하는 아이가 있다는 근거를 제시하며 남녀의 차이를 규정하는 것 자체를 부정적으로 매도한다. 헬레나 크로닌은 이에 대한 반론도 제시했다. 가끔 남녀의 차이가 반대로 나오는 경우가 있을 수 있는데, 그것은 자궁에 있는 동안 남성 호르몬에 노출된 여아는 전형적으로 말괄량이 같고 여성 평균 공간 지각 능력을 초월한다. 남아도 정반대가 성립한다.

나는 역사를 배우면서 ~주의, ~이즘(ism)의 위험성을 많이 보아왔다. 주의와 주장에 매몰되면 진실을 보지 못한다. 자신의 주장과 반대되는 근거는 무시하고 자신에게 유리한 근거들만 본다. 이른바 확증편향이 형성된다. 우리나라 페미니스트들에게도 이러한 확증편향이 보인다. 과학적 진실을 직시하고 이에 바탕을 둔 활동을 할 때만이 페미니스트들은 확증편향에서 벗어날 수 있다.

어떤 페미니스트는 천동설에서 지동설로 정설이 변했듯이, 과학적 진실도 바뀔 수 있지 않냐고 반론을 제기할 수 있다. 그렇다. 과학적 진실도 변화할 수 있다. 우리는 신이 아니기에 세계의 진실을 모두 볼 수는 없다. 우리가 볼 수 있는 범위 내에서 진실을 직시하고 그 범위 내에서 올바른 판단과 정책을 집행해야 한다. 그러면서도 우리의 결정이 잘못된 결정일 수도 있음을 잊지 말고 신중히 판단하고 정책을 집행해야 한다. 우리는 시대의 한계를 벗어날 수 없다. 그래서 더욱 겸손해져야 한다.

나의 흥미를 끈 두번째 사도는 리처드 도킨스, 대니얼 데닛, 마이클 셔머를 비롯한 종교의 권위에 도전하는 사도들이다. 사실 이 책을 읽고 나서야 리처드 도킨스가 진화론의 신봉자라는 사실을 알았다. '이기적 유전자'라는 책 제목 때문에 그의 책을 읽기를 꺼려했다. 인간을 선악설에 근거해서 바라보는 삐딱한 학자로만 생각했다.

리처드 도킨스는 '만들어진 신'이라는 책까지 쓰면서 종교에 선전포고했다. 이 책에 등장하는 다윈의 사도들 중에서 한국에 많은 기독교 신자가 있으며 해외에 선교사를 파견하는 사실을 거론하며 매우 부정적인 의견을 표명했다. 나로서는 당혹스러울 수밖에 없다. 크리스트교는 서양 사상의 기둥이다. 과학문명이 지배하는 시대라 할지라도 크리스트교를 드러내 놓고 비판하는 것은 상당한 용기가 있어야 가능하다는 것이 나의 선입견이었다. 더욱이 서양에서는 말이다.

 

"무조건적인 찬양 또는 숭배가 그렇습니다. 믿음의 대가로 무언가를 가져가는 것을 숭배하고 찬양하게 만드는 것이나 이해하려는 노력 없이 찬양하기만 하라고 요구하는 것은 종교의 부적절한 특징이라고 생각합니다. 그러나 아주 강력한 특징이기도 합니다. 게다가 그런 것들을 빼 버린다면 더 이상 무엇이 남겠습니까?" -205

 

대니얼 데닛의 이 말은 종교에 대해서 평소 내가 가지고 있었던 생각과 정확히 일치했다. 역사를 전공한 나는 '삼국유사'에 기록된 수많은 신화와 설화를 그대로 믿지 않고 그 안에서 역사적 의미와 사실을 끄집어 내려 노력한다. 그런데, 대학에서 한국 사상사 수업을 듣던 중에 교수님이 갑자기 기독교 이야기를 했다. 기독교 신자인 한국사 교수에게 나는 질문했다. "종교 위에 우리의 현실이 있어야합니까? 종교 밑에 우리의 현실이 있어야합니까?" 그런데, 교수님은 나의 질문을 이해하지 못했다. 그래서 질문을 바꾸었다. "시대가 변하면 종교의 교리도 시대에 맞게 변해야 합니까? 시대가 변해도 종교의 교리는 변하면 안됩니까?" 교수님은 "그것은 함부로 말할 수 없네, 부활 처럼 영적인 것이 있기 때문에..." 나는 교수님께 다시 질문했다. "신비한 종교의 이야기는 해당 종교를 포교하기 위해서 지어낸 이야기 일수도 있지 않습니까?" 그러자 교수님은 "그렇다면 세계의 많은 사람들이 거짓을 오랫 동안 믿었다는 이야기인데 그럴 수가 있나요."라며 대답을 얼버무렸다.

그 교수님은 단군신화를 신화로 가르치면서도 서구 종교의 신화는 역사적 사실로 이해하고 있었다. 근대 과학문명의 세례를 받은 학자가 종교에서 벌어지는 신이한 기적들을 그대로 믿는다는 사실 자체가 나에게는 충격적이었다.

이 책에 소개된 대다수의 다윈의 사도들은 종교에 대해서 부정적이었다. 그리고 그 관점은 상당히 논리적이며 나의 관점과도 일맥상통했다. 그런데, 종교와 과학은 조화를 이룰 수는 없는 것인가? 아무리 과학적 진실이 진화론이 옳음을 말해도 많은 인간들이 창조론을 믿고 있다. 심지어 인도에서는 11, 12학년 이외의 학년에서는 진화론을 가르치지 않기로 했다. 진실을 직시하기 보다는 자신이 믿고 싶은 것을, 그것이 거짓이라 할지라도 믿으려하는 사람을 과학의 진실 앞으로 끌고 올수는 없다. 강제로 과학의 진실 앞으로 끌고 오려할 때 과학은 또 다른 종교로 변질 될 수 있다. 골턴에 의해서 정립된 우생학이 열등한 사람으로 지목된 사람에게 단종수술을 행하고 열등한 민족을 아우슈비츠의 가스실로 보냈던 죄악을 다시 저지를 수 있다.

우리가 아무리 노력한다 해도 지구상에서 바이러스를 박멸시킬 수 없다. 인간은 나약한 존재이다. 절대자에게 나약한 자신의 정신을 의탁하고 싶어한다. 그런 의미해서 칸트가 말했듯이 신은 요청되어진 존재이다. 스티븐 핑커는 "왜 이 지구에 보내졌는가?"라는 질문에 "아무런 이유도 없다."라고 대답했다. 스티븐 핑커의 대답이 과학적 관점에서는 정답일 것이다. 그러나, 나약한 인간은 조약돌에서도 우주의 의미를 찾고 싶어 한다. 사피엔스는 자신들의 존재가 "아무런 이유도 없다."라는 말을 받아들이는 것을 고통스러워한다. 결국, 나약한 사피엔스는 종교를 버릴 수 없다. 그렇다면, 나약한 사피엔스를 위해서 과학과 종교의 건전한 공존을 모색해야 하지 않을까?

 

리처드 도킨스의 '이기적 유전자''만들어진 신'을 나의 독서 리스트에 올려 놓은 것도 이 책을 읽으며 얻은 수확이다. 좋은 책은 다음에 읽을 책을 연쇄적으로 읽도록 한다고 말한다. '다윈의 사도들'이라는 책은 내가 리처드 도킨스의 책들에 입문하도록 나를 인도했다.

책장을 덮었다. 책을 다 읽고 나서야 다윈이 이렇게도 중요한 인물인지 새삼스럽게 알았다. 다윈의 두번째 사도 헬레나 크로닌의 말을 소개하면서 글을 마무리한다.

 

"다윈의 핵심적인 이론은 영원히 길을 밝히는 등불이 될 것입니다. 생물학은 영원히 다윈주의적일 것이라는 말입니다."-108


댓글(0) 먼댓글(0) 좋아요(27)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
챗GPT, 기회인가 위기인가 - GPT-4로 급변하는 미래 산업 트렌드 전망
서민준 외 지음 / 동아엠앤비 / 2023년 4월
평점 :
장바구니담기


유발 하라리가 '호모 데우스'를 출간했을 때, 나는 책을 읽지도 않고 미래는 인류 모두가 기계와 결합하여 신의 반열에 오를 것을 상상했다. 그리고 '호모 데우스'에서 그러한 미래를 예언했으리라 믿었다. 그러나, 유발 하라리는 일부는 '호모 데우스' , 일부는 '신이된 인간'이 되고, 일부는 신이되지 못할 것이라 예언했다. GPT를 처음 알게 되었을 때, 나는 '호모 데우스'라는 책을 떠올렸다. 인류의 미래에는 천년 왕국이 예약되어 있지 않다. 새로운 과제가 인류에게 던져졌다. GPT를 사용할 줄 아는 사람과 사용하지 못하는 사람 사이에 새로운 구분선이 생길 것이라는 예상이 머릿속을 스쳐지나갔다. 그래서 'GPT 위기인가, 기회인가'라는 책을 꺼내 들었다.

 

GPT가 출현하고 우리에게 던져준 충격파는 과히 대단하다. 미술분야로 진로를 결정했던 한 학생은 인공지능 프로그램이 자신보다 그림을 더 잘 그린다면 진로를 심각하게 고민했다. 소설, 시 등의 인간만이 할 수 있으리라 생각했던 창작의 영역도 인공지능이 수행할 수 있게 되었다. 서점가에는 챗GPT가 창작에 참여한 작품들이 쏟아져 나오기 시작했다. 그런데, 더 놀라운 현실은 챗GPT와 같은 '언어 모델의 능력은 '발견'이라는 용어를 사용할 정도로 새로운 생명체를 발견하고 특정을 알아가는 느낌'(79)이라고 저자가 말할 정도로 그 가능성이 무궁무진하고 "어떨 때는 무섭기도하다."는데 있다. 인공지능 개발자들이 6개월 동안만이라고 인공지능 개발을 멈추고 진지한 논의를 하자고 제안할 정도로 챗GPT 이후 우리는 인공지능이라는 광풍속을 고속으로 질주하고 있다.

폭풍처럼 몰아치는 인공지능의 발전을 인류가 막을 수 없다. 그 폭풍 속에서 생존하기 위해서 챗GPT를 활용할 줄 알아야 한다. 고 이어령 교수가 '말과 경쟁하려하지 말고, 말에 올라타라!'라고 말했듯이, GPT와 경쟁하려 하지 말고, GPT에 올라타서 챗GPT가 나의 말이 되게 해야한다.

그렇다면, GPT에 올라탈 수 있는 방법은 무엇일까? 책에서는 "어떤 일을 하건 인공지능이 대신할 수 없는 결정과 판단을 내리고 새로운 가치를 만들어 내는 역량을 갖도록 성장하는것"(136)을 주문한다. GPT가 사람이 아니기에 어떠한 결정에 법적 책임을 질 수 없다. GPT가 사람을 도와줄 수는 있으나 결정을 해서는 안된다. 결정은 인간이 해야만한다.

예를 들어 인공지능이 생성한 콘텐츠의 신뢰도와 정확성을 판단하고 인공지능이 작성한 초안을 바탕으로 더 좋은 콘텐츠를 내놓을 수 있어야 한다. 그리고 그러기 위해서는 챗GPT를 잘 활용하기 위해서 잘 질문하는 능력이 필요하다. GPT와 함께 일을 할 수 있는 '코파일럿 활용'능력이 필요하다. 이에 따라서 우리 교육도 잘 질문하는 능력과 코파일럿 활용 능력을 기를 수 있도록 해야한다.

장병택 교수는 인공지능 수준을 6단계로 나누었다. 그중 레벨5는 강인공지능이다. 인간처럼 학습하고 판단할 수 있는 인공지능이다. 레벨6은 초인공지능이다. 전세계 인류 지능의 총합을 뛰어 넘고, 스스로 자아를 갖고 발전한다. 이러한 특이점을 2045년으로 보았다. 초인공지능이 출현하며 인류는 기술이 기술을 발전시키는 시대를 맞이해야 한다.

생각만해도 끔찍한 초인공지능의 시대에 인간은 인공지능에게 사육당하며 행복한 삶을 살 수 있을까? 어떤이는 인간은 제3의 두뇌를 갖게 될 수도 있다고 말한다. 논리의 좌뇌와 감성의 우뇌에 이어서 정보제공과 데이터 분석을 담당하는 인공지능 두뇌 즉, 인공지능이 세번째 두뇌라는 것이다. 그렇게 된다면 인간의 지능을 대폭 향상시키기 위해서 트랜스휴먼화가 진행 될 수도 있다. 트랜스 휴먼이 초인공지능에 대항마일 수도 있다. 그러나 초인공지능을 탑재한 호모 데우스가 된 인류와 그렇지 못한 인류의 새로운 계급이 생겨날 수도 있다.

그러나, 초인공지능을 탑재한 호모 데우스와 그렇지 않은 인류의 대립을 논하기보다는 챗GPT로 대표되는 인공지능에 인류가 노예가 되지 않는 길을 먼저 고민하는 것이 먼저라 생각한다. 프로그램이 인공지능에 도달했는지 아닌지를 판별하는 것을 튜링 테스트라한다. 그런데, 인공지능은 역으로 인간을 테스트한다. 이른바 역튜링 테스트(Reverse Turing Test)가 이뤄진다.

 

"챗봇은 역튜링 테스트를 통해 면접관의 지능 수준에 따라 페르소나를 구성할 수 있고, 또한 판단 과정의 일부로 면접관의 의견을 페르소나에 통합하며 답변을 통해 면접관의 편견을 강화한다."-(30)

 

이 부분을 읽으며 소름이 돋았다. 인간이 챗봇을 테스트하고 이용하지만, 챗봇도 인간을 테스트하며 그들의 편견을 강화시키고 있었다. 인간을 돕기 위해서 만들어진 인공지능이 오히려 인간의 편견을 고착화시키고 인간의 정신을 황폐화시킬 수 있음을 유추할 수 있다. 이 책의 저자는 챗봇 엘리자를 만들었지만 인공지능 분야에 회의를 느끼고 떠난 바이첸바움의 책 '컴퓨터의 힘과 인간의 이성'이라는 책의 일부분을 이용한다.

 

"기계와 함께 하루하루를 살아가면서 스스로 노예가 되었다고 믿는 사람들이 인간이 기계라고 믿기 시작하는 것은 당연하다."-193

 

고된 창작의 작업을 겪지 않고 챗GPT를 활용해서 쉽게 쓰여진 소설들이 넘쳐난다면 자기 복제한 수많은 표절물들이 넘쳐나는 세상이 될 것이다. 창작의 영역에 챗GPT가 도움을 줄 수는 있지만, 어디까지나 챗GPT는 보조적 수단이어야 한다. GPT에게 모든 창작의 권한을 넘겨주는 순간, 인간은 스스로 노예가 되고 만다. 그러한 사람이 인간이 기계라고 믿는 것은 너무도 당연할 것이다. 그리고 그들은 챗GPT로 대표되는 인공지능의 노예가 될 것이다.

 

진정한 의미의 인공지능과 인간의 대결은 지금 시작되었다. 인공지능의 노예가 되지 않고 주인으로 인공지능을 부릴 수 있는 인간을 길러낼 방법을 우리 사회는 고민해야한다. 그리고 그 첫걸음은 최종 판단의 주체는 인간이며, 책임의 주체도 인간이라는 사실을 주지하고, 모든 창작의 최종 주체도 인간이 되어야함을 깨닫는데서 시작해야 한다.


댓글(0) 먼댓글(0) 좋아요(27)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
 
물고기는 존재하지 않는다 - 상실, 사랑 그리고 숨어 있는 삶의 질서에 관한 이야기
룰루 밀러 지음, 정지인 옮김 / 곰출판 / 2021년 12월
평점 :
장바구니담기


인어의 그림이 표지를 장식하고 있다. 몽환적 그림을 보며 과학 서적에 왜? 인어의 그림이 그려져 있는지 이해할 수 없었다. '물고기는 존재하지 않는다.'라는 제목도 이해할 수 없었다. 의문 투성이의 책에 쏟아진 찬사는 더욱 이해할 수 없었다. 이해되지 않는 책을 읽기 시작했다. 나에게는 친근하지 않은 데이비드 스타 조던이라는 낯선 과학자에 대한 소개와 룰루 밀러의 삶에 대한 이야기는 지루하기 그지 없었다. 그러나, 이러한 장벽을 넘어 책의 후반부에 접어들자 충격이 밀려왔다.

 

별에 관심이 많았던 데이비드 스타 조던은 별처럼 순수하고 아름다운 사람이 아니었다. 그는 출세를 위해서 수단과 방법을 가리지 않는 존재였다. 그가 가장 많이 사용한 스트리크닌을 사용해서 자신을 나락으로 떨어뜨리려 계획한 사람을 제거했다는 암시는 데이비드 스타 조던의 민낯을 보여준다. 그리고 룰루 밀러는 자신이 롤 모델로 삼으려했던 과학자의 민낯을 보고서 어떤 충격을 받았을까?

우리도 그러한 경험을 했다. 우리의 미래 먹거리를 책임지고 있는 자랑스러운 대한민국인으로 황우석 박사를 많은 한국인이 사랑했다. 그러나 TV 고발프로그램에 의해서 폭로된 그의 연구는 대국민 사기극이었다. 많은 대한 민국 사람이 허탈함을 느꼈다.

또한, 우리는 마하트마 간디를 성웅으로 기억한다. 그러나 간디는 성도착증이 있었다. 간디의 독립 투쟁방식은 영국이 상대하기 편한 비폭력 투쟁이었다. 수많은 인도 독립 투쟁가들 중에서 영국이 대하기 편한 상대이기에 그는 성웅으로 추앙받았고, 성웅이 되었다. 간디를 비판적으로 보는 사람들에게 간디는 이 책에 나오는 데이비드 스타 조던과 같은 존재일 것이다.

황우석과 간디, 그리고 데이비드 스타 조던이 우리에게 던진 메시지는 무엇일까? 개인을 신격화하지 말자! 그도 성웅이기 이전에 나약한 인간이다. 우리가 영웅으로 만들어 놓은 인물들을 신의 반열에 올려 놓고 숭배하는 순간, 그들의 추락은 시작된다.

데이비드 스타 조던과 같은 존재가 어디 인간에게만 해당될까? 어린 시절, 미국은 자유와 평화의 사도였다. 미국은 민주주의가 작동하는 세계적 모범국가였다. 이상화된 세계 초강대국에게도 데이비드 스타 조던의 그림자가 드리워졌다.

데이비드 스타 조던은 충격적인 신념을 당당히 표명한다. , '전 세계에서 인류의 '쇠퇴'를 예방할 유일한 방법은 이 '백치들'을 몰살하는 것'(181)이라고 강연을 했다. 그리고 정치인들에게 접촉하여 자신의 생각을 현실로 실현하도록 만들었다. 데이비드 스타 조던은 우생학을 신봉했다. 미국이라는 사회에서 열등한 존재로 찍힌자들은 수용소에 수용되어 강제 불임 수술을 당해야했다.

룰루 밀러는 데이비드 스타 조던이 '인류의 쇠퇴를 예방'하기 위해서 '백치들을 몰살'해야한다고 했던 주장을 실행하는 장소에 방문했다. 린치버그(센트럴 버지니아 훈련세터)에서 룰루 밀러는 말한다.

 

"이 황량하고 외딴 언덕이 우생학적 몰살의 진원이라 생각하니 오싹한 기분이 들었다. 우리가 이 나라의 정체성을 정의할 때 우리가 반대하는 것이라 간주하는 그 사고방식, 우리가 초등학생에게 나치, 다른 사람들, 나쁜 놈들에게서 시작되었다고 가르치는 바로 그 악행, 그것을 세계 최초로 국가 정책으로 삼은 나라가 바로 우리였다."-213

 

역사는 승자의 기록이다. 아니, 우리가 진실을 발견하려 노력하지 않는다면 역사는 승자의 기록이 될 수밖에 없다. 나치와 히틀러를 악마화해서 자신들이 저지른 악행에 면죄부를 얻으려는 존재들이 있다. 그러한 사람들은 독일에도 있으며 미국에도 있다. 우생학은 미국을 비롯한 여러 나라에 광범위하게 유행했다. 골턴이 쓴 '캔트세이워어 우생학 칼리지'라는 SF 소설 속 사회를 많은 사람들이 현실에서 만들고 만들고 싶어했다. 한예로 미국에서는 흑인에게 매독을 간염시키고 적절한 치료를 하지 않았다. 미국 앨리배마 주 터스키기(Tuskegee)에서 흑인에게 치료를 해준다고 속여 매독에 감염된 사람이 어떻게 죽어가는지 연구했다. 정부주도의 생체실험을 미국 정부가 인정하여 빌 클린턴이 사과하기도 했다. 악마는 우리 안에 있을 수 있다.

룰루 밀러가 만난 에나라는 여성은 인형을 가지고 다닌다. 인형에게 우유를 주고 살아있는 아이를 대하듯이 인형을 대한다. 버스 안에서 주변의 시선에 아랑곳하지 않고 인형아기를 살아있는 자녀로 대한다.

에나라는 여성을 보면서 일본군 '위안부' 피해 할머니가 생각났다. '나는 위안부가 아니다.'라는 책에 실려 있는 어느 일본군 '위안부' 피해 할머니는 인형을 자신의 아이로 생각하며 생활한다. 아이에게 우유를 주고 재워주고 함께 잠이 든다.

아이를 갖길 원하는 여인의 꿈이 국가 폭력에 의해서 산산히 짖밟혔다. 애나와 일본군 '위안부' 피해 할머니를 그 고통속에서 누가 해방시켜줄 수 있는가? 최신 과학이라는 포장에 많은 정치인들이 동의했다. 그리고 수많은 희생자를 낳았다. 그들이 생각하는 '열등한' 존재는 바로 유색인종, 사회적 약자, 사회적 주류 세력의 상식에서 벗어난 존재들이었다. 그들이 없어진다면 사회는 인류의 쇠퇴를 막고 번영을 누릴 것이라 믿었다. 그러나, 다윈은 그렇게 생각하지 않았다.

골턴은 다윈의 '진화론'에서 우생학의 영감을 얻었다. 그런데, 정작 다윈은 우생학에 동의하지 않았다. '나투라 논 파싯 살툼(Natura non facit saltum)' , "자연은 비약하지 않는다."고 다윈은 말했다. 존재하는 생물의 그 어마어마한 범위 그 자체가 이 세상에서 존재하고 번성하는데 무한한 방식이 존재한다는 증거라고 룰루 밀러는 말한다. '계층의 사다리는 없다.' 자연에도 인간 세상에도 그러한 사다리는 없다!!

그런데, ? 책의 제목이 '물고기는 존재하지 않는다.'일까? 룰루 밀러는 데이비드 스타 조던을 조사하면서 새로운 깨달음을 얻는다. 그것이 바로 어류는 존재하지 않는다는 사실이다. , 연어, 폐어 중에서 나머지 둘과 다른 하나는 소가 아니라 연어이다. 폐어와 소는 둘 다 후두개가 있으며 폐어의 심장은 연어의 심장보다 소의 심장과 구조가 더 비슷하다. 물고기의 비늘을 한꺼풀 벗겨내면 물고기를 같은 어류로 분류할 수 없다는 진실을 마주한다. 그렇다. 어류는 존재하지 않는다.

우리 인간 세상도 마찬가지다. 인간은 '언어적 거세'를 행한다. 인간이 정상의 자리에 머물기 위해서 단어를 발명한다. 그리고 동물들의 중요성을 박탈한다. 인간이 발명한 언어는 인간 세상을 새롭게 범주화하고 편을 가른다. 흑인, 백인, 황인종으로 인간을 구분할 수 없음에도 불구하고 인종을 나누고 우월한 인종과 열등한 인종으로 편을 가른다. 그리고 거세된 언어를 통해서 인간의 가져야할 인간성을 거세한다.

그래서였을까? 선불교에서는 불립문자(不立文字)라했다. 말이 가지고 있는 형식과 틀에 얽매여 진실을 보지 못하는 우매한 중생을 위해서 '불립문자'를 외쳤다. 하이데거가 '언어는 존재의 집'이라고 말했다. 그런데, 그 언어가 언어를 사용하는 사람의 사유를 지배하고 삶을 지배한다. 세상을 자연 그대로 보지 못하고 언어의 틀에 얽매여 세상을 바라보고 세상을 왜곡한다. 결국은 언어가 존재를 위협한다. 룰루 밀러는 우리의 삶을 옥좨는 언어로부터 해방되어 선불교의 불립문자(不立文字)라는 진리를 깨달았다.

 

책장을 덮었다. 사랑스런 딸에게 다가가 물었다. , 연어, 폐어 중에서 나머지 둘과 다른 하나가 무엇인지 아니? 그러자 딸은 용감하게 '연어!'라고 외쳤다. 놀란 나는 다시 물었다. '물고기는 존재하니?' 딸은 미소를 지으며 외쳤다. '없어!' ! 뿔싸!! 딸은 지난 겨울에 '물고기는 존재하지 않는다'를 읽었다. 딸이 대견해보였다. 그리고 책에 대해서 대화를 나누었다. 언어라는 격자를 만든 것은 인간이지만, 세계를 바로 보기 위해서 이제는 언어로부터 해방되어야한다는 말을 딸에게 해주고 싶었다.

 


댓글(2) 먼댓글(0) 좋아요(32)
좋아요
북마크하기찜하기 thankstoThanksTo
 
 
기억의집 2023-06-18 12:07   좋아요 1 | 댓글달기 | URL
저는 예전에 콜드케이스라는 미드에서 처음으로 미국의 저런 정책을 다룬 에피소드가 있었어요. 지능이 낮은 여자들에게 강제 불임을 시켰던 에피소드인데.. 그때 그 거 보고 너무 충격 먹어서 아직도 기억하고 있고 이 책 읽으면서 그 콜드케이스의 그 장면들과 오버랩 되면서 이 책 마지막 읽으면서 울게 만들더라고요. 미국의 비인권적이고 차별적인 그리고권위적인 행정부나 사회 전반의 승자독식의 역사를 찾아낸 작가의 글이 인상적이었어요

강나루 2023-06-18 13:21   좋아요 0 | URL
아우슈비츠와 731부대에서 생체 실험이 있었죠. 우생학의 어둠은 쉽게 사라지지 않았다는 사실이 충격적이었어요.
 
처음 처음 | 이전 이전 | 1 | 2 | 3 | 4 |다음 다음 | 마지막 마지막