※ 이 단상은 프린스턴, 뮌헨대학 객원교수로 활동했던 독일 철학자 한스 요나스의 『책임의 원칙: 기술 시대의 생태학적 윤리』, 제2장, 미래 윤리에 있어서의 「토대와 방법의 문제」의 몇 절을 기초로 필자의 현실 自省의 생각이 더해져 작성된 것입니다. 선과 당위 등 존재론적 물음을 비롯해 도구의 목적성이 지니는 윤리성 등, 사유를 더 이어가시고자 분은 원(原)저작을 참고하시기 바랍니다. 한스 요나스는 전통적 윤리는 대체로 ‘행위자–행위–피해자’가 가까운 시간과 공간 안에 존재한다는 것을 전제하는 데 비해, 생명공학, AI, 유전자 편집, 자율 시스템 등 기술은 현재의 행위가 아직 존재하지 않는 사람, 존재할지도 모르는 인간의 조건, 심지어 인간이라는 종 자체에 영향을 미칠 수 있다는 점에서 요나스가 윤리의 시간적 지평을 미래로 확장했습니다. 즉 미래의 인간을 위해 현재의 행위를 규율할 당위에 대해 윤리적 검토를 감행하고 있습니다. 현대 기술 윤리에 대한 문명 비판의 성격을 지닌 새로운 선도적 윤리의 길을 개척한 압권이라 할 수 있는 저술이라 하고 싶습니다.
..................................................................
"기술적 힘이 미래에 미칠 수 있는 영향만큼 책임의 범위도 미래로 확장되어야 한다."
‘미래 윤리’라는 말은 현재라는 사건에 얽매여있는 오늘의 전통적 윤리로는 인간과 인간사회의 도덕을 더 이상 담보할 수 없기에 출현한 윤리의 이름이다. 오늘의 세계에서 진행되는 기술들의 후과(後果)는 지금까지의 그 어떤 기술들과 달리 훨씬 장기간에 걸친 직접적이고도 치명적인 결과를 내재하고 있다. 이를테면 현대 기술은 인간생명 조건의 변형을 통한 종(種) 자체의 변화, 인간 삶의 의식에 대한 중대한 가치의 변화, 지식 생산과 그 실천적 수행의 기계로의 이전과 의존 등 인간의 본질과 삶의 형태에 대한 근본적 수정 또는 종말을 품고 있다. 이것은 근(近)미래이거나 먼 미래에 이르는 인류에 대한 위협을 가할 기술적 수행이 인류의 본질을 건드리는 근원(根源)성을 지니고 있음에도, 특히 인류 전체에 대한 인간상(像)을 위협할 수 있음에도 단지 상업적 이익과 장밋빛 기술의 낭만적 이점만을 내세우며 거침없이 나가고 있다.
사실 이러한 현대기술 사업에 대한 우려는 많은 학자들에 의해 도덕적, 종말론적 위기로 표현(*4.부기 참조)되어 왔기에 새삼스러운 지적은 아닐 것이다. 그럼에도 불구하고 이러한 경고의 외침들은 그저 지나가는 개가 짖는 소리처럼 개인 자신들과는 동떨어진 머나먼 나라의 일이거나 자신이 존재하지도 않을 미래에 대한 언어이기에 전혀 어떤 공포도 일으키지 않으니, 제아무리 전지구적 규모의 심각한 위협일지언정 아무런 도덕적 의무도, 책임감도 느끼지 못한다. 이 지점에서 철학자 한스 요나스는 미래 윤리를 주창하면서 첫 번째 명령을 도출하는 가운데 ‘공포의 발견술(Die Heuristik der Angst)’ 이라는 인간본성의 취약점을 건드림으로써 하나의 윤리 명령을 도출해낸다. 이것은 우리와 우리의 이웃들에게 어떻게 개인의 삶과 관련 없어 보이는 이 미래에 대한 문제들을 자신의 현재적 삶의 중요 문제로 인식하게 할 수 있는가의 방편으로 소개하고 싶어진 것이다.
1. 공포의 발견술: 도덕관념의 발원(發源)
요나스의 진술을 대강 옮겨보면 다음과 같다. ‘살인하지 말라‘는 도덕적 명령을 인간은 어떻게 떠올렸을까? 아마 인간에게 살인의 능력이 있었으며, 또한 이 행위 능력을 통해 타인을 살해하는 경우가 비일비재하게 발생했기 때문이었을 것이다. 즉 살인이 없었다면 인류는 생명의 신성함은 물론 살인 금지 명령은 생각하지도 못했을 것이다. 마찬가지로 거짓이 없었다면 진실의 가치를 알 수 없었을 것이고, 부자유가 없었다면 자유를 알지도 못했을 것이다. 이처럼 인간은 침해사실을 가시화할 수 있어야지만 어떤 윤리 명령, 즉 도덕적 의무를 생각하게 되고, 이런 일을 자신들이 당하지 않고 보호될 수 있기 위해 윤리개념을 발전시킨다. 이를 뒤집어 말하면 인간은 위협이 알려지지 않는 한 무엇을 왜 보호해야 하는지 알지 못하는 존재라는 것이다. 때문에 이렇게 말 할 수 있다. 인간의 도덕이란 것은 무언가에 대해 경악하는가에서 발원(發源)하는 것이라 할 수 있다.
이 생각을 조금 더 이어가보자. 우리는 질병을 보지 않고서는 건강에 대한 찬가를 읊을 수 없으며, 파렴치한 행위를 보지 않고서는 진실을 찬양하는 데 미숙하다. 전쟁의 참화를 겪지 않고서 평화를 찬양하는 것도 심히 의심스럽기는 마찬가지다. 실제 자기 삶의 지속 가능성에 대한 직접적 체감의 실체로 다가오지 않는 한 인간은 위협을 감지하는 데 몹시 서툴다. 이와 마찬가지로 우리에게는 악(惡,malum)의 인식이 선(善,bonum)의 인식보다 무한히 쉽다. 악의 인식은 더 직접적이며 설득력 있고 의견의 차이에 별로 시달리지 않으며, 무엇보다 가식적이지 않다. 반면 선은 눈에 띄지 않게 존재하며 반성하지 않으면 인식되는 것이 아니기에, 어떤 계기로 인해 그것이 비로소 노출되어서야 감지한다. 즉 선에 관해서는 대체로 악의 우회로를 통해 확실성을 확보하게 된다. 여기서 우리들은 하나의 결론을 내릴 수 있다. 우리가 무엇을 보호해야 하는가를 알아내기 위해서 우리의 윤리 도덕관념은 희망이나 선보다는 공포와 악을 논의의 대상으로 삼아야 비로소 가능하다는 것이다. 즉 공포의 발견술은 우리가 윤리명령을 획득하는 하나의 방편인 것이다.
2. 신중성의 도덕적 명령 : 思惟의 의무로서의 도덕
우리가 오늘날 당면한 기술들은 훗날의 결과를 추론을 통해서만 인식해야만 하는 고도의 어려움이 있다. 미래의 발명품을 미리 발명할 수 없다는 예측 불가능성이 인간의 본질적 탐구 불가능성을 말해주고 있다. 이 같은 기술의 미래 불확실성에도 불구하고 치명적일 수 있는 기술 행위가 지속된다면 우리와 우리들의 직접적 후손은 물론 미래의 세대들에게 미칠 효과에 대해 우리는 어떤 명령을 할 수 있을까?
현대기술의 대사업은 자연적 발전 과정의 수많은 작은 행보들을 소수의 거대한 행보로 응축시킴으로써 천천히 움직이는 자연의 생명(즉 진화의 긴 여정)을 보장하는 이점을 포기한다. 그러므로 생명의 조직에 대한 기술적 침해가 가지는 인과적 속도는 마찬가지로 인과적 규모를 야기한다, 그 침해의 파급속도와 규모가 엄청날 것이라는 것, 혹은 결정적 파국의 초래일 수 있음에도, 이성에 대한 믿음을 토대로 하여 즉각적으로 작용하는 의도적 계획으로 대체하지도 못하고, 인간에게 진화적 성공에 대한 확실한 전망을 제공하지 못하면서 인간에 대한 기술적 침해의 속도는 지금까지와는 전혀 다른 불안과 위험을 산출하고 있다. 이것은 다시 말해 현대기술들이 선전하는 위대한 목표에 이르는 시간의 축소에 비례하여 완전히 회피불가능하고 더 이상 작지도 않은 오류들을 수정할 수 있는 시간을 허용하지도 않는다. 오류의 불가피성에 관한한 우리가 자연적 진화의 장기성을 인간적 계획 행위의 상대적 단기성으로 대체하면서 간과해서는 안 될 사실들이 매우 급속하게 인간을 침범하고 있는 것이다.
기술론적 행위에 의해 근거리 목표를 가지고 그때그때마다 진행되었던 발전들은 스스로 자율화하려는 경향을 가지고 있다는 사실은 그간의 학문 경험을 통해 잘 알려져 있다. 즉 ‘기술적 발전은 자신의 고유한 강제적 역동성을 띠는 경향을 가지고 있다’는 점이다. 바로 이 자동적 동인(動因)으로 인해 기술적 발전은 비환원적일 뿐 아니라, 자체 추진력을 가지고 행위 하는 사람들의 의욕과 계획을 뛰어넘기도 한다. 한 번 시작된 것은 우리에게 행위 법칙을 빼앗아가고, 시작이 만들어 놓은 완성된 사실은 점증적으로 계속되어야 한다는 ‘영속성의 법칙’이 된다. 이것은 근현대 3세기동안 기술 발전의 경험이 우리에게 알려준 사실들이다. 기술적으로 추진되는 발전의 가속화는 자기 수정의 여유를 허용하지 않는다. 따라서 우리에게 남겨진 시간에도 수정은 어려워지며, 그럴 수 있는 자유 또한 극도로 작아진다.
지금의 인공지능 기술을 비롯한 생체기술, 로봇기술 등은 오직 산업의 경제적 합리성의 잣대와 산업국가 간의 헤게모니 쟁탈에 매몰되어 기술 정당화의 의무가 면제된 채 자유주의 관점으로 천명된 무책임성이 마치 인류의 운명을 좌우할 수 있다는 듯 행위하고 있다. 세상에 전체 인류가 이처럼 산업기술의 무책임성에 동시에 맡겨진 적이 없다. 인류를 이끌어갈 지도적 표본의 규정 없이 대체 그 어떤 권위가 인간의 본질과 존재의 충분성에 칼을 댈 수 있다는 것일까? 대체 누가 인간의 왜곡과 위협과 변형의 권한을 주었는가? 지금으로서는 그 어떤 이익의 전망도 희생의 위험도 이러한 행태를 정당화할 수 없다. 마치 작금의 기술과 기술자본은 초월적 권능을 가지기라도 했다는 듯 자신들의 기술론적 연금술의 도가니에 인류를 던져 넣는 위험한 시도를 하고 있다. 여기서 우리는 미래 윤리의 명령을 또 하나 도출해 낼 수 있다. 인간사회가 우선성을 부여하는(작금의 한국 정부의 AI 우선 정책과 같은 것) 최초의 시작들에 주의력을 기울여야 한다는 도덕적 의무이다. 그것은 우리 스스로 합당한 공포를 가지게끔 독려하는 것으로써의 의무와 신중성의 의무이다. 이것이 우리에게 부과된 ‘사유(思惟) 의무’라는 도덕이다.
3. 맺음말: 경험되지 않은 대상의 문제
참으로 오늘의 세계에서 그 의미의 힘이 한없이 취약해지고 잊혀져가는 단어가 있다. 바로 ‘의무’라는 말이다. 그래서 이 말이 보존되지 않은 바로 오늘, 이를 구하는 것이 의무가 된다. 과거와 현재의 그 어떤 경험도 비교될 수 있는 유사성을 전혀 가지고 있지 않은 인간상(像)을 문제로 하고 있기 때문이다. 그런데 아직 실현되지 않은, 존재하지 않는 악을 위해서 우리는 경험된 악 대신에 ‘표상(表象)된 악’을 만들어내야 한다. 앞서 언급했듯 우리는 악과 공포의 침해를 눈으로 볼 수 있는, 즉 체감할 수 있는 것이어야 비로소 윤리 명령의 요구를 하기 때문이다. 그런데 이 표상은 저절로 생기는 것이 아니기에 우리는 의도적으로 조성해야 한다. 이렇게 표상을 미리 생각하여 제공하는 것을 미래 윤리가 갖는 예비적 의무라고 이름붙일 수 있을 것이다.
표상된 악은 내 자신의 것이 아니기에 내 자신을 위협하는 경험된 악과 같은 자발적 의미에서 공포를 불러일으키지 않는다. 즉 대상에 대한 공포는 그 많은 위협의 경고에도 불구하고 일어나지 않듯, 결코 자신의 위험으로 여겨지지 않는다. 홉스는 폭력적 죽음에 대한 공포를 도덕의 출발점으로 삼았다. 우리 본성에 주어져 있는 자기보존 욕망에 대한 가장 비자의적이고 억압적인 반동으로써 극단적 공포를 유발한다. 자기에게 관련이 없을 뿐만 아니라 직접적 공동 생활의 유대로 결합된 다른 어떤 사람과도 상관이 없는 지구의 운명은 차치하고라도, 미래 인간에 관해 표상된 운명은 자체로부터 우리의 심정에 영향을 주지 못한다. 그렇기에 우리는 이 영향을 표상된 악의 제작을 통해서라도 영향을 받아야만 하는 것이다. 이러한 태도의 수용, 후세대의 행복과 불행에 대한 사유를 통해 자신이 촉발되도록 스스로 준비하는 태도가 미래 윤리이다. 우리는 스스로 합당한 공포를 가지게끔 독려해야만 하는 것이다.
이로부터 많은 도덕적 창발의 문제가 발생할 것이다. 인간이 미래에도 과연 존재 당위의 권한이 있는가? 현재가 존재하지도 않는 미래라는 장기에 발생할 후과에 대해 책임을 왜 가지는가? 나는 다른 사람의 이해관계를 도박에 걸어도 되는가? 나는 타인의 이해관계 전체를 위험에 빠뜨릴 권한을 대체 어디서 획득했는가? 인간의 실존이 내기의 담보가 될 수 있는가? 다시 말해 인류가 실존해야할 무조건적 의무라는 것이 과연 존립 가능한 윤리명령인가? 이러한 논증들을 사유해 보는 시간을 가져야 할 시간이다.
우리는 어떤 결정의 순간에 구원의 예측이라는 낙관적 기대보다는 불행의 예측을 더욱 중시해야 하는 시점에 도달해 있다. 현재의 우리들이 알고 있는 윤리원칙만으로는 이미 접하고 있는 인간 존재에 대한 실존적 물음을 내포하고 있는 기술들의 전혀 다른 새로운 시대에 대한 윤리를 요구하고 있다. 어떤 세력이 현재에서 미래를 대변하고 있는지 생각해 보았는가? 집단적이고 누적적인 지금의 기술 행위들은 그 대상과 규모에서 완전히 새로운 종류의 것이며, 그것은 모든 직접적 의도와 무관한 결과에 따르며 전혀 중립적이지도 않다. 때문에 이러한 사실로부터 ‘윤리적 진공 상태’에 이른 지금의 우리들은 이러한 세계가 던지는 물음들에 대답을 구하기 위해서라도 새로운 윤리 명령을 구할 필요가 더욱 요구되는 것이다.
오늘날 소유하고 있으며 계속해서 확대하고 사용을 강제 받고 있는 극단적 힘들을 제어할 수 있는 윤리가 없다. 인간을 가장 철저하게 파괴할 수 있는 이러한 힘들에 대해 규율할 수 있는 윤리를 지니지 못한다면 우리는 고작 장기적 결과의 불확실성이라는 위로만을 쓰다듬으며 책임을 방기하는 가장 악질의 인간들이 살던 시대로 기억될지도 모르겠다. 새로운 종류의 행위 능력을 가진 작금의 기술들은 윤리의 새로운 규칙을 요구한다. 그 새로운 미래 윤리에 대한 사유가 반세기 전에 한 위대한 철학자에 의해 검토되었음에 위안을 받기에는 너무도 이에 대한 논의가 미약하다.
4. 부기(附記) - 더 읽어 볼 현대 기술의 미래 윤리를 체계화한 글들
요나스는 현대 기술들은 생명의 지속 가능성을 보존해야 한다는 점에 역점을 두고 있는데 비해, 닉 보스트롬(Nick Bostrom)은 『Superintelligence: paths, dangers, strategies』 (2014년)에서 인류의 실존적 위험이라는 개념에 중점을 두고, 인류의 장기적 생존 가능성을 보존해야 한다고, 인류문명의 장기적 잠재력의 돌이킬 수 없는 파괴에 초점을 맞추고 있다. 이러한 다소의 차이에도 불구하고 두 사람은 공히 인류가 미래에도 살아남을 확률을 어떻게 높일 수 있는가라는 최고명령을 위한 윤리라는 측면에서 유사하다.
반면 인간을 더 이상 생물학적 개체로 보지 않고 정보적 존재로 보는 루치아노 플로리디(Luciano Floridi) 같은 사람도 있다. 그는 『The Ethics of Biomedical Big Data』에서 인간을 계산 가능한 정보 객체로 본다. 이러한 인물에게는 윤리라는 것이 더는 존재할 이유가 없을 것이다. 즉 인간을 평균적인 통계적, 집단적 형상으로 환원해서 기계적 존재로 변질시킨다. 정치철학자 마사 누스바움(Martha Nussbaum)도 『역량의 창조(Creating Capabilities: The Human Development Approach)』 (2013년)에서 ‘미래 인간이 인간다운 삶을 살 수 있는 능력을 보존해야 한다.’며 인간의 실존을 중시하지만 요나스와는 달리 단순 생존이 아니라 신체의 온전성, 사고와 상상, 자율적 선택, 정치적 참여와 같은 인간다운 삶을 가능하게 하는 조건을 중시하고 있다.
다시 말해 그녀는 미래 윤리는 안전성만이 아니라 ‘인간 능력 보존의 문제’를 최대 과제로 삼고 있다. 결국 인간을 능력면에서 존속을 말하는 것과 인간 생명체 자체의 실존은 같은 것이 아니다. 아무튼 이 철학자는 모호한 경계선을 주행한다. 그런데 요나스의 장기주의적 윤리를 더욱 밀고나가서 극단적 장기주의 윤리를 내세우는 일군의 학자들도 있는데, 요나스의 책임의 윤리와 다르게 이들은 현재의 몇 십만 명의 희생보다 미래의 수십 억 명을 구하는 것이 중요하다는 극단성을 띠기도 한다.
이것은 아직 존재하지도 않는 인간을 위해 현재 존재하는 인간을 희생시키는 괴이한 윤리이다. 즉 기술 종속의 과대망상에 가까운 기술 성공주의의 역설적 윤리파괴를 잠재한 위험한 윤리로 보인다. 따라서 맥어스킬이나 보스트롬 같은 장기주의자들과 요나스의 책임윤리는 엄격히 다른 것임에 주의해야 한다. 여전히 한국사회에는 이러한 미래 기술과 관련한 윤리 담론이 형성조차 되지못하고 있기에 문제 제기 차원에서 짧은 단상을 해보았다. 아무쪼록 우리에게는 새로운 윤리가 필요하다. 단기적 현실과제에 매몰되는 우리들의 실용주의적 정치체(政治体)는 이를 해결할 능력이 없다. 많이 늦었지만 윤리학자, 철학자들이 나서야 할 때이다.
