이중국적 앨피

처음 소개엔 수입엘피라더니 마지막에 79년 오아시스레코드...@,@;

‘포스트‘라는 용어를 어떻게 받아들이고 있을까?

포스트휴먼이 몰려온다 - AI 시대, 다시 인간의 길을 여는 키워드 8
신상규 외 지음 / 아카넷 / 2020년 2월

이 글에는 스포일러가 포함되어 있습니다.

'포스트 휴먼'을 정확하게 정의 하려면 '트랜스 휴먼'이 우선 정의 되어야 한다. 트랜스 휴먼은 쉽게 생각하면 '사이보그'를 떠올리면 된다. 오래전 공상과학 영화에서 인간의 신체와 장기를 기계로 대치하는 상상에서 시작하여 인식조차 '기계-컴이나 네트워크-속에 저장시키는 그러니까 인격은 있되 인격을 종속시키는 몸이 사라진 최근의 상태까지 상상력이 전개된 상태의 인간을 트랜스 휴먼이라 부른다. 포스트 휴먼은 좁게는 인간을 대체하는 종류의 것-인공지능이나 인공지능을 이용한 기계류-을 의미하고 넓게는 상호의존적인 '인간-기계(물질) 관계'를 의미한다.

트랜스 휴먼이 인간의 우월-열등을 기반으로 하는 사고라면 포스트 휴먼은 '인간-기계의 대체'를 기반으로 하는 사고이다. 후자에서 '인격'의 기존 정의는 당연히 흔들리게 되어 있다. 아니 물질의 정의가 흔들리는 것 일수도 있다. 라트루의 'ANT'가 이러한 흐름을 반영한 것인지 이러한 흐름이 라투르에게 영향을 준 것인지는 잘 모르겠다.

하여간 '인간'이란 정의가 바뀔 수도 있다고 보는 사람이 들어나고 있다.

(빼먹은 게 있다. 작년에 서울시청도서관에서 기획했던 강좌를 신청해 놓고는 매번 빼먹어서 단 한 번도 못 갔다. 이 책은 그 강좌를 엮은 책이다)

1장 '3만 년 만에 만나는 낯선 지능'을 봤다. 포스트 휴면 또는 인공 지능에 대한 (공상과학 영화나 디스포피아주의자에서 유래하는) 오해를 지우고 시작하기에 좋은 내용이다. 인공지능이란 말이 의미하듯 '인간'의 개입 없이 스스로 행동-사고하는 지능이란 개념 자체가 현재부터 먼 미래까지는 과잉 오류라는 설명이 차분하게 쓰여져 있다.

하지만 단점도 있다. 전부터 농반진반으로 소위 '지식인이라고 수수로 생각하는 사람은 최소한 경제학사와 정치경제학 정도는 공부를 해서 역사적 사건의 배경을 다양하게 보는 시각을 가져야 한다'고 하곤 했다. 12세기 이후 '휴머니스트' 또는 '휴머니즘'이 등장하는 배경에 경제 구조의 변동이 초래한 계급적 변화가 자리하고 있다는 사실에 대한 언급-이 언급은 인공지능의 경제적 배경에 대한 이해를 가능하게 해두는 출발점이다. 즉 인공지능은 엄청난 자본이 투여되어 만들어진다. 왜 그 돈을 쓸까? 하는 궁금증이 이해의 시작이여야 한다-이 약하다. 결국 맺음말에서 스털링의 SF소설을 빌려 분화된 인간종이 공통의 '윤리 관념'을 가진다는 스타워즈적 실수를 하게 만든다. 관념은 의식의 산물이 아니라 구조의 산물이다. 각각으로 분화된 종은 각기 다른 구조를 형성해야만 한다. 이에 따라 관념도 각기 달라야만 한다

2장인 '인간에서 초인으로? 기계가 된 인간'은 좀 실망스러운 이야기로 가득하다.

일부 철학자들은 '감각'의 진실성과 우위성을 믿으며 감각 만이 사실이다라고 주장했다. 유물론적 사고방식이든 아니든 그들은 '실재하는 것' 말고는 사고의 원천을 찾을 수 없다는 주장을 한 셈이다. 이런 주장이 극단적으로 나아가면 '회의주의'가 나타나게 된다.

2장의 대화자인 이영의의 주장은 (포스트휴먼이라기보다는) 트랜스휴먼과 강한 인공지능의 도래에 바탕하고 있으며 반드시 다가올 미래-현재 진행형이라고 보기도 한다-이기 때문에 이로 인해 변전 될 인간에 대한 정의를 생각해보고 새로운 상을 만드는 일을 해야 한다는 주장을 하고 있다. 이 때 인간이 실체적인 몸(공각기동대를 빌어 '의체'라는 표현을 쓴다)을 필요로 하는 경우와 (론머맨의 예를 들어) 물질적 몸 대신 네트워크를 몸으로 쓰는 경우 등등을 이야기한다.

그에게 이러한 새로운 패러다임 또는 규정이 필요한 이유는 그것이 이미 도래한 미래이기 때문이다. 여기서 강한 인공지능이나 트랜스 휴먼은 어떻게 생겨나게 될까? 누군가가 '튜링 테스트'를 통과하는 프로그램을 만들고 누군가가 의지로 또는 불가항력적으로 인간의 몸을 사이보그화하기 때문일까?

글쓴이는 그렇게 본다. 문제가 뭘까? 결과를 가지고 원인이라 주장하는 것 같은 이러한 주장의 '원인'은 무얼까? 그것은 의외로 간단하다. 강한 인공지능이나 트랜스 휴먼의 개발은 개인의 필요나 의지가 아니라 자본이 투여된 결과물이라는 것을 일차적으로 망각하고, 이차적으로는 자본을 무생물이나 의지가 있는 것으로 보기 때문이다. 자본은 '의인화된 무엇'이 아니다. 자본은 '물질화된 인간의 욕구'이다.

결국 트랜스 휴먼이나 강한 인공지능은 자본의 초집중화의 비극적 결과물-소수의 사람들만 자본에 가치를 부여하는 사람이고 대다수는 자원의 구실도 못하는 사회가 그 결과물이다-이 구체화되는 결과물이다.

3장은 김애령의 '인공자궁 재생산 기술로 태어나는 인간'이다.

출산이 혈연 관계의 지속이나 생물학적 본성의 구현을 넘어서는 지점이 바로 출산을 '재생산'이라는 용어로 대치하기 시작하는 지점이다.

3장은 전체적인 책의 구성에서 어긋나 있는 내용으로 보인다. 그러나 '포스트 휴먼' 또는 인간 규정의 재설정 국면에서 반드시 물어야만 하는 질문을 담고 있는 글이다. 인간이 '인적 자원'으로 불리기 시작한 이후 인적 자원의 의무에는 노동을 위한 건강한 육체의 능력의 재생산을 시작으로 이어지는 노동을 위한 인적 자원의 재생산까지 포함되게 되었다. 인간이 이렇게 규정되면서 '출산'은 불가피하거나 피할 수 있다면 피해야 하는 일인 동시에 체계의 유지를 위해 반드시 행해져야만 하는 일이 되어 버렸다.

이후 인간의 상상력은 유전자 복제에 의한 배양기 같은 생각까지 이어지면서 '임신 출산의 해방'이라는 테마와 재생산의 달성이라는 테마를 자연스럽게 연결시켰다. 물론 이런 기술은 아직은 없다. 앞으로도 없어야 한다. 있게 된다면 유전자 조작 기술이 개입되어서 노동하기 위한 기능만을 가진 생명까지도 만들게 되는 상황이 벌어질 수도 있으니 말이다.

하여간 필자는 이런 황당한 이야기를 하는 대신 대리모의 문제를 가지고 그의 자궁을 일종의 인공자궁이라 가정하고 이야기를 전개한다. 이러한 인공자궁은 재생산 기술이 적용되는 산업이 되어서 결국 출산이 산업의 필요에 따라 행해지는 일이 되고 결국 디스토피아 영화 속의 배양 기술과도 같은 의미를 임신과 출산에 부여하게 되는 결과를 낳게 된다고 말한다.

인간이란 무엇인가 라고 직설적으로 묻는 것은 아니나 직접적인 의문을 떠올리게 만드는 글이다. 앞의 두개의 장과 이어지는 장들에서 다루게 될 '인간'이란 어때야 하는가 또는 무엇이 인간이게 만드는가에 대해 의혹을 가지고 책을 보라는 의도로 배치된 장으로 생각하기로 했다.

4장은 신상규의 '소셜로봇 로봇과의 사랑? 관계의 재구성'이다.

이번 챕터는 무시하기 곤란한 질문으로 시작된다. 대립되는 것도 아니고 상보적인 것도 아닌 요소들을 내세워 이야기를 전개한다. 우리가 동물의 권리를 주장하는 것은 동물이 고통 속에 있기 때문이지 동물들이 도덕(윤리)적 권리를 주장할 수 있는 엄연한 실체이기 때문이 아니다.

어떤 대상이든 따지지 않고 그 대상에게 '도덕'이나 '윤리'의 규정을 부과하려면, 그 대상이 인지작용과 이성작용을 하는 것이어야 하는 게 아닐 어떤 도덕이나 윤리가 통용되는 집단에 속하겠다는 '욕구'가 전제되어야 한다. 물론 인간이기 때문에 그런 욕구가 전혀 없는 이들에게도 도덕은 강제된다. 그럼에도 이를 거부하면 소시오패스 또는 사이코패스라 부르면서 그들에게는 '도덕 관념' 따위는 없다고 평가하면서도 인간의 도덕률에 따라 처벌한다. 그들이 인간이기 때문에 말이다.

로봇 (또는 인공지능)에게 어떤 '욕구'가 있을까? 영화 '바이샌테니얼 맨'에서처럼 사랑을 느끼고 사랑하고 깊다고 생각하는 로봇이 나온다면, 즉 스스로의 욕구에 따라 행동하고 생각하는 개체가 있다면, 우리에게 아무리 어색해도 그 개체는 도덕률을 지키겠다는 욕구를 이미 가지고 있는 것이다. 우리의 인정 여부는 의미가 없어진다. 과연 그런 로봇을 누가 만들까? 만들 수나 있을까? 섹스봇이 부부의 성관계 또는 부부 관계를 대신하는 세상이 되었다고 해서 섹스 파트너인 로봇이 느끼는 욕구가 (있을까?) 도덕을 적용하기에 타당한 자격을 갖게 만들까?

하여간 이전엔 없었던 새로운 '관계'가 만들어진다. 반려동물에게 가족으로서의 감정을 느낀다고 해서 주변 사람들이 그 반려동물을 도덕이 적용되는 하나의 객체로 인정해야 하는 것일까? 나에게 한번도 '안녕하세요' 하고 인사하지도 않는 동물에게 말이다.

교감을 나누는 일이 발생한다고 해서, 영화 허에선 인공지능이 욕구를 가지게 되더라, 대상인 로봇이나 인공지능의 욕구가 일반적인 도덕률을 적용하기에 타당하다는 주장에 공감할 수 있을까? 물론 새로운 역할 또는 기능을 하는 물질에게서 우리는 영향을 받고 우리의 마음과 의식이 변하고 일정 부분 동화의 가능성도 얼마든지 있을 수 있다. 과연 그게 동화이기는 할까? 차라리 '해석의 오류'이거나 '인지의 오류'이거나 '감각해석의 오류'라 부르는 게 타당하지 않을까?

필자인 신상규의 주장이 받아들여지려면 그가 주장하는 '도덕'이란 게 '결의론'에 기반한 만들어진 도덕을 본래 있던 것이라 착각하는 일이 벌어져야 한다.

우리는 왜 이런 착각을 하려는 '욕구'를 가져야만 하는 것일까? 만약 로봇이 '자살'을 생각한다면 역시나 '힘내! 우리가 있잖아!' 라고 하야할까? 만약 로봇이 나에게 살의를 가지게 된다면 나는 뭐라고 설득해야 할까? '얌마! 그 여자는 내가 먼저 좋아했어!' 라고 해야할까 아니면 '그래? 니가 그렇게 좋아하면 너가 잘해봐 난 빠질게!'라고 해야할까?

5장은 구본권기자가 쓴 '가짜뉴스 디지털 사회화와 보이지 않는 권력'이다. 앞의 글의 필자들인 철학자들과 다르게 현실의 문제점을 지적하며 원인을 찾는 일로부터 글을 시작한다.

내가 네비게이션 기기 말고 통신회사의 데이터망을 이용한 네비게이션(처음 모델이 네이트 드라이브이다)을 쓴 게 2005년부터이다. 목적지를 입력하면 현재 위치에서 가장 빠르거나 비용이 들지 않거나 하는 식으로 현재 상태를 파악해서 경로를 알려주는 네비게이션이었다. 현재의 교통 정보를 처리 분석하고 그 정보에 따라 실시간으로 경로를 계속적으로 변경해주는 놀라운 기술로써 엄청난 데이터 처리 능력을 가진 컴퓨터가 작동하겠더니 정도로만 생각하면서 편리함을 누렸다. 그렇게 네비게이션에 빠져 들면서 점점 출발지와 목적지만 아는 길치로 변해갔다. 하지만 난 한번도 네비게이션 프로그램이 자신의 의지로 나를 바보로 만들어 조종하려고 하고 있다고는 생각하지 않았다. 그 프로그램을 개발하고 장비를 투자한 자들이 그 뒤에 있어서 나를 자기네 시스템의 돈줄로 만들어 빨대를 꽂으려 한다고 생각했지만 말이다.

구본권도 마찬가지로 인공지능이든 블랙박스든 그 뒤엔 우리를 조정해서 이득을 취하려는 '인간'이 있음을 강조한다. 그래서 마지막 문단의 소제목을 '시민의 길 이디오테스의 길'이라 썼다. 시민의 길은 힘들고 귀찮고 어려운 길이다. 반면 이디오테스의 길은 돈만 많다면 죽는날까지 편안하게 살다 죽는 길이다. 이디오테스의 길이 아니라 시민의 길을 택하려면, 빅브라더와의 싸움 뿐만 아니라 모든 일에 가치를 매겨 돈으로 받아가는 자본가와의 싸움도 불사하려는 강한 의지가 필요하다. 즉 그들로부터 벗어나야 싸움이 시작되지 그들이 제시하는 생활양식을 고수한 채로 싸우는 것은 있을 수 없는 일이 된다. 아쉽게도 구본권은 벗어나 싸우는 대신 그 안에서 적극적이고 능동적인 감시자이자 고발자가 되는 것으로 시민의길을 규정하고 만다.

딥페이크 기술은 사기꾼만 사용하는 게 아니다. 빅데이터로 인간의 행동에 관여하려는 자 모두가 정도의 차이만 가지고, 걸렸느냐 마느냐의 차이도 가지고, 딥페이크 기술을 깊게 또는 얕게 사용한다. 이런 상황에서 감시는 최후의 순간을 늦출 뿐이지 않을까? 변하는 것 은 하나 없이.

6장은 김재희의 '기본소득 고용 없는 노동과 일의 재발명'이다.

필자인 김재희는 시몽동과 관련된 책으로 만났다. 그냥 학자이려니 했다. 그리고 이 글을 만나게 되었다. 글의 구성을 보면 우선 포스트 휴먼과 포스트 노동이라는 개념을 이끌어 오면서 알파고(적 인간. 맹목적 인간의 표현이다)와 아이히만을 동등하게 병치시켜서 노동의 성격을 타의에 의한 임금노동이라 규정한다. 이 규정은 '포스트 노동'이 타의적 노동을 벗어나는 것이라는 점을 기대하게 한다.

이어서 시몽동을 불러서 노동 또는 일이 '인간을 유지해는 행위'에서 '생존을 위한 행위'로 변한 노동의 현실을 보여준다. 이러한 노동 환경하에서 인간은 임금노동자에서 소비자로 변하여 자신이 고용되어 임금을 받으면 노동할 수 있는 근거가 된다고 노동을 규정한다.

존 버드(미국의 노동관계 연구를 하는 교수이다)의 책 '나에게 일이란 무엇인가'를 보면, 노동이 노예나 하는 수치(고대 사회)에서 원죄에 의한 죄악(그리스도교)의 징벌을 지나 임금 노동을 거쳐 자아실현의 장이라 생각되는 과정을 그린다. 우리의 노동은 '임금노동'이거나 '이타적 봉사'이거나 '자아실현'이거나로 나뉘는 게 아니라 이 셋이 적당하게 균형을 이루는 상태를 최적의 상태로 여긴다. 물론 노동해방을 통해 임노동에서 해방되어 이타적이거나 자아실현을 위한 일로 바뀌는 꿈을 꿀수도 있다. 꿈의 방향이 맞는지는 별개의 문제이지만 말이다.

하여간 필자는 스티글레르(처음 듣는다)의 말 "고용의 종말은 곧 일의 부활이다"를 통해 결국 포스트너동은 임노동으로부타 해방되는 고대희랍의 자유민들이 누리는 '오티움'을 지향할 수 있다고 결론을 맺는다. 이러한 사건의 실현은 '기대 소득' 또는 '기본소득'을 통해 이루어질수 있다고 본다. 이는 인공지능과의 경쟁에서 벗어나 인공지능의 성과물을 공유하는 것으로 인간의 일의 방향이 바뀌게 되어 이루게될 것이라는 스티글레르의 주장을 통해 '우파적 유토피아적 기본소득'의 환각제를 만드는 기능을 수행하게 된다.

인공지능이 만드는 상품(물질적이거나 비물질적이거나 상관없이)은 어느 시장에서 교환가치를 가지게 될 것인가? 필자인 김재희도 역시나 이 질문은 하지 않는다. 그냥 저절로 해결될 일이라 생각하는지 무시하는 것인지 밝히지도 않는다. '어떻게 해서 가능한가?'에 대한 구체적인 계획없이 장미빛 그림을 그리게 되면 사기꾼 취급을 받을 가능성이 높아진다. 그래도 먹고 사는 데엔 상관없지만 말이다.

이번 장이 가장 맘에 안 드는 장이다.

7장은 하대청의 '마이크로워크 AI 뒤에 숨은 인간, 불평등의 알고리즘'이다. 이 이야기는 인공지능이 제대로 작동하기 위해서는 인간의 보이지 않는 노동이 선행되거나 병행되거나 마무리를 맡아야만 하는 현실이 만들어내는 불평등에 관한 이야기이다.

이 불평등은 노동의 기본요소인 고용의 지속성과 일정치 이상의 수익과 노동의 자율성을 줄어들게 하고 파괴하고 심지어 전혀 선택할 수 없는 노동자를 만들어내게 된다. 이러한 불평등이 인공지능의 도입에 의한 불가피한 일이 아니라, 인공지능의 효율성을 위해서는 인간의 노동이 선행되어야 하고 지속적으로 유지보수 노동이 병행되어야 한다. 즉 인간과 기계의 협업이 필수적이다, 불가피하다고 주장하며 인간노동 부분을 보이지 않는 영역으로 몰아내려는 시도의 결과물이다.

하대청은 이러한 현실을 지적한다. 자본을 투자해 거대 플랫폼을 만든 자본가들은 노동자의 고용에 따른 이익 감소를 참을 수 없어한다. 그래서 인공지능의 인간노동력 대체는 필연적이라는 구호를 만들어내고, 이를 따라 반복하는 행위에 의해 현실처럼 보이게 된다는 점을 지적한다. 하여간 필자에게 '해결책'까지
기대하는 것은 무리겠지?

머리 그래이 외의 '고스트워크'는 인간의 보이지 않는 노동의 현실과 작동방식과 이들 불안정 노동자들의 현실을 잘 보여주는, 하대청의 생각을 구체적으로 볼수 있는 책이다.

마지막 장인 8장 '인류세, 인간이 만든 인류의 곤경'은 참 애매한 장이다. 가장 시급하고 해결하기 어려운 문제를 이야기하며 더 나아가서는 미래를 상상할수 없음까지 이야기한다. 앞의 7개 장과는 지향이 사뭇 다르다.

기후위기에 대응하는 인간의 자세 같은 보편적 이야기보다는 이러한 위기 앞에서 포스트휴먼을 상상하는 과학기술자들의 입장 또는 자세를 이야기하는 필자인 송은주는 절망하지는 않으나 분명 비관주의자이다. 지구상에서의 인류의 삶의 지속을 위해서라면 기후위기에 대한 대처 못지 않게 현재를 살아가는 인간에 대한 배려도 중요하다. 필자가 거기까지 이야기를 확장하기엔 시간이 부족했지 싶다.

'기후변화의 심리학'과 '보이지 않는 고통' 같은 책을 함께 읽는다면 송은주가 이야기한 '체르노빌의 목소리'의 절망을 좀 완화시키고 움직여야 할 방향을 찾을 수 있지 않을까 싶다.

맘먹고 읽으면 하루나 이틀이면 충분한 분량의 책이다. 인공지능시대 인간과 인공지능의 관계는 대립이나 주종이나 멸절의 관계가 아니다. 인공지능을 만든이도 인간이고 필요로 하는 이도 인간이고 혜택을 보는이도 피해를 보는이도 인공지능을 보조하고 관리하는 이도 모두 인간이다. 인간과의 땔 수 없는 연관 속에 태어난 인공지능을 인간노동력을 몰아내는 도구로 작동하도록 프로그램하는 자들을 막아내려는 의지로 이 책이 기획된 것이었다면 정말 좋았겠다. 읽은 결과 '다가올 미래'를 자연스럽게(숙명이란 게 그렇다) 수용하려는 의지로 기획된 책으로 보여 아쉬웠다.

[100자평] 니체: 문학으로서 삶

니체: 문학으로서 삶
알렉산더 네하마스 지음, 김종갑 옮김 / 연암서가 / 2013년 4월

아직도 이 책을 팔고 있다니....


심정은 중고로 팔아서 ‘너도 당해봐라!‘ 라고 하고 싶은데, 사실 중고로라도 읽어보고 싶어하는 게 죄는 아닌지라 차마 못 그러겠다. 김종갑과 연암서가는 ‘네하마스‘를 살려내라!!!!

[이벤트]2019 노벨문학상, 당신의 선택은? 투표 시, 적립금 1천원(300명).5만원(2명) 추첨

이 훌륭한 작가가 말이지......

[100자평] 있지도 않은 자유를 있다고 느끼게 하는 거짓 자유 - 시민을 위한 정치 입문서

있지도 않은 자유를 있다고 느끼게 하는 거짓 자유 - 시민을 위한 정치 입문서 - 시민을 위한 정치 입문서
엄윤진 지음 / 갈무리 / 2019년 1월

누군가를 공격하려면, 길가다 다짜고짜 싸다구를 날리려는 게 아니라면, 대상에 대해 잘 알고 있어야 한다. 의욕만으로 공격하면 존인은 죽으면 그만이지만 책을 사본 사람은 돈까지 써가며 덩달아 죽게 된다. 자신감은 확실함에서 나와야 한다. 인용이 오역이면 어쩌란 말인가