/ 새로운 관계 맺기
데카르트는 *인간의 신체도 *기계라고 생각했다. 그에 따르면 *기계는 *조작의 대상이지 *도덕적 고려의 대상은 아니다. - P153
그렇다면 *동물에게 일어난 일과 유사한 변화가 **사회적 로봇에게는 일어나지 않을까? 이 문제에 대해 여러 입장에서 논쟁이 벌어지고 있다
우리가 동물에게 *도덕적 지위를 부여하는 것은 *동물이 **좋고 싫음을 구분하는 *능력을 지니고 있기 때문이다.
**고통을 느낄 수 있기에 **도덕적 배려의 대상이 되어야 한다는 것이다. - P153
유사한 방식으로 우리가 ai 로봇에게도 도덕적 지위를 부여하고자 한다면 ai 로봇 또한 동물이 가진 특성을 가지고 있어야 한다.
이런 관점에서 접근할 경우 로봇을 **도덕적 존재로 인정할 수 있느냐의 문제는 로봇이 **지작 능력이나 **고통을 느끼는 *감각을 지니고 있는지, 그것을 어떻게 *확인하고 *검증할 것인지의 문제로 귀착된다.
이러한 관점을 **’도덕 속성 실재론’이라고 부른다. - P154
소니의로봇 강아지 아이보 AIBO의 합동 장례식에 참석한 사람들도 로봇 강아지는 기계였으므로 *영혼이 없다는 것을 잘 안다.
그럼에도 불구하고 그들은 아이보의 명복을 빌면서 슬퍼했다.
이러한 입장에서 보면 ai의 실제가 무엇이든 간에 사람들이 AI를 *대하는 방식 그리고 AI와 어떤 *유의미한 관계를 맺고 있는가에 따라 **도덕적 지위 여부가 결정된다. 이러한 견해를 **’관계론’이라고 부른다. - P154
철학자 마르크 쾨켈베르크는 이를 *일상적 삶의 양식 속에서 *자연스럽게 자라나는 growing 것이라고 표현했다.
말하자면 어떤 *존재의 도덕적 지위는 *인간과의 **상호작용이나 **관계 맺기라는 경험 위에서 자라나는 것이다.
이것은 누군가가 일부러 만드는 게 아니라 우리가 살아가는 삶의 *방식과 태도, *습관을 통해 *저절로 형성되는 것이다. - P154
이를테면 소는 과거에 중요한 노동력이었다. 그런데 소가 제공하던 노동력을 기계까 대체하자 소의 지위가 살아 있는 고기로 바뀌어버렸다.
그런가 하면 사냥감이나 실험 재료인 동물도 있다. 이처럼 동물들은 우리와 맺고 있는 관계의 양상에 따라 그 지위 조건이 다르다. 우리의 생활 습관과 문화적 양식에 따라 동물들의 지위가 결정되는 것이다.
로봇도 마찬가지로 생각할 수 있다. *우리는 *기계를 **한 가지 종류로 *바라보는 *경향이 있다. 기계는 모두 같은 기계일 뿐이라고 생각한다. - P155
*AI 로봇의 *도덕적 지위는 실제로 로봇이 처해 있는 **맥락꽈 그 속에서 이루어지는 **상호작용의 **관계를 통해서 보아야 한다.
전쟁터에서 싸우는 군사 로봇은 동료들과 전우애를 가질 수도 있다. 가정이나 요양원에서 만나는 **감정 로봇은 *가족보다 더 *친밀한 존재일 수도 있다. - P155
우리는 익숙한 **서사나 **은유를 통해 **세상을 이해한다.
인간이 다른 존재들과 맺는 다양한 관계의 양상 또한 우리에게 익숙한 서사나 은유에서 비롯되기도 한다.
아시모프의 법칙은 철저한 인간 중심적 관점으로, 로봇이란 노예나 도구에 불과하다는 선언이다. - P155
정도나 양상의 차이는 있겠지만, *앞으로는 인간과 감정적으로 *상호작용하는 로봇이 등장할 것이다. 우리는 이 로봇들과 어떻게 관계를 맺어야 할까?
로봇과 인간의 관계에 대해 *어느 입장이 *옳다고 *단정적으로 *말할 수는 없다. *문화는 바뀌는 것이며, 우리가 *새로운 *언어적 상상력을 어떻게 발휘하느냐에 따라 그 관계의 양상은 달라질 수 있다. - P156
철학도 개입될 것이고, 문학적 상상도 개입될 것이며, 종교적 태도나 전통적으로 내려오는 문화적 관습, 과학이나 새로운 기술을 대하는 태도 등 여러 다양한 요소들이 복합적으로 작용해 로봇에 대한 우리의 경험을 결정할 것이다. - P156
/ 딥페이크, 탈진실 시대에 진실이란 무엇인가
네오는 이렇게 묻는다.
"무엇이 진짜인가? What is real?"
모피어스는 이렇게 대답한다.
"진짜가 뭔가? 진짜를 어떻게 정의하는가? What is real? How can you define real?" - P157
이어지는 모피어스의 설명은 더 혼란스럽다.
"**느끼고, 맛보고, 냄새 맡고, 보는 것들을 *현실이라고 정의한다면 **현실은 그저 **뇌에서 **해석해 받아들인 **전기신호오 불과하다."
이쯤 되면 진짜 현실과 가상의 구분 자체가 모호해진다. - P157
‘현실보다 더 현실 같은 가상공간’이란 명제는 그 무렵 유행하던 포스트모더니즘 철학과 어우러지면서 진한 감동을 선사했다. - P157
**탈진실 post truth이란 *참과 *거짓의 *경계가 *모호해지는 *현상을 일컫는다. 그 결과 *대중은 거짓 정보에 쉽게 속아넘어간다.
탈진실이란 말이 널리 사용된 것은 **2016년부터다.
탈진실 시대를 대표하는 현상이 **가짜 뉴스 fake news다.
뉴스를 가장한 **허위/조작 정보 disinformation를 지칭하는 가짜 뉴스는 이제 **뉴스 자체에 대한 **신뢰마저 무너뜨리고 있다. - P158
딥페이크는 2017년 레딧 reddit 사이트에 처음 등장했다.
포르노 영상을 올린 사람의 대화명이 **딥페이크스 deepfakes였다.
이후 AI 기술을 이용해 조작한 영상을 딥페이크라 부르게 되었다. 딥페이크는 AI 기술의 핵심인 기계합습의 한 분야인 **딥러닝 deep learing과 가짜를 의미하는 페이크 fake의 합성어다. - P159
**딥페이크는 **추출 extraction, 학습 learning, 병합 merging의 세 단계로 이뤄진다.
짧은 동영상만 있어도 된다. 동영상의 짧은 순간도 많은 프레임으로 구성돼 있기 때문이다. 이렇게 *이미지를 *추출할 때 사용되는 AI 알고리즘을 **인코더 encoder라고한다.
인코더는 a와 b 두 사람의 얼굴에서 유사점을 찾아내고 학습한다. - P159
인코더 학습을 끝낸 다음에는 **디코더 decoder 알고리즘이 *압축 영상을 풀어서 *얼굴 모양을 만드는 방법을 학습한다.
이 과정이 안면 매핑 face mapping 혹은 안면 스와핑 face swapping이다. - P159
/ 딥페이크의 기반 생성적 적대 신경망
이런 과정을 통해 생성되는 딥페이크의 기술적 바탕이 된 것은 **생성적 적대 신경망 **GAN, Generative Adversarial Network 이다.
GAN은 이언 굿펠로 lan Goodfellow 등이 *2014년 *신경정보처리시스템학회에서 논문을 발표하면서 본격적으로 알려지기 시작했다.
이 기술은 세계적 AI 전문가인얀 르쿤yann Lecun이 최근 10년간 머신러닝 분야에서 나온 연구 중 *가장 흥미로운 *아이디어라고 평가할 정도로 관심을 모았다. - P160
*GAN은 머신러닝의 *세 가지 *핵심 분야 중 하나인 **비지도 학습 unsupervised learning을 이용한다.
2016년 이세돌 9단을 꺾으면서 화제를 모았던 *알파고AlphaGo는 **지도 학습 supervised learning과 **강화 학습reinforce learming을 활용했다. - P160
GAN을 통해 딥페이크를 생성하는 복잡한 과정을 간단하게 설명하면 이렇다.
우선 *GAN에는 **생성자generator와 **감별자 discriminator라는두 가지 모델이 존재한다.
*이 두 신경망 모델이 *서로 **경쟁하면서 **결과물을 만들어내기 때문에 **생성적 적대 신경망이라고 한다. 이 모델을 체음 발표한 굿펠로는 생성자와 감별자를 각각 **위조화폐범과 **경찰에 비유했다. - P160
**둘 중 *생성자는 *이미지를 *만드는 역할을 한다. *실제 데이터를 *학습한뒤 이를 *토대로 **새로운 데이터, 즉 **거짓 데이터를 만든다. *진짜 같은 *가짜를 만드는 셈이다.
**감별자는 *생성자가 만든 데이터의 *사실 여부를 *판별하는 역할을 한다.
이렇게 *서로 다른 역할을 하는 *두 알고리즘이 **서로대립하고 **경쟁하는 과정을 통해 **품질을 높이게 된다.
**훈련을 통해 **생성자는 점점 *더 진짜 같은 이미지를 만들어내는 반면, **감별자는 *진짜와 가짜를 *구분하는 능력을 계속 향상시킨다.
이런 훈련은 감별자가 더 이상 가짜 이미지와 진짜 이미지를 구분하지 못하는 경지에 이를 때까지 이어진다. 이 경지에 이르면 원본과 구분하기 힘든 콘텐츠를 만들어내게 된다. - P161
**알파고에 사용한 **지도 학습은 *정답을 반복적으로 알려주면서 훈련시킨다.
반면 **비지도 학습은 정답이 없다. 대신 서로 경쟁하고 대립하면서 능력을 함께 향상시켜나간다.
굳이 비유하자면 **지도 학습은 **최적의 답을 **찾아가는 과정이고, **비지도 학습은 새로운 것을 만들어내는 과정이다. - P161
/ 새로운 사실 창조의 가능성
그동안 딥페이크는 주로 얼굴이나 다른 영상을 바꿔치지하는 방식으로 구동됐다. 그런데 최근 들어 존재하지 않는 새로운 영상을 만들어내는 기술도 나오고 있다.
대표적인 것이 그래픽 칩 전문 업체 엔비디아의 스타일 styleGAN 이다. 엔비디아는 2018년 12월 스타일 GAN을 논문으로 발표한 뒤 2019년 2월 소스 코드를 공개했다. - P163
스타일 GAN은 *여러 사람의 사진을 *학습한 뒤 완전히 **새로운 얼굴 사진을 만들어 낸다.
원본 영상 일부를 바꿔치지하는 방식으로 가짜를 생성하던 기술이 이제는 아예 **‘존재하지 않는 새로운 현실’을 창조해내는 수준으로 발전한 것이다. - P164
사진 한 장만 있으면 그 사람의 동영상을 만들 수 있다. 이를테면 아인슈타인 사진 몇 장만 있으면 그가 실제로 강연하는 영상을 만들어낼 수 있는 것이다.
이 기술은 역사 속 인물을 실제 영상으로 재현하려는 시도의 실마리가 될 수도 있다. - P164
/ 딥페이크와 탈진실 그리고 포스트모더니즘
지지하는 후보를 바꿀 정도로 큰 영향을 미치지는 못한 것으로 나타났다. 오히려 **자기가 **믿고 싶은 **사실을 **더 강하게 믿는 **확증편향 confirmation bias을 **강화하는 역할을 했다는 것이 대체적인 연구 결과다. - P165
이들은 *딥페이크의 부작용은 오히려 *다른 곳에 있다고 주장한다. 소셜미디어에서 유포되는 *뉴스에 대한 **전반적인 신뢰도가 **낮아진다는 것이다.
**대립하는 정치적 이슈에 대한 **양극화가 더욱 두드러질 우려도 있다. 이는 **논쟁적 사안에서 서로 **협력을 **꺼리는 결과로 이어졌다고 한다.
*텍스트 기반의 **가짜 뉴스가 몰고 온 **부작용과 비슷한 결과다. - P165
우리나라에서도 2020년 3월 성폭력 범죄의 처벌 등에 관한 특례법(이하 성폭력 처벌법) 개정안에서 딥페이크 관련 규정을 추가했다.
딥페이크 *편집, *제작 또는 *유포 행위에 가담할 경우 *5년 이하의 징역 또는 5000만 원 이하의 벌금에 처한다는 처벌 규정을 신설했다.
성폭력 처벌법 개정안은 *제작 의뢰자나 *소지자에 대한 처벌 규정이 빠져 있어 반쪽이란 지적을 받고 있다. - P167
**탈진실 현상에 키운 것은 대부분의 사람들이 갖고 있는 *확증편향적 성향이란 점에 주목할 필요가 있다.
**’믿고 싶은 것’을 *무비판적으로 *받아들이기보다 **참된 진실이 무엇인지 *끊임없이 *질문하고 **합리적 의심을 제기하는 노력이 무엇보다 중요하다.
매트릭스에서 가상 세계 속에 빠져 있던 앤더슨이 진실과 마주하면서 네오로 거듭나게 된 것도 그런 비판적 자세와 노력 덕분이었다. - P167
/ 유전자 리프로그래밍 시대의 인간
**의학의 **두 큰 축은 **치료와 **예방인데, 치료에 이어 **예방 측면에서도 유전물질을 이용한 유전자 리프로그램밍을 시도하고 있는 것이다.
*인간이 아직 갖추고 있지 못하거나 **불완전한 유전자 체계를 **일시적 또는 **영구적으로 **리프로그래밍함으로써 인간의 *건강과 *방어 체계를 *바꾸려는 것이다. - P169
/ 인간의 유전자는 완전하게 프로그래밍되어 있는가
*수만 년 전만 해도 *인간은 자연계의 *먹이사슬 체계에서 **여우와 **늑대 사이 정도의 자리를 차지하는 생물종에 불과했다.
하지만 **우수한 지능을 기반으로 **언어 체계를 구축하고, **도구를 사용하는 능력 등을 통해 이제는 먹이사슬의 최상위에 도달했다.
인간의 지능은 달나라를 다녀오고, 전 세계를 하나로 연결하고, 미지의 세계와 우주로의 확장까지 모색하게 하는 원동력이 되었다. - P169
그런데 인간의 우수한 능력만큼 *우리의 *유전자가 완전하게 *프로그래밍되어 있을까?
이러한 질문은 *타당한 질문이 *아니다.
*생물학적 관점에서 **‘완전함‘이란 *상대적 개념이지 *절대적 성질의 것이 *아니기 때문이다. *현재는 좀 더 완전한 것 같지만 **환경이 바뀌면 그것은 **열등한 것으로 전락한다.
그리고 **인간의 유전 체계는 *생물학적으로 볼 때 다른 *척추동물의 것과 *큰차이도 없다.
**코로나바이러스나 다른 유해 미생물의 공격에 *성공적으로 **방어하지 못하고 있고, 생각보다 *빈번하게 발생하는 **유전자변이로 인해 **심각한 질병을 경험해야 하며, **정신적으로 **불안과 질투, 공격성이라는 **부조화의 감정을 느껴야만 한다.
**지금까지는 *인간의 **불완전한 유전 체계를 **숙명으로 받아들였다면, 이제는 **다양한 기술의 발전으로 이를 **주체적으로 **개선하려는 움직임이 일어나고 있다. - P169
|