인공지능의 윤리학 - 제38회 한국과학기술도서상 출판대상 포스트휴먼 시대의 인공지능 철학 2
이중원 외 지음 / 한울(한울아카데미) / 2019년 12월
평점 :
장바구니담기


책임 개념 대신 책무(accountability) 개념의 적용이 적절하다. 책무 개념의 의미는 매우 다양한데, 그중 설명 가능성을 가장 기본적인 의미로 생각할 수 있다. 최근에 이목을 끌고 있는 설명가능한(explainable) 인공지능 알고리즘을 분석하여, 이러한 책무성이인공지능에서 실질적으로 구현 가능한지, 이를 바탕으로 인공지능에대해 책무성 중심의 윤리 체계를 구축하는 것이 가능한지를 조심스럽게 살펴보려 하고 있다. - P13

섹스로봇은 의식적인가, 섹스로봇은 자율성을 갖는가, 섹스로봇과의 관계는 ‘섹스’인가와 같은 형이상학적 문제로부터 시작하여 섹스로봇과의 성행위는 외도인가? 섹스로봇 카페서비스는 매춘인가? 섹스로봇과의 결혼은 가능한가? 같은 윤리적 문제, 섹스로봇의 사회적 영향은 무엇인가? 섹스로봇 사업을 허용할 것인가? 같은 사회·정치적 문제들이 그 대표적인 예이다. - P63

그러나, 누군가 섹스로봇을 인간과 마찬가지로 자신의 섹스 대상‘
으로 생각하거나 심지어는 사랑의 대상이나 결혼 대상으로 생각한다면 문제는 달라진다. 사람들이 섹스로봇을 섹스 대상이나 연인으로보는 순간 온갖 윤리적이고 사회적인 문제들이 발생한다. - P67

11) 섹스로봇은 심각한 부작용을 일으킨다. 섹스로봇으로 인한 부작용 중 가장 많이 언급되는 것은 로봇과의 섹스로 인하여 정상적 인간관계가 어려워진다는 점이다. 예를 들어, 섹스로봇은 여성(또는 남성)에 대한 잘못된 인식을 유발하고, 성도착증이나 소아애를 유발할 가능성이 있고, 심지어는 섹스중독을 유발할 수도 있다. - P72

서서히 섹스로봇에 관한 코페르니쿠스적 전회가 일어나고 있으며, 이제 섹스로봇은 일반인들의 생각 속에서 섹스의 대상이 아니라 사랑의 상대, 즉 연인으로 진화하고 있다. - P78

둘째, 섹스로봇이 반드시 물리적 몸을 가져야 할 필요는 없다. 예를 들어, 영화 〈그녀(Her)〉에 등장하는 운영체계 사만다(Samantha)처럼 인간 사랑의 대상이 반드시 물리적 몸을 가질 필요는 없으며 그것은 가상현실(virtual reality)이나 혼합현실(mixed reality)일 수도 있다.
섹스로봇이 그런 존재일 때 위의 세 가지 조건이 더 잘 충족될 수 있으며, 특히 혼합현실의 경우에는, 즉 섹스로봇이 현실공간과 가상공간에 동시에 존재할 때 진정한 철학적 문제가 야기될 것이다. - P80

오지 않는다. 인간 간 비대칭적 힘의 관계, 인간의 대상화, 주체성 부정을 비롯한 윤리적으로 정당화되기 어려운 문제들은 오직 성산업의문제에만 국한된 것이 아니라 인간 사회의 전반적 문제이며, 특히 서비스 업종의 근본 문제이다. - P89


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
인공지능 원론 - 설명가능성을 중심으로
고학수 외 지음 / 박영사 / 2021년 7월
평점 :
장바구니담기


설명가능성이나 투명성에 대한 요구는 그 배경에 있는 ‘책임성(accountability)‘에 대한 요구를 어떻게 바라볼 것인지에 관한 더 넓은 논의를 촉발하는 계기가 되기도 하였다. 책임성(accountability)은 법적 책임(liability)보다 더 넓은 의미이다. 설명책임‘이라 번역되기도 하는데, 필요에 따라 인공지능의 이용자 등에게 설명하고, 소명하고, 소통을 하는 것이 그 중요한 요소가 된다. 그로부터 경우에 따라서는 사회적 책임(responsibility)을 지게 되기도 하고, 더 나아가 법적 책임(liability)을 지게되기도 한다. - P216


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
인공지능 원론 - 설명가능성을 중심으로
고학수 외 지음 / 박영사 / 2021년 7월
평점 :
장바구니담기


투명성(transparency)은 개인의 자율적 의사결정이 해악과 위험의 억제라는 책임성을 확보하도록 하는 일련의 과정에서중요한 역할을 담당하는 개념이다. - P146

오늘날 법체계 전반에 뿌리내린 ‘충분한 정보에 기초한 동의(informed consent)‘라는관념이 바로 그것이다. 반대로 행위주체의 의사결정이 충분한 정보에 기초하지 않을수록 그로 인한 효과를 당사자에게 귀속하는 데 대한 정당성도 약화되는 셈이다. 이에 따라 공적으로는 국민의 알 권리를 강화하고, 사적으로는 개인의 자율성을 극대화하도록 하는 매개개념으로 투명성이부각된 것이다[14, 15]. - P147


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
매트릭스로 철학하기
슬라보예 지젝 외 지음, 이운경 옮김 / 한문화 / 2003년 6월
평점 :
장바구니담기


트리니티는 네오에게 속삭인다, "우리를 움직이는것은 바로 그 의문들이야." ‘매트릭스는 무엇인가?‘ 라는 의문을 갖고 있었던 네오와 마찬가지로 소크라테스 역시 "마음속의 가시" 이자자신을 움직이는 의문, 즉 ‘올바른 삶이란 무엇인가‘ 라는 의문을 가지고 있었다. 이러한 의문으로 인해 우리의 두 주인공은 곤경에 처한다. - P26

로캉템과 네오가 보여 주듯이 본래성이 가져다 주는 통찰력은 우리가그것에 저항하는 한에서만 견딜 수 없는 것이 된다. 우리가 그것을 있는 그대로 인정하고 받아들인다면, 존재가 우리가 원하는 모든 것은아닐지라도 그 사실이 더 이상 우리에게 충격을 주지는 않을 것이다.
우리가 존재의 본질을 왜곡하려 하지 않으면 사물들을 있는 그대로 볼 수 있게 된다. 오직 이 지점에서만 사람들은, 존재라는 훌륭한선물을 완전히 평가하고 이용할 수 있다. - P114

이쯤 되면 로버트 프로스트의 유명한 시를 떠올리지 않을 수 없다.
"나는 가지 않은 길을 선택했네 / 그리고 그것으로 모든 것이 변했지."
이 구절이 해마다 졸업식 때면 수없이 인용되는 것을 알고 있는가.
만약 모든 사람들이 이 구절을 실제로 자신의 삶의 지침으로 받아들였다면, 결국 그 길은 엄청나게 넓혀지고 교통 체증마저 생겼을 것이다. - P47

그것은 우리 주위를 온통 둘러싸고 있어. 바로 이 방 안에도 있지. 창 밖을 내다봐도 있고 텔레비전 안에도 있단 말야. 출근을 할 때도 교회에 갈 때도 세금을낼 때도 느껴지거든. 그것은 진실을 보지 못하도록 자네의 눈을 가리는 세계야……. 자네가 노예라는 진실 말야. 네오, 자네도 다른 모든 사람들과 마찬가지로 냄새를 맡거나 맛을 보거나 만져 볼 수 없는 감옥에 태어난 거야. 자네 마 음의 감옥 말이야. - P44

진실을 의미하는 그리스어 ‘alethia’는 ‘벌거벗은 상태‘를 지칭하기도 한다. 이것은 적나라한 진실의 개념을 암시한다. 그는 거울로변신함으로써 최초의 진정한 각성을 경험하게 된다. 그는 지금껏 진짜라고 생각해 왔던 것이 사실은 프로그램 된 환상이자 "우리를 끊임없이 통제하기 위해 건설된 컴퓨터가 만들어 낸 꿈의 세계" 라는 진실을 깨닫게 된 것이다. - P134

그러나 무엇이 진짜인지를 해석하고 정의하는 것은바로 우리의 마음이다. 불교의 가르침들은 바로 이러한 인식론적인미망으로부터 우리의 마음을 구제하고자 하는 것이다. 이를 위해서우리는 마음을 자유롭게 해야 한다. - P136

칸트가 옹호하는 다른 대안은 계몽 철학적인 구원의 개념이다. 그리고 이러한 계몽 철학의 원칙들은 미국 헌법에 구현되어 있다. 가치있는 유일한 사회는 ‘자유로운 사람들이 스스로를 다스리는 사회‘ 이다. 노예들은 자신들이 스스로를 해방시킬 때라야 진정으로 자유로울 수 있다. 만약 자신의 노력 없이 그들에게 자유가 주어진다면 그들은 노예 상태로 다시 전락할 것이다. 칸트는 우리 자신 말고는 어느누구도 우리를 구원할 수 없다고 주장한다. 인간의 자기 해방은 우리각자가 스스로 발견해야 할 운명인 것이다. - P171

"길을 아는 것과 길을 걷는 것에는 차이가 있다" 고 모피어스는 우리에게 알려 준다. 예언자는 그녀의 추종자들이 길을 걷도록 돕는다.
그녀는 그들을 부추겨 그녀가 모든 것을 알고 있다고 믿게 만든다. 그렇기 때문에(예언자의 예지가 진짜라기보다 그녀가 예지를 가지고 있다는사실이 명백하기 때문에) 네오는 자신의 삶을 통제할 수 있고, 이성의한계 안에서는 어떤 것도 가능한 세계에서 살 수 있다. - P244

당신이 어떤 관점을 가지고 이 영화를 본다 해도,
그 안에서 자신의 관점에 부합되는 무언가를 발견할 수 있을 것이다. - P283

매트릭스〉는 유토피아와 디스토피아(결함 사회)를 결합시키면서이러한 반전에 마지막 손질을 가한다. 우리가 살고 있는 바로 이 현실, 매트릭스가 상연하는 무시간의 유토피아는, 사실은 우리를 매트릭스에 에너지를 공급하는 수동적인 상태의 ‘살아 있는 건전지‘ 로전락시키는 곳이다. - P319


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
매트릭스로 철학하기
슬라보예 지젝 외 지음, 이운경 옮김 / 한문화 / 2003년 6월
평점 :
장바구니담기


인공 지능이 가능한가? 이러한 질문에 대답하기 위해서는 형이상학,
인식론, 윤리학, 미학, 마음의 철학, 종교 철학 그리고 정치 철학 등 철학의 다양한 주요 분야를 탐구해야 한다. 이 과정에서 여러 다양한 질문들이 제기된다. 그러나 이러한 질문들은 결국 단 하나의 요구만을남긴다. 바로 ‘깨어나라!‘는 것이다. - P10


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo