인공지능의 윤리학 - 제38회 한국과학기술도서상 출판대상 포스트휴먼 시대의 인공지능 철학 2
이중원 외 지음 / 한울(한울아카데미) / 2019년 12월
평점 :
장바구니담기


AI 또는 AI 로봇은 과학기술의 발달 과정에서 다양한 단계적 발달로 나타날 것이다. 이러한 동적인 변화를 단적으로 표현한 것이 강한 AI와 약한 AI의 구분이지만, 현실에서의 발전은 더 많은 단계에서 이루어질 것이다. 따라서 각 변화 단계마다. 제기될 수 있는 윤리적 문제와 고려사항이 달라질 수 있으며, AI 또는 AI 로봇의 발전이 고도화되어 인간과 AI 사이의 관계가 동등 수준 이상에 도달했을 때는 기존의 ‘인간중심주의(anthropocentrism)‘에 기반을 둔 도덕이 아닌 새로운 도덕 개념과 새로운 윤리학, 예를 들면 ‘피동자와 존재중심적인 거시 윤리학(patient-orient-ed, ontocentric macroethics)‘과 같은 윤리학이 제시될 수도 있을 것이다(Floridi, 2013). - P133

AMA가 인간을 윤리적으로 대우하도록 만든다는 의미는 AMA가 윤리 주체(subject)라는 의미일 텐데, 여기서 주체라는 의미는 전통적인 의미에서 내재적 속성과 관련되었다고 말하는 것이 아니라 그렇게 보인다‘라는 표현 속성의 의미에서 ‘인정된다(recognized)‘이다. - P138

3단계 수준의 AI 또는 AI 로봇에 적절한 행위자 개념 중 하나는 플로리디(Luciano Floridi)와 샌더스(J. W. Sanders)가 제시한 인공 행위자개념이다. 그들은 "On the Morality of Artificial Agents" (2004)라는 논문에서 행위자의 중요한 세 가지 핵심 성질인 상호작용성(interacti-vity), 자율성(autonomy), 적응성(adaptability)을 인공 행위자에 부합하도록 재해석하고 재규정한다. 왜냐하면, AI 또는 AI 로봇을 행위자로규정해야만 실용적인 인식이 가능한 지평, 즉 어떤 추상화 수준(a le-vel of abstraction)에서는 전통적인 행위자 개념이 부적절하기 때문이다. - P139


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
[전자책] 맥스 테그마크의 라이프 3.0 - 인공지능이 열어갈 인류와 생명의 미래
맥스 테그마크 지음, 백우진 옮김 / 동아시아 / 2017년 12월
평점 :
판매중지


그들이 처음 한 생각은 주식시장에서 크게 한 건 하는 것이었다. 사실 오메가팀의 상당수는 전에 헤지 펀드를 위한 AI를 개발하는 일자리 제안을 거절한 적이 있다. 그런 AI를 개발하는 것은 주식시장에서 한 건 하는 것과 아이디어가 똑같았다. 이는 영화 <트랜센던스>에서 AI가 첫 수백만 달러를 번 방법이기도 했다.

-알라딘 eBook <맥스 테그마크의 라이프 3.0> (맥스 테그마크 지음, 백우진 옮김) 중에서


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
인공지능의 윤리학 - 제38회 한국과학기술도서상 출판대상 포스트휴먼 시대의 인공지능 철학 2
이중원 외 지음 / 한울(한울아카데미) / 2019년 12월
평점 :
장바구니담기


책임 개념 대신 책무(accountability) 개념의 적용이 적절하다. 책무 개념의 의미는 매우 다양한데, 그중 설명 가능성을 가장 기본적인 의미로 생각할 수 있다. 최근에 이목을 끌고 있는 설명가능한(explainable) 인공지능 알고리즘을 분석하여, 이러한 책무성이인공지능에서 실질적으로 구현 가능한지, 이를 바탕으로 인공지능에대해 책무성 중심의 윤리 체계를 구축하는 것이 가능한지를 조심스럽게 살펴보려 하고 있다. - P13

섹스로봇은 의식적인가, 섹스로봇은 자율성을 갖는가, 섹스로봇과의 관계는 ‘섹스’인가와 같은 형이상학적 문제로부터 시작하여 섹스로봇과의 성행위는 외도인가? 섹스로봇 카페서비스는 매춘인가? 섹스로봇과의 결혼은 가능한가? 같은 윤리적 문제, 섹스로봇의 사회적 영향은 무엇인가? 섹스로봇 사업을 허용할 것인가? 같은 사회·정치적 문제들이 그 대표적인 예이다. - P63

그러나, 누군가 섹스로봇을 인간과 마찬가지로 자신의 섹스 대상‘
으로 생각하거나 심지어는 사랑의 대상이나 결혼 대상으로 생각한다면 문제는 달라진다. 사람들이 섹스로봇을 섹스 대상이나 연인으로보는 순간 온갖 윤리적이고 사회적인 문제들이 발생한다. - P67

11) 섹스로봇은 심각한 부작용을 일으킨다. 섹스로봇으로 인한 부작용 중 가장 많이 언급되는 것은 로봇과의 섹스로 인하여 정상적 인간관계가 어려워진다는 점이다. 예를 들어, 섹스로봇은 여성(또는 남성)에 대한 잘못된 인식을 유발하고, 성도착증이나 소아애를 유발할 가능성이 있고, 심지어는 섹스중독을 유발할 수도 있다. - P72

서서히 섹스로봇에 관한 코페르니쿠스적 전회가 일어나고 있으며, 이제 섹스로봇은 일반인들의 생각 속에서 섹스의 대상이 아니라 사랑의 상대, 즉 연인으로 진화하고 있다. - P78

둘째, 섹스로봇이 반드시 물리적 몸을 가져야 할 필요는 없다. 예를 들어, 영화 〈그녀(Her)〉에 등장하는 운영체계 사만다(Samantha)처럼 인간 사랑의 대상이 반드시 물리적 몸을 가질 필요는 없으며 그것은 가상현실(virtual reality)이나 혼합현실(mixed reality)일 수도 있다.
섹스로봇이 그런 존재일 때 위의 세 가지 조건이 더 잘 충족될 수 있으며, 특히 혼합현실의 경우에는, 즉 섹스로봇이 현실공간과 가상공간에 동시에 존재할 때 진정한 철학적 문제가 야기될 것이다. - P80

오지 않는다. 인간 간 비대칭적 힘의 관계, 인간의 대상화, 주체성 부정을 비롯한 윤리적으로 정당화되기 어려운 문제들은 오직 성산업의문제에만 국한된 것이 아니라 인간 사회의 전반적 문제이며, 특히 서비스 업종의 근본 문제이다. - P89


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
인공지능 원론 - 설명가능성을 중심으로
고학수 외 지음 / 박영사 / 2021년 7월
평점 :
장바구니담기


설명가능성이나 투명성에 대한 요구는 그 배경에 있는 ‘책임성(accountability)‘에 대한 요구를 어떻게 바라볼 것인지에 관한 더 넓은 논의를 촉발하는 계기가 되기도 하였다. 책임성(accountability)은 법적 책임(liability)보다 더 넓은 의미이다. 설명책임‘이라 번역되기도 하는데, 필요에 따라 인공지능의 이용자 등에게 설명하고, 소명하고, 소통을 하는 것이 그 중요한 요소가 된다. 그로부터 경우에 따라서는 사회적 책임(responsibility)을 지게 되기도 하고, 더 나아가 법적 책임(liability)을 지게되기도 한다. - P216


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo
 
 
 
인공지능 원론 - 설명가능성을 중심으로
고학수 외 지음 / 박영사 / 2021년 7월
평점 :
장바구니담기


투명성(transparency)은 개인의 자율적 의사결정이 해악과 위험의 억제라는 책임성을 확보하도록 하는 일련의 과정에서중요한 역할을 담당하는 개념이다. - P146

오늘날 법체계 전반에 뿌리내린 ‘충분한 정보에 기초한 동의(informed consent)‘라는관념이 바로 그것이다. 반대로 행위주체의 의사결정이 충분한 정보에 기초하지 않을수록 그로 인한 효과를 당사자에게 귀속하는 데 대한 정당성도 약화되는 셈이다. 이에 따라 공적으로는 국민의 알 권리를 강화하고, 사적으로는 개인의 자율성을 극대화하도록 하는 매개개념으로 투명성이부각된 것이다[14, 15]. - P147


댓글(0) 먼댓글(0) 좋아요(0)
좋아요
공유하기 북마크하기찜하기 thankstoThanksTo