AI는 양심이 없다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

인공지능의 윤리

책을 선택한 이유

인공지능은 인간의 학습, 추론, 지각 능력을 컴퓨터

프로그램으로 구현하려는 것이다.

인공지능은 SF 속 단골 소재였지만

2016년 AI 알파고로 세상에 엄청난 충격을 주면서

인공지능은 급속하게 현실화 되고 있다.

인공지능에 대해 알아보기 위해

"AI는 양심이 없다"를 선택하였다.

"AI는 양심이 없다" 는

1장 ‘죽음’을 흔드는 AI

2장 ‘존재’를 흔드는 AI

3장 ‘신뢰’를 흔드는 AI

4장 흔들림 너머 AI 바로 보기

로 구성되었다.

1장 ‘죽음’을 흔드는 AI 의

디지털 부활의 시작 에서는

고인이 된 터틀맨이 디지털로 부활했다.

사후 디지털 부활의 퍼블리시티권과 경제적 문제를

이야기 한다.

새로운 애도 프로그램의 출현 에서는

가상 현실을 이용해 만들어진 고인의 아바타가 현실화 된다.

디지털 페르소나, 디지털 부활을 구현할 특허를 소개한다.

디지털 흔적과 디지털 유산 에서는

인터넷에 남겨 놓은 디지털 정보는 엄청난 규모로 축적되고 있다.

프로파일링과 잊힐 권리, 사망자 계정과 사후 프라이버시,

인공지능을 통한 사후 계정 관리 문제를 다룬다.

살아 있는 자의 디지털 영생 에서는

살아 있는 사람의 디지털 트윈은 디지털 영생을 의미한다.

디지털 트윈으로 산 자와 죽은 자의 경계는 모호해져 가는

문제를 다룬다.

살아 있는 자의 생물학적 영생 에서는

생명과학과 인공지능의 결합으로 노화와 죽음을 극복하려는

일론 머스크의 뉴럴링크  등을 소개하며, 포스트 휴머니즘과 인공지능,

인간과 인공지능의 공존에 대해 생각해 본다.

2장 ‘존재’를 흔드는 AI 의

존재하지 않는 존재, 가상 인간 에서는

로지, 루이 등 가상 인간은 SNS에서 인간을 복제한

가상 아나운서는 뉴스를 실제로 진행하고 있다.

인플루언서에 대한 국내외 인식과 가상 인플루언서를

소개한다.

가상 인플루언서 에서는

영국 온바이가 발표한 가상 인플루언서 연소득 순위는

가상 인플루언서의 영향력을 잘 보여준다.

가상 인플루언서의 장점과 문제점, 가상 인플루언서의 

신뢰성 문제 해결 방식을 생각해 본다.

가상 아나운서 에서는

2018년 일본에서 가상 아나운서 나나코는 실시간으로

재해 정보를 알리는데 큰 역할을 담당했다.

가상 아나운서의 영향력과 전망을 알아본다.

가상 가수 에서는

한국 최초 가상 가수는 아담은 기술력 부족으로 사라졌다.

하츠네 미쿠 등 보컬로이드 가상 가수, 인공지능 기술과 가상 가수에

대해 소개한다.

아바타와 메타버스 에서는

영화 아바타, 싸이월드, 온라인 게임 등으로 친숙해진 아바타.

메타버스에서 활동하는 아바타, 메타버스 윤리를 생각해 본다.

3장 ‘신뢰’를 흔드는 AI 의

인공지능과 혁신 에서는

챗봇 이루다의 개인정보보호법 위반 문제는 인공지능의 문제점에

대한 공론화의 계기가 된다. 

의료계, 금융계, 인공지능 변호사, 예술 영역에도 발을 디딘 인공지능을

소개한다.

인공지능과 4차 산업혁명 에서는

4차 산업혁명 중 핵심 기술은 인공지능이다.

인공지능의 파괴적 혁신을 생각해 본다.

인류의 마지막 기술일까? 에서는

스티븐 호킹 등은 인공지능의 위험성을 경고한다.

인류에 대한 초지능의 위협, 인공지능이라는 ‘존재적 위험’에

대해 생각해 본다.

책임지지 않는 인공지능 에서는

테슬라 자율주행 사망사고의 책임 주체에 대한 판결을 통해,

자율 주행차 사고와 책임 소재를 살펴보며, 

인공지능에게 책임을 묻을 수 있는지에 대해 생각해 본다.

사람을 차별하는 인공지능 에서는

가석방 여부를 판단하는 인공지능 콤파스에서 불거진

흑인 차별 문제를 살펴본다.

여성, 공립학교, 챗봇 이루다에서  불거진 차별 이슈에 대해

개발자의 한계와 인공지능의 신뢰성 문제를 다룬다.

착각하게 만드는 인공지능 에서는

구글 듀플렉스는 사람처럼 대화할 수 있다.

인공지능의 의인화의 문제, 불쾌한 골짜기, 딥페이크와 딥누드,

의료 영상의 위조 문제 등을 소개한다.

안전하지 못한 인공지능 에서는

인공지능을 의도적으로 유인하는 적대적 공격이 가능하다.

취약한 인공지능 컨테이너, 신뢰할 수 있는 인공지능을 생각한다.

4장 흔들림 너머 AI 바로 보기 의

흔들리는 인간을 위한 윤리 에서는

신뢰할 수 있는 인공지능을 위해서는 신뢰할 수 있는 인간이 요구된다.

ESG 경영과 인공지능 윤리, 개발자 중심에서 이용자 중심으로,

‘윤리’의 바다를 항해하는 ‘법’이라는 배를 소개한다.

인터넷 윤리를 품은 인공지능 윤리 에서는

인터넷 윤리의 연장선에서 인공지능 윤리를 살펴본다.

개인 정보와 프라이버시 정보 유출, 일라이자 효과와 중독 문제,

정보사회의 새로운 윤리에 대해 생각해 본다.

인공지능 윤리 원칙의 도출 에서는

인공지능 윤리 기본 원칙을 도출하기 위한 5 Whys 특성 분석,

차별적 특성과 보편적 특성, 인공지능 윤리의 기본 원칙을

이야기 한다.

공공성과 책무성 이해하기 에서는

공공성 관련 원칙,  책무성 관련 원칙들

통제성 관련 원칙,  투명성 관련 원칙들을

설명한다.

인공지능 바로 보고 마주하기 에서는

국가 인공지능 윤리 기준, 교육, 대학, 공공 분야의 인공지능 윤리,

인공지능 생태계와 정부의 역할, 전 국민을 위한 인공지능 윤리를

이야기 한다.

"AI는 양심이 없다" 는

‘죽음’을 흔드는 AI, ‘존재’를 흔드는 AI에서

디지털 정보와 인공지능이 가져오는 변화를 야기 한다.

디지털 부활, 디지털 영생, 생물학적 영생, 가상인간,

가상 인플루언서, 가상가수, 아바타와 메타버스는

빠른 속도로 일상을 파고들고 있다.

‘신뢰’를 흔드는 AI 에서는

4차 산업혁명에서 인공지능의 가져올 파괴적 혁신, 

인공지능의 법적 책임, 차별 문제, 신뢰성 문제 등을

생각해 본다. 

흔들림 너머 AI 바로 보기 에서는

인공지능의 윤리는 인간의 윤리 문제와 같다.

공공성과 책무성, 통제성과 투명성 등 윤리원칙과

인공지능 윤리기준을 소개한다.

인공지능은 인류에게 엄청난 기회를 줄 수 있지만

인류의 존재를 위협할 수도 있다.

영화 터미네이터 등에서는 인공지능이 초래할

어두운 미래를 예언했고.

스티븐 호킹, 레이 커즈와일 등은 걱정스럽게

인공지능의 미래를 바라본다.

인공지능의 긍정적 면을 활용하고 

위험성을 줄이기 위해서는

인공지능 윤리를 먼저 갖추어야 할 것이다.

"AI는 양심이 없다"를 통해 인공지능의

윤리문제에 대해 생각해 볼 수 있었다.

헤이북스와 문화충전 서평단에서

"AI는 양심이 없다"를 증정해주셨다.

감사드린다.

#AI는양심이없다 #헤이북스 #김명주 #사회학일반 #교양으로읽는인문 #문화충전200 #문화충전200서평단