AI는 라이언 일병을 구하러 가지 않는다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

 

◆ 소개

▷ AI는 양심이 없다

▷ 김명주

▷ 헤이북스

▷ 2022년 05월 02일

▷ 336쪽 ∥ 488g ∥ 148*210*30mm

▷ 사회학

◆ 후기 

▷내용《中》 편집《中》 추천《中》

후안 엔리케스의 저서 《무엇이 옳은가》에서 “늘 되풀이되는 일이긴 하지만, 한 사회가 가진 윤리적 규범은 언젠가 결국 바뀐다. 결혼 아닌 동거는 1960년대만 해도 ‘죄 속에서 사는 것’이었으며 법적 처벌까지 받는 일이었다. 《중략》 1966년 교황청 출산조절위원회의 80%는 인공피임 허용에 동의했지만, 교황 바오로 6세는 ‘인간생명회칙’을 통해 보수적인 소수 의견을 손을 들어주며 피임을 금지했다. 《중략》 피임은 여성에게 교육과 경력의 기회를 열어주는 핵심 열쇠가 되었다. 일하는 여성의 비율은 1962년에 37%였으나 200년엔 61%까지 증가했다. 《중략》 이제는 체외수정으로 임신이 가능해졌다. 그리고 이를 통해 우리는 신체적 접촉과 임신을 분리시켰다.”

인공지능(artificial intelligence, AI)은 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하는 컴퓨터과학의 한 분야에 해당한다. 에니악이라는 단순한 거대 계산기로 시작한 컴퓨터는, 이제 스스로 인간처럼 생각할 수 있는 지능을 가지게 된 것이다. 하지만, 늘 그러하듯이 인간은 새로운 기술에 대하여 두 축으로 나뉜다. 신기술이 새로운 세상을 창조하게 해줄 것이라는 긍정적인 측과 신기술이 인간을 뛰어넘어 종말을 맞게 할 것이라는 측이다. 이런 기조는 특히 소설이나 영화에서 흔하게 볼 수 있다. 대표적인 영화로 AI, 아이 로봇 같은 작품이 있다. 영화에서는 인간보다 더 윤리적인 로봇, 인간적인 더 감성적인 로봇이 등장한다. 특히 AI의 마지막 장면은 아직도 인상 깊다.

P.05 “교통법규를 지키는 사람이 운전하는 자동차는 ‘시간의 단축’이라는 편리함을 제공한다. 반면에 난폭한 운전자가 모는 자동차는 ‘생명의 단축’이라는 불행을 초래한다. 그래서 기술을 가치중립적이라고 한다. 이용하는 사람과 상황에 따라 기술은 유익할 수도 있지만 해로울 수도 있다.”

P.050 “모호해진 산 자와 죽은 자의 경계, 자신의 디지털 트윈을 만들고 싶어 하는 사람이 특정 분야의 전문가이거나 직업인이라면 디지털 트윈은 그 사람이 보유한 전문 지식과 경험을 많은 사람과 시공을 초월해 나눌 수 있는 좋은 매체가 될 수 있다. 《중략》 전통적으로 책이나 논문 등을 통해 주변 사람과 후손들에게 전수되던 지식과 경험이 이제부터는 디지털 트윈이라는 실시간 대화형 디지털 휴먼을 통해서 이뤄진다.”

P.231 “인공지능 윤리의 등장, 예상보다 빠르게 4차 산업혁명이 시작됐다. 4차 산업혁명을 이끄는 핵심 기술인 ‘인공지능’과 관련해 ‘인공지능 윤리’라는 용어가 새롭게 등장했다. 4차 산업혁명으로 인해 기존의 정보화사회가 지능정보사회로 대전환되면서 등장했기 때문에, 인공지능 윤리를 ‘지능정보사회 윤리’ 또는 ‘4차 산업혁명 윤리’라고도 부른다. 그런데 ‘인공지능 윤리’를 기존의 ‘인터넷 윤리’와 별개로 분리해 접근함으로써 지금까지 상당한 오해와 잘못을 낳아오고 있다.”

그리스·로마 신화에 등장하는 프로메테우스는 올림포스의 신보다 한 세대 위인 티탄족에 속하는 신이다. ‘먼저 생각하는 사람, 선지자’라는 뜻으로 최초로 인간을 창조하고 인간에게 영원히 꺼지지 않는 불꽃을 준 신이다. 신에게 받은 불이든, 우연히 낙뢰로 얻은 불이든 인간은 철과 불의 역사라고 해도 무방할 정도로 인류사 그 자체다. 인간이 만든 도구 칼이 사람을 해칠 수 있다고 해서, 불로 인해 화재가 발생한다 해서 이것들을 모두 없앨 수 없다. 칼이나 불이 주는 유익이 불이익보다 수천수만 배 더 크기 때문이다. 체스나 장기를 이긴 인공지능은 존재했으나, 바둑만은 여전히 인간의 영역이었다. 하지만, 알파고에 의해 이세돌 9단은 패배하고 말았다. 바둑의 경우의 수는 10^171인데 무한에 가까운 수이다. 인공지능은 이를 해냈고 우리는 이제 선택을 해야 한다. 유익과 불이익 사이에서 선택해야 하고, AI에게 인간의 윤리를 허락받을 수 있는지 말이다. 현재까지 AI는 라이언 일병을 구하러 가지 않고 있기 때문이다.