-
-
AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월
평점 :
인간의 가장 큰 특징 중 하나가 무생물을 의인화하여 마치 살아 있는 인격체처럼 대하는 능력이다. 이걸 능력이라 하는 것이 적절한지는 몰라도, 이 능력으로 인해 인간의 기술은 엄청난 발전과 함께 문제를 경험했다. 인공지능에도 이와 같은 문제가 발생할 것이 분명하다.(이미 간접적인 경험이 이루어지고 있다) 결국 인류는 인류 기술의 정점이자 최후의 기술이라 일컬어지는 인공지능 기술과 관련하여 가장 중요한 사안으로 인공지능의 윤리 문제에 직면했다고 할 수 있다.
‘죽음’을 흔드는 AI
이 책의 가장 흥미로운 부분이었다. 죽은 자의 디지털 부활, 살아 있는 자의 디지털 영생이 가능하게 된 시대, 라는 이슈는 기독교적 관점에서 볼 때 매우 독특하고 위험한 가지치기다. 신화적인 상상상을 넘어 과학과 철학, 종교의 영역을 모조리 흡수하는 인공지능 기술의 가공할 영향력을 엿볼 수 있는 대목이다. 삶의 기록이 디지털 데이화되어 육신이 죽으면 다른 육신, 즉 하드웨어에 이식하여 계속 나의 정체성을 이어간다는, 영생이나 부활 본연의 의미를 빗겨간 듯도 한 이런 개념의 부상은 사람들에게 삶과 죽음의 의미에 상당한 혼란을 일으킬 듯하다.
인간과 인공지능의 관계, 수평적이어야 하는가 수직적이어야 하는가? 라는 물음도 주목할 만하다. 인공지능은 사람에게 유익과 편리를 주기 위해 만들어진 기술이지만 우리의 삶이 오히려 기술에 지배당하고 있다고 생각할 수 있는 여지가 많음을 생활 속에서도 조금씩 체험하고 있다.

‘존재’를 흔드는 AI
또 다른 내가 존재하는 형식인 아바타 그리고 그 아바타가 존재하는 공간인 가상세계가 이 장의 주요 이슈다. 요즘 메타버스라고 불리는 초현실 가상세계가 가장 많이 거론된다. 앞서 죽음을 흔드는 인공지능 기술에서도 다루었듯이 우리의 죽음뿐만 아니라 삶 자체가 이중적 정의를 ‘정식’으로 가질 수 있는 가능성이 열렸다. 이미 그것을 받아들인 사람도 있지만, 이제는 보편적인 현상이 될 길이 열린 것이다.
가상 아나운서, 인플루언서, 가수 등의 출현으로 기존 현실 세계의 인간을 보조하는 입장에서 경쟁하는 관계로, 나아가 현실 인간의 자리를 빼앗을 수 있다는 위기감까지 가상 인간이 가져올 수 있는 다양한 미래 가능성을 살펴본다. 공무원이나 의사 같은 경우는 개인적으로 인공지능이 대체하는 게 맞다고 생각한다.
이 장에서는 전통 아날로그 윤리에 대비되는 디지털 윤리에 대해 논하다가 결국 전통 윤리의 외연의 확장을 통해 점점 혼합현실로 가고 있는 흐름을 품어내는 새로운 윤리 개념이 필요함을 역설하고 있다.
‘신뢰’를 흔드는 AI
인공지능이 인간의 일자리를 위협할까? 라는 질문은 인공지능 이전에 이미 사회의 변혁을 일으키는 신기술이 등장할 때마다 나왔던 물음이다. 일반적으로 신기술에 의해 기존의 직업들이 사라지면 또 그만큼 아니 그 이상으로 새로운 직군이 생겨나 사람들에게 일할 수 있는 기회를 열어주는 것으로 결론이 나곤 했다. 하지만 좁은 인공지능에서 범용 인공지능, 초지능 사회가 되면 이 법칙이 통하지 않을 수도 있다는 위기감이 생겼다. 기술이 너무 빠르게 발전하고 있고 우리의 삶에 이전과는 비교할 수도 없을 만큼 큰 영향을 주고 변화를 일으키고 있기 때문이다.
앞서 다룬 내용이 탈인간 중심의 법체계는 가능할까? 라는 질문이 나온 배경이다. 인공지능은 이론상 주체적인 판단이 가능하다. 그렇다면 어떤 사고가 벌어졌을 때 그 책임 소재를 물을 수 있어야 한다. ‘인격’ 개념의 확장을 통해 법인이 예외적으로 법인격으로 인정된 사례를 생각해보면 인공지능 역시 법의 통제를 받는 법인격, 인격체로서의 자격을 부여받는 것이 그렇게 무리한 일이 아니라는 것을 알 수 있다. 현실적으로 좁은 수준의 인공지능에서도 많은 문제가 발견되었고, 예측 가능한 문제가 실제로 발생할 가능성이 높은 것을 알 수 있다.
기술 발전으로 초래될 급격한 변화와 파괴적 혁신에 대한 궁극의 대안, 근본적인 해결 방법은 은 윤리적 대안, 즉 ‘인공지능 윤리’의 지속적 확립이라고 할 수 있다. 이 책은 그에 따라 공공성, 책무성, 통제성, 투명성을 제시한다.

흔들림 너머 AI 바로 보기
믿고 함께할 수 있는 인공지능은 가능한가? 지금 인류에게는 과거보다 더 현명한 판단과 결단이 요구되고 있다. 기술이 사회를 지배한 후 발생한 문제를 뒤늦게 대응하는 방식으로 해결하는 것은 너무 위험해 보인다. 인간이 사회를 이루고 지금까지 생존하고 번영할 수 있었던 가장 중요한 기제 중 하나가 윤리다. 이제는 인공지능의 가공할 가능성을 인정하고 인류의 가장 큰 무기인 집단지성에 의한 윤리 체계를 선제적으로 인공지능 기술에 적용하여, 다가올 위기를 효과적으로 관리하고, 인공지능 기술이 줄 혜택과 유익, 긍정성을 마음껏 나누고 후대에 전달할 수 있도록 해야만 한다는 의무감을 느낄 수 있었다. 인류의 한 구성원으로서.
* 네이버 「문화충전200%」 카페 이벤트를 통해 출판사로부터 책을 무상으로 제공받아 읽고 쓴 서평입니다.