AI는 양심이 없다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

📕AI는양심이없다

#김명주
1995년부터 서울지방검찰청 특수부에서 컴퓨터범죄 사건에 대한 수사 자문을 맡기 시작했고, 2001년 수도권 최초로 서울여대에 정보보호학과를 설립하고, 2014년 국내 최초로 교육부 지정 정보보호영재교육원도 설립했다. 2019년 바른AI연구센터를 설립한 후 윤리적 상상력을 기반으로 바람직한 미래 사회를 그려가고 있으며, 최근에는 인공지능윤리정책포럼 위원, 디지털포용포럼 위원 활동을 통해 사회적 공론화 작업에도 힘쓰고 있다.

#죽음을흔드는AI
디지털 부활의 시작으로 이미 고인이 된 유명인들을 디지털 기술로 부활시킨 후 생
전의 활동을 기반으로 고용 활동하는 이슈를 본견적으로 다룬 웹사이트가 있다. 주소 모두가 "DEAD" '사후 디지털 고용'의 첫 글자를 모은 것이다.

이미 세상을 떠난 고인을 인공지능의 도움으로 부활시켜 다시 활동하도록 만든 새로운 시도는 시간이 흐를수록 급속도로 증가할 것이며, 조망간 인공지능은 디지털 부활을 통해 인간의 죽음을 흔들기 시작할 것이라 한다.

'죽음을 흔드는 손'으로 인공지능을 활용하기 시작하면 곧이어 윤리적이며 법적인 논쟁을 피할 수 없게 된다.

#가상인풀루언서의등장
SNS상에서 가상으로 활동하는 가상 인간이다. 가상 인간을 구현하는 기술에는 두 가지가 있다.
첫 번째 방식은 전통적인 그래픽 방식이다. 국내 싸이더스 스튜디오가 제자한 '로지'나 국외 인풀루언서 '미켈라' '슈두'가 가상 인풀루언서이다.
두 번째 방식은 최근들어 본격적으로 실용화 되기 시작한 딥페이크와 같은 인공지능 기술을 이용하는 방식이다. 딥러닝 중심의 인공지능 기술을 사용해 신체 일부를 다른 사람의 것과 바꿔 합성하거나 아예 새롭게 생성해 가상 인간을 구현하는 것이다.
현재는 이 두 가지 기술방식을 적절한 선에서 혼용해 구현하는 경우가 많아지고 있다.

#책임지지않는인공지능
책에서는 자율 주행차사고의 예시를 담아 놓았다. 운전자를 대신해 딥러닝과 같은 인공지능으로 구현된 '객체 인식 기술'이 운전에 필요한 시각 정보를 자동으로 추출해 운행케 하는게 자율 주행차이다. 하지만 자율 주행 레벨에 따라 인간의 책임과 인공지능 자동차의 책임이 명확히 구분되어 있지 않다.

대부분 인공지능을 활용한 장치나 제품, 서비스에서 인공지능과 사람의 역활 구분을 정확하게 명시한 경우는 많지가 않다. 그래서 사건과 사고, 민원이 발생하면 인공지능의 자율성과 사람의 개입 의무성 사이에서 책임 소재를 규명하는 것이 쉽지가 않다.

#반려로봇
참..많은 생각을 하게 만드는 단어이다. 감정을 인지하고 감정 교류와 같은 차별화된 특징을 더 갖춰 사람에게 친근하게 다가오게 됐다. 아픈 환자 또는 노약자의 건강을 모니터링하고 대화도 나누며 생활에 실질적인 도움을 주는 케어로봇, 돌봄로봇 등이다.

고령화가 심각히 급증되는 시기가 곧 도래되면 반려로봇에 대한 의존도는 높아질 듯하다. 나의 이야기를 온전히 있는 그대로 들어주며 부정적인 감정 소모나 관계에 대한 불편함도 없으며, 무엇보다 1가구로 살아가는 세상엔 가족보다 필요한 반려대상으로 존재하게 될 듯 하다.
태어나 이미 디지털 세상 전부가 자연스럽게 받아 들이는 세대가 그저 부러운 생각이 든다.

#한줄서평
작가의 프로필을 몇 번을 보게된다. 이런 책 꽤 흥미롭고 도움이 된다. 인공지능 AI의 진화로 항상 걱정하던 부분들이 많아 더욱 공감이 된다. 책 내용을 압축해 저장해 두고 싶을만큼. 이제 윤리적이고 법적일 논쟁을 피하기 위해 법 개정안도 법을 하는 심판자도 모두 인공지능 AI가 해야 하는 것일까? 어디까지가 윤리적이고 어디까지나 범죄의 수준인지 판단은 어디서 나오게 될지 불안한 의문점들이 늘어나기 시작한다. 나의 걱정과 불안해소도 챗 GPT가 해주면 좋으련만..