인공지능 윤리하다

인공지능 윤리하다
변순용.이연희 지음 / 어문학사 / 2020년 9월

「인공지능 윤리하다」는 크게 두 가지 범주에서 인공지능의 문제를 다루고 있다. 하나는 상용화될 미래 세계에서 고도로 발전된 인공지능으로 발생할 수 있는 사회적 문제를 미리 예방하는 차원에서, 개발 단계(연구, 설계)에서부터 제작, 유통, 소비, 유지 및 관리되는 과정 일체에 윤리적 가이드라인을 설정하여 대비하고 있는 각국의 현황과 우리나라에의 적용 실태를 파악하고 대안을 제시하는 것이다. 구체적으로 이미 공개된 다양한 로봇/인공지능 윤리 원칙 등을 소개하고 그 한계를 지적하며, 나아가 인공지능을 생산하고 소비하는 상품의 관점으로 파악하여 사람들이 안전하고 편리하게 사용할 수 있는 ‘윤리인증제도’의 도입을 구상하고 있다. 여기에 면밀히 논의되어야 할 개념들이 책임성, 투명성, 알고리즘의 편향성 문제다. 또 하나는 인공지능이 현실적으로 적용될 의료, 교통, 군사, 예술, 복지 등의 분야에서 발생할 수 있는 문제를 보편적인 윤리 원칙인 공리주의와 의무론적 관점에서 분석하고 나아갈 방향을 제시한다.

윤리란 존재를 유지하기 위해 필요한 생각이나 행동의 기준을 세우는 인간의 행위이다. 고려되는 요소는 옳고 그름, 선과 악, 좋고 싫음, 만족과 불만, 행복과 불행, 안전과 위험 등이다. 대체로 인류 역사에서 어떤 문제가 발생하여 윤리적인 고민과 논의, 결론을 내야 하는 상황은 인간과 인간, 인간과 어떤 사물이나 사상이 유발하는 상황과 관련해서 이루어졌다. 그런데 AI, 즉 인공지능의 발전은 지금까지 인류가 경험해보지 못했던 새로운 차원의 윤리적 문제를 고민하게 만들었다.

그것은 인공지능기술이 탑재된 로봇이나 기타 의사소통이 가능한 물체들이 ‘인공성’에 기반한 것임에도 불구하고 그것들에게 행위주체성이나 자율성을 가질 수 있다고 사람들이 생각하면서 비롯되었다. 다시 말해 사람이 만들어낸 도구적 성격의 인공지능이 이제는 어느 정도 인간의 고유한 영역이라고 할 수 있는 능력과 존재양식을 흉내낼 수 있게 되면서 인격적인 의미를 부여받는 단계를 바라보고 있는 것이다. 단순한 상품이나 간단한 알고리즘으로 작동되는 기계에조차 애착을 가지고 삶의 의미까지 부여하는 인간 존재의 특성상, 인공지능이 보여주는 ‘유사인간성’적인 요소는 인간 존재의 정의와 인간의 삶의 방식과 기반 자체에 변화를 줄 수 있다는 가능성 때문에 미래에 대한 전망이 불분명하며 찬반 양론이 팽팽한 상황이다.

인공지능과 로봇공학의 발달로 새롭게 등장할 피조물을 인류 진화의 다음 단계로 보는 사람들까지 있는 상황에서, 인류는 인공지능이 일상적으로 쓰이는 상황, 즉 상용화가 이루어지는 데 필요한 중요한 결정을 합의해야 하는 상황에 놓여 있다. 다행히 현재 기술 수준으로는 인공지능의 주체성을 현상적 차원에서 인간의 자율성을 모방하는 수준, 즉 준자율성, 위임된 자율성, 유사자율성, 조건적 자율성 등으로 규정할 수 있는 정도인데, 이 정도만 해도 사람들이 엄청난 영향을 받고 있다는 것을 인식하는 가운데 과거의 다른 윤리 이슈들(이미 일이 벌어지고 난 뒤 윤리적 해결책을 세워나갔던)과는 다르게 비교적 선제적으로 인공지능의 개발과 보급, 활용을 위한 기본원칙들을 논의하고 기초적인 윤리 가이드라인들을 세워나가고 있는 실정인 것이다.

앞서 말했듯이 자율형 인공지능기술을 탑재한 로봇 혹은 시스템 등은 ‘이중성’을 갖고 있다. 도구로 만들어졌지만 빅데이터, 머신러닝 등의 기술이 발전하며 인간과 간단한 정서적 교류나 실질적인 상호작용까지 일으킬 수 있는 준자율적 성격을 가진 개체로 사람들이 인식하기 시작했다. 전 세계적으로 개발과 확산에 대한 찬반 주장의 대립과 상관없이 개발은 계속되고 있다. 따라서 현재 인공지능의 발전 수준과 이에 대해 법적, 경제적, 사회적인 차원에서 비교적 선제적으로 대응하고 있는 국제사회의 노력이 어떤 방향으로 흘러가고 있으며, 우리 사회는 이를 어떻게 수용하고 있는지 소개하고 저자들 나름대로의 대안을 제시하고 있는 이 책이 가지는 의의는 매우 크다고 할 수 있다.

이 책을 읽으면서 ‘인공지능’ 이슈는 결국 사람의 문제, 인간성의 문제, 인간이 가진 가능성과 한계의 문제라는 점을 생각하게 된다. 인공지능 기술의 발전이 인류의 존엄성을 지키고 공공선을 증진시키기 위해서 이루어져야 한다는 미사여구 이면을 냉정하게 들여다보면 인공지능 문제는 결국 경제 문제와 직결되며, 각국의 이해, 각 경제 주체들의 이해 관계와 깊이 연관되어 있다. 돈 문제라는 것이다. 기존 경제 시스템이 포화 상태에 이른 지금, 실질 경제 활동 인구의 감소와 고령화, 군사적 긴장감으로 인한 위기감의 재확산, 바이러스 전염병으로 인한 뉴노멀의 가치관 속에서, 인공지능은 돈을 계속 돌릴 수 있는 통로로 인식되고 있는 것 같다. 그러나 인간 존재 자체가 심각한 위기에 처할 수는 없는 노릇이기에, 그 안전한계선을 지키면서 인공지능을 어떻게 산업화할 수 있는가, 경제 시스템을 유지시킬 수 있는가가 핵심인 것 같다. 그리고 그 핵심의 주변에 인간적, 사회적, 윤리적 문제가 외면하고 싶지만 외면할 수 없는 들러리처럼 따라붙어 있는 것은 아닌가 하는 생각을 해보았다.

이 책을 읽으면서 내내 들었던 의문은, 디지털 코드에서 감정이나 마음이 발생할 수 있는가? 이다. 결국 인간의 마음이 디지털 신호로 환원될 수 있는가에 대한 것이다. 그것이 가능하다면 인공지능의 마음, 감정 발생이 허황된 소리는 아니게 된다. 무수한 디지털 데이터 속에서 발견되는 패턴이 생명 현상과 밀접한 관련이 있을 수 있을까? 디지털 기반 컴퓨터보다 더 고도화된 양자 컴퓨터가 발전하면 인공지능은 또 어떻게 진화할까? 이런 궁금증들이 책을 읽는 내내 하나둘씩 따라붙었다.

만약 이 책에서 말하는 것처럼 현재의 약인공지능과 강인공지능의 어디엔가 위치하고 있는 수준에서, 인간에 대해 어떤 판단을 내릴 수 있는 ‘슈퍼 인공지능’의 단계가 현실이 된다면, 그들은 과연 어떤 결론을 ‘계산과 분석’을 통해 이끌어낼까? 인간의 윤리와 인공지능의 윤리는 하나인가, 별개가 될 것인가?

「도서출판 어문학사」에서 진행한 신간도서 서평이벤트에 참여하여 출판사로부터 책을 무상으로 제공받아 읽고 쓴 서평입니다.