-
-
AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월
평점 :
![](https://image.aladin.co.kr/Community/paper/2022/0224/pimg_7516621743319597.jpg)
![](https://image.aladin.co.kr/Community/paper/2022/0224/pimg_7516621743319598.jpg)
저자 고학수
사회 변화의 한가운데서 미래를 위한 법을 연구하는 법학자
서울대학교 법학전문대학원 교수로 재직 중
현재 아시아법경제학회 회장, 한국인공지능법학회 회장
서울대 인공지능정책 이니셔티브 공동디렉터
서울대 AI연구원 부원장
저자는 경제학과 법을 공부했는데 어떻게 인공지능에 대한 책을 썼을까?
법학자인 저자는 어떠한 인공지능 이야기를 들려줄까?
<AI, 인공지능>
인간의 학습능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 기술
이미 우리는 인공지능 환경 속에서 살고 있다.
매일 사용하는 핸드폰 속에서 검색과 함께 만나게 되는 광고들이 이 기술을 이용해 사용자가 원하는 관심사를 파악하고 상품을 추천해주는 인공지능의 한 장면이다.
유튜브에서 키워드 검색을 하면 내가 관련 추천 영상을 보여주고, 인간의 삶을 윤택하게 해줄 하나의 대체 자원으로 개발되고 있다. 그러나 인간을 대신함으로써 인간의 설 자리를 잃게 할 인간을 위협하는 위험한 기술로 같은 기술을 바라보는 2개의 시선이 있다.
인공지능은 데이터를 기초로 이를 분석해 사람들을 예측하는 데이터를 만들어 낸다. 이 데이터를 사용자에게 제공하는 것을 우리는 인공지능이라 부른다. 그런데 이 인공지능도 학습이 필요하다. 데이터를 정확하게 분류하고 다수의 인간들의 선택에 대한 데이터를 분석하여 연관되거나 추천 정보를 제공하게 된다.
그러나 인공지능은 아직 '맥락'을 이해하지 못한다고 한다.
단순한 데이터 분석으론 전혀 다른 결과를 도출 할 수 있으므로 신뢰도가 낮아지게 된다.
이를 해결하여 신뢰도 높은 인공지능이 탄생하게 된다면 사회 전반에 다양하게 활용될 것이다.
저자는 인공지능을 활용한 사례를 소개하고 그 문제점과 해결 방안에 대한 시사점을 제시한다.
인공지능 면접의 경우 지원자가 많은 경우 채용 과정의 절차를 좀 더 전문화하고 비용을 줄이는 효과가 있다고 한다.
객관적인 평가가 가능하고 재량이나 자의적 판단이 작용할 여지가 적을 것이라는 인식이 생길 수 있어 채용과정 자체가 부당함이나 불공정을 야기하는 분쟁으로부터 자유로울수 있을 것이라 기대한다.
그러다 채용 분야의 특성을 고려하고 인공지능 분석에 제공되는 정보는 사회적 맥락을 통해 결정해야하는 고민이 필요하다. 그런데 그 맥락에 대한 이해도가 떨어져 보완이 필요하다.
인공지능이 데이터를 분석하여 정보를 도출하기까지의 과정을 알고리즘으로 표현할 수 있는데 이러한 알고리즘이 공정성과 차별 문제를 야기한다고 한다.
유사한 속성을 지닌 사람들을 다르게 취급하는 직접 차별과, 일부 속성이 다르게 나타나더라도 일정 유형의 정보에 대해서 이를 무시하고 서로 다른 특징을 보이는 통계학적 그룹을 동일한 그룹인 것처럼 취급할 가능성을 열어둔다.
개인적으로 이러한 문제는 적용되는 데이터와 알고리즘에 따라 달라질 것인데, 그 기준을 어디에 두냐에 따라 인간 사회에서처럼 영원히 해결되지 않는 문제로 남을 것 같다. 그럼에도 불구하고 인공지능은 현실의 인간 사회보다 그 절차가 더 투명한 경우가 많아 수정 보완을 통해 더욱 발전 될 가능성이 높다.
인공지능과 관련된 또 하나의 문제는 바로 윤리에 대한 논의이다.
이 논의에서 많이 강조되는 또 하나의 원칙은 '투명성'이라고 한다.
그 외에 책임, 프라이버스, 혜택과 자유와 자율, 신뢰, 유지가능성 존엄성, 연대가 중요하게 제시된다.
이러한 논의로 우리나라에서 2018년 '지능정보사회 윤리 가이드라인'이 발표되었다.
이 가이드라인에 포함된 4가지 원칙은 공공성, 책무성, 통제성, 투명성이다.
그리고 2020년 12월 과학기술정보통신부에서 '인공지능 윤기 기준'을 발표한다.
이 기준은 3대 기본원칙으로 인간존중성, 사회의 공공선, 기술의 합목적성을 제시하고 이를 위한 10대 핵심 요건을 구체화하여 담아냈다.
이러한 원칙들은 인공지능 기술의 변화에 따라 함께 수정 보완 될 것이다.
현재 학계에서도 인공지능의 확실한 체계화는 이루어지지 않았고, 앞으로도 계속 논의는 계속될 것이다.
책의 제목 처럼 결국 인공지능은 인간이 만들어낸 결과일 것이다.
잘 활용되면 너무도 편리한 기술이다.
나는 이러한 인공지능의 긍정적인면을 강조하고 싶다.
예를 들면 내가 원하는 자료를 즉시로 찾아주는 AI스피커와 같은 실제 생활에서 활용될 수 있는 기술들의 발전 말이다. 획기적인 기술이지만 인류의 멸망을 야기 시킬지도 모르는 핵융합 기술 처럼 인공지능 기술 역시 위험하면서도 또한 발전시켜야할 기술이다.
인공지능의 긍정적인 면이 부각되어 나의 삶을 풍요롭게 만들어 주길 기대해본다.
※도서를 출판사로부터 무상제공받아 주관적으로 작성한 서평입니다.