직접 차별은 말 그대로 직접적으로 차별을 하는 것을 일컫는 것이다. 예를 들어, 회사에서 채용을 하는 과정에서 ‘여성은 채용 불가‘ 또는 ‘성소수자 채용 불가‘라고 명시적으로 방침을 마련하여 실행하는 것이다. 이처럼 단지 여성이라는 이유나 성소수자라는 이유로 취업에서 배제하거나 불이익을 겪게 하는 것이 직접 차별이다. 특정 그룹에 속하거나 특정 속성을 보이기 때문에 ‘because of‘ 불이익이 부여되는 상황을 말한다. 사회적인 맥락에서 볼 때 성별, 종교, 인종 등의 속성값에 따라 불이익이 생긴다고 하면, 이는 차별이라고 보는 것이다.
이와 같은 직접 차별은 선호에 기초한 차별 taste-based discrimination과 통계적 차별statistical discrimination 로 추가적 구분을 하기도 한다. - P141
간접 차별은 외견상의 기준 내지 입력한 값 기준으로 보면 차별이라고 할 만한 요소가 명확하지 않는 경우를 주로 상정하게 된다. 즉 외견상 차별성이 없는 기준을 적용한 것으로 보이는데, 결과값을 보니 차별이 의심될 수밖에 없는 상황에 관한 것이다. 차별 의도가 있는지에 관해 확인하기는 어렵지만, 결과적으로 특정 그룹에 속하는 구성원에게 부당한 불이익이 발생하는 경우를 생각하면 된다.
인공지능 맥락에서 볼때 간접차별은 입력값보다 결과값에 초점을 맞추어 살펴보게 된다. 직접 차별에 관해서 볼때에는 입력값에 차별적 속성, 예컨대 종교나 성별 등이 포함되었는지 검토하겠지만, 간접차별의 경우에는 입력값에 차별적 속성이 들어가지 않았음에도 결과적으로 차별적 결과가 나타난 것인지 검토하게 된다. - P145
그런 점에서 보면, 인간에 의한 차별과 달리 인공지능에 의한 차별은 훨씬 더 투명한 경우가 많다. 사람의 차별과 비교하면 인공지능에 의한 차별 이슈는 오히려 차별 요인을 파악하기가 상대적으로 쉽다. 그로부터 해결책을 찾아내는 것도 상대적으로 쉽다. 다만 이것이 가능하기 위해서는 일정 수준의 투명성이 확보되어야 한다. - P151
외국, 특히 미국에서는 이와 같은 맥락의 차별에 대한 논의가 지속적으로 나타나고 있다. 가장 흔히 발생하는 논란은 인종차별에 관한 것으로, 경찰력의 배치에 관한 정책적 판단이 예시가 될 수 있다. 통계적으로 범죄율이 높은 지역에 경찰력을 많이 배치하여 범죄를 예방하기 위한 노력을 기울일 수 있다. 그런데 통계적으로 범죄율이 높은 곳은 흑인 거주지역인 경우가 많다. 경찰력을 많이 배치하면그에 따라 검문검색이 늘어나고, 그로 인해 검거율 또한 높아지는 흐름이 나타난다. 이는 통계적으로는 범죄율을 높이는 효과를 가져온다. 반면 백인 거주 지역에는 경찰력의 투입이 적기 때문에 검문검색도 상대적으로 적다. 그로 인해 범죄율도 낮은 것으로 파악된다. 이처럼 순찰이나 검문검색 등의 과정을 통해 흑인 거주지역에서는 범죄율이 계속해서 높아지는 악순환이 나타날 수 있고, 반대로 백인 거주지역에서는 범죄율이 낮은 것으로 파악되는 경향성이 나타날 수 있는 것이다. - P177
흔히 ‘인공지능은 너무 복잡하여 그 판단 과정에 대해 알아낼 수 없다‘는 얘기를 한다. 그런데 이 말은 그리 정확한 것은 아니다. 인공지능은 하나의 기술이 아니고 매우 다양한 유형의 기술들을 포괄하여 언급하는 것이다. 그리고 구체적인 개별 기술에 따라서는 의사결정 메커니즘이 상당히 투명한 것도 있는 반면, 전혀 그렇지 않은 것도 있다. 투명성이 높으면 대체로 설명가능성도 높다.
인공지능 유형 중 간단하고 투명한 유형으로 의사결정나무decision tree 를 이용한 것을 들 수 있다. 의사결정나무를 이용한 모형은 구조가 투명해서 설명가능성이 높다. 한편,
딥러닝 deep learning 모형은 여러 레이어 Layer를 두고 의사결정을 하게 되는데, 대체로 설명가능성이 높지 않다. 이처럼개별적인 인공지능 기술에 따라서 투명성이나 설명가능성의 정도는 달라진다. 다만 대체적으로 투명성이 높은 모형들은 성능이 떨어지는 경향이 있고, 투명성이 낮은 모형들이 성능이 좋은 경향이 있다. 성능도 좋고 투명성도 확보할수 있는 방향으로 기술 개발을 하기 위한 노력이 지속되고있다. 또한 개별의사결정에 따라 어떤 모형을 써야 할 것인지에 관한 논의도 필요하다. - P184
|