AI 차별을 인간에게서 배운다

AI는 차별을 인간에게서 배운다 - 인간과 기술의 공존을 위해 다시 세우는 정의 ㅣ 서가명강 시리즈 22
고학수 지음 / 21세기북스 / 2022년 1월

알파고가 이세돌과의 바둑 대전에서 승리하면서 인공지능이 인간의 지능을 추월할 수 있다는 우려가 현실이 되며 사회의 관심으로 급부상하였다. 이미 아마존에서는 인공지능이 이력서를 검토하고 우리는 무의식중에 플랫폼의 알고리즘에 의해 추천된 상품을 이용하면서 살아가고 있다. <AI 차별을 인간에게서 배운다>에는 인공지능 기술이 작동하는 메커니즘에 대해 이해하고, 매커니즘이 일상과 사회에 어떠한 영향을 미치는지 알아본다.

이미 인공지능이 일상에 적용되고 있지만 인간의 판단을 AI가 대체하기는 아직 갈 길이 멀다고 할 수 있다. 예를 들면, AI가 대체할 직업군에 판사도 포함되어 있었다. 인공지능이 판사의 판결을 대체할 수 있다는 의견이 분분했던 것이다. 그러나 우려가 현실 되기는 어렵다는 게 현재의 잠정적인 결론이다. 판결은 일반적으로 과거의 판례에 기초해서 판결이 이루어진다. 그러나 잘못된 판결이 뒤집히는 사례도 종종 목격한다. 이처럼 과거의 데이터를 기반으로 학습된 인공지능은 현재 사회적 통념의 변화를 반영하기 어렵기 때문에 인간의 유무죄를 따지는 중요한 일을 AI의 판단에 맡기기 어려운 것이다.

이와 더불어 통계적인 측면에서 데이터 항목이 많을수록 정확한 분석이 가능하지만, 데이터 유용성보다 더 고려해야 할 사항은 사회적인 부작용 우려 등 사회적인 통념에 있음을 지적한다. 풍부한 결과를 도출해 낼 수 있는 고도의 데이터 분석 모형을 만드는 것과 사회적, 정책적 판단을 하는 것 사이에서 지속적인 논의와 고민을 할 필요가 있음을 고민해 봐야 하는 대목이다. 이외에도 인공지능의 공정성 문제와 윤리성 등을 짚어본다.

<AI 차별을 인간에게서 배운다>에서 저자는 인공지능이 보다 널리 활용되기 위해서는 무엇보다 인공지능 기술 자체에 대한 신뢰도가 높아져야 한다고 주장한다. 또한 알고리즘에 의한 차별과 공정성에 관한 논란에서 자유로워지기 위해서는 기술적 방안과 사회적 합의가 필요하다. 현재 인공지능 이슈의 핵심은 윤리적인 문제를 어떻게 해소하여 신뢰할 수 있는 인공지능으로 거듭날 수 있는지에 달린 것 같다.