이런 이상한 결과가 나온 이유는 단순하다. 이 인공지능이 미인을 판단하고자 학습했던 사진이 대부분 백인 미녀였던 것이다. 미인의 기준이 백인 미녀에 맞춰져 있어서 다른 미모와 매력을 가진 황인종, 흑인종 미녀가 판단에서 배제된 것이다. 이 인공지능은 자신도모르게 인종 차별을 했다. 인공지능 학습의 전제 조건은 엄청난 양의 ‘빅 데이터‘다. 인공지능은 이런 데이터를 토대로 얼굴 알아보기, 바둑, 번역 등 특정 능력을 학습하면서 자신의 능력을 강화한다. 그런데 학습의 전제 조건이 되는 데이터에 문제가 있다면 어떤 일이 발생할까? 예를 들어 보자. 일본의 소프트뱅크는 신입 사원 채용 과정에서IBM의 인공지능 ‘왓슨‘을 활용하기로 했다. 일단은 지원서 확인에많은 시간이 걸렸던 서류전형부터 왓슨이 사람을 대신하기로 했다. 소프트뱅크는 왓슨의 도입으로 서류 전형에 소요되는 시간을 75퍼센트 정도 줄일 수 있으리라고 기대하고 있다. 고학수 서울 대학교 법학 전문 대학원 교수는 이렇게 인공지능이 채용을 할 때 예상하지 못했던 문제가 발생할 가능성을 경고한다. 예를 들어, "지난 30년간 국내 대기업의 여성 고용 및 승진 데이퍼를 훈련 데이터로 학습한 인공지능이 있다고 가정하자. 이 인공지능은 "대기업에서 여성의 승진 비율이 높지 않은 것을 업무 성과가 좋지 않은 것으로 학습할 수 있다. - P147
결과는 어땠을까? 우선 상황에 따라 답변이 크게 달랐다. 어느쪽이 좀 더 정답에 근접했을까? 흥미롭게도 다른 이의 예측 결과를알려 주었을 때 (사회적 영향력이 작용할 때) 144명의 집단은 더욱더 정답과는 거리가 먼 엉뚱한 답변을 내놓았다. 사회적 영향력이 집단지성의 힘을 무력화한 것이다. 이 실험에서 주목해야 할 대목은 세 가지다. 첫째, 다른 이의 판단을 그저 듣는 것만으로도 예측의 다양성이 감소했다. 그러니까 스위스의 2006년 살인 사건수(198건)를 처음에는 비교적 정확하게 약200건이라고 예측했던 사람도 다른 사람의 터무니없는 예측(약 800건)을 듣고서 자신의 의견을 바꿨다. 둘째, 이렇게 예측이 한두 가지로 좁혀지면서 집단 전체가 부정확한 결론을 내릴 가능성이 커졌다. 실제로 사회적 영향은 스위스의 2006년 살인 사건 수를 200건이 아니라 800건으로 예측하는 것처럼 틀린 결론으로 이끄는 경우가 종종 있었다. 다수의 틀린 예측이 맞는 예측을 압도해 버린 것이다. 세 번째 대목이 제일 심각하다. 혼자서는 설사 정확하게 예측했더라도 자신의 것을 확신하지 않았다. ("200건 정도 아닌가요?" ) 그런데여럿이 비슷한 예측을 하자 그것이 틀렸더라도 확신하는 경향을 보였다. ("맞아요. 800건이 확실해요!") 부풀대로 부풀어 터지기 직전의 주식시장이나 부동산 시장에 너도나도 수익을 ‘확신‘하며 뛰어드는 현상이 나타난 것이다. 사회적 영향력이 없을 때, 그러니까 144명이 독립적으로 판단할때는 어느 정도 집단 지성이 나타날 가능성이 있었다. 하지만 144명이 서로 영향을 주고받는 상황에서는 집단 지성이 나타나기는커녕, 오히려 개인의 판단보다도 못한 잘못된 결론을 내려놓고도 자신이 맞았다고 우기는 심각한 상황이 나타났다. - P162
애초 비슷했던 사람이 똑같은 뉴스를 보면서 심각해하고, 똑같은 드라마나 동영상을 보면서 즐거워하면서, 점점 더 모든 것에 똑같이 반응하게 되는 것이다. 이런 사회에서 집단은 똑똑한 지성이 되기보다는 어리석은 바보가 될 가능성이 훨씬 더 크다. 우리는 과연 집단 지성을 구할 수 있을까? 미국의 법학자 캐스선스타인(Cass R. Sumstein)은 건강한 사회, 또는 건강한 조직을 위해서는 "다른 의견"이 꼭 필요하다고 목소리를 높인다. 다른 의견이야말로 집단이 잘못된 결론으로 폭주하는 불상사를 막을 브레이크라는것이다. 동화 속의 아이처럼 "임금님은 벌거숭이"라고 외치는 자유를 보장해야 한다. - P164
2018년 12월에는 상대적으로 추운 날이 많았다. 추운 날에는 어김없이 시베리아에서 날아온 차가운 북서풍이 한반도를 덮친다. 이북서풍은 경로만 따져 보면 중국 대륙을 거세게 휩쓸고 날아온 것이다. 하지만 이렇게 북서풍이 심하게 분다고 해서 갑작스럽게 한반도미세 먼지가 심해지는 경우는 거의 없다. 오히려 날씨는 춥지만 미세먼지는 ‘보통‘ 혹은 ‘좋음‘ 수준이다. 왜일까? 그렇다. 미세먼지 같은 오염 물질이 공기 중에 쌓이지않고 강한 북서풍에 날아가기 때문이다. 2019년 1월의 상황은 달랐다. 시베리아의 차가운 북서풍이 주춤하면서 날씨가 풀렸다. 그 대신에 한반도에서는 1월 12~15일까지 공기의 이동이 잦아든 대기 정체가 시작되었다. 쉽게 말하면 바람이 불지 않았다. 그 결과, 발전소나 공장 굴뚝, 자동차 배기가스에서 나온 미세먼지를 비롯한 오염 물질이 날아가지 않고 쌓이기 시작했다. 대기 정체만 시작되어도 미세 먼지 농도가 높아지는 현상이 나타나는 것은이 때문이다. 그리고 이렇게 대기정체와 함께 증가하는 미세 먼지 대부분은 ‘국내산‘이다! - P193
|