직접 차별은 말 그대로 직접적으로 차별을 하는 것을 ...

직접 차별은 말 그대로 직접적으로 차별을 하는 것을 일컫는 것이다. 예를 들어, 회사에서 채용을 하는 과정에서 ‘여성은 채용 불가‘ 또는 ‘성소수자 채용 불가‘라고 명시적으로 방침을 마련하여 실행하는 것이다. 이처럼 단지 여성이라는 이유나 성소수자라는 이유로 취업에서 배제하거나 불이익을 겪게 하는 것이 직접 차별이다. 특정 그룹에 속하거나 특정 속성을 보이기 때문에 ‘because of‘ 불이익이 부여되는 상황을 말한다. 사회적인 맥락에서 볼 때 성별, 종교, 인종 등의 속성값에 따라 불이익이 생긴다고 하면, 이는 차별이라고 보는 것이다.
이와 같은 직접 차별은 선호에 기초한 차별 taste-based discrimination과 통계적 차별statistical discrimination 로 추가적 구분을 하기도 한다.  - P141

 간접 차별은 외견상의 기준 내지 입력한 값 기준으로 보면 차별이라고 할 만한 요소가 명확하지 않는 경우를 주로 상정하게 된다. 즉 외견상 차별성이 없는 기준을 적용한 것으로 보이는데, 결과값을 보니 차별이 의심될 수밖에 없는 상황에 관한 것이다. 차별 의도가 있는지에 관해 확인하기는 어렵지만, 결과적으로 특정 그룹에 속하는 구성원에게 부당한 불이익이 발생하는 경우를 생각하면 된다.
인공지능 맥락에서 볼때 간접차별은 입력값보다 결과값에 초점을 맞추어 살펴보게 된다. 직접 차별에 관해서 볼때에는 입력값에 차별적 속성, 예컨대 종교나 성별 등이 포함되었는지 검토하겠지만, 간접차별의 경우에는 입력값에 차별적 속성이 들어가지 않았음에도 결과적으로 차별적 결과가 나타난 것인지 검토하게 된다.  - P145

그런 점에서 보면, 인간에 의한 차별과 달리 인공지능에 의한 차별은 훨씬 더 투명한 경우가 많다. 사람의 차별과 비교하면 인공지능에 의한 차별 이슈는 오히려 차별 요인을 파악하기가 상대적으로 쉽다. 그로부터 해결책을 찾아내는 것도 상대적으로 쉽다. 다만 이것이 가능하기 위해서는 일정 수준의 투명성이 확보되어야 한다. - P151

외국, 특히 미국에서는 이와 같은 맥락의 차별에 대한 논의가 지속적으로 나타나고 있다. 가장 흔히 발생하는 논란은 인종차별에 관한 것으로, 경찰력의 배치에 관한 정책적 판단이 예시가 될 수 있다. 통계적으로 범죄율이 높은 지역에 경찰력을 많이 배치하여 범죄를 예방하기 위한 노력을 기울일 수 있다. 그런데 통계적으로 범죄율이 높은 곳은 흑인 거주지역인 경우가 많다. 경찰력을 많이 배치하면그에 따라 검문검색이 늘어나고, 그로 인해 검거율 또한 높아지는 흐름이 나타난다. 이는 통계적으로는 범죄율을 높이는 효과를 가져온다. 반면 백인 거주 지역에는 경찰력의 투입이 적기 때문에 검문검색도 상대적으로 적다. 그로 인해 범죄율도 낮은 것으로 파악된다. 이처럼 순찰이나 검문검색 등의 과정을 통해 흑인 거주지역에서는 범죄율이 계속해서 높아지는 악순환이 나타날 수 있고, 반대로 백인 거주지역에서는 범죄율이 낮은 것으로 파악되는 경향성이 나타날 수 있는 것이다. - P177

흔히 ‘인공지능은 너무 복잡하여 그 판단 과정에 대해 알아낼 수 없다‘는 얘기를 한다. 그런데 이 말은 그리 정확한 것은 아니다. 인공지능은 하나의 기술이 아니고 매우 다양한 유형의 기술들을 포괄하여 언급하는 것이다. 그리고 구체적인 개별 기술에 따라서는 의사결정 메커니즘이 상당히 투명한 것도 있는 반면, 전혀 그렇지 않은 것도 있다. 투명성이 높으면 대체로 설명가능성도 높다.
인공지능 유형 중 간단하고 투명한 유형으로 의사결정나무decision tree 를 이용한 것을 들 수 있다. 의사결정나무를 이용한 모형은 구조가 투명해서 설명가능성이 높다. 한편,
딥러닝 deep learning 모형은 여러 레이어 Layer를 두고 의사결정을 하게 되는데, 대체로 설명가능성이 높지 않다. 이처럼개별적인 인공지능 기술에 따라서 투명성이나 설명가능성의 정도는 달라진다. 다만 대체적으로 투명성이 높은 모형들은 성능이 떨어지는 경향이 있고, 투명성이 낮은 모형들이 성능이 좋은 경향이 있다. 성능도 좋고 투명성도 확보할수 있는 방향으로 기술 개발을 하기 위한 노력이 지속되고있다. 또한 개별의사결정에 따라 어떤 모형을 써야 할 것인지에 관한 논의도 필요하다. - P184

[오늘의 한문장] 레스

두 번째에는 로버트와 같이 갔다. 함께한 시간이 반쯤 흘렀을 때, 그러니까 레스도 마침내 여행에 도움이 될 정도로 세속적인 인물이 되고 로버트도 아직 방해가 될 만큼 비통함으로 가득 차지는 않았을 때, 모든 커플이 균형을 찾고 초반에 울부짖던 열정은 잦아들었지만 아직 감사하는 마음이 풍부하던 그때였다. 아무도 황금기라는 걸 깨닫지 못하는 그런 시절 로버트는 드물게도 여행을 떠나고 싶은 기분이 들어 로마에서 열리는 문학 축제에서 낭독해달라는 초대를 수락했다. 로마 자체로도 충분했지만 레스에게 로마를 보여준다는 건 사랑하는 이모에게 누군가를 소개해줄 기회를 갖는 것과 마찬가지였다.  - P100

[오늘의 한문장] 난처한 동양미술 이야기 2

양편에 새기는 갑골문은 서로 반대되는 뜻입니다.
한쪽에는 ‘전쟁을 한다.‘다른 한쪽에는 ‘전쟁을 하지 않는다‘라는 식으로요. 갑골로 점을 치는 방법은 간단해요. 우선 중간 부분에 구멍을 내고 불에 달군 막대를 댑니다. 그러면 갑골이 쩍 갈라져요. 갈라지는 방향을 따라 하늘의 뜻이 무엇인지 알아내는 거죠. 갑골을 단단한 거북배딱지나 동물 등뼈로 만든 이유도 뜨거운 막대가 닿았을 때 부서지지 않아야 했기 때문입니다. - P111

콘텐츠 기반 필터링 방식(content-based f...

콘텐츠 기반 필터링 방식(content-based filtering)은 추천알고리즘 중에서 좀 더 고전적인 방식으로, 사용자의 특징이나 선호에 관한 프로필을 만든 뒤에 이를 주어진 데이터베이스에 담긴 콘텐츠의 속성과 매치해서 추천하는 방식이다. 예를 들어, 사용자가 어떤 노래를 들었는지 파악하여 그 중 많이 들은 장르가 힙합이라고 하면 사용자의 노래 취향을 힙합이라고 판단해서 새로운 힙합 노래가 나오면 추천해주는 방식이다. 구체적인 추천의 과정에서는 ‘유사도similarity" 점수를 계산하여 추천의 순위를 정하게 된다.
이 방식이 잘 작동하기 위해서는 사용자의 특징이나 선호를 잘 파악하여 정확한 프로필을 만들어두는 것이 중요하다. 또한 이와 매치가 되는 데이터베이스에 담긴 콘텐츠에 대해 정확한 분류가 되어 있고 그에 대해 레이블링이 잘이루어져 있다는 것이 중요한 전제가 된다. 이러한 전제가 제대로 충족이 되지 않는다면, 추천 알고리즘이 작동하더라도 사용자가 관심을 보이지 않을 법한 엉뚱한 추천이 발생할 확률이 커질 것이다.
- P98

콘텐츠 기반 필터링과는 차별화되는 중요한 방식으로 협업 필터링collaborative filtering 방식이 있다. 이 방식은 상대적으로 최근에 들어와서 고도화되었고 그러면서 활용도가 더욱 높아진 알고리즘이다. 유사한 속성을 가진 사용자들사이의 선호나 취향에 관한 데이터를 추출하여, 이로부터 개별 사용자의 선호나 취향에 관한 예측을 하는 방식이다.
예를 들어 사용자 A와 B의 구매 패턴을 비교했을 때, 10개의 물건 중 1~8번까지는 구매 패턴이 똑같은데 9번의 경우 사용자 A는 구매하고 사용자 B는 구매하지 않았다면 사용자 B에게 9번 구매를 권유하는 것이다. 반대로 10번 물건에 대해 사용자 B는 구매했는데 사용자 A는 구매하지 않았다면 10번 물건은 사용자 A에게 추천하는 것이다. - P100

이를 사회적 맥락을 고려하여 해석해보자. 오프라인 점포를 어렵지 않게 찾을 수 있는 곳은 전문직 종사자가 많이 거주할 법한 지역이다. 사무용품에 대한 수요가 많을 것이기 때문이다. 다른 한편, 오프라인 점포를 찾기 어려운 곳은, 수요가 적은 것을 반영하여 사회적, 경제적으로 어려운 환경에 놓인 사람들이 사는 지역일 확률이 높다. 결과적으로, 전문직 종사자가 많이 거주하는 지역은 근처에 오프라인 점포도 많을뿐더러 온라인상에서도 상대적으로 물건값이 저렴하게 나타난다. 반면에 사회경제적 취약계층이 사는 곳은 거주지 근처에서 오프라인 점포를 찾기도 어려운데다 온라인상에서도 더 비싼 가격에 물건을 주문해야 하는 상황에 직면하는 것이다.
이러한 현상은 인공지능 알고리즘의 활용도가 높아지면서 계속해서 나타날 가능성이 있다. 이는 개별 기업을 비난한다거나 도덕적 책임을 부과한다고 해서 해결될 수 있는 유형의 문제가 아니다. 다만 어떤 변화가 나타나고 있는지, 변화의 소용돌이 속에서 편리함과 불이익이 어떤 형태로 발현되어 각각의 사회구성원들에게 어떤 영향을 미는지에 대해 지속적으로 관심을 가질 필요가 있다.  - P106

 안면인식은 기본적으로 데이터베이스에 저장된 이미지와 새로이 확보된 이미지를 비교하여 동일인인지 확인하는 역할을 한다. 실무적으로는 흔히 ‘1대1 매칭one-to-one matching‘과 ‘1대 다 매칭one-to-many matching‘으로 구분한다. ‘1대1 매칭‘은 휴대폰의 잠금장치를 여는 것과 같이, 저장된 이미지와 새로이 입력된 이미지 사이의 유사성을 확인하여 검증하는 방식이다. 한편, ‘1대 다 매칭‘은 새로이 확보된 이미지와 데이터베이스 안의 여러 인물의 이미지를 비교하여 이 중 동일인을 찾을 수 있는지에 관한 것이다. - P107

결국 차별이라든가 공정성 개념을 논할 때 고민하게 되는 것 중의 핵심 영역 하나는 어떤 데이터에 기초해서 판단할 것인가 하는 문제다. 학습 데이터나 입력값input data을 어떤 식으로 규제할 것인가? 또는 학습 데이터나 입력값은 가급적 규제하지 않고 결과값ouput data에 초점을 두는 규율을 할 것인가? 이것이 인공지능 시대에 차별, 공정성을 바라보는 핵심적 정책 변수가 되는 것이다. - P130

처음의 레스 내가 앉아 있는 곳에서는 아서 레스의 ...

처음의 레스

내가 앉아 있는 곳에서는 아서 레스의 이야기가 그리 나쁘지 않다.
레스를 보면, 호텔 로비의 둥근 플러시 천 소파에 앉아 파란색 정장에 흰 셔츠를 입고 윤이 나는 한쪽 구두가 발꿈치에서 떨어져 달랑거리도록 다리를 꼬고 있다. 청년의 자세, 사실 날씬한 그림자는 아직 젊은 시절과 같지만 거의 쉰 살이 된 그는 공원에 있는 청동상, 그러니까운 좋게도 초등학생들이 반들반들하게 닦아놓은 한쪽 무릎을 빼면 나무 색깔에 필적할 만큼 아름답게 색이 바랜 그런 청동상 같다. 그렇듯 아서 레스는 한때 젊음으로 분홍색 황금색이었던 그는 자신이 앉아있는 소파처럼 색이 흐려져 한 손가락으로 무릎을 톡톡 두드리며 괘종시계만 빤히 보고 있다. 1년 내내 햇볕에 탄 길고 도도한 코(이곳은 뉴욕의 흐린 10월인데 말이다). 정수리 쪽은 너무 길고 양옆은 너무 짧은 빛바랜 금발-그의 할아버지 초상화, 그와 똑같은 눈물을 머금은 푸른 눈, 귀를 기울이면 그가 문제의 괘종시계를 뚫어지게 바라보는 가운데 초조함이 째깍, 째깍, 째깍 흘러가는 소리가 들릴지도 모른다. 불행히도 문제의 시계는 째깍거리지 않고 있다. 15년 전에 멈췄다. - P9