우리가 인터넷 포털에서 검색을 하고, 유튜브에서 동영상을 보고, 넷플릭스를 통해 영화를 보는 모든 과정에 인공지능 알고리즘이 중요한 역할을 한다. 알고리즘의 부작용을 강조하는 시각에서는, 추천 알고리즘으로 인해 이용자들이 편향적 사고에 빠지게 되면서 이른바 필터 버블filter bubble이나 확증편향confirmation bias에 빠지게 된다는 주장이 반복적으로 나타난다. 필터 버블은, 예를 들어 이용자에게 검색의 결과를 보여주는 과정에서 이용자의 관심사, 성향, 철학, 이념 등을 고려하여 최적의 결과를 찾아서 보여주는 것이, 개별 이용자를 다른 이용자들로부터 소외시키는 결과를 가져올 수 있다는 주장이다. 그리고 확증편향은 이용자들이 자신의 생각에 부합하는 정보를 더 빈번하게 또는 선택적으로 접하게 되면서 자신의 평소 선호나 성향을 더욱강화하게 되는 경향에 관한 것이다. - P31
이들 주요 플랫폼들은 대다수가 기본적인 서비스를 무료로 제공한다. 그렇다면 이 회사들은 어떻게 비즈니스를하는 것일까? 구독subscription 모델을 전제하지 않는 한, 이 회사들의 핵심적 수입원은 광고다. 특히 이용자들의 특징이나 선호에 대한 분석을 전제로 한 맞춤형 광고가 중요하다. 그래서 이용자들에 관한 데이터를 수집하고 분석하고 프로파일링하는 것이 인터넷 플랫폼 생태계에서는 필수적인것이 된다. 이는 인터넷 공간에서의 무료 서비스의제공과함께 나타나는 동전의 뒷면 같은 것이다. 구글(알파벳)의 경우에는 수익의 80퍼센트 이상 그리고 페이스북은 수익의 95퍼센트 이상을 광고를 통해 얻는 것으로 알려져 있다. - P44
이러한 장치들을 통해 구현되는 서비스들이 모두 자율주행차 기능과 직결되는 것은 아니지만, 운전자의 편의성을 높여주면서 자율주행차와 관련된 지속적인 기술 개발을 이끌고 구체화하는 역할 또한 수행하는 것이라 할 수 있다.
당연하게도 여러 센서를 통해 수집되는 정보는 대부분 운전자들에게 편의를 제공한다. 그런데 이렇게 수집된 정보는 의외의 곳에서 사용될 가능성도 있다. 예를 들어 외국에서는 운전대나 페달 등에 센서를 부착한 뒤 이를 통해 급가속이나 급감속을 포함한 운전자의 운전 습성을 파악하고 이를 활용하여 자동차보험료를 차등적으로 부과하려는 노력이 이루어지기도 했다. 이런 식으로 새롭게 제공되는 서비스는 일부 이용자들에게는 반가운 것이 될 것이고,
반면 또 다른 이용자들에게는 부담스럽고 부당한 것으로여겨질 가능성이 있다. 혹시라도 이러한 정보가 법 집행기관이나 다른 공공기관으로 흘러갈 가능성이 있다면 논란은 더욱 커질 것이다. - P56
현재 우리나라에서는 금융 영역에 도입된 것으로 ‘마이 데이터‘라는 제도가 있다. 이 제도의 출발점이 되는 아이디어는 개별 금융소비자가 우리 일상생활에서 생성되는 여러 금융 데이터의 실질적인 주인이 되도록 한다는것이다. 즉 이 제도를 통해 금융정보의 주체인 개개인이 자신에 관한 개인신용정보를 자기 자신에게 또는 자신이 지정하는 기관에 전송하도록 요구할 수 있는 권리가 도입된것이다. 개인신용정보를 전송받을 수 있는 기관에는 금융기관(법적으로는 ‘신용정보 제공 · 이용자‘ 등 법에서 정한 기관들이다)과 마이데이터사업자(정확하게는 ‘본인신용정보관리회사‘)가 포함된다. 이를 통해 개인신용정보의 흐름을 개개인이 통제할 수 있게 하는 장치를 마련한 것이다. 이 제도를 금융 이외의 영역으로 확대하고자 하는 논의도 진행되고 있다. 2021년에 발표된 개인정보 보호법 개정안에는 ‘개인정보의 전송요구‘에 관한 조항이 포함되어 있다. - P60
프로파일링을 통해 이용자에 대한 인구통계학적 정보나 소비선호 등에 관한 추론을 하게 될것이다. 이러한 과정을 통해 인터넷 이용자를 유형화하여 분류하게 되고, 개별 유형별로 차별화된 광고를 송출하는 맞춤형 광고를 집행하게 된다. 이와 별도로 이용자들의 관심과 선호를 고려한 서비스 제공을 위해 프로파일링이 이용될 수도 있다. 또한 사회적 또는 정치적 맥락에서 활용되는 경우도 있을 수 있다. 예를 들어, 선거를 앞두고 유권자들의 성향을 파악하여 유형별로 서로 다른 메시지를 담아선거운동을 할 수도 있는 것이다. 동일한 SNS를 이용하는 이용자들에 대해서도 이용자 유형을 나누어 서로 약간씩다른 차별화된 선거운동을 할 수도 있다.
다음 그림은 2018년 영국의 개인정보 감독기관인 ICO가 발간한 「방해받은 민주주의 Democracy Disrupted」 보고서에 담긴 것이다. 이 그림은 선거운동의 과정에서 프로파일링이 어떤 방식으로 이루어질 수 있는지 보여주는 것이다. 선거를 앞두고 전 국민이 잠재적인 프로파일링 대상이 될 수 있을 텐데, 개개인의 인구통계학적 특징과 인터넷 활동 내역등을 반영한 분석 모형을 만들어 그룹화를 한 뒤 이를 기반으로 선거운동을 하는 것이 가능할 수 있다. - P63
|