알고리즘 생각을 조종하다, 산드라 마츠

알고리즘, 생각을 조종하다 - 데이터는 어떻게 우리의 심리를 설계하는가
산드라 마츠 지음, 안진이 옮김 / 생각의힘 / 2025년 7월

데이터는 어떻게 우리의 심리를 설계하는가

컴퓨터는 평범하고 무의미해 보이는 우리의 행동에 대한

정보들을 해석해서 우리가 어떤 사람인지 속속들이

파악하고 최종적으로는 우리가 했으면 하는 행동을 처방할

수도 있다. 이처럼 심리적 특성에 대한 예측을 토대로

사람들의 생각, 감정, 행동에 영향을 미치는 과정을 나는 심리

타깃팅이라 부른다.

심리 타깃팅의 영향은 궁극적으로 우리 자신과 우리 자신이

하는 선택에 달려 있다. 최악의 경우 심리 타깃팅은 우리를

조종하고, 착취하고, 차별한다. 최상의 경우 심리 타깃팅은

우리와 상호작용하고, 우리를 교육하고, 우리의 권한을 키워준다.

생성형 AI를 비롯한 첨단 AI 기술을 활용해 초개인화 콘텐츠를

제작하고 타깃팅하기가 어느 때보다 쉬워지는 지금, 우리에게는

심리 타깃팅이 제공하는 기회를 확대하는 동시에 그 위험을

완화하는 방법에 대한 명확한 비전이 필요하다.

내 신용카드 사용 내역을 보면 내가 여행을 좋아하는다는 것이

드러난다. 그리고 GPS 기록을 보면 내가 공원에서 오래 산책하기를

좋아한다는 것이 드러난다. 우리가 남긴 디지털 발자국들을

연결하면 우리의 개인적인 습관과 기호, 필요와 동기에 대한

풍부한 그림이 나온다. 간단히 말해서 우리의 심리가 파악된다.

알고리즘에는 자기중심적 편향이 없다. 알고리즘은 자신의

관점에서 주장을 펼치든 상대방의 관점에서 주장을 펼치든

개의치 않는다. 그저 원하는 성과를 달성하는 데 가장 효과적인

방식을 옹호한다.

심리 타깃팅은 우리를 우리 자신의 반향실에 가둘 수 있다는

점에서 위험하기도 하지만, 우리가 세상을 알아가는 방식을

바꿔놓는 진정한 게임 체인저가 될 수도 있다.

"프라이버시는 힘이다." 다른 사람들이 내 마음속 깊은 곳에

있는 심리적 욕구에 마음대로 접근하게 되는 순간, 그들은 내가

하는 행동을 통제하는 힘을 얻게 된다. 나중에는 내 정체성까지도

그들이 통제한다.

한쪽에는 편의와 서비스, 다른 한쪽에는 개인정보 보호를 놓고

둘 중 하나를 선택하도록 강요해서는 안 된다. 우리는 둘 다

요구하고 둘 다 받아내야 한다.

개인정보를 공유하는 것은 단순히 미래의 잠재적인 위험을

감수하는 행위가 아니다. 지금 당장 가치 있고 실체가 있는 것,

즉 자기결정권을 희생하는 행위다.

현대적인 방식의 심리 타깃팅이 강력한(그리고 잠재적으로

위험한) 이유는 다른 두 세계를 결합하기 때문이다. 현대적인

심리 타깃팅은 규모 면에서 전통적인 프로파간다에 필적하지만

세밀함과 깊이에서는 대면 상호작용과 비슷하다.

디지털 환경을 탐색할 때는 사용자 입장에서 개인 데이터를

공유할 때 일어나는 비용과 편익을 비교하게 되지만, 기업의

입장에서는 시나리오가 다르다. 기업이 개인 데이터를 수집하면

얻는 것이 많다. 개인 데이터를 사용해서 고객의 필요를 이해하고,

더 나은 상품을 만들고, 제3자에게 개인정보를 팔아 수익을

창출할 수도 있다. 유인은 명백하다. 데이터는 막대한 경제적

가치를 지니는 자원이다.

우리 개개인의 데이터는 가치가 그리 크지 않다. 우리의 데이터가

다른 사람들의 데이터와 결합될 때 비로소 가치가 생긴다.

의학 연구를 생각해 보라. 위험 요인들에 대한 연구를 시작하려면

충분히 많은 수의 보균자(그리고 비보균자) 집단을 모아야 한다.

<생각의 힘>를 통해서 도서를  '협찬' 받았습니다.

@tp.book

#알고리즘생각을조종하다

#산드라마츠 #생각의힘

#알고리즘 #생각 #심리타깃팅

#심리 #데이터 #설계 #편의

#서비스 #개인정보 #프로파간다

#세밀함 #상호작용 #공유 #가치

#책 #도서 #독서 #철부지아빠