1부
기만적 눈속임은
어떻게 만들어지는가
2010년에 나는 다크패턴을 ‘구매 시 보험에 가입하거나 반복적으로 청구하는 것에 동의하게 만드는 등, 사용자가 어떤 행위를 하도록 속임수로 정교하게 만들어놓은 사용자 인터페이스‘라고 정의했다.
이제는 이 정의도 한물갔다고 생각해서 요즘에는 ‘기만적 패턴 (deceptive pattern)‘¹ 또는 더 꼼꼼히 따져서 ‘기만 또는 조종 패턴(deceptive or manipulative pattem)‘이라는 용어를 즐겨 쓴다.- P17
1부 기만적 눈속임은 어떻게 만들어지는가
1 월드와이드웹 재단의 기술 정책 설계 연구실의 권고에 따라, ‘다크패턴‘ 대신 ‘기만적 패턴‘이라는 용어를 쓴다. 용어를 바꾼 이유는, 의도한 바는 아니나 인종차별적인언어를 사용하지 않기 위함이다. 이 책에서 ‘다크패턴‘은 해당 용어가 사용된 법률, 인용문, 연구 논문에만 사용되었다.- P309
기업이 이윤 추구를 목표로 어떻게 사용자를 조종하는 디자인을 채택하는지 이해하기 위해, 공항을 이용한 여행이라는 실제 사례를 들며 논의를 시작해보겠다. 영국 런던의 개트윅 공항을 통해 여행하려면 ‘체크인과 보안 검색대 통과를 여유 있게 할 수 있도록 출발시간 최소 2시간 전에 도착하라고 안내한다.⁴ 그런데 개트윅 공항 보안 검색대를 통과하고 나면, 출국 라운지로 곧장 갈 수가 없다.- P18
4 Flights and airline FAQs Gatwick Airport. (n.d.). https://www.gatwickairport.com/faqs/flights-and-airlines/- P310
이런 상황을 업계에서는 ‘강제 경로(forced path)‘ 매장 레이아웃이라고 부른다.⁵- P18
5 Santos, D. (2018, October 9). Customer Paths and Retail Store LayoutAislelabs.
Part 3.
https://www.aislelabs.com/blog/2018/09/26/customer-paths-and-retail-store-layout-part-3- P310
공항이라는 기업이 강제 경로 매장의 수익 창출 목적을 제대로 알고 있으면서도 여행객에게 2시간 일찍 공항에 도착하라고 할 때 이를 밝히지 않고, 매장을 건너뛸 지름길도 제공하지 않기 때문이다.- P19
공항 사례의 경우 여행객에게 미치는 부정적인 영향은 미미하며 특별히 유해하지도 않다. 그저 짜증을 유발할 뿐이다. 그러나 매년 개트윅 공항을 이용하는 여행객이 4000만 명이 넘는다는 것을 생각하면, 왜 이런 식으로 디자인했는지 알 수 있다.⁷- P20
7 Gatwick key facts Gatwick Airport. (n.d.). https://www.gatwickairport.com/business-community/about-gatwick/company-information/gatwick-key-facts/- P310
온라인으로 조작적이고 기만적인 경험을 만들기란 훨씬 더 쉽다. (중략). 아마 어딘가에 가입하려고 했을 때 이런 상황에 직면한 적이 있을지도 모르겠다.⁸- P21
EU나 영국에 산다면, 이런 유형의 기만적 패턴을 최근에는 보지 못했을 것이다. 몇 년 전에 발효된 개인정보보호법(General Data Protection Regulation, GDPR)⁹에 따라 불법으로 간주되기 때문이다.¹⁰ 박수칠 일이다!- P22
9 GDPR 4조에는 "정보 주체의 ‘동의‘는 본인과 관련된 개인정보의 처리에 대해 합의한다는 정보주체의 희망을 진술 또는 명백한 적극적인 행위를 통해 자유롭고, 구체적으로 결과에 대해 인지하여 분명하게 나타낸 의사표시를 가리킨다고 되어 있다.
10 European Parliament and Council, (2016, May 27), Regulation (EU) 2016/679.
EUR-Lex. Retrieved 5 August 2022 from https://eur-lex.europa.eu/eli/reg/2016/679/oj.- P310
(전략).
또 하나 잘 알려진 개념은 안티패턴(antipattern)으로, 문제를 해결하려다 발생하는 일반적인 오류다. 그러나 2010년에 나는 여백에 낙서하다가 아무도 이야기하지 않는 디자인 패턴이 하나 더 있음을 깨달았다.- P22
이제는 EU GDPR, 불공정상관행 지침(Unfair Commercial Practices Directive, UCPD), 디지털시장법(Digital Markets Act, DMA)¹², 12 디지털서비스법 (Digital Services Act, DSA)¹³, EU데이터법(제출됨),¹⁴ 캘리포니아주 개인정보권리법 (California Privacy Rights Act, CPRA),¹⁶ 콜로라도주 개인정보보호법 (Colorado Privacy Act, CPA)¹⁶ 등이 있다.- P23
12 Regulation (EU) 2022/1925 of the European Parliament and of the Council of14 September 2022 on contestable and fair markets in the digital sector andamending Directives (EU) 2019/1937 and (EU) 2020/1828 (Digital Markets Act)(Text with EEA relevance). (2022, October 12). EUR-Lex. Retrieved 5 March2023 from https://eur-lex.europa.eu/eli/reg/2022/1925.
13 Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19October 2022 on a Single Market For Digital Services and amending Directive2000/31/EC (Digital Services Act) (Text with EEA relevance). (2022, October 27). EUR-Lex, Retrieved 5 March 2023 from https://eur-lex.europa.eu/eli/reg/2022/2065.- P310
14 Proposal for a Regulation of the European Parliament and of the Council onHarmonised Rules on Fair Access to and Use of Data (Data Act). (2022, February23), European Commission. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52022PC0068
15 The California Consumer Privacy Act of 2018, (2023, January 20). State ofCalifornia Department of Justice - Office of the Attorney General. Retrieved 7February 2023 from https://oag.ca.gov/privacy/ccpa.
16 Colorado Privacy Act. (2021, July 7). https://leg.colorado.gov/sites/default/files/2021a_190_signed.pdf- P311
이 정의에서 핵심은 자율성, 즉 사용자가 외부의 영향과 관계없이 자기 선택의 본질을 제대로 이해하고 자기 목표대로 행동할 수있음을 의미하는 개념이다.- P23
2023년에는 훨씬 광범위한 디지털시장법과 디지털서비스법이 발효되었다. DSA에서는 다음의 정의를 사용한다(비고 67).
온라인 플랫폼 내 온라인 인터페이스의 다크패턴은 의도적으로 또는 사실상 서비스 이용자가 정보에 기반하여 자율적으로 선택하거나 결정할 능력을 물질적으로 왜곡 또는 손상하는 관행이다. 이런 관행은 서비스 이용자가 자기에게 부정적인 결과를 유발하는 원치 않는 행동을 하거나 원치 않는 결정을 내리도록 서비스 이용자를 설득하는 데 활용될 수 있다.
여기서 알 수 있듯이, DSA의 정의는 CPRA, CPA와 비슷하다.- P24
내가 특히 강조하고 싶은 것은 기만적 패턴이 더 이상 소수의 관심사가 아니라는 것이다. 특히 기술업계에서 일한다면 기만적 패턴을 알아야 한다. 어떤 유형은 이미 불법이 되었고, 입법 기관 및행정 당국에서 기만적 패턴과 관련한 더 많은 활동을 하고 있기 때문이다.¹⁷- P24
17 집행 당국이란 법 규제 준수를 보장하고 소비자를 기만적 패턴으로부터 직간접적으로 보호하는 기구를 의미한다. 많은 규제당국이 곧 집행 당국(연방거래위원회, 경쟁시장청 등)이지만, 민간 법무법인, 소비자 단체 등이 집행에 나설 수도 있다.- P311
1장
다크패턴을 이해하기 위해
알아야 할 용어들
(전략).
오늘날 디자인에서는 무언가를 꾸미는 방법보다는 누군가를 설득하고 그들에게 영향을 미쳐 어떤 행동을 하게 만드는 것이 핵심이다. 추적, 테스트, 심리학, 행동경제학, 통계학, 경험과학적 연구등이 주로 이루어진다.- P26
기만적 패턴이 늘 철저한 연구에 기반하거나 신중하게 만들어진 결과물은 아니다. 그저 수익성이 좋아지는 우연한 사고에 불과할 때도 있다. 문구 작성자가 부주의해서 요금제의 속성을 제대로설명하지 않은 구독 안내문이 만들어졌다고 생각해보자. 이로 인해 매출이 엄청나게 오를 수도 있는데, 정작 기업은 매출이 오른 이유를 모를 수도 있다.- P27
제품 매니저
요즘 대부분의 조직에서는 한 사람이 하나의 제품이나 기능에 관련된 모든 의사 결정을 직접 책임진다. 이런 사람을 제품 매니저(product manager, PM)라고 한다. 이들은 미니 CEO처럼 자기에게 할당된 영역에서 일어나는 모든 일에 책임을 진다. (중략). 집단 소송에서 소환대상을 선정하는 일에 관여하는 사람이라면 PM이 누구인지 알아두면 좋다.- P28
사용자
사용자는 ‘지구의 모든 인간‘이라기보다는 제품이 누구를 대상으로 만들어졌는가의 범주에 해당한다. 이 업계에서 어떤 제품을 일상적으로 사용하는 사람을 ‘활성 사용자(active user)‘라고 하며, 잠재적인 제품 사용자로서 실제 사용하지 않을 수도 있는 사람을 ‘타깃 사용자(target user)‘라고 한다.- P28
사용자 인터페이스 디자인
인터페이스(interface)란 두 가지가 서로 만나 교차하는 접점을 의미한다. (중략). 화면을 사용하는 기기의 경우 문자, 이미지, 상자와 버튼 등을 많이 이야기하는데, 이 모두가 사용자 인터페이스를 구성하는 요소다.- P29
사용자 경험 디자인
사용자 경험 (user experience, UX)은 어떤 제품의 사용자 인터페이스를 장기간 사용하면서 사용자가 인식하거나 느끼는 것을 말한다. 인터페이스 사용이 어렵다면 사용자는 부정적인 경험을 하게 될것이다.- P29
다크패턴의 대안 용어
다크패턴이라는 용어가 여전히 사용되기는 하지만, 이제는 이 용어보다는 부정적인 이미지를 탈피하는, 더 포용적인 용어를 쓰는 쪽으로 가야 한다. 내가 선호하는 용어는 ‘기만적 패턴‘이다.- P30
• 유해한 온라인 선택 구조(harmful online choice architecture): 이 용어는 영국의 경쟁시장청 (Competitions and Markets Authority, CMA)에서 사용한다.
• 거지 같은 디자인(asshole design): 구어체적인 용어로, 레딧 등포럼에서 쓰인다.
• 다크 넛지(dark nudge): 리처드 탈러와 캐스 선스타인이 만든 ‘넛지‘라는 용어에 기반하여 행동경제학자들이 가끔 사용하는 용어다.
• 슬러지(sludge): 사용자를 방해하는 디자인을 특별히 가리키는용어로, 캐스 선스타인이 이에 관해 많은 글을 썼다.
가까운 시일에 보편적으로 쓸 수 있는 용어가 나오기는 어렵다.
이제는 이 분야의 연구가 법률과 규제와도 연계되기 때문이다.- P31
2장
다크패턴은 어떻게 널리 퍼졌나
기만적 패턴에 관한 연구를 시작했을 때, 나는 참 순진하게도 이런 방법을 활용하는 기업을 폭로하면 문제가 근절될 것이라 생각했다.- P33
그러나 이 방법은 먹히지 않았다. 오히려 그때보다 상황이 더 안 좋아졌다. 이제는 기만적 패턴이 판을 친다. 경각심 있는 사용자의 신고를 받아서 전 세계의 정책입안자와 집행 당국으로 전달하는 제보 기관이 생겼을 정도다.¹- P33
2장 다크패턴은 어떻게 널리 퍼졌나
1 Stanford Digital Civil Society Lab. (n.d.). Dark Pattern Tipline. Retrieved 3 August2022 from https://darkpatternstipline.org/- P311
많은 역사 속 이야기와 신화가 기만을 중심으로 한다. 1실링 동전(King‘s shilling)‘처럼 말이다. 18~19세기 영국은 전쟁을 많이 벌였다. 그러나 전시에 육군이나 해군에 가는 것은 별로 매력적이지 않았다. 자원입대자가 부족한 상황에서, 강제징집대는 입대하는 모든 남성에게 1실링을 주며 공격적으로 입대를 권하기 시작했다.- P34
오늘날의 상업적 눈속임과 조종이 인터넷 도입 이전의 눈속임과 무엇이 다른지 생각해보는 것이 좋겠다.- P34
수치 중심 문화의 부상
수치 중심의 문화는 오랜 역사를 가지고 있다. 고고학적 증거에따르면 7000년 전인 메소포타미아에 회계 기록이 있었다. 당시에는 조악한 수준이었겠지만, 시간이 지나면서 인류는 측정 기술을 발전시켰고, 이제는 정확하게 측정하는 데 집착한다.
달라진 점은 측정의 장벽이 훨씬 낮아졌다는 것이다. 비즈니스와 관련된 모든 활동을 측정하고 의사 결정을 내리기 위한 데이터 분석을 활용하기 위해 특별히 똑똑해야 하는 것도 아니고, 자본이 많이 필요치도 않은 세상이 되었다.- P35
쉬워진 추적
인터넷이 도입되기 전에는 대상 스스로가 관찰 대상임을 인식하지 못하는 상태에서 관찰하는 일이 상당히 어려웠다. 전통적인 관찰 방법이란 연구자가 매장으로 가서 클립보드를 들고 서 있는 것이었기 때문이다.³
그러나 현장 연구자를 쓰면 비용이 많이 들고, 한 번에 하나밖에 보지 못한다는 단점이 있다.- P36
3 Underhill, P. (1999). Why we buy: The science of shopping. Simon & Schuster.- P311
무한정 가능한 A/B 테스트
A/B 테스트⁵가 상업적으로 처음 사용된 시기는 20세기 초였지만, 당시의 테스트 과정은 불편하고 고생스러웠다.⁶ 이를테면 광고에 쿠폰만 다르게 넣어서 신문 광고를 내보는 것이다. 이후 사용량이 가장 많은 쿠폰의 광고가 효과적인 것으로 판단했다.- P37
5 분할 테스트와 다변량 테스트(Multivariate Testing, MVT)를 들어본 적이 있을 것이다. 둘 다 개념적으로는 A/B 테스트와 비슷하지만, 기술적으로 차이가 약간 있다.- P311
6 Hopkins, Claude C. (1923) Scientific advertising. http://www.scientificadvertising.com/ScientificAdvertising.pdf- P312
그런데 디지털 세계에서는 <인셉션>에서와 같은 리모델링이 매우 쉽다. (중략). 그러면 A/B 테스트 소프트웨어가 임의의 샘플 사용자에게는 A 버전을 보여주고, 다른 사용자에게는 B 버전을보여준다. 이 테스트가 끝나고 나면 A/B 테스트 소프트웨어는 자동으로 통계를 내서 측정된 전환율(예: 상품 구매율)을 기준으로 어느 디자인의 성과가 훨씬 좋았는지 알려준다.
심지어 통계를 이해하려 할 필요도 없다. 결과값은 보통 매우 단순한 문장으로 요약되어 표시되기 때문이다.- P38
설득력 있는 콘텐츠에 미리 선택이 완료된 확인란이 뒤따라오는 경우를 생각해보자. 어떤 사용자는 콘텐츠에 설득되어 기본적으로 선택이 된 것에 만족할 수 있다. 그러나 설득되지 않은 사용자가 미리 선택이 완료된 확인란을 보지 못하고 넘어간다면, 결국에는 속아서 원치 않는 것을 선택하게 된다.- P39
모방 디자인
오스카 와일드는 "모방이란 평범한 사람이 위대한 사람에게 보일 수 있는 가장 진실한 형태의 아침"이라고 말했다. 일부 기술 기업이 기만적 패턴으로 전환율을 높이는 데 크게 성공하자. 다른 기업도 이를 따라 하기 시작했다. 당연한 수순이다.- P40
2부
다크패턴이 노리는
인간의 8가지 취약성
기만적 패턴에 적용된 심리학이나 원칙을 탐구하는 방식에는 여러 가지가 있다. (중략). 즉, 제품 사용자를 서로의 성공을 위해 협력해야 할 대상(사용자의 성공이 우리의 성공)이 아니라, 이용해먹을 상품처럼 여기는 사용자의 약점이 우리의 기회‘) 기업인지 보는 것이다.- P47
기업에서는 대체로 착취 전략을 쓴다는 사실을 스스로 인정하지 않는다. 기업이 성장과 수치적인 결과에만 집중한다면, 부지불식간에 착취적인 사고방식으로 빠져들 수 있다. 또한 비즈니스에서는 돌려 말하기도 매우 흔하다(이메일 알림 없이 자동 갱신되는 구독의 경우 사용자가 중단 없이 서비스를 이용할 수 있도록 해드립니다"라는 식으로 표현).- P48
콜린 M. 그레이 교수와 퍼듀 대학교 UXP2 연구소는 기만적 패턴으로 이어지는 착취적인 디자인 전략을 면밀하게 살펴본 최초의 연구진이다.¹- P49
2부 다크패턴이 노리는 인간의 8가지 취약성
1 Gray, C. M., Kou, Y., Battles, B., Hoggatt, J., & Toombs, A. L. (2018). The dark(patterns) side of ux design. Proceedings of the 2018 CHI conference on humanfactors in computing systems, https://doi.org/10.1145/3173574.3174108- P312
이를 요약하면 다음과 같다.
지각의 취약성 이용하기 : 인간은 정보에 관해 사고하기 전에 이를 지각부터 해야 한다. 인간의 지각이 완벽한 것은 아니므로, 이와 관련된 결점을 이용해 정보를 숨길 수 있다(예: 저대비, 작은 글씨).
이해의 취약성 이용하기 : 인간의 언어 능력, 수리력, 비판적 사고력, 기억력에는 한계가 있다. 착취적인 디자이너는 필요 이상으로 복잡하게 제품을 만들 수 있다(예: 사용 약관을 장황하게 작성).
•의사 결정의 취약성 이용하기: 인지적 편향은 모든 인간이 사고할 때 발생하는 체계적인 오류이다. 의사 결정을 방해하는데 이를 이용할 수 있다(예: 미리 선택된 확인란을 이용하여 디폴트효과의 이점을 누림).
기대치 이용하기: 유용한 디자인에는 사용자가 제품을 예측할수 있도록 만드는 표준을 채택하는 것이 포함된다. 이런 표준을 무너뜨려 사용자를 속일 수 있다(예: ‘X‘ 버튼의 의미를 ‘아니요‘가 아니라 ‘예‘로 사용).
•자원 고갈과 압박: 인간의 주의력, 에너지, 시간에는 한계가있다. 이런 자원이 고갈되면 사용자는 포기하거나 압박과 피로감을 느껴 다른 속임수에 취약해질 수 있다(예: 쿠키 동의 대화창에서 선택 사항을 확인하고 거부하려면 노력이 많이 필요하므로 결국사용자가 피로감을 느껴 포기).
・강제와 차단: ‘강제‘에는 사용자가 원하는 행동을 하기 전 단계에 거부할 수 없도록 필수 단계를 배치하는 것이 포함된다(예: 구매를 완료하려면 등록이 필수인 경우), ‘차단‘에는 기능을 아예 없애버리는 것이 포함된다(예: 사용자가 자기 데이터를 내보내지못하도록 함)
감정의 취약성 이용하기: 인간은 죄책감, 수치심, 공포나 후회등 부정적인 감정을 겪고 싶어 하지 않으며, 이를 회피하려고 한다(예: 헬스클럽 과정 제안을 거부하려면 ‘괜찮습니다. 그냥 건강하지않게 살래요‘라는 말을 클릭하게 만듦),
•중독 이용하기: 인간은 중독에 취약하다. (후략).- P50
12장
설득인가, 조종인가
나는 디자이너들로부터 착취적인 관행과 정직한 설득을 구분하는 쉬운 방법이 있냐는 질문을 종종 받는다. 영화에 나오는 폴리스라인처럼 이 둘을 구분하는 선이 과연 있을까?- P112
직접적인 눈속임은 상대적으로 쉽게 특성을 파악할 수 있다. 디자인에 명백한 거짓말, 즉 진실이 아닌 거짓 주장이 들어가 있으면 이는 명백한 속임수이다. 그러니 넘어가면 안 되는 절대적인 선이 하나 있는 셈이다.- P113
그러나 ‘간접적인 눈속임‘에서는 명백하게 거짓말을 하지 않으면서 사용자가 오해하여 거짓된 믿음을 가지도록 디자인을 만든다(예: 관련 정보의 누락, 모호한 언어 사용). 대부분의 기만적 패턴은 여기에 해당한다. 간접적인 눈속임은 구분하기가 쉽지 않다.- P113
