[최홍규 칼럼: 당신의 부모는 AI 세상에 안녕하십니까? 4회]
“예”밖에 누를 수 없게 만든다: 합법적 함정, 다크패턴
사기꾼보다 먼저 온 함정
우리는 매일 화면을 두드린다. 쿠폰을 받으려 탭하고, 동의 버튼을 누르고, 다음 단계로 넘어간다. 그 터치들이 쌓이는 사이, 원하지 않는 구독이 시작되고 개인정보가 넘어가고 돈이 빠져나간다. 속았다는 느낌은 뒤늦게 오고, 대부분은 내가 부주의했나 싶어 그냥 넘긴다. 그런데 그것이 부주의 때문이 아니라면? 화면이 처음부터 그렇게 설계되어 있었다면?
이런 설계를 다크패턴(dark pattern), 혹은 기만적 패턴(deceptive pattern)이라 부른다. 사용자가 원하지 않는 선택을 하도록 인터페이스를 의도적으로 조작하는 기법이다. 범죄가 아니다. 합법이다. 그래서 더 위험하다.
화면은 어떻게 부모를 속이는가
미국 연방거래위원회(Federal Trade Commission, FTC)가 2022년 9월 발표한 보고서 «다크패턴을 빛 아래로(Bringing Dark Patterns to Light)»는 이 문제를 정면으로 다룬다. (참조 : www.ftc.gov/reports/bringing-dark-patterns-light) 소비자보호국이 작성한 이 보고서는 기업들의 기만적 설계 관행을 조사해 공개한 공식 문서로, 다크패턴이 전자상거래, 쿠키 동의 화면, 구독 판매 등 일상적인 디지털 환경 전반에 만연해 있음을 지적한다. 광고를 독립적인 콘텐츠처럼 위장하거나, 구독 해지를 의도적으로 어렵게 만들거나, 핵심 조건을 깨알 글씨로 묻어버리거나, 개인정보 제공 옵션을 기본 선택으로 설정해 동의를 유도하는 방식이 그 전형이다.
보고서는 다크패턴이 ‘인지하지 못한 채 조종당하는’ 경험이라는 점도 강조한다. 많은 소비자가 속았다는 것을 뒤늦게 알아차리지만, 당혹감 때문에 신고조차 하지 않는다. 그 침묵이 다크패턴이 계속 번성하는 토양이 된다. 더불어 기업들이 화면 문구, 버튼 색상, 배치 등을 수십 가지 버전으로 나눠 실험하면서 어떤 설계가 소비자를 가장 효과적으로 조종하는지를 데이터로 학습하고 개선하는 현실도 짚는다. 보고서는 이러한 설계 관행이 소비자의 자율적 의사결정을 침해한다고 경고하고 있다.
노인에게는 더 깊은 덫이다
런던대학교 인터랙션 연구소(University College London Interaction Centre, UCL)가 2024년 10월 발표한 연구 «이런 터무니없는 방식으로 장사를 한다니(What a stupid way to do business)»는 60세 이상 노인 61명을 대상으로 한 설문과 65명을 대상으로 한 게임 실험을 통해 다크패턴의 영향을 실증했다. (참조 : doi.org/10.1145/3677113)
결과는 명확하다. 조사 참여자 가운데 다크패턴이라는 개념을 사전에 알고 있던 사람은 26%에 불과했다. 그럼에도 단 한 명도 다크패턴을 경험한 적이 없다고 답하지 않았다. 모두 당해왔지만, 대부분은 그것이 설계의 탓임을 몰랐던 것이다.
노인들이 가장 자주 마주치고 가장 우려하는 패턴은 해지를 어렵게 만드는 설계, 강제 가입, 숨겨진 비용처럼 정보를 감추거나 제한하는 유형이었다. 다수의 연구가 지적하듯, 노인들은 조작 시도 자체를 인식하는 빈도가 낮고 자신의 온라인 행동이 설계에 의해 유도될 수 있다는 사실을 잘 모르는 경향이 있다. 연구팀은 이를 교육으로 바꿀 수 있다는 것도 입증했다. 다크패턴 인식 교육 게임 ‘쇼포폴리스(Shopopolis)’를 경험한 노인 집단은 그렇지 않은 집단에 비해 다크패턴을 알아채는 능력이 뚜렷하게 높아졌다.
여기에 옥스퍼드대학교 경쟁법·정책센터(University of Oxford, Centre for Competition Law and Policy)가 2025년 발표한 논문 «다크패턴과 소비자 취약성(Dark patterns and consumer vulnerability)»이 중요한 시각을 더한다. (참조 : doi.org/10.1017/bpp.2024.49) 영국 성인 2,252명을 대상으로 한 이 실험은 다크패턴이 소득·학력·연령에 관계없이 모든 집단에서 상당한 조작 효과를 발휘한다는 것을 실증했다. 특정 계층만이 아니라 누구에게든 작동하는 구조적 함정이라는 뜻이다. 부모님이 속는 것은 나이 탓이 아니다. 화면 설계의 탓이다. 연구는 특히 결제 정보가 이미 저장되어 있어 클릭 한 번으로 구매가 완료되는 환경에서 다크패턴의 효과가 가장 강력하다는 것도 함께 실증했다.
AI 시대, 다크패턴은 더 정교해진다
과거의 다크패턴은 모든 사용자에게 동일하게 적용되는 일괄 조작이었다. 모두에게 같은 붉은 버튼, 같은 긴박한 문구, 같은 숨겨진 해지 경로. 그러나 AI는 이것을 개인화한다.
FTC 보고서(참조 : www.ftc.gov/reports/bringing-dark-patterns-light)가 지적한 데이터 기반 학습이 AI와 결합하면, 사용자가 얼마나 오래 가격 화면에 머무는지, 어떤 표현에 반응하는지, 언제 구매를 포기하는지를 실시간으로 분석하고 그에 맞춰 화면 문구·색상·타이밍을 자동으로 조정하는 것이 가능해진다. 이론상 당신이 망설이는 순간을 시스템이 포착하고, 그 망설임을 공략하는 메시지를 즉시 투사할 수 있다. 옥스퍼드 연구팀도 온라인 환경이 이미 이용자 개개인에 맞춰진 ‘설득 프로파일(persuasion profile)’을 구성해, 소비자가 인지하지 못하는 사이에 의사결정 자체를 조형하고 있다는 기존 연구들을 인용하며 이 흐름을 경고한다. (참조 : doi.org/10.1017/bpp.2024.49)
AI 시대의 다크패턴은 단지 더 빨라진 것이 아니다. 개인을 읽고 그 개인의 망설임 방식에 맞춰 설계된다는 점에서 이전과 본질적으로 다르다. 디지털 환경에 덜 익숙할수록 그 조작의 구조를 파악하기 더 어렵고, 그 어려움 자체가 다시 학습 데이터가 된다.
“동의합니다”는 동의가 아니다
부모님이 ‘예’를 누른 것은 사실이다. 하지만 그 ‘예’를 강제한 것은 화면의 설계다.
파란 배경에 굵은 글씨로 강조된 ‘동의’ 버튼 옆에 회색으로 흐릿하게 처리된 ‘거절’ 버튼. 쿠폰을 받으려 클릭했더니 개인정보 제공에 동의한 것으로 처리되는 구조. 무료 체험 이후 자동으로 연결되는 월정액, 그 해지 경로는 화면 다섯 단계 깊숙이 숨어 있다. 이것들은 부모님의 실수가 아니라, 그 실수를 유발하도록 설계된 환경이다.
부모님과 함께 자주 쓰는 앱의 구독·결제 설정 화면을 한 번 열어보자. 어떤 서비스에 가입되어 있는지, 매달 얼마가 빠져나가는지를 같이 확인하는 것으로 시작하면 된다. 앱을 처음 설치할 때 나오는 ‘동의’ 화면도 함께 읽어드리면 좋다. 한 번의 인식 경험이 반복되는 조작보다 훨씬 강한 방어막이 된다.
범죄자는 문을 부수고 들어온다. 다크패턴은 처음부터 문 안에 있다. AI는 그 문을 당신의 습관에 맞게 다시 잠근다. 지금 부모님 곁에 앉아 그 화면을 함께 들여다보는 것, 그것이 가장 먼저 해야 할 일이다.
