[최홍규 칼럼: AI 시대의 콘텐츠 8회]
AI가 무엇이든 만들 수 있다면,
미디어는 진짜의 증인이 되어야 한다
한 장면을 상상해보자. 한 인기 강사의 강의 영상이 SNS에 퍼진다. 수업 중 부적절한 발언을 했다는 내용이다. 그런데 당사자는 이렇게 해명한다. “저건 AI가 만든 가짜 영상입니다.” 영상을 믿어야 할지, 해명을 믿어야 할지. 출처가 분명하지 않다면, 이런 상황은 이제 누구에게나 일어날 수 있는 일이다. 여론은 둘로 갈린다. 영상을 믿는 쪽과 해명을 믿는 쪽으로. 진실은 어느 쪽에도 없다. 남은 건 의심뿐이다.
이것이 지금 우리가 마주한 새로운 위기다. 딥페이크가 사람을 속이는 것도 문제지만, 더 큰 문제는 따로 있다. 딥페이크라는 것이 존재한다는 사실 자체가, 진짜 증거마저 의심하게 만든다는 점이다.
의심의 세금
영상, 음성, 이미지처럼 AI가 실제와 구분하기 어렵게 만들어낸 콘텐츠를 흔히 ‘합성미디어(synthetic media)’라 부른다. 실존 인물의 얼굴이나 목소리를 다른 맥락에 정교하게 합성해 넣은 딥페이크(deepfake) 역시 합성미디어의 한 종류다. 그렇다면 이런 합성미디어에 반복적으로 노출되면, 실제로 사람들의 판단력이 흔들릴까. 이 질문에 답하기 위해, 아랍에미리트 아즈만시티대학교(City University Ajman)와 움알콰인대학교(Umm Al Quwain University) 등 중동 4개 대학 공동연구진이 2026년 6월, 2018년부터 2025년까지 발표된 합성미디어 관련 실증연구 74편을 종합 분석한 결과를 공개했다(www.frontiersin.org/journals/political-science/articles/10.3389/fpos.2026.1811974/pdf).
결과는 흥미로운 방식으로 나타났다. 사람들이 가짜를 진짜로 믿어서 문제가 아니었다. 무엇이 진짜인지 판단할 자신감 자체를 잃는다는 것이 진짜 문제였다. 딥페이크임을 정확히 알아챈 뒤에도, 뉴스의 정확성에 대한 확신은 오히려 낮아졌다. 연구진은 이를 ‘의심의 세금(skepticism tax)’이라 이름 붙였다. 콘텐츠 하나하나의 진위를 매번 의심해야 하는 부담이, 정보를 접할 때마다 매겨지는 세금처럼 쌓인다는 뜻이다. 정보의 정확성을 가려낼 확신과 뉴스 신뢰를 다룬 21편의 연구 가운데 18편은 합성미디어에 노출된 뒤 이런 불확실성이 커지는 결과를 보고했다. 한 번 노출됐을 때의 충격은 크지 않았지만, 그런 경험이 쌓이고 쌓이면 무시할 수 없는 수준이 된다는 게 연구진의 설명이다. 콘텐츠가 실제처럼 생생하게 느껴질수록, 의심도 컸다.
이 불확실성은 정치적으로 중도에 가까운 응답자에게서 더 크게 나타났다. 반면 강한 당파성을 지닌 응답자의 신념은 비교적 안정적이었다. 어쩌면 강한 확신보다 판단을 유보하고 증거를 다시 검토하는 태도가, 합성미디어 시대에는 더 큰 심리적 비용을 치르게 할지도 모를 일이다.
한편으로 의심은 누군가에게 유용한 무기가 되기도 한다. 진짜 증거를 들이대도 “저건 AI가 만든 가짜”라고 우기면 그만이기 때문이다. 세상에 가짜가 넘쳐난다는 사실 자체가, 그 발뺌을 그럴듯하게 만들어준다. 법학자들은 이런 현상을 ‘거짓말쟁이의 배당금(Liar’s Dividend)’이라 부른다. 서두에 상상해 본 강사의 해명이 통했던 것도 같은 이유다. 가짜가 흔한 세상에서는, 진짜조차 스스로 증명해야 하는 처지에 놓인다.
라벨을 붙이면 해결될까
그렇다면 “이건 AI가 만들었습니다”라는 표시를 붙이는 것만으로 이 문제를 해결할 수 있을까. 이 질문에 답하기 위해 스위스 취리히대학교(University of Zurich) 연구진이 2024년 10월, 미국과 영국 성인 4,976명을 대상으로 한 실험 결과를 공개했다 (pmc.ncbi.nlm.nih.gov/articles/PMC11443540). 뉴스 헤드라인에 ‘AI 생성’ 표시를 붙였을 때 사람들의 반응이 어떻게 달라지는지를 살펴본 실험이었다.
결과는 예상과 달랐다. 헤드라인이 참인지 거짓인지, 실제로 AI가 만들었는지 사람이 만들었는지와 관계없이 ‘AI 생성’ 표시가 붙자, 참가자들은 이를 덜 정확한 것으로 평가했고, 공유 의향도 낮아졌다. 사람이 쓴 헤드라인에 ‘AI 생성’ 표시가 잘못 붙었을 때도 마찬가지였다.
이때 정확성 평가와 공유 의향이 떨어진 폭 자체는 크지 않았다. ‘AI 생성’ 표시의 효과는 ‘거짓’ 표시의 3분의 1 수준에 그쳤다. 하지만 후속 실험에서 중요한 사실이 드러났다. 라벨이 무엇을 의미하는지, 그 설명 여부에 따라 결과가 크게 달라졌던 것이다. “AI가 문장과 문체를 다듬는 데 쓰였다”라거나 “기자가 정한 주제와 제공한 자료를 바탕으로 AI가 초고를 썼다”처럼 구체적으로 설명해주자, 라벨이 정확성 평가와 공유 의향을 낮추는 효과는 통계적으로 뚜렷하게 나타나지 않았다. 반면 아무 설명 없이 표시만 붙이거나, “AI가 주제 선정부터 기사 전체 집필까지 맡았다”라고 설명했을 때는 정확성 평가와 공유 의향이 낮아졌다. 결국 별다른 설명이 없으면 사람들은 ‘AI 생성’이라는 말을 인간 감독이 거의 없는 전면 자동화로 받아들이는 경향을 보였다는 뜻이다.
결국, 라벨은 정직한 도구이지만 무딘 도구다. 진짜와 가짜를 정교하게 가르지 못하고, 진짜까지 통째로 깎아내린다. 무엇보다 라벨은 그 자체로 아무것도 증명하지 않는다. “AI가 만들었다”는 한마디는 이유가 아니라 딱지일 뿐이다. 시청자에게 필요한 건 딱지가 아니라, “왜 그렇게 판단했는가”를 끝까지 설명하는 근거다.
미디어가 만들어야 할 콘텐츠
그렇다면 미디어는 무엇을 해야 할까. 단순한 표시 하나로 이 문제를 끝낼 수 없다면, 미디어가 채워야 할 자리는 셋이다.
먼저, 판단의 이유를 보여주는 콘텐츠가 필요하다. “이건 가짜입니다”라는 결론만 던지지 말고, 메타데이터와 프레임 분석, 원본 소스와의 대조 과정을 시청자에게 그대로 공개해야 한다. 판별의 결과가 아니라 판별의 과정을 보여줄 때, 시청자는 그 결론을 수동적으로 받아들이는 대신 스스로 검증하는 방법을 익히게 된다.
다음으로, 위험한 시기가 오기 전에 미리 내성을 길러주는 콘텐츠가 필요하다. 선거나 재난처럼 합성 콘텐츠가 집중적으로 쏟아질 시기는 어느 정도 예측할 수 있다. 그 시기가 오기 전에 어떤 수법이 유행하는지 미리 보여주고 체험하게 하면, 사건이 터진 뒤 뒤늦게 바로잡는 정정 보도보다 훨씬 효과적이다. 의심이 필요한 순간을 미리 겪어본 시청자는 실전에서 훨씬 덜 흔들린다.
마지막으로, 시청자가 직접 원본을 찾아 대조할 수 있는 콘텐츠가 필요하다. 공식 발언과 영상의 원본을 언제든 확인할 수 있는 아카이브를 제공하면, 누군가 진짜 증거를 두고 “저건 조작됐다”고 우길 때 시청자 스스로 원본과 비교해 판단할 수 있다. 거짓말쟁이의 배당금은 이런 창구 앞에서 설 자리를 잃는다.
진짜의 증인으로 남는다는 것
AI는 무엇이든 만들어낼 수 있는 시대를 열었다. 그 시대가 가져온 가장 큰 손실은 가짜에 속는 것이 아니다. 진짜조차 믿지 못하게 되는 것, 그것이 진짜 손실이다.
미디어가 할 일은 무엇이 가짜인지 가려내는 재판관 노릇이 아니다. 왜 이것이 진짜인지, 그 근거를 끝까지 지켜 보여주는 증인으로 남는 일이다. 재판관은 판결을 내리면 그것으로 소임을 다하지만, 증인은 그 판결이 맞는지 누군가 다시 물을 때마다 같은 자리에서 답해야 한다. 판단은 결국 시청자의 몫이지만, 그 판단이 설 수 있는 땅은 미디어가 다져야 한다.
의심이 일상이 된 시대일수록, 손쉬운 딱지보다 끈질긴 근거가 신뢰를 만든다. 라벨 한 장 붙여놓고 할 일을 다 했다고 여기는 손쉬운 길을 뿌리치고, 판단의 전 과정을 낱낱이 공개하는 수고를 감수하는 미디어만이 결국 살아남을 것이다. 그것이 지금 미디어가 짊어져야 할, 새로운 증언의 책임이다.
