[최홍규 칼럼: 당신의 부모는 AI 세상에 안녕하십니까? 9회]
AI 기술로 무장된 딥페이크가 흔드는 것은 눈이 아니라 믿음이다
1
저녁 여덟 시, 어머니의 휴대폰에 영상통화가 걸려 온다. 화면 속 얼굴은 아들이고, 목소리도 아들이다. 진짜 아들이 건 전화다. 그런데 어머니는 한참 화면을 들여다보다 조심스럽게 묻는다. “너, 진짜 맞니?”
딥페이크 이야기가 나오면 우리는 가짜에 속는 일부터 걱정한다. 그런데 이 어머니는 속은 것이 아니다. 오히려 진짜 앞에서 의심하고 있다. 위조지폐가 돌기 시작하면 사람들은 가짜를 가려내는 데서 그치지 않고, 멀쩡한 진짜 지폐까지 불빛에 비춰 보게 된다. AI로 만든 합성 영상인 딥페이크(deepfake)가 늘어나면 우리가 잃는 것은 가짜를 알아보는 눈만이 아닐 수 있다. 진짜를 믿는 마음도 함께 흔들린다.
속지 않아도 믿지 못하게 된다
먼저 영국의 러프버러대학교(Loughborough University) 연구팀이 2020년 2월 발표한 연구다. (journals.sagepub.com/doi/pdf/10.1177/2056305120903408) 연구팀은 성별·연령·교육 수준이 영국 성인 인구와 비슷하게 구성된 온라인 패널 참여자 2,005명에게 딥페이크 영상을 보여 주고 반응을 비교했다. 실험에 쓴 영상은 인터넷에서 크게 화제가 된 딥페이크를 편집한 것이다. 코미디언 조던 필(Jordan Peele)이 오바마 전 미국 대통령의 목소리를 흉내 내고, AI가 오바마의 얼굴을 합성해 오바마가 트럼프 대통령을 거칠게 비난하는 것처럼 보이게 만들었다. 일부 참여자에게는 가짜임을 밝히는 뒷부분을 잘라 낸 영상을, 나머지에게는 뒷부분까지 담은 영상을 보여 주었다. 그런 다음 오바마가 트럼프에게 그런 욕설을 한 적이 있는지 물었다. 답은 ‘예’, ‘아니요’, ‘모르겠다’ 중에서 고르게 했다.
가짜임을 밝히지 않은 영상을 본 사람이 더 많이 속지는 않았다. 달라진 것은 ‘모르겠다’라는 응답이었다. 이 응답은 가짜임을 밝히지 않은 영상을 본 쪽에서 더 많았다. 그렇게 헷갈린 사람일수록 소셜미디어에서 접하는 뉴스를 덜 믿었다. 딥페이크가 곧바로 불신을 만든 것은 아니다. 헷갈림이 생겼고, 그 헷갈림이 불신으로 이어졌다. 연구팀은 딥페이크가 사람을 속이지 못하더라도 불확실함을 퍼뜨려 소셜미디어 뉴스에 대한 믿음을 깎을 수 있다고 보았다. 길게 보면 불확실함과 냉소를 키울 수도 있다고 내다봤다. 다만 이 불신이 냉소가 아니라 건강한 회의로 이어질 가능성도 열어 두었다.
믿음이 흔들리는 길은 하나가 더 있다. 딥페이크를 조심하라는 경고다. 미국 조지타운대학교(Georgetown University)와 예일대학교(Yale University)의 연구팀이 2022년 2월 발표한 연구는 이 경고가 어떤 효과를 내는지 실험했다.
(tsjournal.org/index.php/jots/article/download/28/15/116) 연구팀은 2020년 봄과 가을에 온라인 패널에서 모집한 미국 참여자들에게 정치인이 나오는 영상을 보여 주었다. 1차 실험(1,396명)에서는 배우가 가상의 정치인을 연기한 영상을 썼다. 한 집단에는 진짜 영상을, 다른 집단에는 그 영상을 딥페이크로 바꾼 영상을 보여 주었다. 2차 실험에서는 미국 정치인 밋 롬니(Mitt Romney)의 실제 영상만 썼다. 2002년 주지사 선거 토론회에서 여성의 낙태 선택권을 지키겠다고 말하는 장면이다. 공화당 정치인으로는 이례적인 발언이라 “이 사람이 이런 말을 했다고?” 싶은 영상이다. 두 실험 모두 일부 참여자에게만 영상 위에 경고 문구를 띄웠다. 컴퓨터로 사람이 하지 않은 말을 한 것처럼 영상을 감쪽같이 조작할 수 있다는 내용이다. 영상을 본 뒤에는 그 영상이 가짜라고 생각하는지 물었다.
경고를 받았다고 해서 조작된 영상을 더 잘 가려내게 되지는 않았다. 달라진 것은 영상을 의심하는 정도였다. 1차 실험에서 경고를 본 참여자는 영상이 가짜라고 생각하는 정도가 더 높았고, 진짜 영상을 본 경우에도 마찬가지였다. 실제 정치인의 진짜 영상만 쓴 2차 실험에서도 결과는 같았다. 롬니가 공화당 소속임을 아는 참여자만 놓고 보면, 경고를 본 쪽이 이 영상을 딥페이크라고 생각하는 경우가 더 많았다. 경고는 영상 속 내용을 받아들이는 방식에도 영향을 미쳤다. 경고를 본 참여자는 롬니가 낙태 선택권을 지지한 적이 있다는 사실을 덜 인정했다.
연구팀은 딥페이크를 경고하려는 선의의 시도가 뜻하지 않게 진짜 정보까지 믿을 수 없는 것으로 만들 수 있다고 결론지었다. 다만 모든 경고가 같은 결과를 낳는다고 보지는 말라고 당부했다. 이 연구가 실험한 것은 언론에 흔히 나오는 종류의 경고였기 때문이다. 필자는 이 결과가 경고를 멈추라는 뜻은 아니라고 본다. 경고만 할 뿐 진짜를 가려 줄 방법은 알려 주지 않는 방식을 돌아보라는 신호로 읽는다.
확인의 수고는 받는 사람이 아니라 보내는 사람이 먼저 져야 한다
두 연구는 정치 영상과 뉴스를 다뤘고, 고령층만을 따로 살핀 것도 아니다. 그런데도 필자는 두 실험에서 어머니의 질문과 닮은 장면을 본다. 두 연구에서 달라진 것은 사람들이 가짜를 얼마나 잘 가려내느냐가 아니라 영상을 얼마나 믿느냐였다. 딥페이크를 본 쪽에서는 무엇이 진짜인지 확신하지 못하는 사람이 늘었고, 경고를 읽은 쪽에서는 진짜 영상까지 가짜라고 의심하는 정도가 높아졌다.
필자는 같은 일이 가족의 영상통화에서도 벌어진다고 본다. 아들이 건 전화가 진짜여도 가짜일 가능성이 사라지지 않으니, 전화를 받은 어머니가 확인에 나서야 한다. 확인에는 시간과 수단이 들고, 그 수고는 대개 연락을 받는 쪽이 진다. 확인할 방법이 적은 부모님에게는 이 부담이 더 무겁게 얹히기 쉽다. 필자는 얼굴과 목소리, 영상통화만으로 진위를 가리는 방식은 오래 버티기 어렵다고 본다.
그렇다면 수고의 방향을 바꿔야 한다. 확인을 요구받는 쪽이 아니라 연락을 거는 쪽이 진짜임을 먼저 드러내게 하는 것이다. 오늘 부모님과 함께 가족이 모두 들어 있는 대화방, 곧 가족 대화방을 열어 보자. 정할 약속은 하나다. 돈이 오가는 이야기는 먼저 가족 대화방에 글로 올리고, 그다음에 전화하기로 한다. 예를 들어 자녀가 급히 돈이 필요하면 “오후 3시에 전화할게요. 병원비 때문이에요”라고 먼저 올린다. 가족 대화방에 그런 글이 없는데, 전화나 영상통화가 걸려 오면, 목소리와 얼굴이 아무리 진짜 같아도 일단 끊고 가족 대화방부터 확인하기로 한다. 오늘은 연습 삼아 “앞으로 돈 이야기는 여기에 먼저 쓸게요”라는 글을 함께 올려 두자.
수고를 부모님 혼자 떠안게 해서는 안 된다
다시 지폐 이야기다. 지폐는 받는 사람의 눈에만 진위를 맡기지 않는다. 홀로그램과 워터마크를 넣어 진짜가 스스로 진짜임을 드러내게 하는 일은 지폐를 찍어 내는 쪽의 몫이다. 필자가 보기에 영상통화와 음성통화에서는 이 몫을 맡을 쪽이 없다. 진짜를 보내는 쪽이 진짜임을 드러낼 장치가 마땅치 않으니, 받는 쪽이 저마다 불빛에 비춰 볼 수밖에 없다. 그 수고는 서두르는 순간에 확인할 길이 적은 사람에게 가장 먼저, 가장 무겁게 닿는다.
가족 대화방의 약속은 임시 조처다. 근본적인 해법은 통신사와 플랫폼, 금융기관이 서비스 안에서 보내는 쪽의 진위를 보증하도록 설계하는 데서 나온다. 그런 설계가 갖춰지기 전까지는 가족이 할 일이 있다. 확인의 수고를 부모님에게만 맡기지 않고 나누는 것이다. 어머니가 “너, 진짜 맞니?”라고 묻지 않아도 되는 날은 어머니의 눈이 밝아져서 오지 않는다. 진짜를 보내는 쪽이 진짜임을 스스로 드러낼 때 온다. 진짜는 의심받지 않고도 통용되어야 한다.
