AI 가짜 뉴스 확산 멈추는 법 “부인하고 기록하라”

FORTUNE Korea 2025년 11월 03일 오전 09:09 조회수

1,477

뉴욕시 전 시장 빌 더블라지오(Bill de Blasio)는 자신을 사칭한 AI 이메일 해프닝을 계기로, 딥페이크에 맞서는 최선은 신속한 온라인 부인과 신원 확인이라고 강조했다.

AI 시대엔 현실이 하룻밤 만에 뒤집힌다. 한쪽에선 특정 후보를 공개 지지했는데, 다음 날엔 AI가 만든 인용문이 정반대 입장을 내보낼 수 있다. 이런 일이 뉴욕시 전 시장 빌 더블라지오(Bill de Blasio)에게 실제로 벌어졌다.

뉴욕시 시장 선거를 앞두고 더블라지오로 착각한 이가 영국 「더 타임스」 기자에게 이메일을 보냈고, 조란 맘다니(Zohran Mamdani) 후보의 정책을 비판하는 답장을 남겼다. “정책의 수치가 검증에 버티지 못하고 정치적 난관도 크다”는 문장이었다.

보도가 다른 매체와 소셜미디어로 확산되자, 실제 더블라지오가 나서 “전혀 사실이 아닌, 내 입장이 아니다”라고 밝혔다. 사칭한 인물은 챗GPT로 맘다니의 세금 계획을 비판하는 답장을 작성했다고 인정했다.

사건은 정리됐지만 질문이 남았다. AI 사칭이나 딥페이크를 당하면 무엇을 해야 할까. 더블라지오는 “앞으로 목소리 조작이나 허위 스토리가 얼마나 쉽게 만들어질 수 있는지, 기자와 편집자 그리고 대중 모두가 피해자가 될 수 있음을 보여준다”고 말했다.

직접 사칭을 겪은 그는 대응 원칙을 이렇게 설명했다. 빠르게 반응하고 신원을 확인하라. 사건 직후 언론의 사전 문의도, 해당 매체와의 연락선도 없었다. 그래서 X(엑스)에 즉시 반박을 올리는 게 최선이었다고 했다.

“온라인에 올라가 사과와 삭제를 요구하자 효과가 있었다”고 했다. 생성형 영상 도구 소라(Sora·OpenAI)와 뷰 3(Veo 3·Google) 등은 실제가 아닌 장면을 그럴듯한 이미지와 영상으로 만든다. 소라 영상에는 움직이는 워터마크가 들어가지만, 일부 전문가는 편집으로 지울 수 있다고 말한다.

더블라지오는 “결국 온라인에서 ‘그건 가짜다’라고 즉시 부인하는 수밖에 없다”고 했다. “누가 내가 절도하는 영상을 올린다면, 즉각 가짜라고 알리는 게 우선이다. 누군가 처리해 주길 기다리기보다 세계를 향해 바로 말해야 한다”는 취지다.

딥페이크 위험은 공인만의 문제가 아니다. 직장도 안전하지 않다. HCM 플랫폼 아이솔브드(isolved)의 스티브 렌더먼(Steve Lenderman) 사기 예방 총괄은 “사기는 늘 사기처럼 보이지 않는다”고 말한다.

그는 범죄자들이 임원이나 동료인 척하면서 AI로 만든 음성이나 유사 이메일을 써 급한 송금이나 직원 정보를 요구한다고 설명했다. 그의 조언은 단순하다. 신속하게 움직이고, 모든 것을 기록하라는 거다. 스크린샷, 링크, 메시지를 보관해 고용주나 IT팀에 보고하라. 그러면 피해 확산을 막고 비밀번호를 재설정하며 계정을 잠그고 다중 인증을 켤 수 있다. “행동이 빠를수록 큰 피해를 막을 가능성이 커진다. 투명성과 속도가 최선의 방어”라고 했다.

더블라지오는 법·제도 정비도 촉구했다. 그는 2023년 하버드 콘퍼런스에서 AI 규제의 공백을 지적했다. “AI만 예외로 둬 규제 받지 않는 유일한 기술로 남겨선 안 된다”고 했다. “누군가가 특정인을 범죄자로 묘사하는 콘텐츠를 올리면 그 자체가 범죄여야 한다. 플랫폼도 그런 불법 콘텐츠를 올린 사람을 돕거나 방조해선 안 된다”고 강조했다.

/ 글 Jessica Coacci & 편집 김다린 기자 quill@fortunekorea.co.kr