AI 딥페이크에 빠진 이란 분쟁…진실·거짓 뒤섞인 '하이퍼워'

미국과 이란의 군사적 충돌이 인공지능(AI)이 생성한 정보와 딥페이크로 뒤덮이며 진실과 허구를 구분하기 어려운 '하이퍼워' 양상으로 치닫고 있다.

17일(현지시간) 가상자산 전문매체 크립토폴리탄에 따르면 도널드 트럼프 미국 대통령은 지난 15일 이란이 AI를 '허위 정보 무기'로 사용하고 있다고 비난했다. 트럼프 대통령은 이란이 AI를 이용해 미군 항공모함 '에이브러햄 링컨' 격침에 성공했다는 가짜 영상을 만들었다고 주장했다. 또한 모즈타바 하메네이 신임 최고지도자 지지 집회에 25만명이 모였다는 사진 역시 "완전히 AI로 생성된 것"이라고 말했다.

하지만 이러한 주장에 대한 반박도 제기됐다. 로이터 통신은 이라크 바스라항에서 촬영된 이미지를 통해 이란 선박들이 실제로 폭발물을 싣고 유조선을 공격한 사실을 확인했다. 여러 언론사 역시 트럼프 대통령이 직접 언급하지 않은 테헤란의 실제 정부 지지 집회 사진들을 보도했다.

상황은 실제 이미지가 가짜로 치부되는 '거짓말쟁이의 배당금' 현상으로 인해 더욱 악화하고 있다. '엠피리컬 리서치 앤 포캐스팅 연구소'는 뉴욕타임스(NYT)가 테헤란의 군중 사진을 조작했다고 비난했다. 이에 NYT는 "이미지는 실제이며, 비판은 표준 이미지 압축 방식을 잘못 표현한 재게시 버전에 기반한 것"이라고 반박했다.

언론인 메흐디 하산은 "AI가 가짜 이미지를 만드는 문제뿐만 아니라, 악의를 가진 행위자들이 실제 이미지를 AI 이미지라고 거짓 비난하는 문제까지 겪고 있다"고 지적했다. 실제로 일론 머스크의 AI 챗봇 '그록'은 베냐민 네타냐후 이스라엘 총리의 실제 영상을 '100% 딥페이크'로 잘못 판단하기도 했다.

소셜미디어 X는 AI로 만든 전쟁 영상을 출처 표기 없이 게시하면 90일간 수익 창출을 금지하겠다고 밝혔으나, 전문가들은 실효성에 의문을 제기한다. 전략대화연구소의 조 보드너 연구원은 AFP통신에 "내가 감시하는 피드는 여전히 전쟁 관련 AI 생성 콘텐츠로 넘쳐난다"고 말했다.

전문가들은 조회 수에 따라 수익을 지급하는 X의 보상 모델이 충격적이고 과장된 콘텐츠를 게시할 직접적인 금전적 동기를 부여한다고 비판했다. 이용자들의 관심을 끌기 위해 자극적인 가짜뉴스를 생산할 유인이 크다는 것이다.

트럼프 행정부 역시 실제 군사작전 영상에 비디오 게임 '콜 오브 듀티' 장면 등을 섞어 소셜미디어에 게시해 '밈 전쟁'이라는 비판을 받고 있다. 일부 영상에서는 미군이 이란 항공기를 성공적으로 타격한 것처럼 보였으나, 실제로는 미군을 속이기 위해 그려진 가짜 전투기 표적이었던 것으로 알려졌다.

태미 더크워스 상원의원(일리노이)은 X에 "전쟁은 빌어먹을 비디오 게임이 아니다"라며 "불법적이고 정당성 없는 전쟁으로 7명의 미군이 사망했고 수천 명이 불필요한 위험에 처해있다"고 강하게 비판했다.