인공지능(AI)이 생성한 가짜 콘텐츠가 인간이 구별하기 힘든 수준에 도달하면서 '심리적 예방접종'이 새로운 대안으로 떠오르고 있다.
12일(현지시간) 정보기술(IT) 전문매체 테크레이더는 최신 연구 결과를 인용해 AI 생성 콘텐츠와 실제 콘텐츠에 대한 인간의 구별 정확도가 51%에 불과하다고 보도했다. 이는 사실상 찍는 것과 다름없는 수준이다.
AI 기술의 정교화는 이미 사회적 문제로 이어지고 있다. 2024년 미국에서는 조 바이든 대통령의 목소리를 흉내 낸 AI가 특정 지역 유권자에게 투표하지 말라는 가짜 독려 전화를 거는 사건이 발생했다. 유명인의 이미지를 도용한 정치적 허위 정보 유포나 금융 사기도 빈번하다.
특히 딥페이크 기술을 활용한 사기 범죄 피해액은 2027년까지 전 세계적으로 400억달러(약 57조6000억원)에 이를 것으로 전망되는 등 피해 규모는 계속 커질 전망이다.
이에 대한 해법으로 '심리적 예방접종'(psychological inoculation)이 주목받고 있다. 이는 가짜뉴스나 허위 정보를 접하기 전에 그것이 어떻게 만들어지고 어떤 특징을 갖는지 미리 알려줌으로써 비판적 사고 능력을 길러주는 방식이다.
미국 아이오와대학교 연구팀은 참가자들을 세 그룹으로 나눠 정치적 딥페이크 영상에 대한 심리적 예방접종 효과를 실험했다. 한 그룹은 딥페이크의 원리를 설명하는 간단한 경고 문자를, 다른 그룹은 딥페이크를 구별하는 게임을 체험했다. 그 결과 두 그룹 모두 아무런 조치를 받지 않은 통제 그룹보다 딥페이크 영상에 대한 신뢰도가 낮아지고 사실 확인 의지가 높아졌다. 특히 간단한 문자 경고만으로도 게임과 비슷한 효과를 보였다.
이러한 접근법의 효과는 다른 연구에서도 입증됐다. 2022년 한 연구에서는 감정적 언어 사용과 같은 조작 기술을 설명하는 짧은 애니메이션 클립을 유튜브 광고로 500만명에게 노출한 결과, 시청자들이 정치 성향이나 교육 수준과 무관하게 조작 기술을 더 잘 식별하게 됐다.
물론 기술적 해결책도 병행되고 있다. 구글 딥마인드의 '신스아이디'(SynthID)는 AI 생성 이미지와 영상에 워터마크를 삽입하며, 어도비와 마이크로소프트 등은 콘텐츠에 출처 정보를 담는 'C2PA' 표준을 지원한다. 오는 8월 시행될 유럽연합(EU)의 AI법은 AI 생성 콘텐츠에 대한 표기 의무를 법제화했다.
전문가들은 AI 기술이 발전하며 손가락 개수나 글자 모양 같은 기존의 딥페이크 구별법은 점차 무용지물이 되고 있다고 지적한다. 대신 영상 속 인물의 입 모양과 소리의 불일치, 물리 법칙에 어긋나는 이미지 등을 주목해야 한다고 조언한다.
궁극적인 해결책은 기술적 구별법을 넘어 콘텐츠의 맥락을 파악하는 비판적 습관을 기르는 것이다. 테크레이더는 "공유하기 전에 잠시 멈추고, 정보를 재확인하며, 누가 이 정보를 믿게 해서 이득을 보는지 질문하는 습관이 가장 강력한 방어 수단"이라고 강조했다.