미국의사협회(AMA) 최고경영자가 인공지능(AI)으로 생성된 가짜 의사 영상이 공중보건에 심각한 위협이 되고 있다고 경고했다.
페이스북과 인스타그램, 틱톡 등 소셜미디어 플랫폼에서 저명한 의사들이 각종 의료 제품을 홍보하는 영상이 수백만 조회수를 기록하고 있다.
문제는 이 영상들이 진짜가 아니라는 점이다.
뉴욕타임스는 최근 이 문제의 심각성을 조명하는 보도를 냈다.
보도에 따르면 사기꾼들은 AI를 이용해 실제 의사 자격을 갖춘 의사들의 얼굴과 목소리를 본인 동의 없이 무단 복제하고 있다.
이렇게 만들어진 딥페이크 의사들은 효과 없는 건강보조제와 가짜 다이어트 약을 홍보하는 데 악용되고 있다.
뉴욕타임스가 인터뷰한 여러 의사는 자신이 실제로는 절대 추천하지 않을 가짜 'GLP-1 대체제'와 기적의 다이어트 제품을 홍보하는 AI 생성 영상을 발견했다고 밝혔다.
투데이가 보도한 다른 사례에서는 AI 가짜 의사가 과학적으로 불가능한 치료법을 선전하기도 했다.
문제는 다이어트와 건강보조제 업계를 넘어 확산하고 있다.
영국의학저널에 실린 한 기사에서 한 의사는 자신의 이름과 외모가 동의 없이 고혈압과 당뇨병 '치료제'를 홍보하는 데 사용되고 있다고 전했다.
AI 이미지와 영상 생성 기술이 날로 발전하면서 가짜 영상의 완성도도 높아지고 있다.
한 의사의 어머니는 자신의 딸이 출연한 가짜 영상에 속아 넘어가기도 했다.
많은 사기꾼이 AI 생성 콘텐츠와 진짜 콘텐츠를 구별하기 어려운 고령 환자를 의도적으로 표적으로 삼고 있다.
의사나 피해자가 이러한 사기를 막을 뚜렷한 방법도 없다.
가짜 제품을 판매하는 웹사이트는 대부분 해외에 기반을 두고 있으며 수시로 사라졌다가 새 이름으로 다시 나타나 개별 신고나 소송을 무력화한다.
의사들은 합법적인 영상으로 가짜 광고에 대응할 수도 없다.
그럴 경우 사기꾼에게 자신의 외모를 복제할 더 많은 소재만 제공하게 되기 때문이다.
환자에게 이러한 사기의 위험성은 명백하다.
악의적인 행위자로부터 가짜 치료제를 구매하는 것은 최소한 시간과 돈 낭비다.
최악의 경우 환자가 적절한 진단과 치료를 미루게 만들고 잠재적으로 위험한 물질로 이끌 수 있다.
의학계는 여전히 취약한 신뢰 환경과 씨름하고 있다.
최근 조사에 따르면 코로나19 팬데믹 이후 미국 보건·과학 기관에 대한 대중의 신뢰가 감소했다.
이러한 신뢰 침식은 실질적 결과를 낳고 있다.
인플루엔자와 홍역 등 일상적인 소아 예방접종률이 전국적으로 떨어지면서 예방 가능한 질병의 재유행에 대한 임상의들의 우려가 커지고 있다.
이러한 상황에서 딥페이크 의사 사기는 특히 위험하다.
개별 환자를 위협할 뿐 아니라 공중보건이 그 어느 때보다 신뢰에 의존하는 시점에 더 광범위한 신뢰 위기를 심화시키기 때문이다.
AMA 최고경영자는 환자들에게 기적의 치료법을 약속하는 영상, 특히 약국에서 판매되지 않거나 의사가 처방하지 않은 제품에 회의적 태도를 취하라고 조언했다.
의심스러울 때는 의사 사무실에 연락하거나 대면 진료 중 질문할 것을 권고했다.
다만 이는 의사나 환자만으로 해결할 수 있는 문제가 아니라고 강조했다.
AMA는 연방 및 주 규제 당국이 의사들과 협력해 환자를 보호하고 의료 시스템의 무결성을 보장하는 안전장치를 마련해야 한다고 촉구했다.
AMA는 구체적으로 의사 신원을 보호받는 전문 자산으로 인정하고 명시적 동의 없이 AI로 생성·합성·조작된 콘텐츠에 사용하는 것을 금지해야 한다고 제안했다.
또 AI 생성 미디어와 콘텐츠를 그 자체로 식별하도록 투명성을 의무화하고, 사기에 대한 환자 인식 제고와 의료 사칭 억제, 악의적 행위자 책임 추궁에 더 많은 자원을 투입해야 한다고 밝혔다.
플랫폼 자체의 역할도 강조됐다.
페이스북과 인스타그램, 틱톡, 유튜브 등은 사칭에 대한 강력한 단속과 사기 신고 시 신속한 삭제, AI 생성 콘텐츠에 대한 명확한 라벨링에 나서야 한다는 것이다.
AMA 최고경영자는 "환자들은 의료 조언이 자신의 최선의 이익을 위해 행동하는 실제 자격을 갖춘 전문가로부터 나온다는 것을 신뢰할 자격이 있다"며 "새로운 기술이 오랜 시간 검증된 의료의 기반을 침식하는 것을 막기 위해 연방 조치가 필요하다"고 말했다.