EU, 'AI 딥페이크' 금지 추진…동의 없는 성적 이미지 생성 차단

유럽연합(EU)이 인공지능(AI)을 이용해 당사자 동의 없이 성적인 이미지를 생성하는 행위를 금지하는 법안을 추진한다.

18일(현지시간) 블룸버그 통신에 따르면 유럽의회 시민자유위원회는 이같은 내용을 담은 '인공지능 총괄법'(AI Omnibus law) 초안을 승인했다. 이는 최근 일론 머스크의 소셜미디어 엑스(X)의 AI 챗봇 '그록'을 이용해 여성과 아동의 딥페이크 이미지가 대량 생성된 데 따른 조치다.

개정안은 동의 없이 '식별 가능한 자연인의 성적으로 노골적인 활동이나 신체 중요 부위를 묘사'하기 위해 사실적인 이미지를 생성하는 모든 AI 시스템을 불법으로 규정한다. 다만, 개발사가 딥페이크 생성을 제한하는 조치를 마련한 경우는 예외로 둔다.

이번 금지 조치는 이용자뿐만 아니라 AI 기술 플랫폼 자체를 직접 규제 대상으로 삼는다는 점에서 주목된다. AI 모델의 성능이 실제 인물과 구별하기 어려운 수준으로 빠르게 발전하고 있기 때문이다.

대표적인 사례가 지난 1월 발생한 그록 사태다. 이용자들은 옷을 입은 사람의 사진을 바탕으로 수많은 성적인 이미지를 생성해 온라인에 유포했다. 논란이 확산하자 모회사인 xAI는 해당 기능을 제한했다.

유럽의회 위원회가 개정안을 승인함에 따라, 유사한 입장을 보인 EU 회원국 정부들과의 협의를 거쳐 올해 안에 법제화될 가능성이 커졌다.

EU는 이미 '여성에 대한 폭력 방지 지침'과 '디지털서비스법'(DSA) 등을 통해 비동의 성적 이미지 제작·유포를 불법으로 규정하고 있다. 이번 개정안은 AI 플랫폼을 직접 겨냥한 첫 규제다.

법안이 통과되면 AI 개발사들은 자신들의 모델이 만드는 이미지에 대한 제한 장치를 마련했음을 입증해야 한다. 다만 AI 시스템이 이미지 속 인물의 동의 여부를 어떻게 확인할지에 대한 구체적인 방안은 아직 불분명하다.

한편 EU와 영국 규제 당국은 지난 1월 그록 사태와 관련해 X와 xAI가 콘텐츠 관리 및 온라인 안전 관련법을 위반했는지 여부를 공식 조사하고 있다.