미 중간선거 흔드는 AI 콘텐츠…빅테크 대응 미흡

미국 중간선거를 앞두고 주요 소셜미디어에 인공지능(AI)이 전면 도입되면서 유권자들이 잘못된 정보에 노출될 위험이 커졌다.

22일(현지시간) 정치 전문가들에 따르면 챗봇 등 AI 도구들이 유권자의 선택에 지대한 영향을 미친 것으로 나타났다.

선거를 불과 몇 달 앞두고 출시된 AI 도구들은 여론조사에 대한 편향되고 부정확한 정보를 생성했다. 또한 해외 세력의 여론 조작 작전을 증폭시키는 데 악용됐다.

저품질의 AI 생성 콘텐츠가 급증하면서 챗봇의 답변을 구성하는 학습 데이터까지 오염시킨 것으로 파악됐다.

기술 기업들의 대응은 일관성이 없거나 미흡한 수준에 머물렀다. 의회와 시민단체들이 AI 안전장치와 테스트 세부 정보 공개를 압박했지만 기업들은 충분한 정보를 제공하지 않았다.

딘 프리론 펜실베이니아대 커뮤니케이션학 교수는 "우리는 지금 미지의 영역에 들어섰다"고 지적했다.

지난 2024년 대선 당시 플랫폼들은 기본적인 AI 이미지 생성 도구를 제공하는 데 그쳤다. 하지만 올해는 오디오와 비디오, 이미지를 결합한 고급 서비스로 진화해 선거 전반에 깊숙이 개입했다.