오픈AI가 챗GPT를 이용해 미국 내 인공지능(AI) 관련 여론을 조작하려 한 중국 연계 조직의 계정을 차단했다.
오픈AI는 10일(현지시간) 보고서를 통해 중국에서 시작된 것으로 추정되는 2개 그룹의 챗GPT 계정을 비활성화했다고 밝혔다. 이들은 미국 내 AI 및 기술 정책에 대한 논쟁에 영향을 미치기 위해 은밀한 여론조작 활동을 벌인 것으로 나타났다.
첫 번째 그룹은 '데이터센터 밴드왜건'으로 명명됐으며, AI 데이터센터 건설이 일반 가정의 전기요금을 인상시킨다는 내용의 소셜미디어 게시물과 이미지를 생성했다.
두 번째 그룹인 '기술과 관세'는 미국의 관세 정책을 비판하는 콘텐츠를 만들었다. 특히 이들은 콘텐츠 생성 시 시진핑 중국 주석은 제외하고 도널드 트럼프 미국 대통령만 포함하도록 지시한 것으로 드러났다.
이 조직은 챗GPT 사용자 데이터가 유출됐다는 허위 사실을 유포하는 등 오픈AI를 직접 겨냥한 활동도 벌인 것으로 파악됐다.
오픈AI는 이번 여론조작이 실제 대중의 의견을 바꾸는 데 큰 영향을 미치지는 않았다고 평가했다. 다만 중국 연계 조직이 미국의 기술 리더십 기반인 AI 인프라를 겨냥해 새로운 서사를 시험하고 있다는 점에서 위협적이라고 분석했다.
오픈AI는 "이번 조사 결과 발표는 권위주의 정권의 여론조작 시도를 식별하고 방해하는 데 도움이 되기 위함"이라고 설명했다.