챗GPT 개발사 오픈AI가 인공지능(AI)을 악용한 선거 개입을 막기 위해 '디지털 워터마크' 기술을 도입한다.
오픈AI는 27일(현지시간) 자사 AI 도구로 생성한 이미지에 보이지 않는 워터마크를 삽입하는 등 2026년 선거를 앞두고 정보 신뢰도를 높이기 위한 안전장치를 공개했다.
핵심 조치는 AI 생성 콘텐츠의 출처를 명확히 하는 기술이다. 오픈AI는 챗GPT나 자사 API를 통해 만들어진 모든 이미지에 '신스ID'(SynthID) 디지털 워터마크를 적용한다. 이 워터마크는 눈에 보이지 않으며, 이미지를 스크린샷 하거나 변형해도 감지가 가능하다.
또한 '콘텐츠 출처 및 진위 확인을 위한 연합'(C2PA) 표준에 따라 이미지에 암호화된 서명과 메타데이터를 추가한다. 이를 통해 사용자는 특정 이미지가 AI로 생성됐는지 여부를 확인할 수 있다.
오픈AI는 외부에서 발견된 이미지의 출처를 확인할 수 있는 공개 검증 도구도 선보일 예정이다. 이 도구는 신스ID 워터마크나 C2PA 메타데이터의 존재 여부를 감지해준다.
회사는 AI 도구가 선거 운동에 악용되는 것을 막기 위한 정책도 강화한다. 특정 후보나 정당에 대한 대량의 선거 운동 메시지를 생성하거나 유포하는 행위를 금지한다. 자사 플랫폼에 정치 광고를 허용하지 않는다는 방침도 재확인했다.
이와 함께 유권자에게 신뢰할 수 있는 정보를 제공하는 노력도 병행한다. 미국과 브라질에서는 AP통신과 협력해 선거 당일 실시간 투표 집계 현황을 제공할 계획이다. 유권자 등록 방법, 투표소 위치 등 선거 관련 질문에는 공신력 있는 기관의 정보로 안내한다.
오픈AI는 "AI 도구가 선거 과정 방해, 투표 참여 저해, AI 생성 콘텐츠 출처 기만 등에 사용될 경우 서비스 접근을 제한하거나 계정을 종료하는 등 조치를 취할 것"이라고 밝혔다.