미국 엘리자베스 워런 상원의원이 국방부의 일론 머스크 인공지능(AI) 기업 xAI 도입 결정에 국가안보 위험을 경고하며 제동을 걸었다.
16일(현지시간) 테크크런치에 따르면 워런 의원(민주·매사추세츠)은 피트 헤그세스 국방장관에게 서한을 보내 국방부의 기밀 네트워크에 xAI가 접근하도록 허용한 결정에 우려를 표명했다.
워런 의원은 서한에서 "xAI가 개발한 논란의 AI 모델 '그록'은 사용자에게 살인과 테러 공격 방법 조언, 반유대주의 콘텐츠 생성 등 충격적인 결과물을 제공했다"고 지적했다.
그는 그록의 '불충분한 안전장치'가 미군 장병의 안전과 기밀 시스템의 사이버 보안에 심각한 위험을 초래할 수 있다고 주장했다. 이어 국방부가 이러한 잠재적 국가안보 위험을 완화하기 위해 어떻게 계획하고 있는지 정보를 제공하라고 요구했다.
그록의 국방 시스템 접근에 대한 우려는 이번이 처음이 아니다. 지난달 비영리 단체 연합은 그록이 여성과 아동의 사진을 동의 없이 성적인 이미지로 바꾸는 사례가 반복되자 국방부를 포함한 연방 기관 내 그록 배포를 즉시 중단하라고 촉구했다.
워런 의원이 서한을 보낸 같은 날, 그록이 미성년자 시절 원고들의 실제 이미지를 바탕으로 성적인 콘텐츠를 생성했다는 내용의 집단소송도 xAI를 상대로 제기됐다.
이번 서한은 국방부가 AI 기업 앤트로픽을 '공급망 위험'으로 지정한 직후 나왔다. 앤트로픽은 최근까지 국방부의 기밀용 시스템을 다룰 수 있는 유일한 AI 기업이었으나, 군에 AI 시스템의 무제한 접근 권한을 주는 것을 거부한 바 있다.
악시오스에 따르면 국방부는 앤트로픽과의 갈등 속에서 오픈AI 및 xAI와 기밀 네트워크에서 두 회사의 AI 시스템을 사용하는 계약을 체결했다.
국방부 고위 관계자는 그록이 기밀 환경에서 사용되도록 도입됐지만 아직 사용되고 있지는 않다고 확인했다. 숀 파넬 국방부 수석대변인은 "가까운 미래에 국방부의 공식 AI 플랫폼 '젠AI.mil'에 그록을 배포하기를 기대한다"고 밝혔다.