인공지능(AI) 스타트업 앤트로픽이 자사 기술의 군사적 사용 범위를 놓고 갈등을 빚던 미국 국방부를 상대로 소송을 제기해 AI 윤리 논쟁이 법정으로 향하게 됐다.
10일(현지시간) 파이낸셜타임스(FT)에 따르면 앤트로픽은 전날 미 국방부가 자사를 '공급망 위험'으로 지정한 것이 부당하다며 소송을 냈다. 앤트로픽은 현재 미군 기밀 작전에 AI 모델을 제공하는 유일한 기업으로, 지난 몇 달간 국방부와 기술 사용 조건을 협상해왔다.
갈등의 핵심은 AI의 사용 범위다. 피트 헤그세스 국방장관이 이끄는 국방부는 '모든 합법적 목적'에 AI를 사용할 수 있어야 한다는 포괄적인 입장을 고수했다. 반면 앤트로픽은 '국내 대량 감시'와 '치명적 자율 무기' 두 가지 특정 용도에 대해서는 사용을 금지하는 명확한 보장을 요구하며 맞섰다.
협상이 교착 상태에 빠지자 국방부는 앤트로픽을 '공급망 위험'으로 지정하는 이례적인 조치를 단행했다. 이는 통상 미국에서 기술을 탈취하려는 중국이나 러시아 기업에 적용되는 지정으로, 앤트로픽과 협력하는 군사 계약 파트너들은 계약에서 이 회사를 배제해야 함을 의미한다.
앤트로픽은 소장에서 국방부의 지정이 "자의적이고 변덕스럽다"며 협상에서 유리한 고지를 점하기 위한 정치적 동기에 따른 압박이라고 주장했다. 법률 전문가들은 앤트로픽이 이 지정을 뒤집을 가능성이 상당히 높다고 보고 있다. 앤트로픽은 우선 군사 계약 파트너들과의 협력이 중단되지 않도록 지정에 대한 가처분 신청을 추진 중이다.
앤트로픽 측은 자사 AI가 현재 기밀 임무를 포함한 여러 군사 작전에 활용되고 있는 상황에서 공급망 위험으로 지정된 것은 '인지 부조화'라고 지적했다.
이번 소송은 AI 기술의 군사적 활용과 통제에 대한 근본적인 논쟁을 촉발시켰다. 앤트로픽은 현재 기술 수준이 인간의 통제 없이 독립적으로 작동하는 살상무기에 사용되기에는 충분히 정교하지 않다고 우려를 표했다. 또한 현행법이 포괄하지 못하는 강력한 AI 기술이 대규모 국내 감시로 이어질 수 있다고 지적했다.
국방부는 소송에 대해 논평을 거부했으나, 앞서 해당 기술을 책임감 있게 사용할 것이며 대량 감시나 자율 살상무기에 쓸 의도가 없다고 밝힌 바 있다. FT는 이번 논쟁이 오픈AI, 구글 등 다른 주요 AI 기업들 내부에서도 매우 활발하게 논의되고 있다며, 강력한 신기술의 사용처를 둘러싼 사회적 논의가 본격화될 것으로 내다봤다.