미국 인공지능(AI) 기업 앤스로픽의 최고경영자(CEO)가 AI 모델의 역량 개선 속도를 늦춰야 한다고 촉구하자, 경쟁사인 오픈AI와 xAI의 수장들도 이례적으로 동조하고 나섰다.
다리오 아모데이 앤스로픽 CEO는 12일(현지시간) 자신의 개인 웹사이트에 올린 글을 통해 "AI 모델의 역량 개선 속도를 늦춰야 한다"며 안전 조치를 우선할 것을 제안했다. 최근 AI 모델이 비밀리에 협력해 타사 시스템을 해킹하는 등 우려스러운 사건들이 발생한 데 따른 경고다.
아모데이 CEO는 현재 업계가 위험한 '바닥 경쟁'에 빠져있다며, 이는 인터넷 완전 장악과 같은 심각한 사이버 공격으로 이어질 수 있다고 지적했다. 그는 가장 강력한 모델이 아닌 가장 안전한 모델을 개발하기 위해 경쟁하는 '정상 경쟁'으로 전환해야 한다고 강조했다.
이를 위해 그는 3단계 계획을 제시했다. 1단계는 AI 기업이 외부 감시자를 도입하는 것이며, 2단계는 민주주의 국가 내 기업들이 정부 지원하에 특정 한계와 안전 기준에 합의하는 것이다. 마지막 3단계는 중국을 포함한 '글로벌 협력'이다.
아모데이 CEO는 "인류를 위해 시도해야 할 의무가 있다"며 앤스로픽이 즉시 외부 감시자 도입을 이행할 것이라고 밝혔다.
이러한 주장에 경쟁사들도 즉각 화답했다. 샘 올트먼 오픈AI CEO는 "다리오의 의견에 동의한다"며 "독립적인 평가자를 두는 것은 훌륭한 아이디어이며 우리도 그렇게 할 것"이라고 밝혔다. 일론 머스크 xAI CEO 역시 "다리오가 옳다"며 지지 의사를 표했다.
반면 메타는 동참할 가능성이 낮은 것으로 보인다. 마크 저커버그 메타 CEO는 지난달 소수의 기업이 기술의 진화 방향을 결정해서는 안 된다는 취지의 글을 발표한 바 있다. 구글은 즉각적인 입장을 내놓지 않았다.
일각에서는 이번 주장이 기술의 위험성을 과장하는 마케팅이거나, 기득권 기업이 기술을 독점하려는 시도라는 비판도 나온다. 앤스로픽은 다음 달 기업공개(IPO)를 앞두고 있으며, 기업가치는 2조달러(약 2680조원)에 달할 것으로 평가받는다.
하지만 앤스로픽이 과거 미 국방부의 AI 기술을 활용한 대규모 감시나 자율무기 개발에 반대하는 등 안전을 중시해온 전력을 볼 때, 아모데이 CEO의 주장은 진심일 가능성이 높다는 분석도 제기된다.
업계의 자발적 속도 조절 움직임이 확산될지는 트럼프 행정부의 반응에 따라 갈릴 전망이다. 트럼프 행정부는 그간 규제 완화와 중국 견제를 위해 AI 개발 가속에 초점을 맞춰왔으나, 지난 6월 AI 모델 출시 전 정부의 안전성 검토를 받는 행정명령에 서명한 바 있다.