오픈AI가 미국 국방부(펜타곤)와의 계약에 자사 인공지능(AI) 기술을 국내 감시용으로 사용하지 않는다는 조항을 추가하기로 했다.
2일(현지시간) 비즈니스인사이더에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 저녁 자신의 엑스(X·옛 트위터) 계정에 올린 내부 메모를 통해 이같이 밝혔다. 올트먼 CEO는 "미국 수정헌법 제4조, 1947년 국가보안법, 1978년 해외정보감시법(FISA) 등 관련 법률에 따라 AI 시스템은 미국인과 자국민에 대한 국내 감시를 위해 의도적으로 사용되지 않을 것"이라고 썼다.
그는 이어 "국방부는 우리 서비스가 국가안보국(NSA)과 같은 전쟁 정보 기관에서 사용되지 않을 것임을 확인했다"며 "해당 기관에 대한 모든 서비스는 계약에 대한 후속 수정이 필요할 것"이라고 덧붙였다.
이번 조치는 오픈AI가 펜타곤과 계약을 체결한 뒤 거센 비판에 직면한 데 따른 것이다. 앞서 오픈AI는 지난 금요일 펜타곤의 기밀 군사 네트워크에 자사 AI 모델을 배포하는 계약을 체결했다. 이 소식이 알려지자 오픈AI의 기술이 대규모 국내 감시나 살상용 자율 무기에 사용될 수 있다는 우려가 확산했다.
이에 샌프란시스코와 런던의 오픈AI 사무실 앞에서 항의 시위가 벌어졌으며 'QuitGPT'라는 단체는 불매 운동과 함께 시위를 조직했다.
펜타곤과 오픈AI의 계약은 경쟁사인 앤스로픽(Anthropic)과의 협상이 결렬된 직후 이뤄졌다. 앤스로픽은 대규모 국내 감시와 인간의 감독 없이 살상이 가능한 완전 자율 무기에 대한 명시적인 계약상 금지를 '레드라인'으로 제시했으나 펜타곤과 합의에 이르지 못했다.
앤스로픽과의 협상 결렬 후 도널드 트럼프 대통령은 연방 기관에 앤스로픽의 '클로드' 시스템 사용을 중단하라고 명령하기도 했다. 오픈AI와 구글 직원 약 500명은 앤스로픽의 결정을 지지하는 공개서한에 서명하며 연대 의사를 표했다.
올트먼 CEO는 메모에서 계약을 "서둘렀다"고 인정하며 "상황을 잘못 파악했다"고 사과했다. 그는 "이 문제는 매우 복잡하며 명확한 소통이 필요하다"며 "우리는 진심으로 상황을 진정시키고 훨씬 더 나쁜 결과를 피하려고 노력했지만 기회주의적이고 엉성하게 보였던 것 같다"고 말했다.
한편 앤스로픽은 이번 사안에 대한 논평 요청에 즉시 응답하지 않은 것으로 전해졌다.