송영길 "AI 핵무기 결합, 인류 파괴…국제사회가 제동 걸어야"

송영길 더불어민주당 의원이 인공지능(AI)과 핵무기의 결합이 인류 전체를 파괴할 수 있다며 국제사회가 군사 AI에 대한 명확한 통제선을 설정해야 한다고 촉구했다.

송 의원은 22일 자신의 페이스북을 통해 "AI와 핵무기의 결합은 브레이크 없는 초고속 열차에 인류 전체를 태우는 것과 같다"고 밝혔다.

송 의원은 최근 미군의 공습으로 150명 이상이 숨진 이란 미나브 초등학교 참사를 언급하며 "오래된 표적정보와 검증 실패, AI 표적체계에 대한 과도한 의존 문제가 제기되고 있다"고 지적했다. 그는 미군의 군사 AI 체계인 '프로젝트 메이븐'을 거론하며 "수천 개의 눈으로 전장을 내려다보고 순식간에 공격 대상을 골라내는 모습은 마치 현대전의 '전쟁의 신'과도 같다"고 덧붙였다.

이어 "AI는 잘못된 정보와 오래된 좌표를 받아들여도 스스로 망설이거나 의심하지 않는다"며 "오히려 더 빠르게 계산하고 다음 결론을 내놓는다"고 우려했다. 그는 "재래식 무기의 표적 선정도 이렇다면, 핵무기의 경보와 공격 판단에 AI가 깊숙이 개입할 경우 어떻게 되겠는가"라고 반문했다.

송 의원은 "잘못된 데이터 하나, 알고리즘의 오판 하나, 불과 몇 초의 판단 착오가 핵전쟁으로 번질 수 있다"며 "핵무기 판단까지 AI에 맡긴다면 단 한 번의 오판이 인류 전체를 파괴할 수 있다"고 경고했다.

그는 "인간이 충분히 의심하고 검증할 시간마저 빼앗는 군사 AI를 어디까지 허용할 것인지 국제사회가 분명한 선을 그어야 한다"며 "특히 핵무기의 경보·표적 선정·공격 판단만큼은 AI가 넘을 수 없는 절대적인 금지선으로 만들어야 한다"고 강조했다. 또한 "AI 패권 경쟁보다 먼저 합의해야 할 것은 전 인류의 생존"이라고 역설했다.

최근 미군은 'AI 우선' 전략에 따라 팔란티어사의 '메이븐 스마트 시스템'을 전장에 도입했으나, 지난 2월 이란 미나브 초등학교 오폭 참사로 군사 AI의 신뢰성 문제가 국제적 쟁점으로 부상했다. 오는 24일로 예정된 미중 정상회담에서도 '군사 AI 레드라인' 설정이 주요 의제로 다뤄질 전망이다.