"AI가 '핵무기 수송선' 지목"…미중, 군사충돌 막을 핫라인 논의

인공지능(AI)의 오판으로 핵전쟁 위기까지 거론되는 가운데 미국과 중국이 AI 관련 국가안보 위기 상황에 대응하기 위한 '핫라인' 구축 논의에 착수했다.

22일(현지시간) 스콧 베센트 미국 재무장관은 허리펑 중국 부총리가 이끄는 대표단과 회담 후, 양국이 AI 관련 국가안보 우려 사안 발생 시 서로 통지하는 핫라인 설치를 위한 추가 회담을 열기로 합의했다고 발표했다.

베센트 장관은 "세계 1, 2위 AI 강국인 양국 간의 투명성을 높이는 것은 매우 중요하다"고 강조했다. 이번 합의는 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담을 앞두고 이뤄졌다.

이번 논의는 최근 AI의 잘못된 판단이 군사적 충돌로 이어질 뻔한 아찔한 사건이 알려지면서 그 필요성이 더욱 부각됐다. 올해 초 미군 AI 정보 모델이 한 중국 선박을 이란으로 향하는 핵무기 부품 수송선으로 잘못 지목하는 사건이 발생했다.

AI는 미군 기밀 정보와 공개 데이터를 종합해 이 같은 결론을 내렸으나, 이는 사실과 다른 정보를 생성하는 '환각 현상'으로 판명됐다. 미군은 무장 병력을 태운 항공기까지 출격시켜 선박 차단을 준비했으나, 오류를 뒤늦게 발견하고 작전을 중단했다. 자칫 실제 군사적 충돌이나 외교적 참사로 번질 수 있었던 순간이었다.

AI 기술의 위험성은 군사 분야에만 국한되지 않는다. 최근 화이트햇 해커팀이 앤트로픽의 AI 모델 '클로드'를 이용해 오픈AI 직원의 계정을 해킹하고, 내부 민감 코드가 저장된 저장소에 접근해 수정까지 한 사실이 드러났다.

이 사건은 오픈AI나 앤트로픽 같은 거대 AI 기업들의 보안 시스템이 예상보다 허술할 수 있다는 우려를 낳았다. 특히 기업 내부에서 광범위한 데이터 접근 권한을 가진 AI 에이전트가 해커의 표적이 될 경우, 순식간에 막대한 피해를 줄 수 있다는 지적이 나온다.

사이버 보안 전문가들은 AI 에이전트를 잠재적 내부 위협으로 간주하고 접근 권한을 최소화하는 '제로 트러스트' 원칙을 해법으로 제시한다. 하지만 이는 AI의 효용성을 떨어뜨릴 수 있어 기술 발전과 보안 사이의 균형점을 찾는 것이 과제로 남았다.