미국과 이스라엘의 이란 공습 과정에서 인공지능(AI)의 표적 오류로 추정되는 학교 폭격 사건이 발생해 175명 이상이 사망하며 AI 전쟁의 책임 소재 논란이 불거지고 있다.
가상자산 전문매체 크립토폴리탄은 14일(현지시간) 미·이스라엘의 대(對)이란 공습 첫날 이란 남부 미나브 지역의 한 초등학교가 폭격을 당했다고 보도했다. 이 공격으로 학생들을 포함해 175명 이상이 숨졌으나, 미국과 이스라엘 정부 모두 이번 사건에 대한 공식 입장을 내놓지 않고 있다.
뉴욕타임스(NYT) 보도를 인용해 이번 공습이 10년 전 낡은 정보에 기반한 AI 시스템의 오류일 수 있다는 의혹이 제기됐다. 루이자 러브럭 NYT 외신기자는 자신의 엑스(X) 계정을 통해 "공격 대상지로 표시된 곳 중 하나는 누구나 온라인 위성사진으로 확인할 수 있는 '운동장이 딸린 학교'였다"고 지적했다.
컴퓨터 과학자 안 토티 응우옌의 연구는 이러한 AI의 시각적 오류 가능성을 뒷받침한다. 그의 논문 '시각 언어 모델은 눈이 멀었다'에 따르면 AI 시스템은 두 건물이 서로 가까이 붙어 있을 때 어느 것이 어느 것인지 구별하는 데 종종 실패한다. NYT가 공개한 위성사진에서도 폭격당한 샤자라 타예베 초등학교가 이란혁명수비대(IRGC) 시설 바로 옆에 위치해 응우옌이 지적한 문제 상황과 정확히 일치했다.
책임 소재에 대한 논쟁도 가열되고 있다. 미 해군 장교 출신인 에밀리아 프로바스코 신안보센터 선임연구원은 팟캐스트 '더 포 캐스트'에서 "군 지휘체계상 책임은 명령을 내린 지휘관에게 있다"고 밝혔다. 그는 AI가 어떻게 결론에 도달했는지 알 수 없는 '블랙박스 문제'가 "해결된 문제가 아니라 계속 연구 중인 분야"라고 설명했다.
프로바스코 연구원은 "더 어렵고 시급한 과제는 AI 시스템을 더 투명하게 만드는 것"이라며 "AI의 결과물에 의존하는 인간이 기계의 제안을 단순히 따르는 것이 아니라, 진정으로 정보에 입각한 결정을 내리도록 보장하는 것"이라고 강조했다.