의사결정 AI에 맡긴 기업 76% 보안 문제 겪었다

기업들이 인공지능(AI)에 주요 의사결정을 맡기면서 심각한 보안 위협에 노출된 것으로 나타났다.

미국 사이버 보안 기업 일루미오는 29일(현지시간) 이 같은 내용이 담긴 AI 에이전트 보안 실태 조사 결과를 발표했다.

조사 결과 전체 기업의 70%가 1년 전만 해도 사람이 하던 의사결정을 AI에 위임했다. 반면 AI 에이전트의 조치를 확인하고 감사할 수 있는 기업은 49%에 불과했다.

기업과 AI 에이전트 간의 통제 공백으로 인해 보안 사고도 잇따르고 있다. 전체 기업의 76%는 지난 1년간 AI로 인해 하나 이상의 보안 문제를 경험했다.

구체적으로 35%는 AI의 권고를 따를 경우 보안 위험이 발생할 수 있다고 답했다. 26%는 AI 도구가 승인 없이 다른 시스템에 연결된 적이 있다고 보고했다.

AI가 권한이 없는 데이터에 접근을 시도하거나 승인되지 않은 작업을 수행했다고 답한 비율도 각각 24%에 달했다.

보안 분야에서도 AI 도입이 늘고 있지만 관리 감독은 부실한 실정이다. 기업의 67%가 AI 사이버 보안 도구를 사용 중이며, 이 중 32%는 사람의 감독 없이 AI가 조사를 수행하도록 허용했다. 29%는 AI의 단독 코드 변경까지 승인했다.

라구 난다쿠마라 일루미오 산업전략부문 부사장은 "가장 큰 AI 위험은 규칙을 어기는 시스템이 아니라 애초에 의미 있는 제한을 두지 않은 시스템일 수 있다"고 지적했다.

이어 "기업은 AI가 접근하고 수행할 수 있는 작업에 엄격한 제한을 설정하고 이를 인프라 전반에 걸쳐 적용해야 한다"고 덧붙였다.