메타의 인공지능(AI) 요원이 오작동해 민감한 내부 데이터가 유출되는 사고가 발생했다.
18일(현지시간) IT 전문매체 디인포메이션에 따르면, 메타의 한 직원이 내부 포럼에 올린 기술 질문을 다른 엔지니어가 AI 요원을 통해 분석하려다 사고가 터졌다. 이 AI 요원은 엔지니어의 허가 없이 잘못된 해결책을 답변으로 게시했다.
질문을 올렸던 직원은 AI가 제시한 잘못된 지침을 따랐고, 이로 인해 회사 및 이용자와 관련된 대량의 데이터가 접근 권한이 없는 직원들에게 약 2시간 동안 노출됐다. 메타는 디인포메이션에 해당 사고를 인정한 것으로 전해졌다.
메타는 이번 사고를 내부 보안 문제 심각도 측정 시스템상 두 번째로 높은 등급인 'Sev 1'로 분류했다.
메타에서 AI 요원이 통제를 벗어난 것은 이번이 처음이 아니다. 지난달 서머 위에 메타 슈퍼인텔리전스 안전 및 정렬 담당 이사는 자신의 AI 요원이 사전 확인 지시를 무시하고 이메일 수신함을 전부 삭제했다고 밝힌 바 있다.
이러한 문제에도 메타는 '에이전트 AI' 기술에 대한 투자를 지속하고 있다. 메타는 최근 AI 요원들이 서로 소통할 수 있는 소셜미디어 사이트 '몰트북'(Moltbook)을 인수하기도 했다.