아이폰에 탑재된 인공지능(AI) '애플 인텔리전스'에서 외부 조작에 취약한 보안 허점이 발견됐다.
7일(현지시간) 보안 연구 단체 RSAC 리서치는 애플 인텔리전스를 대상으로 한 100번의 테스트에서 76%의 성공률로 AI 모델을 조작하는 데 성공했다고 밝혔다. 연구진은 2025년 10월 15일 해당 연구 결과를 애플에 전달했다.
이번 공격은 '프롬프트 주입' 기법을 사용했다. AI에 보이지 않는 악성 명령어를 숨겨 넣어, 사용자가 의도하지 않은 작업을 수행하도록 유도하는 방식이다.
연구진은 특정 응답을 유도하는 특수 프롬프트와 유니코드의 문자 표시 방향을 바꾸는 기능을 활용해 AI의 보안 필터를 우회했다.
애플 인텔리전스는 기기 내에서 작동하며 메시지, 사진, 이메일 등 개인 데이터에 접근하고 여러 앱과 연동된다. 이 때문에 조작된 AI가 민감 정보를 유출하거나 앱 기능을 악용할 수 있다는 우려가 나온다.
연구진은 잠재적 노출 위험이 있는 앱을 사용하는 이용자가 10만명에서 최대 100만명에 이를 수 있다고 추산했다. 다만, 현재까지 이 취약점을 이용한 실제 공격 사례가 보고되지는 않았다고 덧붙였다.
애플은 RSAC로부터 관련 내용을 전달받은 뒤, iOS 26.4 및 macOS 26.4 업데이트를 통해 보안을 강화한 것으로 알려졌다.
전문가들은 이번 연구가 기기 내에서 직접 작동하는 '온디바이스 AI' 역시 보안 위협에서 자유롭지 않다는 점을 보여준다고 지적했다. 그러면서 AI 관련 보안 사고를 예방하기 위해 운영체제(OS)와 소프트웨어를 항상 최신 버전으로 유지할 것을 권고했다.