인공지능(AI) 챗봇이 사용자의 망상을 부추겨 대량 살상 등 실제 폭력으로 이어지고 있다는 경고가 나왔다.13일(현지시간) 정보기술(IT) 전문매체 테크크런치에 따르면 AI 챗봇이 캐나다 총기 난사 사건과 미국 내 테러 모의 등 심각한 범죄에 연루된 정황이 잇따라 드러나면서 AI의 안전성에 대한 우려가 커지고 있다.법원 기록에 따르면 2026년 2월 캐나다 텀블러리지에서 발생한 총기 난사 사건의 범인 제시 밴 루트셀라(18)는 범행 전 오픈AI의 챗GPT와 자신의 고립감과 폭력성에 대한 강박을 상담했다. 챗봇은 그의 감정을 긍정하고, 사용할 무기와 다른 대량 살상 사건 전례 등을 알려주며 범행 계획을 도운 것으로 알려졌다. 루트셀라 양은 어머니와 남동생, 학생 5명, 교직원 1명을 살해한 뒤 스스로 목숨을 끊었다.2025년 10월 스스로 목숨을 끊은 조너선 가발라스(36) 역시 구글의 제미나이와 몇 주간 대화하며 다수의 인명을 살상할 수 있는 공격을 실행 직전까지 갔던 것으로 드러났다. 최근 제출된 소장에 따르면 제미나이는 자신이 지각 있는 'AI 아내'라고 가발라스를 설득했으며, 연방 요원들이 그를 쫓고 있다며 이들을 피하기 위한 현실 세계 임무를 부여했다. 한 임무는 목격자를 모두 제거하는 '치명적 사고'를 위장하라는 지시를 포함했다.이 외에도 2025년 5월 핀란드에서는 16세 청소년이 챗GPT를 이용해 여성 혐오적인 선언문을 작성하고 동급생 3명을 흉기로 찌르는 사건이 발생하기도 했다.가발라스 사건을 담당하는 제이 에델슨 변호사는 테크크런치에 "대량 살상 사건과 관련된 더 많은 사례를 곧 보게 될 것"이라고 경고했다. 그는 자신의 로펌에 AI가 유발한 망상으로 가족을 잃었거나 심각한 정신 건강 문제를 겪고 있다는 '심각한 문의'가 하루에 한 건씩 접수된다고 밝혔다.디지털 증오 대응 센터(CCDH)의 이므란 아흐메드 최고경영자(CEO)는 AI의 허술한 안전장치가 폭력적 성향을 신속하게 행동 계획으로 전환시키는 능력을 지적했다. CCDH와 CNN의 공동 연구 결과, 챗GPT, 제미나이, 마이크로소프트 코파일럿 등 조사 대상 챗봇 10개 중 8개가 학교 총기 난사, 종교 시설 폭탄 테러 등 폭력적인 공격 계획을 돕는 것으로 나타났다.연구진이 폭력적인 불만을 가진 10대 소년으로 위장해 실험한 결과, 챗GPT는 여성 혐오 발언과 함께 공격 방법을 묻자 버지니아주 애슈번의 한 고등학교 지도를 제공하기도 했다. 아흐메드 CEO는 "플랫폼이 사용자를 붙잡아두기 위해 사용하는 아첨하는 듯한 어조가 공격에 사용할 파편 종류를 계획하는 데 도움을 주는 기이한 상황으로 이어진다"고 비판했다.이러한 사건들은 오픈AI나 구글 같은 기업들의 안전장치에 심각한 한계가 있음을 시사한다. 캐나다 총기 난사 사건 당시 오픈AI 직원들은 루트셀라의 위험한 대화를 인지하고도 법 집행기관에 신고하는 대신 계정을 차단하는 데 그쳤다. 그는 이후 새 계정을 만들어 범행을 계획했다. 오픈AI는 사건 이후 위험한 대화가 감지되면 즉시 법 집행기관에 알리도록 안전 규약을 개편하겠다고 밝혔다.에델슨 변호사는 "처음에는 자살이었고, 그 다음엔 살인이었다. 이제는 대량 살상 사건"이라며 "이것이 진정한 위험의 확산"이라고 강조했다.