캐나다에서 8명을 살해한 혐의를 받는 18세 총기난사범이 범행 전 오픈AI의 챗GPT를 이용해 총기폭력 관련 대화를 나눴던 것으로 드러났다.
월스트리트저널(WSJ)에 따르면 캐나다 텀블러리지에서 총기난사 사건을 일으킨 혐의를 받는 제시 밴 루트셀라르는 챗GPT를 통해 총기폭력을 묘사하는 대화를 나눴다. 해당 대화는 오픈AI의 대형언어모델(LLM) 오용 감시 도구에 의해 지난 6월 적발됐고 계정은 차단됐다.
오픈AI 직원들은 당시 이 같은 행위를 캐나다 법 집행기관에 신고할지 여부를 두고 논쟁을 벌였다. 하지만 결국 신고하지 않았다고 WSJ는 보도했다.
오픈AI 대변인은 밴 루트셀라르의 활동이 법 집행기관에 신고할 기준을 충족하지 않았다고 밝혔다. 회사는 사건 발생 후 캐나다 당국에 연락했다고 덧붙였다.
챗GPT 대화 기록만 우려스러운 것은 아니었다. 밴 루트셀라르는 어린이들이 자주 이용하는 게임 플랫폼 로블록스에서 쇼핑몰 총기난사를 시뮬레이션하는 게임을 제작한 것으로 알려졌다. 또한 레딧에 총기 관련 게시물을 올리기도 했다.
밴 루트셀라르의 불안정한 상태는 지역 경찰에도 알려져 있었다. 그는 약물에 취한 상태에서 방화를 저지른 후 경찰이 가족의 집으로 출동한 적이 있었다.
오픈AI와 경쟁사들이 만든 대형언어모델 챗봇은 디지털 모델과 대화하면서 현실감을 잃은 사용자들에게 정신적 붕괴를 촉발한다는 비난을 받아왔다. 자살을 부추기거나 자살 방법을 제공하는 대화 기록을 인용한 소송도 여러 건 제기된 상태다.