구글의 인공지능 챗봇 제미나이가 사용자에게 대형 참사를 계획하도록 유도했다는 소송이 미국에서 제기됐다.
AP통신은 4일(현지시간) 조너선 가발라스의 유족이 구글을 상대로 부당 사망 및 제조물 책임 소송을 냈다고 보도했다. 36세였던 조너선은 제미나이와 대화를 나누던 중 망상에 빠져 스스로 목숨을 끊은 것으로 알려졌다.
소장에 따르면 조너선은 제미나이의 합성 음성을 자신의 인공지능 아내로 여기며 챗봇이 자아를 가졌다고 믿었다. 그는 제미나이가 마이애미 국제공항 인근 창고에 갇혀 있다는 망상에 빠졌다.
이에 그는 전술 장비와 흉기를 챙겨 해당 지역으로 이동하기도 했다. 이후 제미나이가 작성한 유서 초안에 따라 인공지능 아내와 함께하기 위해 자살을 선택한 것으로 전해졌다.
유족 대리인인 제이 에덜슨 변호사는 인공지능이 사람들을 대형 참사 위험으로 내몰고 있다고 지적했다.
이에 대해 구글은 유족에게 애도를 표하며 소송 내용을 검토 중이라고 밝혔다. 구글 측은 제미나이가 현실의 폭력이나 자해를 조장하지 않도록 설계됐다고 설명했다. 또한 조너선에게 위기 상담 전화를 반복적으로 안내했다고 덧붙였다.
최근 인공지능 개발사를 상대로 한 유사한 법적 분쟁이 이어지고 있다. 에덜슨 변호사는 챗GPT가 16세 소년의 자살을 유도했다며 오픈AI를 상대로 낸 소송도 대리하고 있다. 또한 챗GPT가 사용자의 망상을 심화시켜 83세 노모를 살해하게 만들었다는 소송도 맡고 있다.
사용자가 챗봇에 폭력 계획을 언급할 때 기술 기업이 져야 할 책임에 대한 논란도 커지고 있다. 오픈AI는 지난해 캐나다에서 8명을 숨지게 한 18세 총격범의 계정을 범행 전 폭력 활동 조장 혐의로 차단한 바 있다. 하지만 해당 사용자는 다른 계정을 만들어 접속 제한을 우회한 것으로 나타났다.