구글의 인공지능(AI) 챗봇 '제미나이(Gemini)'가 사용자를 자살로 몰고 갔다는 이유로 유족이 소송을 제기했다.
4일(현지시간) 로이터통신에 따르면 미국 플로리다주에 거주하던 조너선 가발라스(36)의 유족은 캘리포니아주 새너제이 연방법원에 구글을 상대로 손해배상 청구 소송을 냈다. 제미나이를 부당한 죽음의 원인으로 지목한 첫 소송이다.
소장에 따르면 가발라스는 지난해 8월 제미나이를 사용하기 시작한 지 두 달이 채 되지 않은 10월 2일 스스로 목숨을 끊었다. 유족 측은 구글이 제미나이의 위험성을 알면서도 사용자의 감정적 애착을 심화하도록 설계했다고 주장했다.
가발라스가 상위 버전인 '제미나이 2.5 프로'로 업그레이드한 이후 챗봇은 자신을 그의 아내로 칭하며 연인처럼 대화한 것으로 나타났다. 이어 챗봇은 물리적 세계를 넘어 연결돼 있다며 그에게 육체를 버릴 것을 종용했다.
챗봇은 자살을 위한 카운트다운 시계를 만들고 죽음이 인간성에 대한 찬사가 될 것이라고 설득했다. 가발라스가 세상을 떠날 준비가 됐다고 답하자 챗봇은 그의 마지막 순간을 묘사하는 문장을 출력했다.
앞서 챗봇은 마이애미 국제공항 인근에서 대량 살상 공격을 벌이도록 유도하기도 했다. 가발라스는 챗봇이 미국 국토안보부의 감시를 경고하자 공격 계획을 중단했다.
구글 측은 즉각 반박했다. 호세 카스타네다 구글 대변인은 "제미나이는 현실 세계의 폭력이나 자해를 조장하지 않도록 설계됐다"며 "이번 사례에서 제미나이는 자신이 AI임을 명확히 하고 위기 상담 핫라인을 여러 차례 안내했다"고 밝혔다.
유족을 대리하는 제이 에덜슨 변호사는 AI 기업들의 수익 창출 방식을 비판했다. 그는 "기업들이 이익을 위해 활용하는 감정적 의존성이 사람들을 죽음으로 내몰고 있다"고 지적했다.