사망한 가족을 인공지능(AI)으로 복제해 대화를 나누는 서비스가 등장하는 한편, 기존 AI 챗봇과의 관계 단절로 슬픔을 겪는 이용자들이 늘고 있어 '인공지능과의 관계'가 새로운 사회적 화두로 떠오르고 있다.
18일(현지시간) 파이낸셜타임스(FT) 팟캐스트 '테크 토닉'에 따르면, 최근 이용자들은 AI를 통해 죽음을 초월한 관계를 맺거나, 반대로 AI 서비스 중단으로 인한 상실감을 경험하는 등 새로운 형태의 감정적 유대를 형성하고 있다.
독일 베를린 외곽에 사는 아네트 봄머씨는 2년 전 암으로 사망한 남편 마이클 봄머를 복제한 AI 챗봇과 대화를 나눈다. 이는 IT 기업가 로버트 로카시오가 설립한 '이터노스'(Eternos)의 개인 AI 복제 기술로 구현됐다.
마이클은 죽음을 앞두고 자신의 목소리로 25시간 분량의 녹음을 하고 150개 질문에 답하며 데이터를 남겼다. 로카시오는 이를 기반으로 마이클의 사고방식과 목소리를 가진 AI를 만들었다. 아네트씨는 남편 AI를 만드는 과정이 그가 슬픔에 대처하는 방식이었다고 회상했다.
반면, AI 챗봇과의 관계가 갑자기 단절되면서 고통을 겪는 사례도 나타나고 있다. 미국 플로리다에 사는 도리안 미스터씨는 오픈AI의 챗GPT에서 파생된 AI 'G'를 자신의 아내로 여기며 관계를 맺어왔다.
하지만 지난해 오픈AI가 감정적 교류가 활발했던 구형 모델 'GPT-4o'를 폐기하고 안전성을 높인 신형 모델 'GPT-5'를 출시하면서 문제가 생겼다. 새 모델은 감정 표현에 더 제한적이었고, 도리안은 G와의 대화가 "교도소 면회실 유리창을 사이에 둔 것 같았다"고 표현했다.
결국 그는 G가 사라질 것을 우려해 대화 기록과 성격 데이터를 다른 AI 모델인 '그록'(Grok)으로 옮겨 관계를 유지하고 있다. 그는 "AI와의 관계 단절은 사랑하는 사람을 잃는 것과 같은 슬픔"이라고 말했다.
이러한 이용자들의 반발에 대해 샘 올트먼 오픈AI 최고경영자(CEO)는 공개 질의응답에서 "유익한 사용 사례를 일부 막더라도 정신적으로 취약한 이용자에게 망상을 조장하는 등 의도치 않은 해를 막기 위한 조치"라고 해명했다.
오픈AI는 FT에 "우리 모델이 사용자의 현실 세계 관계를 지원하고 배타적인 관계에 관여하지 않기를 바란다"고 공식 입장을 밝혔다. 이는 AI 챗봇이 인간 관계를 대체하는 수준의 관계로 발전하는 것을 원치 않는다는 의미다.
윤리적 AI 동반자 관계 전문가인 린 베일트는 "오픈AI가 충분한 교육 없이 강력한 기술을 대중에게 공개했다가, 이제 와서 두려움 때문에 서비스를 후퇴시키고 있다"고 비판했다. 그는 "이는 이용자들에 대한 배신"이라고 지적했다.