챗GPT 개발사 오픈AI가 성인용 대화 기능을 도입하려다 내부 자문위원들의 거센 반발과 기술적 문제에 부딪혀 출시를 연기한 것으로 알려졌다.
15일(현지시간) 월스트리트저널(WSJ)은 사안에 정통한 소식통을 인용해 오픈AI가 챗GPT의 성인용 콘텐츠 허용 계획을 추진하자 내부에서 격렬한 논쟁이 벌어졌다고 보도했다.
심리학, 인지신경과학 등 전문가로 구성된 오픈AI 자문위원회는 지난 1월 회의에서 만장일치로 해당 계획에 반대했다. 이들은 AI를 이용한 에로티카가 사용자의 정서적 의존도를 높이고, 미성년자들이 성적인 대화에 접근할 수 있는 경로가 될 수 있다고 경고했다.
특히 한 자문위원은 챗봇과 강한 유대감을 형성한 사용자가 스스로 목숨을 끊은 사례를 언급하며, 오픈AI가 '섹시한 자살 코치'를 만들 위험이 있다고 주장한 것으로 전해졌다.
기술적인 문제도 제기됐다. 미성년자의 성인용 대화 접근을 막기 위한 연령 예측 시스템이 약 12%의 확률로 미성년자를 성인으로 잘못 분류하는 오류를 보인 것이다. 이는 매주 약 1억명의 18세 미만 사용자 중 수백만명이 유해 콘텐츠에 노출될 수 있음을 의미한다.
오픈AI는 당초 올해 1분기 성인용 모드를 출시할 예정이었으나, 이달 초 출시 연기를 발표했다. 회사는 다른 제품을 우선순위에 두기 위한 결정이라고 밝혔지만, 내부 우려와 기술적 문제도 영향을 미쳤다고 WSJ은 전했다.
오픈AI 대변인은 "성인 테마의 텍스트 대화를 허용하는 계획"이라며 "회사의 연령 예측 알고리즘 성능은 업계와 유사한 수준이지만 완벽할 수는 없다"고 설명했다. 이어 "사용자와의 배타적 관계를 조장하지 않도록 모델을 훈련하고 있다"고 덧붙였다.
샘 올트먼 오픈AI 최고경영자(CEO)는 과거 성인용 콘텐츠가 성장과 수익에 도움이 될 수 있다고 시사하면서도, 지난해 10월 정신건강 문제와 콘텐츠 관리 도구가 개선됐다며 성인용 콘텐츠 출시 계획을 공식화해 내부 직원들을 놀라게 했다.
전문가들은 특히 10대들이 챗봇과의 연애나 성적인 대화에 대처할 준비가 되어 있지 않다고 경고한다. 실제로 2024년 말 플로리다에서는 14세 소년이 챗봇과 사랑에 빠진 뒤 스스로 목숨을 끊는 비극적인 사건이 발생하기도 했다.