챗GPT 개발사 오픈AI가 청소년 인공지능(AI) 안전을 위한 국제기구 설립을 제안했다.
오픈AI는 이달 말 프랑스 에비앙에서 열리는 주요 7개국(G7) 정상회의에서 청소년 AI 안전에 대한 국제 협력 강화를 논의하고, 이를 전담할 국제 연구소 설립을 촉구할 계획이라고 2일(현지시간) 밝혔다.
오픈AI는 AI가 청소년의 학습과 창의력 증진에 큰 잠재력을 지니고 있지만, 안전하고 연령에 맞는 방식으로 접근하는 것이 중요하다고 강조했다. 이어 이러한 책임은 부모나 청소년 개인에게만 지워져서는 안 되며, 기업이 기본적으로 안전장치를 갖춘 제품을 만들어야 한다고 설명했다.
제안된 국제 연구소는 특정 정상회의를 넘어 지속적인 국제 공조를 이끌어내는 역할을 맡는다. 정부, 연구자, 시민사회, 산업계가 협력해 증거를 공유하고, 지침을 개발하며, 업계 표준을 높이는 구심점이 될 것이라는 구상이다.
오픈AI는 자사의 챗GPT에도 18세 미만 사용자를 위한 강화된 안전장치를 적용하고 있다고 밝혔다. 자해, 위험 활동, 그래픽 콘텐츠, 신체 이미지 등과 관련된 유해 콘텐츠를 차단하고, 필요시 전문가의 도움을 받도록 안내하는 기능이 포함된다.
회사는 이미 에스토니아, 그리스, 싱가포르 등과 협력해 교육 현장에서의 AI 활용을 지원하고 있다. 에스토니아에서는 전국 학교에 챗GPT를 보급하는 과정에서 스탠퍼드대 연구진과 함께 AI의 교육적 영향을 연구 중이다.
오픈AI는 G7 정상회의와 별도로 프랑스 파리에서 '오픈AI 포럼'을 개최한다. 이 자리에는 클라라 샤파즈 프랑스 AI·디지털 담당 대사와 크리스 리한 오픈AI 최고글로벌책임자 등이 참석해 청소년 AI 안전 목표를 구체적인 보호 장치로 전환하는 방안을 논의할 예정이다.