오픈AI가 첨단 인공지능(AI) 시스템의 위험성을 관리하고 새로운 규제에 대응하기 위한 거버넌스 프레임워크를 공개했다.
오픈AI는 28일(현지시간) '프런티어 거버넌스 프레임워크'를 발표했다. 이는 미국 캘리포니아주의 '프런티어 AI 투명성 법안'과 유럽연합(EU) AI법의 '범용 AI 실행 규약' 등 새로운 법적 요구사항을 준수하기 위한 목적이다.
해당 프레임워크는 사이버 공격, 화학·생물·방사능·핵(CBRN) 위협, 유해한 조작, 통제 불능 등 AI가 초래할 수 있는 심각한 위험에 대한 평가와 완화 방안을 다룬다.
이 외에도 모델 보고, 보안 위험 관리, 사고 대응, 외부 전문가 자문, 프레임워크 업데이트 등의 내용도 포함됐다.
오픈AI는 이번 프레임워크가 기존의 내부 안전 지침인 '대비 프레임워크'를 기반으로 하며, 이를 규제 의무에 초점을 맞춘 공개 문서로 구체화한 것이라고 설명했다.
오픈AI는 "모델 기능, 평가, 규제 요구사항이 발전함에 따라 접근 방식도 계속 진화할 것"이라며 "이에 맞춰 프레임워크를 업데이트할 계획"이라고 밝혔다.