인공지능(AI)의 잠재적 위험을 관리하기 위한 정책 방향이 선언적 원칙 수립 단계를 넘어 구체적인 '윤리영향평가' 제도로 전환되고 있다.
13일 정보통신정책연구원(KISDI)은 'AI 윤리영향평가의 정책적 의의와 시사점' 보고서를 통해 안전한 AI 활용을 위한 제도적 과제를 제시했다.
보고서에 따르면 국제사회는 AI 윤리 논의의 초점을 사전적 위험관리와 책임성 확보를 위한 제도 설계로 옮겨가고 있다. 유럽연합(EU)과 미국 등 주요국은 각기 다른 방식으로 AI 영향평가를 정책과 제도에 반영하는 추세다.
보고서는 AI 윤리영향평가가 개별 기업에 의무를 부과하는 제도가 아니라고 선을 그었다. 대신 정부가 특정 AI 서비스 유형을 대상으로 윤리적 영향과 잠재적 쟁점을 분석하고 사회적 논의와 정책 검토를 위한 참고자료를 제공하는 데 목적이 있다고 설명했다.
국내에서도 관련 논의가 구체화하는 단계다. 실제로 2024년에는 AI 영상 합성 서비스를 대상으로 한 AI 윤리영향평가가 시범적으로 수행됐다. 이는 특정 서비스의 윤리적 영향을 체계적으로 검토하고 정책 대응 방향을 제시한 첫 사례로서 의미를 가진다고 연구원은 평가했다.
이번 보고서는 향후 정부가 AI 기술의 사회적 수용성을 높이고 부작용을 최소화하기 위해 보다 체계적인 위험관리 제도를 구축해 나갈 것임을 시사한다.