앞으로 고위험 인공지능(AI) 서비스에 대한 영향평가가 정부 주도 방식에서 기업이 스스로 수행하는 자율 이행 체계로 전환되어야 한다는 정책 제언이 나왔다.
정보통신정책연구원(KISDI)은 13일 발간한 'AI 윤리영향평가의 정책적 의의와 시사점' 보고서에서 이같이 밝혔다. 문정욱 실장 연구팀은 2026년 1월 시행 예정인 'AI 기본법'에 맞춰 AI 영향평가 제도를 재정비해야 한다고 제안했다.
보고서는 현재 과학기술정보통신부가 「지능정보화기본법」에 따라 수행하는 'AI 윤리영향평가'를 AI 기본법 제35조에 부합하는 '고영향 AI 영향평가' 체계로 개편해야 한다고 강조했다. 이에 따라 평가 주체는 정부에서 AI 제품·서비스를 제공하는 기업으로 전환된다.
정부의 역할은 직접 평가를 수행하는 대신, 기업이 자율적으로 평가를 수행할 수 있도록 구체적인 가이드라인을 제공하고 이행을 지원하는 방향으로 바뀐다. 이는 기술 혁신을 저해하지 않으면서 기업의 책임성을 강화하려는 국제적 흐름과도 맥을 같이한다.
연구원은 지난해 시범 실시한 'AI 영상 합성 서비스' 윤리영향평가 결과를 근거로 들었다. 당시 평가는 AI 영상 합성이 표현의 자유 증대 등 긍정적 영향도 있지만, 허위정보·가짜뉴스 확산이나 디지털 성범죄 등 심각한 부정적 영향을 낳을 수 있다고 분석했다.
특히 '허위정보·가짜뉴스 확산'과 '피해자에 대한 정신적·물리적 위해' 등은 사회적 우려가 매우 크지만 정책적 대응이 미흡해 우선적인 개입이 필요한 '시급해결 필요 영역'으로 지목됐다.
보고서는 평가 주체를 기업으로 전환함으로써 빠르게 변하는 기술 환경에 유연하게 대응하고 AI 서비스 특성에 맞는 책임성 강화를 유도할 수 있다고 분석했다. 또한 AI 영향평가 결과를 윤리 자율점검표, 교육 콘텐츠 등 다른 정책 수단과 연계해 신뢰 기반의 AI 생태계를 구축해야 한다고 덧붙였다.