정부가 공공부문에 도입되는 인공지능(AI)의 '환각 현상'을 막고 예산 낭비를 방지하기 위한 표준 지침서를 내놨다.

행정안전부는 10일 전국 공공기관에 '공공부문 AI 도입·활용 가이드'를 배포했다고 밝혔다. 이는 오는 8월 28일 시행되는 '인공지능 및 데이터 기반 행정 활성화에 관한 법률' 개정안에 선제적으로 대응하기 위한 조치다. 개정안은 각 기관이 '범정부 AI 공통 기반'을 우선 이용하도록 규정하고 있다.

이번 지침서의 핵심은 AI가 그럴듯한 거짓말을 만들어내는 환각 현상(Hallucination)을 차단하는 데 있다. 이를 위해 최신 정보나 내부 문서를 먼저 검색해 답변을 생성하는 '검색 증강 생성(RAG)' 기술을 우선 적용하도록 했다. 행정 데이터에 기반한 정확한 답변을 유도하겠다는 취지다.

가이드는 AI 서비스 개발 전 과정을 '기획-예산-계약-구축-운영'의 5단계로 표준화했다. 행안부는 이를 통해 개별 기관의 중복 투자로 인한 예산 낭비와 기술 파편화 문제를 해결할 수 있을 것으로 기대했다.

행안부는 가이드의 현장 안착을 위해 10일 세종, 12일 서울에서 중앙부처·지방정부 담당자와 민간 사업자를 대상으로 대규모 설명회를 연다. 설명회에서는 가이드 설명과 함께 실제 AI 서비스 구축 사례 시연도 진행될 예정이다.

황규철 행정안전부 인공지능정부실장은 "이번 가이드가 현장 공무원에게 실질적인 나침반이 될 것"이라며 "국민이 체감하는 고품질의 'AI 민주정부'를 더 빠르게 실현하는 계기가 되길 기대한다"고 밝혔다.