인공지능(AI)의 신뢰성을 검증할 수 있는 오픈소스 도구가 공개됐다.
룩셈부르크 대학교 '보안·신뢰·사이버보안 연구소'(SnT)와 룩셈부르크 과학기술연구소(LIST)는 13일(현지시간) 'AI 평가 샌드박스 구성기'를 출시했다고 밝혔다. 이 도구는 유럽연합(EU)의 AI법과 같은 규제 강화에 대응해 기업과 기관이 AI 시스템의 신뢰성을 입증하는 과정을 돕기 위해 개발됐다.
지금까지 AI의 신뢰성을 검증하는 작업은 많은 시간과 비용이 들고 대부분 수작업에 의존해야 했다. 이번에 공개된 도구는 이러한 과정을 자동화하고 가속화하는 것을 목표로 한다.
'AI 평가 샌드박스 구성기'는 오픈소스로 제공돼 어떤 기관이든 무료로 사용할 수 있다. 사용자는 AI 테스트, 제어, 데이터세트 목록에서 자신의 사용 사례에 맞는 항목을 선택해 맞춤형 테스트 환경을 구축할 수 있다.
이 도구는 테스트 결과를 시각적으로 보여주는 대시보드와 보고서 생성 기능을 포함한다. 특히 감사에 대비할 수 있는 위변조 방지 증거 자료까지 생성해주는 것이 특징이다.
또한 금융 회사처럼 데이터 보안이 중요한 조직을 위해 사내 서버(온프레미스)나 프라이빗 클라우드 등 원하는 환경에 설치할 수 있도록 설계됐다.
막심 코디 SnT 조교수는 "기업들이 신뢰할 수 있는 방식으로 AI를 도입해 글로벌 경쟁력을 갖추도록 지원할 것"이라고 말했다. 프란체스코 페레로 LIST AI 연구 부문 책임자는 "우리의 전문 지식을 모든 조직이 처음부터 시작할 필요 없이 자체 평가 환경을 구축할 수 있는 개방형 도구에 담았다"고 설명했다.
연구진은 향후 이 도구의 테스트 라이브러리를 의료, 금융, 제조 등 산업별로 특화된 상품으로 확장할 계획이다. 현재 유럽 전역에서 여러 시범 프로젝트가 진행 중이다.