온라인상의 유해 콘텐츠를 기존보다 9배 가까이 빠르게 식별하는 인공지능(AI) 시스템이 개발됐다.
캐나다 컨커디어대학교 연구팀은 국제학술지 '지식 기반 시스템'(Knowledge-Based Systems)에 이 같은 내용의 연구 결과를 16일(현지시간) 발표했다. 새로 개발된 AI 모델은 유해 콘텐츠 탐지 정확도를 2.1% 높이면서도, 처리 속도는 기존 모델(초당 약 43개)보다 9배가량 빠른 초당 384개를 기록했다.
'PPO-CIS'로 명명된 이 시스템은 단계적 검사 방식을 사용한다. 1차로 AI가 방대한 양의 콘텐츠를 빠르게 훑어 대부분의 무해한 게시물을 걸러낸다.
이후 유해 가능성이 있는 콘텐츠만 정밀 분석 모델로 넘겨 정확도를 높인다. 여기서도 판단이 어려운 일부 사례는 최종적으로 인간 관리자에게 전달돼 검토를 받는다.
연구팀은 이 시스템이 여러 개의 심의 모델을 통합해 각각의 장점을 극대화하고 단점을 보완하는 방식을 적용한 최초의 사례라고 설명했다.
제1 저자인 아레조 보다기 박사는 "각 소셜미디어 플랫폼이 자체적으로 정한 유해성 기준에 맞춰 시스템을 조정할 수 있다"고 밝혔다. 연구팀은 이 기술이 유해 콘텐츠 삭제 기한이 엄격한 국가에서 플랫폼 사업자에게 특히 유용할 것이라고 덧붙였다.