스위스 학술 출판사 MDPI가 생성형 인공지능(AI)으로 인한 가짜 논문 범람을 막기 위해 AI 기반 연구 윤리 검증 시스템을 전면 도입했다.
MDPI는 17일(현지시간) 자체 개발한 AI 연구 윤리 시스템 '에시캘리티'(Ethicality)를 모든 투고 논문에 적용한다고 밝혔다. 이 시스템은 전 세계에서 매일 제출되는 약 2000건의 원고를 자동으로 심사한다.
에시캘리티는 논문 제목, 초록, 저자 정보, 본문, 참고문헌 등을 분석해 광범위한 잠재적 문제를 식별한다. 주요 검증 항목에는 △논문 공장(paper mill) 활동 및 조작된 투고 △AI가 생성하거나 조작한 텍스트 △인용 조작 및 비정상적 참고문헌 패턴 △가짜 참고문헌 △저자 신원 문제 및 저작자 표시 이상 △의심스러운 동료 심사 패턴 등이 포함된다.
MDPI는 텍스트 중복 및 표절 검사를 위해 '아이센티케이트'(iThenticate)를, 이미지 조작 관리를 위해 '프루피그'(Proofig)와 같은 외부 소프트웨어도 별도로 사용한다고 덧붙였다.
이 시스템은 편집자의 최종 결정을 대체하는 것이 아닌 지원 시스템으로 설계됐다. AI가 자동으로 위험 신호를 감지해 알려주면, 숙련된 편집자나 연구 윤리 전문가가 검토한 뒤 조치를 취하는 '인간 참여형'(human-in-the-loop) 방식이다.
이를 통해 편집자는 반복적인 기술 검토에서 벗어나 논문의 과학적 평가에 더 집중할 수 있다. 밀로스 쿠쿨로비치 MDPI 기술혁신 책임자는 "전통적인 수동 프로세스는 더는 충분하지 않다"며 "AI는 인간의 판단을 대체하는 것이 아니라 가드레일 역할을 한다"고 설명했다.
엔릭 사야스 에시캘리티 제품 책임자는 "생성형 AI가 정교한 가짜 논문을 쉽게 만들면서 기술 경쟁이 벌어지고 있다"며 "이에 대응할 유일한 방법은 동등하게 발전된 도구를 배치하는 것"이라고 강조했다.