AI 안과 의사, 정확도 높지만 '환각' 위험 여전

인공지능(AI)이 안과 분야에서 유망한 기술로 떠올랐지만, 실제 임상 현장에 적용되기 위해서는 정확도 경쟁을 넘어 안전성과 신뢰성을 확보해야 한다는 연구 결과가 나왔다.

국제학술지 '아이 앤 이엔티 리서치'(Eye & ENT Research)는 최근 '안과 분야 인공지능의 검토: 주요 측면, 과제 및 미래 방향' 논문을 통해 이같이 밝혔다. 안과 분야는 정형화된 영상 이미지와 정량적 측정에 크게 의존해 AI 적용을 선도하는 분야로 꼽힌다.

연구에 따르면 안과 AI는 인구 집단 검진, 의뢰 환자 분류, 질병 등급 판정, 진행 상황 관찰, 예후 예측, 치료 지침 제공 등에 활용될 수 있다. 적용 가능한 질환으로는 당뇨망막병증, 녹내장, 연령 관련 황반변성, 백내장, 감염성 각막염 등이 포함된다.

그러나 연구진은 AI 기술을 실제 진료 환경에 도입하기까지 해결해야 할 과제가 많다고 지적했다. 주요 과제로는 데이터 편향, 해석 가능성 문제, 개인정보 보호, 규제 감독, 인프라 제약, 실제 진료 과정과의 통합 등이 꼽혔다.

특히 생성형 AI와 같은 새로운 기술은 '환각'(hallucination) 위험을 안고 있다고 경고했다. 환각은 AI가 사실에 근거하지 않은 정보를 생성하는 현상을 말한다. 벤치마크 테스트 성능과 실제 현장 적용 준비도 사이의 격차도 문제로 지적됐다.

연구진은 "안과 AI는 높은 정확도 달성을 넘어 전향적 검증, 외부 일반화, 임상가 중심 설계, 불확실성 보정, 책임 있는 통합으로 나아가야 한다"고 결론 내렸다.