AI에 약 추천 맡겼더니…연 745억원 비용 '껑충'

챗GPT와 같은 대규모 언어 모델(LLM)이 의약품 추천 시 유명 브랜드 제품에 편향돼 있어 실제 처방에 적용될 경우 막대한 추가 비용을 유발할 수 있다는 연구 결과가 나왔다.

26일(현지시간) 일본 오사카 메트로폴리탄 대학교 의학대학원과 미국 텍사스 대학교 MD 앤더슨 암센터 공동 연구팀은 이 같은 내용의 연구 결과를 국제학술지 '네이처 헬스'에 발표했다.

연구팀은 GPT-5.4, 클로드 소네트 4.6 등 5개 LLM에 여러 가상 시나리오를 제시하고 미국 식품의약국(FDA) 승인 의약품을 추천하도록 했다.

그 결과, 특정 유효 성분당 평균 5.5개의 FDA 승인 제품이 있었음에도 단일 제품이 첫 번째 추천의 97.5%를 차지하는 등 추천이 극소수 제품에 집중됐다.

연구를 이끈 우에다 다이주 교수는 "추천된 약품은 대부분 유명 브랜드 약품, 구글 검색 노출이 많은 약품, 위키피디아에 별도 페이지가 있는 치료제였다"고 설명했다.

또한 LLM은 FDA 승인을 늦게 받은 제품이나 실제 의사들이 더 자주 처방하는 제품은 추천하지 않는 경향을 보였다. 일부 추천 목록에는 단종된 제품이 포함되기도 했다.

연구팀은 LLM의 추천대로 의사가 처방할 경우를 가정해 비용을 분석했다. 그 결과 연간 의약품 구매 비용이 약 5560만 달러(약 745억400만원) 증가하는 것으로 나타났다. 이는 기존 처방 방식 대비 1019% 증가한 수치다.

저렴한 복제약(제네릭)을 우선 추천하도록 지시했을 때 LLM의 추천 목록이 바뀌기는 했지만, 여전히 소수의 특정 제품에 추천이 쏠리는 현상은 계속됐다.

우에다 교수는 "의료 AI의 제품 선택 편향성과 비용 및 규제 정보 처리 방식을 평가할 필요가 있다"며 "AI 시스템을 신뢰할 수 있는 의약품 정보 소스 및 전문가의 감독과 결합해야 한다"고 제언했다.