많은 기업이 인공지능(AI) 도입에 막대한 투자를 하고도 기대 이하의 투자수익률(ROI)에 고심하는 가운데, 해법으로 기업 고유 데이터에 특화된 '도메인 특화 모델'이 부상하고 있다.
12일(현지시간) IT 전문매체 테크레이더에 따르면 지난 2년간 기업들의 AI 도입 열풍이 이어졌지만, 오픈AI나 메타 등이 개발한 범용 거대언어모델(LLM)은 실질적인 투자수익률로 연결되지 못하고 있다.
이러한 범용 모델들은 인터넷의 방대한 공개 데이터를 학습하지만, 개별 기업의 고유한 업무 절차나 내부 문서를 이해하지 못하는 근본적인 한계를 가진다. 은행의 위험 평가 프레임워크나 제조업체의 품질 관리 규약 같은 특수 지식은 범용 AI가 제공하기 어렵다.
이에 따라 업계의 관심은 '도메인 특화 소형 모델'로 이동하고 있다. 이는 인터넷 전체가 아닌 기업 내부의 독점적인 데이터로 집중 학습시킨 소규모 AI 모델을 의미한다. 스탠포드 대학 연구진 역시 신중하게 선별된 데이터로 학습한 소형 모델이 거대 모델의 성능을 능가하는 전환점에 도달했다고 분석했다.
글로벌 시장조사업체 가트너는 이러한 추세가 가속화될 것으로 전망했다. 가트너는 2023년 전체 기업용 AI 모델 중 1%에 불과했던 도메인 특화 모델의 비중이 내년에는 50% 이상으로 급증할 것이라고 예측했다.
도메인 특화 모델은 일반적으로 500억~700억개 매개변수를 가진 기본 모델에서 출발한다. 이 모델에 검색증강생성(RAG)과 미세조정(fine-tuning) 기술을 결합해 기업 내부 문서를 학습시키면, 모델은 단순히 정보를 검색하는 것을 넘어 기업의 운영 현실을 반영해 추론하는 능력을 갖추게 된다.
나아가 기업 전체 모델을 기반으로 특정 직무에 맞춘 '페르소나 모델'이나 개별 직원의 업무 스타일에 맞춘 '개인화 모델'로 발전시키는 3단계 접근법도 가능하다. 이는 소형 모델이 거대 모델에 비해 훈련 비용이 저렴해 반복적인 개선이 경제적으로 가능하기 때문에 실현될 수 있다.
테크레이더는 기업들이 성공적인 AI 도입을 위해 자체 보유한 독점 데이터를 파악하고, 정확성이 즉각적인 가치로 이어지는 사용 사례를 발굴해야 한다고 조언했다. 또한 범용 모델을 사후에 미세조정하기보다 처음부터 자체 데이터로 모델을 구축하는 것이 중요하다고 강조했다.
향후 AI 시장은 단순히 더 큰 모델을 보유한 기업이 아니라, 자사 비즈니스를 가장 잘 이해하는 맞춤형 AI를 구축한 기업이 주도하게 될 것이라는 전망이 나온다. 너비보다는 깊이가 기업 AI의 성패를 가르는 핵심 요소가 될 것이라는 분석이다.