클라우드 서비스 의존도를 낮추고 개인용 컴퓨터에서 인공지능(AI) 모델을 직접 구동할 수 있게 하는 외장 그래픽처리장치(GPU) 인클로저가 출시됐다.
15일(현지시간) 정보기술(IT) 전문매체 테크레이더에 따르면, 주변기기 전문업체 플러거블(Plugable)은 로컬 AI 작업에 초점을 맞춘 'TBT5-AI'를 최근 선보였다.
이 제품은 데스크톱용 고성능 GPU를 장착해 노트북과 연결하는 외장 하드웨어다. 개발자들이 클라우드 인프라 대신 자신의 시스템에서 대규모언어모델(LLM)을 직접 실행하고 테스트할 수 있도록 설계됐다.
제품 내부는 전체 길이의 PCIe x16 슬롯을 갖췄으며, 850와트(W) 전원공급장치가 내장돼 고사양 GPU도 안정적으로 구동할 수 있다.
연결은 썬더볼트5 케이블 하나로 이뤄진다. 최대 80Gbps의 양방향 대역폭을 지원하며, 특정 작업 시에는 120Gbps까지 처리량을 높일 수 있다.
또한 이 장치는 노트북을 위한 허브 역할도 수행한다. 최대 96W의 충전 전력을 공급하며 2.5기가비트 이더넷 포트와 여러 개의 고속 USB 포트도 제공한다.
플러거블은 TBT5-AI가 라마.cpp(llama.cpp), 허깅페이스 모델, 엔비디아 NIM 추론 플랫폼 등 일반적인 로컬 AI 프레임워크를 지원한다고 설명했다.
버니 톰슨 플러거블 최고기술책임자(CTO)는 "의료, 금융, 법률 분야처럼 민감한 정보 보호가 엄격한 운영 요건인 산업을 겨냥했다"며 "데이터 프라이버시는 선택이 아닌 필수"라고 강조했다.
플러거블은 GPU가 포함된 기업용 버전과 폐쇄망 AI 플랫폼 '플러거블 챗'도 준비 중이다. 이를 통해 구독 기반 클라우드 서비스에서 로컬 제어 인프라로 AI 처리의 중심을 옮겨갈 것이라고 회사는 밝혔다.
TBT5-AI 인클로저 단독 제품의 가격은 599.95달러(약 86만4000원)다. 현재 아마존과 플러거블 공식 홈페이지를 통해 구매할 수 있다.