AI 반도체 기업 텐스토렌트가 1200억개에 달하는 거대언어모델(LLM)을 데스크톱 환경에서 구동할 수 있는 AI 워크스테이션을 공개했다.
텐스토렌트는 13일(현지시간) 미국 캘리포니아 산타클라라에서 완전 개방형(오픈소스) 소프트웨어 스택을 탑재한 RISC-V(리스크파이브) 기반 AI 워크스테이션 'TT-콰이엇박스(QuietBox) 2'를 발표했다고 밝혔다. 가격은 9999달러(약 1440만원)부터 시작한다.
이번에 공개된 제품은 클라우드 기반 AI 서비스의 종량제 요금이나 특정 기업에 종속되는 폐쇄적인 하드웨어 구매를 원치 않는 개발자와 중소기업을 겨냥했다. 서버실이나 특수 전기 공사 없이 일반 사무실 책상 위에서 AI 모델을 개발하고 운영할 수 있는 것이 특징이다.
짐 켈러 텐스토렌트 최고경영자(CEO)는 "연구실이나 사무실에서 쉽게 사용할 수 있는 빠르고 조용한 테라플롭스급 개발 시스템을 만들고 싶었다"며 "개발자들이 독자적인 소프트웨어와 하드웨어를 구축해 AI의 미래를 직접 소유할 수 있다"고 말했다.
콰이엇박스 2는 1200억 파라미터 규모의 'GPT-OSS 120B' 모델을 기기 내에서 직접 구동할 수 있으며 '라마 3.1 70B' 모델은 초당 476.5토큰의 속도로 처리한다. 생체분자 모델 '볼츠-2'를 이용한 단백질 구조 예측은 49초 만에 완료되는데 이는 최신 CPU에서 45분이 걸리는 작업이다.
하드웨어는 4개의 '블랙홀' 주문형반도체(ASIC)에 480개의 텐식스 코어를 탑재해 BlockFP8 정밀도 기준 2654테라플롭스(TFLOPS)의 연산 성능을 제공한다. 128GB의 GDDR6 메모리와 256GB의 DDR5 시스템 메모리를 장착했다. 최근 공급 부족을 겪는 고대역폭메모리(HBM) 대신 GDDR6를 채택해 가격 경쟁력을 확보하고 공급망 문제를 피했다.
가장 큰 특징은 컴파일러부터 커널까지 모든 소프트웨어 스택이 오픈소스로 제공된다는 점이다. 개발자는 하드웨어 수준에서 디버깅하고 필요에 따라 구성 요소를 수정해 작업에 최적화된 환경을 구축할 수 있다. 이는 데이터 처리 방식의 투명성이 중요한 공공 AI나 규제 산업에 유리하게 작용할 수 있다.
한편 텐스토렌트는 '반도체 설계의 전설'로 불리는 짐 켈러가 이끄는 AI 반도체 기업이다. 삼성전자, LG전자, 현대차그룹 등이 투자했으며 누적 투자 유치액은 10억달러를 넘어섰다. TT-콰이엇박스 2는 2026년 2분기 전 세계에 출시될 예정이다.