엔비디아가 인공지능(AI) 추론 성능을 혁신할 차세대 주력 제품을 공개했다.
16일(현지시간) 월스트리트저널(WSJ)에 따르면 젠슨 황 엔비디아 최고경영자(CEO)는 이날 열린 연례 GTC 콘퍼런스 기조연설에서 이 같은 내용의 신제품을 발표했다.
새롭게 공개된 시스템은 엔비디아의 차세대 '베라 루빈' 서버 72개와 '언어처리장치'(LPU) 256개를 결합했다. LPU는 엔비디아가 작년 12월 200억달러(약 28조8000억원) 규모의 기술 라이선스 계약으로 인수한 스타트업 '그록'(Groq)이 개발한 칩이다.
젠슨 황 CEO는 "이것이 AI의 미래이며 AI가 가고자 하는 방향"이라며 "이 시스템은 AI 공장을 구동하는 핵심 작업인 추론을 위해 설계됐다"고 강조했다.
엔비디아는 이 신규 시스템이 초당 7억개의 토큰을 생성할 수 있다고 밝혔다. 이는 엔비디아의 이전 세대 그래픽처리장치(GPU)인 '호퍼'보다 350배 빠른 속도다.