AI 칩 전쟁, GPU 시대 저물고 HBM·패키징 '왕좌'로

AI 반도체 시장의 경쟁 구도가 기존 연산 중심에서 메모리와 패키징으로 이동하고 있다는 분석이 나왔다.

정보통신기획평가원(IITP)은 3일 발간한 '주간기술동향 2213호' 보고서에서 AI 반도체 경쟁의 구조적 전환이 일어나고 있다고 진단했다. 보고서는 그래픽처리장치(GPU)가 표준 플랫폼으로 자리 잡았으나, 성능 병목이 시스템 전반으로 확장되면서 경쟁의 축이 바뀌고 있다고 설명했다.

보고서를 작성한 김보현 기술금융연구소 소장은 "AI 모델이 대형화되면서 칩 내부의 전력, 발열, 집적도 한계에 직면했다"고 지적했다. 이어 "과거 연산 속도에 집중됐던 경쟁이 데이터 이동 효율을 높이는 메모리와 인터커넥트, 패키징 기술로 옮겨가고 있다"고 분석했다.

이러한 변화의 중심에는 고대역폭 메모리(HBM)가 있다. HBM은 2016년 출시된 HBM2의 데이터 처리 속도(대역폭)가 초당 256GB였으나, 2024년 나온 HBM3E는 1280GB로 5배 향상됐다. IITP는 보고서에서 SK하이닉스와 삼성전자를 필두로 한 국내 기업이 세계 최고 수준의 HBM 기술력을 보유해 새로운 경쟁 구도에서 유리하다고 평가했다.

보고서는 HBM을 넘어 3D 적층, 광 인터커넥트 등 차세대 패키징 기술이 향후 AI 반도체 성능을 좌우할 핵심 변수가 될 것으로 전망했다. 메모리 옆에 연산 유닛을 배치하는 '근접 메모리 연산(PIM)'과 같은 새로운 아키텍처의 중요성도 부각됐다.

이에 따라 보고서는 국내 AI 반도체 산업의 정책 방향으로 HBM 기술 초격차 유지, 신경망처리장치(NPU) 등 시스템반도체 설계 생태계 조성, 첨단 패키징 기술 집중 투자 등을 제언했다.