AI '전기 먹는 하마'…소프트웨어로 절반 줄인다

인공지능(AI)의 막대한 에너지 소비량을 소프트웨어 설계 최적화로 최대 절반까지 줄이는 연구가 시작됐다.

28일(현지시간) 미국 미시간대학교 공대 연구팀은 일리노이대학교, 방산업체 BAE 시스템즈와 협력해 AI 에너지 사용량을 줄이는 프로젝트에 착수했다고 밝혔다. 데이터센터의 에너지 소비량은 2024년 약 420테라와트시(TWh)에서 2030년까지 두 배 이상 증가할 것으로 예상되며, 이러한 증가는 AI가 주도할 전망이다.

연구팀은 AI 작업 전 과정에 걸쳐 에너지 사용량을 예측하는 시스템을 개발할 계획이다. 이 시스템은 데이터 처리, 모델 훈련, 실제 배치까지 모든 단계를 포함한다. 연구팀은 이 시스템의 기반이 되는 수학적 프레임워크를 '에너지 미적분학(energy calculus)'이라고 명명했다.

이들은 물리적 센서와 소프트웨어 분석을 결합한 고정밀 에너지 측정 도구를 구축하고, 이를 오픈소스 문서와 소프트웨어로 공개할 예정이다. 이를 통해 개발자들은 수천 개의 하드웨어와 소프트웨어 구성을 일일이 시험하는 대신 에너지 효율을 미리 추정할 수 있게 된다.

현재 컴퓨터 칩 성능은 향상되고 있지만, 소프트웨어와 하드웨어의 불일치로 인해 AI 모델 훈련 과정에서만 최대 30%의 전력이 낭비된다. AI의 에너지 효율이 높아지면 전력 수요가 줄어 AI 구동 비용이 낮아지고, AI 탑재 기기의 배터리 수명도 연장된다.

특히 배터리와 전력 공급이 제한된 현장 장비에서 복잡한 AI 알고리즘을 실행해야 하는 국방 및 군사 기술 분야에서 이는 매우 중요하다.

미국 국방고등연구계획국(DARPA)은 'E-CALC: 머신러닝 생애주기 최적화를 위한 에너지 미적분학'으로 명명된 이 2년짜리 프로젝트에 183만 달러(약 24억5220만원)를 지원한다.

프로젝트 총괄 책임자인 모샤라프 초우두리 미시간대학교 컴퓨터 과학 및 공학 부교수는 "AI가 일상과 비즈니스, 과학, 국가 안보의 일부가 되고 있지만 막대하고 빠르게 증가하는 전력을 필요로 한다"고 말했다. 그는 "에너지 사용이 계속 증가하면 비용이 늘고 전력 인프라에 부담을 주며, 첨단 AI 배치를 더 어렵게 만들 수 있다"며 "최소한의 에너지로 AI의 광범위한 이점을 얻는 방법을 찾는 것이 이 프로젝트의 목표"라고 덧붙였다.

이번 연구는 연구팀이 이전에 수행했던 AI 모델 훈련을 위한 '제우스(Zeus)' 에너지 최적화 프레임워크와 AI 모델 실행의 에너지 비용을 측정하는 'ML.ENERGY' 벤치마크 등의 성과를 기반으로 한다.