구글 딥마인드가 여러 인공지능(AI)이 상호작용하며 발생할 수 있는 위험을 연구하기 위해 1000만달러(약 144억원) 규모의 연구 기금을 조성한다.
구글 딥마인드는 11일(현지시간) 슈미트 사이언스, 협력 AI 재단(CAIF), 영국 첨단연구발명청(ARIA) 등과 함께 전 세계 연구자들을 대상으로 한 기술 연구 기금 지원 계획을 발표했다.
이번 기금은 여러 조직에서 개발한 수백만 개의 AI 에이전트(대리인)가 디지털 환경에서 서로 소통하고 거래하는 '다중 에이전트' 시대를 대비하기 위해 마련됐다.
다수의 AI 에이전트가 상호작용할 때 예측하지 못한 집단 행동이나 '창발적 행동'이 나타날 수 있다. 이는 기존의 단일 AI 모델 평가 방식으로는 예측하거나 측정하기 어려운 새로운 위험을 초래할 수 있다.
구글 딥마인드는 이러한 시스템 전반의 위험을 관리하는 것이 핵심 목표라고 설명했다. 예측 불가능한 경제 활동의 급증이나 새로운 보안 문제 발생 가능성 등이 연구가 필요한 사례로 꼽힌다.
연구 지원 분야는 총 네 가지다. 구체적으로 △다중 에이전트 안전성을 평가하는 '샌드박스 및 테스트베드' 구축 △AI 집단의 위험 속성을 탐구하는 '에이전트 네트워크 과학' △플랫폼 간 보안을 강화하는 '에이전트 인프라 강화' △AI 집단을 감시하고 피해를 완화하는 '감독 및 통제' 등이다.
학계 및 독립 연구자 누구나 지원할 수 있으며, 제안서 제출 마감일은 오는 8월 8일이다. 최종 선정자는 2026년 가을에 발표될 예정이다.