'AI 속도 조절' 넘어…'4A' 기반 새 거버넌스 나왔다

인공지능(AI) 개발 속도 논쟁을 넘어선 새로운 AI 거버넌스 프레임워크가 제시됐다.

29일(현지시간) 영국 앵글리아 러스킨 대학교(ARU) 첨단컴퓨팅연구센터의 커티 프라카시 박사와 이안 반 더 린데 박사 연구팀은 '4A'로 불리는 AI 거버넌스 방안을 국제학술지 'AI와 윤리'(AI and Ethics)에 발표했다.

'4A'는 행동(Action), 접근(Access), 권한(Authority), 분배(Allocation)를 의미한다. 이 프레임워크는 최첨단 AI 개발의 경쟁과 혁신을 유지하면서도, 심각하거나 돌이킬 수 없는 해를 유발할 수 있는 AI의 능력과 사용에 대한 안전장치를 마련하는 것을 목표로 한다.

연구팀은 AI 개발 속도를 늦추는 것은 '불완전한' 목표라고 지적했다. AI 기술이 단일 기업이나 국가에 국한되지 않고, 기존 모델을 복사하고 개선할 수 있기 때문이다. 지정학적 및 상업적 유인 또한 장벽으로 작용한다.

대신 연구팀은 비례적 안전장치, 의미 있는 인간 통제, 독립적 평가, 명확한 책임, AI 역량 변화에 따른 정기적 재평가를 제안했다.

'4A' 프레임워크는 각 윤리적 문제에 따라 다른 주체가 거버넌스를 담당하도록 한다. 개발자는 주로 '행동' 안전장치를 구현하고, 규제 기관은 '접근'을, AI를 실제 사용하는 기관은 '권한'을, 정부와 공공기관은 '분배' 문제를 다루는 식이다.

커티 프라카시 박사는 "자율 AI 시스템에 대한 통제력 상실, 위험한 기능에 대한 접근 허용, AI의 의료·군사적 결정, 소수 조직에 대한 권력 집중 등은 근본적으로 다른 문제"라며 "다른 문제에는 다른 형태의 거버넌스가 필요하다"고 설명했다.

이안 반 더 린데 박사는 "효과적인 AI 거버넌스는 일반적인 윤리 원칙 체크리스트 이상을 요구한다"며 "'4A'는 윤리적 문제를 식별하는 것에서 나아가 어떤 제약이 필요하고 누가 시행해야 하는지 묻는 방법을 제공한다"고 말했다.

연구팀은 AI가 스스로 후속 기술 개발에 기여할 가능성이 커지면서 거버넌스 문제가 더욱 시급해졌다고 강조했다. 프라카시 박사는 "단순히 AI가 '안전한가'라고 묻는 것만으로는 충분하지 않다"며 "누가 통제하고, 누가 접근하며, 의사 결정 권한이 어디에 있고, 누가 궁극적으로 결과에 대한 책임을 지는지 알아야 한다"고 덧붙였다.