맥스 테그마크 매사추세츠공과대학(MIT) 인공지능(AI) 연구원이 AI 시스템에 대한 통제력 상실 위험을 경고하며 구속력 있는 안전 표준 도입을 촉구했다.
4일(현지시간) 테크크런치에 따르면 테그마크 연구원은 팟캐스트 방송에 출연해 AI 기업과 미국 정부 간의 충돌 및 AI 통제권 문제에 대해 이같이 밝혔다.
그는 트럼프 행정부의 앤스로픽 기술 배제 움직임과 초지능을 향한 경쟁 상황을 언급했다. 테그마크 연구원은 "진짜 위험은 지정학적 경쟁이 아니라 우리가 구축하고 있는 시스템에 대한 통제력을 잃는 것"이라고 지적했다.
이어 AI 기술이 인류의 관리 능력을 넘어서기 전에 선제적인 조치가 필요하다고 강조했다. AI를 다른 고위험 산업과 마찬가지로 취급해 구속력 있는 안전 표준과 독립적인 감독을 시행해야 한다는 설명이다.
한편 테그마크 연구원이 속한 생명미래연구소(Future of Life Institute)를 비롯한 연합 단체는 '친인류 AI 선언'을 발표했다. 이 선언문에는 AI가 인류에게 최선으로 기여할 수 있는 발전 방향이 담겼다.