영국 유명 배우 마이클 케인이 인공지능(AI) 기업에 자신의 목소리를 제공해 누구나 비용을 내면 그의 목소리를 사용할 수 있게 되면서, AI 음성 기술의 명암에 대한 논의가 확산되고 있다.

14일(현지시간) IT 전문매체 테크레이더에 따르면 AI 오디오 기업 일레븐랩스는 이달 초 마이클 케인이 자사에 목소리 사용권을 허가했다고 발표했다. 배우 매튜 맥커너히 역시 이 회사에 투자하고 자신의 목소리를 제공한 것으로 알려졌다.

일레븐랩스는 '아이코닉 마켓플레이스'라는 플랫폼을 통해 유명인의 목소리를 제공한다. 이용자들은 텍스트를 입력해 원하는 유명인의 목소리로 읽게 하거나, 기업이 특정 프로젝트에 목소리를 사용하도록 요청할 수 있다.

이 플랫폼에는 주디 갈랜드, 앨런 튜링, 마야 안젤루 등 이미 사망한 유명인 25명 이상의 목소리도 포함돼 있다. 이들의 경우 유족이나 재단이 상업적 라이선스 계약을 맺은 것으로 알려져, 고인의 동의 없는 목소리 활용에 대한 윤리적 문제가 제기된다.

케인은 성명을 통해 "목소리를 대체하는 것이 아니라 증폭시키는 것"이라며 "차세대 창작자들을 돕는 일"이라고 밝혔다. 일레븐랩스 측은 공식 라이선스가 무단 복제보다 낫다는 입장이지만, 신뢰도 높은 목소리가 의도와 다른 내용에 사용될 수 있다는 우려도 나온다.

가장 큰 우려 사항은 '비싱'(vishing)으로 불리는 AI 음성 사기다. 보안업체 그룹-IB는 AI를 이용한 음성 사기 피해액이 2027년까지 400억달러(약 57조6000억원)에 이를 것으로 전망했다. 사기범은 AI로 가족이나 지인의 목소리를 복제해 금전 이체나 개인정보 제공을 유도한다.

이처럼 AI 음성 기술이 고도화되면서 목소리만으로는 신원 확인이 어려워졌다. 보안 전문가들은 가족이나 가까운 지인과 사전에 비밀 암호를 정해두는 방법을 권고하고 있다.

유명인의 목소리가 합법적인 맥락에서 일상적으로 사용될수록, 실제와 가짜를 구분하는 사회적 경계가 흐려질 수 있다는 지적이다. 기술 발전의 이면에는 신뢰의 기반이 약화될 수 있다는 비용이 따르는 셈이다.