AI발 가짜정보 확산…"더는 남의 일 아닌 브랜드 문제"

인공지능(AI)이 생성하는 허위정보가 기업의 새로운 위협으로 떠오르면서, 2027년까지 전 세계 기업의 절반이 관련 보안에 투자할 것이라는 전망이 나왔다.

10일 시장조사업체 가트너에 따르면, 허위정보 보안 제품이나 서비스, '트러스트옵스(TrustOps)' 전략에 투자하는 기업 비중은 현재 5% 미만에서 2027년 50%로 급증할 것으로 예측됐다.

가트너는 AI 기술로 인해 허위 또는 오해의 소지가 있는 콘텐츠를 더 저렴하게 생산하고, 개인화하며, 빠르게 확산시킬 수 있게 됐다고 분석했다.

앤드류 프랭크 가트너 부사장은 "허위정보는 더 이상 사이버 보안, 법률 또는 홍보만의 문제가 아니라 브랜드의 문제"라고 지적했다. 그는 허위 서사가 빠르게 퍼지면 사실이 아니더라도 브랜드 신뢰도, 고객 관계, 충성도에 직접적인 피해를 줄 수 있다고 설명했다.

이에 대한 대응책으로 가트너는 '트러스트옵스'를 제시했다. 트러스트옵스는 잘못된 정보나 기만적인 콘텐츠로 인한 위험을 줄이기 위해 인력, 프로세스, 기술을 통합하는 운영 방식이다.

가트너는 최고마케팅책임자(CMO)가 트러스트옵스 논의에 참여해야 한다고 강조했다. 콘텐츠 인증 및 검증을 강화하고, 허위 서사가 나타났을 때 신속하게 대응하는 시스템에 마케팅 부서가 포함되어야 한다는 것이다.

프랭크 부사장은 "신뢰를 메시지가 아닌 인프라로 취급해야 한다"며 "AI 사용 방식에 대해 더 명확히 하고, 콘텐츠 출처를 쉽게 확인할 수 있도록 만들어야 한다"고 조언했다.