항상 보고 듣는 인공지능(AI) 기기가 확산하면서 편리함 이면의 '상시 감시'와 사생활 침해 논란이 거세지고 있다.
14일(현지시간) 월스트리트저널(WSJ)에 따르면 최근 마크 저커버그 메타 최고경영자(CEO)가 로스앤젤레스 법원에 출두했을 때 그의 수행원이 착용한 AI 스마트 안경이 문제가 됐다. 판사는 해당 기기로 촬영된 모든 영상의 즉각적인 삭제를 명령하며 “이것은 매우 심각한 문제”라고 경고했다.
메타는 이 AI 안경을 통해 개인 사용자를 위한 AI 민주화를 구상하고 있다. 저커버그 CEO는 궁극적으로 신과 같은 수준의 초지능을 제공하는 것을 목표로 한다. 오픈AI 등 다른 정보기술(IT) 기업들도 유사한 개인용 AI 기기를 곧 출시할 것으로 예상된다.
이러한 기기들은 사용자의 일상을 보고 들으며 정보를 수집·처리해 맞춤형 정보를 제공한다. 하지만 이 과정에서 사용자와 주변 인물들의 사생활이 심각하게 침해될 수 있다는 우려가 커지고 있다.
다리오 아모데이 앤트로픽 CEO는 AI가 수십억 개의 대화를 분석해 특정 사안에 대한 정부 반대자를 식별하고, 반대 여론이 커지기 전에 이를 진압하는 데 사용될 수 있다고 경고했다. 그는 “강력한 AI가 수백만 명의 대화를 훑어보며 여론을 측정하고 불충의 주머니를 감지해낼 수 있다”고 지적했다.
업계는 기술적 해결책이 있다는 입장이다. 크리스티아누 아몬 퀄컴 CEO는 데이터를 클라우드가 아닌 기기 자체에서 처리하는 '온디바이스 AI'를 통해 사생활 문제를 해결할 수 있다고 주장했다. 그는 “데이터를 클라우드로 보낼지 여부는 전적으로 사용자의 통제에 달려있을 것”이라고 말했다.
하지만 메타는 이미 AI 안경과 관련해 집단소송에 직면했다. 소송에 따르면 메타의 AI 안경으로 촬영된 영상이 AI 모델 훈련을 위해 아프리카의 외주업체 직원들에게 전송돼 수동으로 검토되고 있다. 여기에는 사용자가 옷을 갈아입거나 화장실을 사용하는 등 사적인 활동이 담긴 영상도 포함된 것으로 알려졌다.
이에 대해 메타 측은 “사용자가 공유를 선택하지 않는 한 데이터는 기기에 남는다”며 “서비스 개선을 위해 외주업체가 데이터를 검토할 수 있으며, 개인정보 보호를 위한 필터링 조치를 취하고 있다”고 해명했다.
메타는 과거에도 사용자 데이터 문제로 논란의 중심에 서 왔다. 2019년 연방거래위원회(FTC)로부터 소비자 사생활 침해를 이유로 당시 기록적인 50억달러(약 7조2000억원)의 벌금을 부과받은 바 있다.