인공지능(AI)이 단 몇 분 만에 온라인 익명 사용자의 신원을 특정할 수 있다는 연구 결과가 나오면서 대규모 사이버 감시에 대한 우려가 커지고 있다.
지난달 발표된 한 연구에 따르면 대규모 언어 모델(LLM)을 활용해 익명의 온라인 계정과 실제 개인의 신원을 효율적으로 연결할 수 있는 것으로 나타났다. 이 연구는 스위스 취리히연방공과대학(ETH Zurich)의 다니엘 팔레카와 MATS 리서치의 사이먼 러먼이 주도했으며 AI 기업 앤트로픽의 연구원도 공동 저자로 참여했다.
연구팀은 기술 뉴스 포럼 '해커 뉴스'의 익명 사용자 프로필 338개를 AI에 분석하도록 했다. 그 결과 AI는 단 몇 분 만에 226명의 실제 신원과 링크드인 프로필을 정확히 찾아냈다. 연구팀은 이 실험에 단 2000달러(약 288만원)가 소요됐으며 프로필당 1~4달러의 비용으로 분석이 가능했다고 밝혔다.
연구진은 논문에서 "온라인 익명 사용자를 보호하던 실질적 모호함이 더는 유효하지 않다"며 "AI 시대에 맞춰 온라인 프라이버시에 대한 위협 모델을 재고해야 한다"고 경고했다. 팔레카 연구원은 "인터넷 역사 내내 통용되던 '나는 추적당할 만큼 중요하지 않다'는 가정은 더 이상 통하지 않는다"고 지적했다.
이번 연구 결과는 AI의 군사적 활용을 둘러싸고 미국 국방부와 법적 분쟁을 벌이고 있는 앤트로픽의 주장에 힘을 싣고 있다. 앤트로픽은 법원에 제출한 서류에서 "클로드와 같은 AI 도구는 이전에는 상상할 수 없었던 속도와 규모로 정보 수집 및 분석을 가능하게 한다"며 "오류와 오용 가능성을 고려할 때 시민의 자유에 독특한 위험을 초래한다"고 주장했다.
이에 미 국방부는 수정헌법 제4조에 따라 미국인에 대한 대규모 감시는 불법이라는 입장을 고수하고 있다. 하지만 앤트로픽은 성명을 통해 "현재 그러한 감시가 합법적이라 하더라도 이는 법이 급성장하는 AI의 역량을 따라잡지 못했기 때문일 뿐"이라고 반박했다.
실제로 AI를 활용한 신원 특정은 다양한 방식으로 이뤄질 수 있다. 특정인이 온라인상에서 남기는 미국식 철자법과 영국식 철자법의 혼용 습관이나, 거주 지역의 변화에 따라 활동하는 온라인 커뮤니티(레딧)의 이동 경로 등 사소한 '디지털 발자국'을 종합하면 AI가 쉽게 개인을 특정할 수 있다는 것이다.
이러한 우려는 더 이상 이론에 머물지 않는다. 최근 미 국토안보부가 소셜미디어 기업에 반이민세관단속국(ICE) 계정 소유자의 신원을 요구한 사례나, 세관국경보호국(CBP)의 개인정보보호 책임자들이 감시 기록 은폐 시도에 반발해 해임됐다는 보도 등은 기술이 법의 경계를 어떻게 확장하는지 보여준다. 앤트로픽과 미 국방부의 갈등 속에서 AI 기술이 가져올 감시 사회의 그림자가 짙어지고 있다.