AI가 뚫고 AI로 막는 무선망…'양자내성' 6G 보안기술 떴다

미국 연구진이 인공지능(AI)과 양자 컴퓨팅 기술 발전이 야기할 새로운 보안 위협에 대응하기 위한 차세대 무선 통신망 보안 기술 개발에 나섰다.

22일(현지시간) 미국 텍사스대학교 댈러스캠퍼스(UT 댈러스)는 임티아즈 카림 컴퓨터과학과 조교수가 이끄는 연구팀이 해당 프로젝트를 진행한다고 밝혔다. 이 프로젝트는 미국 국립과학재단(NSF)의 '지능형 네트워크 시스템 활성화(VINES)' 프로그램을 통해 30만7250달러의 연구비를 지원받았다. 사우스플로리다대학교, 퍼듀대학교와의 120만달러 규모 공동 연구의 일환이다.

차세대 무선 통신망은 AI를 활용해 외부 환경 변화에 적응하고 보안 위협을 탐지할 수 있다. 하지만 동시에 AI 자체가 공격에 악용될 수 있는 새로운 취약점이 되기도 한다. 또한 미래에 등장할 양자컴퓨터는 현재 통신을 보호하는 데 사용되는 일부 암호화 기술을 무력화할 수 있다.

연구팀은 '설계부터 양자컴퓨팅에 준비되고 AI를 활용하는 복원력 있는 차세대 셀룰러 네트워크' 프로젝트를 통해 이러한 문제 해결을 목표로 한다. 양자컴퓨터의 공격을 막아낼 수 있는 '양자 후 암호' 기술과 네트워크 침입을 탐지하고 민감한 데이터를 보호하는 머신러닝 기술 개발이 핵심이다.

카림 교수는 "처음부터 차세대 네트워크에 보안과 신뢰성이 내장되기를 원한다"며 "이는 AI를 활용하면서도 시스템의 보안과 개인정보를 보호할 수 있는 네트워크를 개발하는 것을 의미한다"고 말했다.

연구팀은 개발한 보안 프로토콜과 시스템을 실험실에 구축한 5G 테스트베드에서 직접 설계하고 시험한다. 기존 양자 후 암호 기술들이 실시간 셀룰러 네트워크에 적용하기에는 연산량이 너무 많다는 한계가 있어, 속도와 확장성을 유지하면서 보안을 제공할 수 있는 새로운 기술을 개발 중이다.

카림 교수는 셀룰러 네트워크에 대한 사이버 보안 위협의 잠재적 결과를 보여주는 사례로 2025년 SK텔레콤에 대한 악성코드 공격을 언급했다. 당시 이 사건으로 수천만 명의 사용자가 영향을 받았고 회사는 약 1억달러의 벌금을 부과받았다.

3년간 진행되는 이번 프로젝트에서 3개 대학 연구진은 공동 실험 플랫폼을 통해 차세대 무선 시스템에서의 성능을 평가하고 기술을 개발할 예정이다. 카림 교수는 "사회가 무선 연결에 점점 더 의존하게 되면서 이러한 시스템은 공격자가 정보를 훔치거나 통신을 방해하려 할 때도 신뢰할 수 있어야 한다"고 강조했다.