우버 자율주행 전 책임자 "테슬라 FSD 사고, AI 과신이 원인"

우버의 자율주행 프로그램 개발을 이끌었던 전직 임원이 테슬라의 완전자율주행(FSD) 기능 작동 중 차량이 전손되는 사고를 겪은 뒤 "거의 완벽한 인공지능(AI)에 대한 과신이 위험을 초래한다"고 경고했다.

18일(현지시간) 비즈니스 인사이더 등 외신은 라피 크리코리안 모질라 최고기술책임자(CTO)가 전날 디 애틀랜틱에 기고한 글을 인용해 이같이 보도했다. 크리코리안은 지난해 테슬라 모델X를 FSD 모드로 운전하던 중 차량이 벽에 충돌해 전손됐다고 밝혔다.

크리코리안은 "사고 직전 핸들이 갑자기 한쪽으로 쏠리고 예상치 못하게 감속하는 등 이상을 느꼈다"며 "핸들을 돌려 직접 제어하려는 순간 벽과 충돌했다"고 당시 상황을 설명했다. 이 사고로 그는 뇌진탕 진단을 받았다.

2015년부터 2017년까지 우버의 자율주행 부문을 이끌었던 그는 이번 사고를 통해 운전자가 AI 기술을 과신하게 되는 위험성을 체감했다고 전했다. 그는 "수개월간의 경험으로 AI 기술을 신뢰하도록 조건화된 상태에서, 눈 깜짝할 사이에 승객에서 조종사로 역할을 전환해야 했다"고 지적했다.

이어 "완벽하게 작동하는 기계는 감독이 필요 없지만, 거의 완벽하게 작동하는 기계에 바로 그 위험이 도사리고 있다"며 운전자가 기술을 과신해 감시를 소홀히 하기 쉽다고 강조했다.

테슬라의 FSD 기능은 이전부터 오작동 논란이 있었다. FSD 장착 차량이 역주행하거나 신호를 위반하는 사례가 보고돼 규제 당국의 조사를 받고 있다. 지난해에는 FSD 관련 사망 사고로 2억4200만달러의 배상 판결을 받기도 했다.

자율주행 보조 시스템의 위험성은 다른 제조사에서도 나타나고 있다. 포드의 '블루크루즈' 기술과 관련된 사망 사고가 발생해 조사가 진행 중이며, 우버 역시 크리코리안이 퇴사한 뒤인 2018년 자율주행 시험차량이 보행자를 치어 숨지게 하는 사고를 낸 바 있다.