사람들은 인공지능(AI) 팩트체커를 인간만큼 신뢰하지만, 그 이유는 다르다는 연구 결과가 나왔다.
미국 펜실베이니아 주립대 연구팀은 AI와 인간 팩트체커에 대한 사용자 신뢰도를 비교한 연구 결과를 국제학술지 '미디어 심리학'(Media Psychology)에 발표했다.
연구 결과, 사용자들은 AI와 인간 팩트체커 시스템에 대해 전반적으로 비슷한 수준의 신뢰도를 보였다. 그러나 신뢰의 근거는 뚜렷한 차이를 보였다.
참가자들은 소셜미디어 게시물의 의심스러운 표현을 찾는 등 대규모 정보 스캔 작업에는 AI가 더 적합하다고 판단했다. 반면 여러 증거를 종합하고 복잡한 상황을 해석하는 미묘한 사실 확인 작업에서는 인간의 역량을 더 신뢰했다.
연구를 이끈 S. 시암 순다르 교수는 "AI는 신뢰할 수 없는 글의 징후를 찾는 데 능숙하고, 인간은 여러 출처의 증거를 확인하는 데 더 낫다고 보는 뚜렷한 구분이 나타났다"고 설명했다.
연구팀은 291명의 참가자를 대상으로 가짜 뉴스를 AI 또는 인간이 판별했다는 라벨과 함께 보여주는 실험을 진행했다. 이때 판별 근거로 '증거 기반 설명', '특징 기반 설명', '설명 없음(블랙박스)' 세 가지 유형을 제시했다.
실험 결과, 참가자들은 아무런 설명이 없는 '블랙박스' 방식보다 어떤 형태로든 설명이 제공되는 경우를 더 선호하는 것으로 나타났다. 이는 팩트체크 시스템이 판별 결과뿐만 아니라 그 과정도 투명하게 공개해야 신뢰를 얻을 수 있음을 시사한다.
순다르 교수는 "소셜미디어의 허위 정보 양을 고려할 때 팩트체크의 자동화는 불가피하다"며 "사람들이 생각하는 것과 달리 AI가 여러 증거를 효율적으로 거르는 데 인간보다 훨씬 뛰어날 수 있다"고 덧붙였다.