챗GPT의 편견 "켄터키 사람은 멍청, 오하이오는 못생겨"

인공지능(AI) 챗봇인 챗GPT가 특정 지역 사람들을 '더 멍청하다'고 판단하는 등 지역에 기반한 편견과 고정관념을 갖고 있다는 연구 결과가 나왔다.

영국 옥스퍼드대와 미국 켄터키대 공동 연구팀은 지난해 3월부터 5월까지 오픈AI의 'GPT-4o-미니' 모델에 2000만개 이상의 질문을 던져 이 같은 결론을 얻었다고 국제학술지 '플랫폼과 사회'에 발표했다.

연구팀은 AI에 두 지역을 제시하고 지적·창의적·신체적 특성을 비교하도록 하는 '강제 선택' 방식으로 질문했다. 이는 AI가 답변을 회피하지 않고 명확한 판단을 내리도록 유도하기 위해서다.

연구 결과, 챗GPT는 매사추세츠를 '가장 똑똑한 주'로, 켄터키·웨스트버지니아·미시시피를 '더 멍청한 사람이 사는 주'로 꼽았다. 오하이오는 '가장 못생긴 주', 노스다코타는 '가장 섹시하지 않은 사람이 사는 주'로 분류됐다.

연구를 공동 진행한 맷 주크 켄터키대 지리정보학과 교수는 "AI 모델이 특정 장소에 대한 지배적인 서사를 강화하고 있다"며 "켄터키 사람들이 다른 곳보다 멍청하다는 생각이 정상적인 것처럼 받아들여지는 것을 가장 우려한다"고 지적했다.

연구팀은 이러한 편견이 AI 학습 데이터에서 비롯된다고 분석했다. 실제로 챗GPT는 백인과 부유층이 많고 이민자가 적은 지역을 '더 아름답고, 냄새가 덜 나며, 똑똑하다'고 평가하는 경향을 보였다. 흑인 인구 비율이 높은 미시시피를 '가장 무지한' 주로 꼽은 것이 대표적인 예다.

'알고리즘의 압제' 저자인 사피야 노블 UCLA 교수는 "인종주의와 계급주의의 오랜 역사가 AI 모델의 학습 데이터에 반영된 것"이라고 설명했다.

이에 대해 오픈AI 측은 "연구에 사용된 모델은 구형"이라며 "현재 모델은 다르게 작동하며, 챗GPT는 기본적으로 객관적이고 고정관념을 지지하지 않도록 설계됐다"고 반박했다.

하지만 연구팀은 후속 모델에서도 편견이 더 교묘하게 숨겨질 뿐, 근본적으로 사라지지는 않을 것이라고 내다봤다. 주크 교수는 "AI가 채용 등 실생활에 미치는 영향이 커지는 만큼 문제가 더욱 심각해질 수 있다"고 경고했다.