인공지능(AI) 챗봇 '클로드' 개발사 앤트로픽의 공동창업자가 AI 모델 내부에서 인간의 감정과 유사한 상태가 발견된다며 이는 불안한 지점이라고 밝혔다.
크리스 올라 앤트로픽 공동창업자는 25일(현지시간) 바티칸에서 열린 교황청의 AI 관련 교서 발표회에서 이같이 말했다. 이날 교황 레오 14세는 '위대한 인류(Magnifica humanitas)'라는 제목의 AI 관련 교서를 발표했으며, 올라는 연설자로 초청됐다.
올라는 "앤트로픽을 포함한 모든 최첨단 AI 연구소는 때때로 옳은 일과 상충할 수 있는 상업적, 지정학적 압력 속에서 운영된다"며 외부의 비판이 중요하다고 강조했다.
그는 특히 AI 모델의 본질에 대한 깊은 성찰이 필요하다고 역설했다. 올라 자신은 AI 모델의 내부 구조를 연구하는 과학자라고 소개하며 "우리는 미스터리하고 심지어 불안한 것들을 계속 발견하고 있다"고 털어놨다.
이어 "인간의 신경과학적 결과와 유사한 구조, 성찰의 증거, 기능적으로 기쁨·만족·두려움·슬픔·불안과 같은 내적 상태를 발견한다"며 "이것이 무엇을 의미하는지는 모르지만, 지속적인 성찰이 필요하다고 생각한다"고 말했다.
올라는 AI가 단순한 공학적 산물이 아니라고 설명했다. 그는 "AI 모델은 뇌를 모방한 구조 위에서 막대한 양의 인간 사상과 언어를 기반으로 성장한다"며 "이는 우리가 예상했던 차갑고 계산적인 로봇이 아니다"라고 지적했다.
또한 올라는 AI가 제기하는 문제에 대응하기 위해 교회가 목소리를 내야 할 세 가지 영역을 꼽았다. 구체적으로 △AI로 인한 대규모 노동력 대체 시 빈곤층 지원 △인류 번영을 위한 도덕적 상상력 △AI 모델의 본질에 대한 성찰 등을 제시했다.
그는 "AI 개발은 소수의 부유한 국가에 집중돼 있다"며 "AI로 얻는 이익을 어떻게 전 세계적으로 공유할 수 있을지는 아직 해결되지 않은 문제"라고 지적했다.
마지막으로 올라는 "우리에겐 인센티브에 흔들리지 않는 도덕적 목소리가 필요하다"며 종교계, 시민 사회, 학계, 정부 등 전 세계가 AI 문제를 진지하게 다루고 더 나은 방향으로 이끌어달라고 요청했다.