美 연구 "인간-AI 협업 성공, '인지적 정렬'에 달렸다"

인간과 인공지능(AI)의 성공적인 협업을 위해서는 AI의 성능보다 양측의 과업 이해도를 일치시키는 '인지적 정렬'이 핵심이라는 연구 결과가 나왔다.

18일(현지시간) 미국 스티븐스 경영대학원의 베이 얀 조교수는 국제 학술지 '경영학 아카데미 저널'에 게재한 '마음과 기계의 동기화'라는 제목의 논문에서 이같이 밝혔다.

얀 교수는 많은 기업이 AI 도입 실패 원인을 기술 부족이나 과도한 성능 탓으로 돌리지만, 실제 이유는 인간과 기계가 과업, 역할, 책임을 이해하는 방식이 정렬되지 않았기 때문이라고 지적했다.

그는 기업들이 AI 도입 시 인간과 기계의 업무를 미리 나누는 경향이 있지만, 이는 업무 환경이 안정적이고 예측 가능할 때만 유효하다고 설명했다. 예측 불가능한 변수가 많은 실제 업무 환경에서는 문제가 발생할 수 있다.

논문은 초단타 매매 알고리즘을 예로 들었다. AI는 사전에 설정된 규칙으로 시장을 분석하지만, 갑작스러운 시장 붕괴나 주요 정책 변경 같은 예상 밖의 사건을 제대로 이해하지 못해 오히려 시장을 교란할 수 있다.

얀 교수는 효과적인 인간-AI 파트너십을 위해 '하이브리드 인지 정렬'이라는 과정을 제안했다. 이는 AI의 목적과 사용법, 인간의 판단이 우선되어야 할 시점에 대한 공통의 기대를 점진적으로 발전시키는 과정이다.

이러한 정렬은 시스템이 도입될 때 자동으로 발생하는 것이 아니라, 사용자가 AI의 행동을 학습하고 상호작용 방식을 조절하며 경험을 통해 신뢰도를 재조정하는 과정에서 나타난다고 논문은 설명했다.

예를 들어, 의료 분야에서 AI는 엑스레이나 CT 스캔 분석에서 의사가 놓칠 수 있는 문제를 발견하지만, 특정 환자의 병력이나 약물 반응까지는 알지 못한다. 따라서 인간의 감독과 개입이 필수적이다.

얀 교수는 "기업들은 AI를 '즉시 사용 가능한' 해결책이 아닌 새로운 협업 파트너로 대해야 한다"며 "AI의 역할과 한계를 명확히 교육하고 팀이 적응할 시간을 주는 것이 중요하다"고 강조했다.