뉴욕주, AI 법률·의료 상담 금지 법안…위반 시 소송 허용

뉴욕주에서 인공지능(AI) 챗봇이 법률이나 의료 관련 조언을 제공하는 것을 금지하고, 이를 위반할 경우 이용자가 개발사를 상대로 소송을 제기할 수 있도록 하는 법안이 추진된다.

10일(현지시간) IT 전문매체 테크레이더에 따르면, 뉴욕주 상원에서 발의된 '상원 법안 S7263'이 최근 주 상원 인터넷·기술위원회를 만장일치로 통과했다. 이 법안은 변호사나 의사 등 면허를 소지한 전문가를 모방하거나 사칭하는 AI 챗봇에 적용되며, 인간 전문가에게 적용되는 면허 제도를 AI에도 동일하게 적용하는 것을 골자로 한다.

법안에 따르면 AI 챗봇 개발사는 이용자가 사람 대신 AI 시스템과 상호작용하고 있음을 명확히 알려야 한다. 만약 챗봇이 금지된 법률·의료 조언을 제공했다면, '나는 의사나 변호사가 아니다'와 같은 경고 문구를 표시했더라도 법적 책임을 피할 수 없다.

법안의 실효성을 확보하기 위해 이용자에게 민사소송 권한을 부여했다. 챗봇으로부터 무단으로 전문적인 조언을 받았다고 입증하는 이용자는 개발사를 상대로 손해배상을 청구하고 소송 비용도 돌려받을 수 있다.

법안을 발의한 크리스틴 곤잘레스 주 상원의원은 성명을 통해 "사람들은 진짜 사람에게서 진짜 보살핌을 받을 자격이 있다"며 "투명성과 책임성을 보장하고 기술을 사용하는 동안 데이터가 안전하다는 약속을 받아야 한다"고 밝혔다. 이번 법안은 미성년자 보호, 생성형 AI 투명성 강화 등 뉴욕주의 광범위한 AI 규제 노력의 일환이다.

다만 법안은 일반적인 개념에 대한 교육적 설명은 허용해 모호한 부분이 존재한다. 예를 들어 특정 질병의 증상을 공개된 정보를 요약해 설명하는 것은 가능하지만, 이 설명이 이용자의 건강 관련 결정에 영향을 미친다면 사실상 의료 조언으로 간주될 수 있다.

테크레이더는 AI의 영향력이 커지면서 기존 전문직에 적용되던 규제를 AI에도 적용해야 하는지에 대한 논의가 활발해지고 있다고 분석했다. 뉴욕주와 같은 대규모 주에서 제정된 법률은 다른 지역의 유사 입법 모델이 되는 경우가 많아, 이번 법안은 향후 AI 규제 방향을 가늠할 수 있는 선례가 될 전망이다.