캘리포니아 법안, AI 챗봇의 정신 건강 치료사 역할 제한

캘리포니아 주의회 의원들은 AI 챗봇에 새로운 제한을 두는 법안을 추진하고 있으며, 특히 챗봇이 치료사나 정신 건강 제공자 역할을 하지 못하도록 하는 내용을 담고 있다. 이 법안은 현재 주의회 표결을 기다리고 있다.

이 조치는 AI 기반 정신 건강 도구에 '안전장치를 마련'하기 위한 것으로, 사람들이 정서적 지원을 위해 점점 더 챗봇에 의존하면서 이러한 도구가 보편화되고 있다. 이 제안은 이러한 시스템이 도움을 찾는 사용자와 상호작용하는 방식에 경계를 설정할 것이다.

법안이 하려는 것

• 적절한 감독 없이 AI 챗봇이 정신 건강 치료나 상담을 제공하지 못하도록 한다.
• 정서적 지원을 위해 챗봇에 의존하는 사용자를 위한 더 명확한 안전장치를 요구한다.
• 캘리포니아 하원 표결을 기다린다.

이 법안은 인공지능, 특히 의료와 같은 민감한 분야에 대한 광범위한 규제 추진의 일부이다. 통과되면 캘리포니아는 정신 건강 지원에서 대화형 AI의 역할 증가에 대응하기 위한 다른 노력에 동참하게 된다.