加州法案将限制AI聊天机器人充当心理健康治疗师

加州立法者正在推进一项法案，将对AI聊天机器人施加新的限制，特别是防止它们充当治疗师或心理健康服务提供者。该立法目前正在等待州议会的投票。

该措施旨在为AI驱动的心理健康工具“设置护栏”，随着人们越来越多地转向聊天机器人寻求情感支持，这些工具已变得更加普遍。该提案将为这些系统如何与寻求帮助的用户互动设定界限。

该法案将做什么

• 在没有适当监督的情况下，防止AI聊天机器人提供心理健康治疗或咨询。
• 要求为依赖聊天机器人获得情感支持的用户提供更明确的保障。
• 等待加州议会的投票。

该法案是围绕人工智能的更广泛监管推动的一部分，尤其是在医疗保健等敏感领域。如果通过，加州将加入其他努力，以应对对话式AI在心理健康支持中日益增长的作用。