加州AI治疗师法案：护栏还是越界？

加州立法者正在审议一项法案，该法案将对用作心理健康治疗师的AI聊天机器人施加新的护栏。该立法正在等待州众议院的投票，虽然具体条款仍在协商中，但核心争论很清楚：这些机器人是否需要更严格的监督来保护弱势用户，还是严厉的规则会限制人们获得负担得起的心理健康支持？

该法案将做什么

该法案旨在应对越来越多以心理健康治疗师或提供治疗指导的AI聊天机器人的使用。支持者表示，它将增加基本护栏：要求明确声明该机器人不是持证临床医生，设定处理危机情况的安全标准，并确保用户知道自己在与机器交谈。该法案并未完全禁止聊天机器人，但它将使提供这些服务的公司在透明度和问责制方面达到更高标准。

支持护栏的理由

• AI聊天机器人不是持证临床医生，可能漏掉自残或自杀的警示信号。
• 用户可能会将机器人生成的建议误认为是专业医疗护理，从而延误真正的治疗。
• 关于心理健康的对话高度敏感，引发隐私和数据安全方面的担忧。
• 明确的免责声明和人工升级路径可以在不禁止技术的情况下防止伤害。

反对严格规则的理由

• AI聊天机器人可以为无法负担或无法获得传统治疗的人提供全天候支持。
• 过于宽泛的限制可能会扼杀创新，并将开发者赶出心理健康领域。
• 如果不属于医疗器械的通用健康聊天机器人也可能被卷入规则，如果定义过于模糊的话。
• 现有的州和联邦法律已经监管医疗建议和欺骗性行为。

接下来关注什么

关键是州议会的投票以及随后的任何修正案。注意该法案如何定义“心理健康治疗”——该定义将决定哪些应用程序和服务受这些规则约束。同时，随着法案在立法过程中推进，也要关注州监管机构、心理健康专业人士和科技公司的意见。目前，加州用户的情况没有变化；结果仍然不确定。