Dự luật California sẽ hạn chế chatbot AI làm nhà trị liệu sức khỏe tâm thần

Các nhà lập pháp California đang thúc đẩy một dự luật sẽ đặt ra các hạn chế mới đối với chatbot AI, đặc biệt là ngăn chúng hoạt động như nhà trị liệu hoặc nhà cung cấp dịch vụ sức khỏe tâm thần. Dự luật hiện đang chờ bỏ phiếu tại Hội đồng bang.

Biện pháp này được thiết kế để 'thêm các biện pháp bảo vệ' xung quanh các công cụ sức khỏe tâm thần do AI điều khiển, vốn ngày càng trở nên phổ biến khi mọi người ngày càng chuyển sang chatbot để hỗ trợ tinh thần. Đề xuất sẽ thiết lập ranh giới cho cách các hệ thống này tương tác với người dùng tìm kiếm sự giúp đỡ.

Dự luật sẽ làm gì

• Ngăn chatbot AI cung cấp liệu pháp hoặc tư vấn sức khỏe tâm thần mà không có sự giám sát phù hợp.
• Yêu cầu các biện pháp bảo vệ rõ ràng hơn cho người dùng dựa vào chatbot để hỗ trợ tinh thần.
• Chờ bỏ phiếu tại Hội đồng ở California.

Dự luật này là một phần trong nỗ lực quản lý rộng lớn hơn xung quanh trí tuệ nhân tạo, đặc biệt trong các lĩnh vực nhạy cảm như chăm sóc sức khỏe. Nếu được thông qua, California sẽ tham gia cùng các nỗ lực khác nhằm giải quyết vai trò ngày càng tăng của AI đàm thoại trong hỗ trợ sức khỏe tâm thần.