RUU California Akan Membatasi Chatbot AI sebagai Terapis Kesehatan Mental

Para legislator California sedang memajukan RUU yang akan memberlakukan pembatasan baru pada chatbot AI, khususnya mencegah mereka bertindak sebagai terapis atau penyedia layanan kesehatan mental. RUU tersebut saat ini menunggu pemungutan suara di Majelis negara bagian.

Langkah ini dirancang untuk 'memasang pagar pengaman' di sekitar alat kesehatan mental berbasis AI, yang menjadi semakin umum karena orang semakin beralih ke chatbot untuk dukungan emosional. Usulan ini akan menetapkan batasan tentang bagaimana sistem ini berinteraksi dengan pengguna yang mencari bantuan.

Apa yang akan dilakukan RUU tersebut

• Mencegah chatbot AI memberikan terapi atau konseling kesehatan mental tanpa pengawasan yang tepat.
• Mengharuskan perlindungan yang lebih jelas bagi pengguna yang mengandalkan chatbot untuk dukungan emosional.
• Menunggu pemungutan suara Majelis di California.

RUU ini merupakan bagian dari dorongan regulasi yang lebih luas seputar kecerdasan buatan, terutama di bidang sensitif seperti perawatan kesehatan. Jika disahkan, California akan bergabung dengan upaya lain untuk mengatasi peran AI percakapan yang semakin besar dalam dukungan kesehatan mental.