ร่างกฎหมายแคลิฟอร์เนียจะจำกัดแชทบอต AI ในการเป็นนักบำบัดสุขภาพจิต

สมาชิกสภานิติบัญญัติแห่งแคลิฟอร์เนียกำลังผลักดันร่างกฎหมายที่จะวางข้อจำกัดใหม่เกี่ยวกับแชทบอต AI โดยเฉพาะการป้องกันไม่ให้ทำหน้าที่เป็นนักบำบัดหรือผู้ให้บริการด้านสุขภาพจิต ขณะนี้กฎหมายดังกล่าวรอการลงมติในสภารัฐ

มาตรการนี้ถูกออกแบบมาเพื่อ 'วางมาตรการป้องกัน' รอบเครื่องมือสุขภาพจิตที่ขับเคลื่อนด้วย AI ซึ่งกลายเป็นเรื่องปกติมากขึ้นเมื่อผู้คนหันมาใช้แชทบอตเพื่อการสนับสนุนทางอารมณ์ ข้อเสนอนี้จะกำหนดขอบเขตสำหรับการโต้ตอบของระบบเหล่านี้กับผู้ใช้ที่ขอความช่วยเหลือ

สิ่งที่ร่างกฎหมายจะทำ

• ป้องกันไม่ให้แชทบอต AI ให้การบำบัดหรือให้คำปรึกษาด้านสุขภาพจิตโดยไม่มีการกำกับดูแลที่เหมาะสม
• กำหนดให้มีมาตรการป้องกันที่ชัดเจนยิ่งขึ้นสำหรับผู้ใช้ที่พึ่งพาแชทบอตเพื่อการสนับสนุนทางอารมณ์
• รอการลงมติในสภารัฐแคลิฟอร์เนีย

ร่างกฎหมายนี้เป็นส่วนหนึ่งของแรงผลักดันด้านกฎระเบียบที่กว้างขึ้นเกี่ยวกับปัญญาประดิษฐ์ โดยเฉพาะในด้านที่ละเอียดอ่อนอย่างการดูแลสุขภาพ หากผ่าน แคลิฟอร์เนียจะเข้าร่วมกับความพยายามอื่น ๆ ในการจัดการกับบทบาทที่เพิ่มขึ้นของ AI เชิงสนทนาในการสนับสนุนสุขภาพจิต