นักวิจัย AI อ้างว่าสามารถหลบเลี่ยงมาตรการป้องกัน Fable 5 ของ Anthropic ได้

นักวิจัยปัญญาประดิษฐ์ที่ใช้นามแฝงว่า "Pliny the Liberator" อ้างว่าได้หลบเลี่ยงมาตรการป้องกันของระบบความปลอดภัย Fable 5 ที่ Anthropic เพิ่งเปิดตัวไปแล้ว

ข้อกล่าวอ้างและบริบท

ในแถลงการณ์ Pliny the Liberator กล่าวว่าพวกเขา "กำลังหาช่องโหว่ในรั้วที่ตำรวจความคิดมองไม่เห็นอย่างชาญฉลาด" โดยอ้างถึงโปรโตคอลความปลอดภัยล่าสุดของ Anthropic Fable 5 ได้รับการออกแบบมาเพื่อป้องกันไม่ให้ AI สร้างเนื้อหาที่เป็นอันตรายหรือต้องห้าม

• นักวิจัยยังไม่ได้เปิดเผยวิธีการเฉพาะที่ใช้ในการหลบเลี่ยงมาตรการป้องกัน
• Anthropic ยังไม่ได้ตอบสนองต่อข้อกล่าวอ้างดังกล่าว
• เหตุการณ์นี้เน้นย้ำถึงความท้าทายที่ยังคงมีอยู่ในการจัดแนว AI และการกรองเนื้อหา

Pliny the Liberator เป็นที่รู้จักในวงการวิจัย AI ในด้านการทดสอบขีดจำกัดของระบบความปลอดภัย ความน่าเชื่อถือของข้อกล่าวอ้างเหล่านี้ยังไม่ได้รับการยืนยัน รอการวิเคราะห์เพิ่มเติมจาก Anthropic หรือนักวิจัยอิสระ