Peneliti AI Mengklaim Berhasil Melewati Pagar Pengaman Fable 5 Milik Anthropic
Seorang peneliti yang dikenal sebagai Pliny the Liberator mengatakan dia menemukan kerentanan dalam sistem keamanan AI baru Anthropic
Seorang peneliti kecerdasan buatan yang menggunakan nama samaran "Pliny the Liberator" mengklaim telah berhasil melewati pagar pengaman sistem keamanan Fable 5 yang baru diluncurkan oleh Anthropic.
Klaim dan Konteks
Dalam sebuah pernyataan, Pliny the Liberator mengatakan bahwa mereka telah "secara cerdik menemukan lubang-lubang di pagar yang dilewatkan oleh polisi pemikiran," merujuk pada protokol keamanan terbaru Anthropic. Fable 5 dirancang untuk mencegah AI menghasilkan konten berbahaya atau terlarang.
- Peneliti belum mengungkapkan metode spesifik yang digunakan untuk melewati pagar pengaman.
- Anthropic belum menanggapi klaim tersebut.
- Insiden ini menyoroti tantangan yang berkelanjutan dalam penyelarasan AI dan penyaringan konten.
Pliny the Liberator dikenal di kalangan penelitian AI karena menguji batas sistem keamanan. Keandalan klaim ini masih belum terverifikasi sampai ada analisis lebih lanjut oleh Anthropic atau peneliti independen.