Anthropic memperingatkan 'AI worm' yang mereplikasi diri bisa segera menyasar perangkat terhubung

Anthropic telah memperingatkan bahwa "AI worm" liar mungkin hanya tinggal beberapa bulan lagi dari kemampuan untuk mereplikasi diri dan menyebar sendiri ke perangkat yang terhubung internet, sebuah kategori yang mencakup peralatan rumah tangga bersama target yang lebih konvensional.

Apa saja yang dicakup peringatan ini

Kekhawatiran perusahaan berpusat pada kelas perangkat lunak berbahaya yang berpindah antar perangkat tanpa penyerang mengarahkan setiap langkah infeksi secara manual, perilaku yang membedakan worm dari jenis malware lain. Dalam skenario yang digambarkan Anthropic, peralatan yang terkompromi dan perangkat keras lain yang terhubung jaringan dapat berfungsi sebagai host alih-alih korban tunggal yang terisolasi.

Peringatan ini menggambarkan kemampuan potensial di masa depan, bukan serangan yang terdokumentasi di lapangan — sebuah penilaian tentang seberapa dekat teknologi itu dengan ambang tersebut, bukan konfirmasi bahwa worm semacam itu sudah ada.

Sistem AI yang dapat menulis dan menjalankan kode, menjelajahi web, dan mengoperasikan alat yang terhubung telah memperluas apa yang dapat dilakukan perangkat lunak otomatis tanpa manusia dalam loop. Peneliti keamanan secara luas berargumen bahwa kemampuan yang sama yang membuat alat agentic berguna juga menurunkan upaya yang dibutuhkan untuk membangun dan menskalakan serangan otomatis, yang menjadi latar belakang peringatan Anthropic.

Anthropic tidak merinci insiden tertentu atau tanggal rilis yang terkait dengan klaim tersebut. Pernyataan ini menambah kumpulan komentar industri yang terus bertambah tentang bagaimana AI agent otonom harus diamankan dan dipantau saat mereka mengambil lebih banyak tugas di jaringan konsumen dan perusahaan.