Anthropic เตือน 'AI worms' ที่จำลองตัวเองได้อาจมุ่งเป้าไปยังอุปกรณ์ที่เชื่อมต่อในไม่ช้า

Anthropic ได้เตือนว่า "AI worms" ที่หลุดการควบคุมอาจเหลือเวลาเพียงไม่กี่เดือนก่อนที่จะมีความสามารถในการจำลองตัวเองและแพร่กระจายได้เองไปยังอุปกรณ์ที่เชื่อมต่ออินเทอร์เน็ต ซึ่งรวมถึงเครื่องใช้ในบ้านและเป้าหมายทั่วไปอื่น ๆ

สิ่งที่คำเตือนครอบคลุม

ความกังวลของบริษัทมุ่งไปที่ malware ประเภทหนึ่งที่เคลื่อนย้ายระหว่างอุปกรณ์โดยไม่ต้องมีผู้โจมตีคอยสั่งการแต่ละขั้นตอนของการติดเชื้อ ซึ่งเป็นพฤติกรรมที่ทำให้ worm แตกต่างจาก malware ประเภทอื่น ในสถานการณ์ที่ Anthropic อธิบาย เครื่องใช้ที่ถูกบุกรุกและฮาร์ดแวร์อื่น ๆ ที่เชื่อมต่อเครือข่ายอาจทำหน้าที่เป็นโฮสต์ มากกว่าจะเป็นเหยื่อแบบแยกส่วนเพียงครั้งเดียว

คำเตือนนี้อธิบายถึงความสามารถในอนาคตที่เป็นไปได้ มากกว่าจะเป็นการโจมตีที่ได้รับการบันทึกในโลกจริง — เป็นการประเมินว่าเทคโนโลยีอาจเข้าใกล้เกณฑ์นั้นแค่ไหน ไม่ใช่การยืนยันว่า AI worms ดังกล่าวมีอยู่แล้ว

ระบบ AI ที่สามารถเขียนและรันโค้ด เรียกดูเว็บ และควบคุมเครื่องมือที่เชื่อมต่อได้ ได้ขยายสิ่งที่ซอฟต์แวร์อัตโนมัติทำได้โดยไม่ต้องมีมนุษย์อยู่ในวงจร นักวิจัยด้านความปลอดภัยได้โต้แย้งกันอย่างกว้างขวางว่าความสามารถเดียวกันที่ทำให้เครื่องมือแบบ agentic มีประโยชน์ยังช่วยลดความพยายามที่ต้องใช้ในการสร้างและขยายการโจมตีอัตโนมัติ ซึ่งเป็นฉากหลังของคำเตือนจาก Anthropic

Anthropic ไม่ได้ให้รายละเอียดเหตุการณ์เฉพาะหรือวันที่เปิดตัวที่เชื่อมโยงกับข้อกล่าวอ้างนี้ คำกล่าวนี้เสริมกระแสความเห็นจากอุตสาหกรรมที่เพิ่มขึ้นเกี่ยวกับวิธีรักษาความปลอดภัยและติดตาม AI agents อัตโนมัติเมื่อพวกมันรับงานมากขึ้นในเครือข่ายผู้บริโภคและองค์กร