Peneliti membobol akun OpenAI dalam 72 jam, kata laporan
Tiga peneliti Hacktron dilaporkan menggabungkan bug pemrosesan gambar dengan celah identitas untuk menjangkau akun ChatGPT dan Codex, menggunakan Claude dari Anthropic selama upaya tersebut.
Menurut laporan CryptoSlate, tiga peneliti keamanan di startup keamanan siber Hacktron dilaporkan memperoleh akses ke beberapa akun karyawan OpenAI dan mencapai repositori kode internal dalam 72 jam. Pekerjaan itu berlangsung pada Juli.
Para peneliti dikatakan menggabungkan kerentanan pemrosesan gambar dengan kelemahan dalam infrastruktur identitas OpenAI untuk mendapatkan akses ke beberapa akun ChatGPT dan Codex milik karyawan. Laporan menyatakan salah satu akun Codex yang dikompromikan terhubung ke GitHub OpenAI.
Model Claude dari Anthropic digunakan untuk membantu para peneliti selama operasi tersebut, menurut laporan, yang menggambarkan peristiwa ini sebagai demonstrasi bagaimana asisten AI dapat mempercepat pekerjaan keamanan ofensif.
Mengapa ini penting
Rantai yang dilaporkan menghubungkan dua kelemahan terpisah alih-alih satu cacat kritis tunggal, pola yang umum dalam riset intrusi dan sulit dipertahankan karena setiap komponen mungkin tampak berisiko rendah jika berdiri sendiri. Ini juga menambah pengawasan yang sedang berlangsung terhadap bagaimana vendor AI mengamankan identitas karyawan dan repositori kode internal, serta peran ganda yang dapat dimainkan model AI dalam pengujian keamanan defensif maupun ofensif.