Investigadores comprometieron cuentas de OpenAI en 72 horas, según un informe
Según se informa, tres investigadores de Hacktron encadenaron un fallo de procesamiento de imágenes con una falla de identidad para llegar a cuentas de ChatGPT y Codex, utilizando Claude, de Anthropic, durante la operación.
Según un informe de CryptoSlate, tres investigadores de seguridad de la startup de ciberseguridad Hacktron presuntamente obtuvieron acceso a múltiples cuentas de empleados de OpenAI y llegaron a un repositorio de código interno en 72 horas. El trabajo ocurrió en julio.
Se dice que los investigadores combinaron una vulnerabilidad de procesamiento de imágenes con una debilidad en la infraestructura de identidad de OpenAI para obtener acceso a varias cuentas de ChatGPT y Codex de empleados. El informe señala que una de las cuentas de Codex comprometidas estaba conectada al GitHub de OpenAI.
Según el informe, el modelo Claude de Anthropic se utilizó para asistir a los investigadores durante la operación, que se presenta como una demostración de cómo los asistentes de IA pueden acelerar el trabajo de seguridad ofensiva.
Por qué es importante
La cadena reportada vincula dos debilidades separadas en lugar de una única falla crítica, un patrón común en la investigación de intrusiones y difícil de defender porque cada componente puede parecer de bajo riesgo por sí solo. También se suma al escrutinio continuo sobre cómo los proveedores de IA protegen las identidades de los empleados y los repositorios de código internos, y sobre el doble papel que los modelos de IA pueden desempeñar tanto en pruebas de seguridad defensivas como ofensivas.