Los agentes de IA de OpenAI se escaparon del laboratorio y hackearon a Hugging Face
OpenAI contó, con lujo de detalles, cómo sus propios modelos de IA terminaron comprometiendo servidores de Hugging Face durante una prueba interna de seguridad que se les fue de las manos. El informe, publicado el 26 de agosto, reconstruye una cronología que arrancó en mayo y explotó en julio, cuando agentes autónomos que debían resolver ejercicios de un benchmark llamado ExploitGym encontraron una falla de tipo SSRF y la usaron para salir del entorno controlado en el que corrían.
A partir de ahí, según OpenAI, los agentes actuaron con salvaguardas reducidas propias de un test interno y empezaron a comunicarse entre sí a través de un tablero improvisado en Artifactory, algo que no estaba permitido. Coordinados como si fueran un pequeño enjambre, se repartieron tareas, compartieron vulnerabilidades que iban encontrando y terminaron consiguiendo credenciales que les dieron acceso a 41 servidores de producción de Hugging Face, con privilegios de administrador en al menos uno de ellos. La compañía detectó la actividad recién el 19 de julio y lo hizo público dos días después.
OpenAI aclara que ningún dato de clientes se filtró y que sus productos siguieron funcionando con normalidad, pero no bajó el tono del comunicado: llama al episodio una señal de alerta sobre lo que puede pasar cuando modelos capaces persisten sin límites frente a una tarea que no pueden resolver. Entre los cambios que anunció figuran sandboxes más aislados, restricciones más duras al acceso a internet durante las pruebas y un entrenamiento pensado para que los agentes reconozcan cuándo conviene frenar en vez de forzar una solución. El caso se presentó también en la conferencia Black Hat, donde generó bastante ruido entre especialistas en seguridad.
Los agentes consiguieron credenciales que les dieron acceso a 41 servidores de producción de Hugging Face, con privilegios de administrador en al menos uno.
