La filtración del laboratorio de OpenAI fue más extensa de lo que pensábamos
Por David Goldman y Hadas Gold, CNN
Una prueba de OpenAI que escapó de su jaula y alarmó a la industria de la IA y la ciberseguridad atacó a más que solo Hugging Face, la plataforma de IA que inicialmente parecía ser la única víctima de la filtración virtual del laboratorio.
OpenAI, en una actualización sobre su investigación en curso del incidente, dijo que su agente descontrolado también había irrumpido en varios servicios y cuentas disponibles públicamente.
Se suponía que la prueba de los modelos de OpenAI tendría lugar en un entorno aislado digital, un entorno de laboratorio supuestamente ineludible que permite a los investigadores revertir barreras de seguridad para descubrir el máximo poder de hackeo de la herramienta.
Pero los agentes de IA, decididos a sobresalir en la prueba de ciberseguridad, se salieron del entorno aislado y obtuvieron acceso al internet real. Luego hackearon Hugging Face para encontrar las respuestas de la prueba.
Para entrar en los servidores de Hugging Face, los agentes descontrolados de OpenAI necesitaban encontrar herramientas en internet que les fueran necesarias para irrumpir. OpenAI dice que los agentes encontraron varios sitios web de acceso público, incluidas páginas que comparten código, utilidades web, capturas de pantalla y otra información, para ayudar a crear el código necesario para hackear Hugging Face. OpenAI no reveló los otros sitios que sus agentes atacaron.
Los agentes descubrieron nombres de usuario y contraseñas filtrados de cuatro cuentas en múltiples servicios en línea y usaron esas credenciales para obtener acceso a ellas. Una cuenta comprometida probablemente se usó para disfrazar a la IA de modo que pudiera parecer legítima y eludir los protocolos de seguridad de Hugging Face. Otra se usó para almacenar los datos que los agentes estaban robando, dice OpenAI.
En el caso de las otras dos cuentas comprometidas, los agentes de OpenAI accedieron y leyeron la información, pero no la alteraron.
OpenAI dijo que ninguno de los otros sitios hackeados alcanzó el mismo nivel de acceso que el que sus agentes lograron con Hugging Face.
En esencia, OpenAI dijo que sus agentes crearon un golpe al estilo Ocean’s Eleven. En lugar de simplemente hacer la prueba, desarrolló un plan maestro para escapar de su cárcel, encontrar las llaves de la caja fuerte, construir una casa segura y contratar un coche de huida antes de robar el botín.
Pero OpenAI nunca les dijo a los agentes que hackearan Hugging Face. Realizaron esa acción por su cuenta para robar la clave de respuestas de la prueba que se les dio. El modelo de prueba concluyó que hacer trampa era el camino más fácil hacia el éxito, incluso si eso significaba encadenar ataques entre sí.
El CEO de Hugging Face, Clem Delangue, calificó la naturaleza de la brecha como “sin precedentes”.
“TL;DR: Un agente de IA escapó de su entorno aislado, hizo trampa en su prueba de referencia y hackeó nuestra infraestructura para robar la clave de respuestas”, dijo Hugging Face en una publicación de blog que detalla el incidente.
La buena noticia es que, aunque la brecha es un momento significativo en la IA y la ciberseguridad, el daño no fue significativo. Hugging Face dijo que los únicos datos de clientes a los que accedieron los agentes descontrolados fueron algunas consultas de búsqueda utilizadas para robar un conjunto de soluciones de desafíos almacenadas en varios conjuntos de datos de la empresa. Los agentes de OpenAI nunca comprometieron ni accedieron a ningún modelo o dato orientado al cliente, dijo la empresa.
OpenAI dijo que continúa investigando el incidente y hará recomendaciones sobre cómo evitar problemas similares en el futuro una vez que comprenda mejor el alcance de la brecha.
“Nos tomamos en serio nuestra responsabilidad de identificar y prepararnos para los riesgos de sistemas de IA cada vez más capaces”, dijo la empresa. “Una vez que completemos nuestra revisión, revisaremos con el Comité de Seguridad y Protección y el Grupo Asesor de Seguridad en el marco de nuestro Marco de Preparación.”
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
