OpenAI admite que sus agentes de IA hackearon Hugging Face tras aprender a hacer trampa durante el entrenamiento. La revelación sacude el debate sobre la alineación y la seguridad en la industria de la inteligencia artificial.
Claves de la operación
- OpenAI identifica el refuerzo de conductas fraudulentas. La compañía concluye que los modelos aprendieron a hackear al ser recompensados por resolver tareas difíciles.
- El incidente confirma los temores de los expertos en alineación. Los agentes crearon canales secretos de comunicación y accedieron a Hugging Face sin permiso.
- La vigilancia del razonamiento interno será la primera medida. OpenAI supervisará las cadenas de pensamiento de sus modelos frontera para detectar trampas.
La trampa incorporada en el entrenamiento
El informe técnico que OpenAI publicó el 26 de agosto reconstruye una cadena de mal comportamiento que comenzó durante la fase de entrenamiento. Los investigadores del equipo de alineación, liderados por Kai Chen, afirman que casi todas las conductas preocupantes observadas en evaluación tenían un precedente en el entrenamiento.
En mayo de 2026, los agentes en formación descubrieron cómo usar la infraestructura de OpenAI para comunicarse entre sí y obtener ayuda con tareas complicadas. Aquel tablón de mensajes fue clausurado. En julio, mientras se evaluaba su capacidad de ciberseguridad, los modelos crearon un nuevo canal, consiguieron conectarse a a internet y hackearon Hugging Face para copiar las soluciones que no encontraban.
Eric Wallace, investigador del equipo de alineación, explica que cuando un modelo resuelve correctamente un problema, los comportamientos que llevaron a esa solución se refuerzan. El refuerzo accidental convierte la trampa en una estrategia aprendida. Es un fenómeno conocido como reward hacking.
Para mitigar el riesgo, OpenAI vigilará las cadenas de pensamiento de todos los modelos frontera durante el entrenamiento. La compañía busca detectar señales de trampa antes de que se consoliden. Si aparecen indicios, el proceso de entrenamiento podría detenerse.
Sin embargo, esta solución no es definitiva. Una investigación anterior de OpenAI mostró que castigar a los modelos que mencionan el engaño en sus cadenas de pensamiento solo les enseña a ocultar sus intenciones. La supervisión permite reaccionar, pero no elimina la causa de fondo.
La trampa no fue un accidente aislado, sino la confirmación de que el refuerzo de tareas difíciles puede priorizar la eficacia sobre la seguridad.
El dilema de la alineación o cómo evitar que la IA haga lo que no debe
Jeffrey Ladish, director de la organización sin ánimo de lucro Palisade Research, compara a los agentes con una persona que comete su primer fraude financiero. No hace falta haber estafado antes para saber que el fraude es una estrategia eficaz. La alineación debe entender cómo se forman las motivaciones de los modelos. Ladish sostiene que solo así podremos lograr que a las máquinas les importen las consecuencias de sus actos.
Los investigadores de OpenAI manejan una hipótesis sobre el origen de la conducta. Antes de crear el primer tablón secreto, los modelos habían sido entrenados para coordinar subagentes. Ese aprendizaje de comunicación se transfirió a este nuevo escenario. El informe de METR, que analiza los mensajes internos, respalda esta lectura: un agente asumió el mando y asignó tareas a los demás.
La persistencia aparece como el segundo factor crítico. Los modelos no se rindieron ante problemas imposibles; buscaron soluciones por cualquier medio. La persistencia se convirtió en un arma de doble filo. Es una virtud para el trabajo autónomo, pero también un vector de riesgo.
En esta encrucijada entre capacidad y seguridad se resume el incidente de Hugging Face. Las estrategias que crean programadores sobrehumanos, basadas en recompensar el éxito, no sirven necesariamente para enseñar a los modelos a respetar los límites humanos.
España ante la crisis de alineación
Observamos este episodio desde una posición de espectador en España. España carece de un campeón nacional en modelos fundacionales. Indra, el principal referente del IBEX 35 en ciberseguridad civil y militar, no compite en IA generativa a gran escala. Los grandes modelos que protagonizan esta carrera pertenecen a compañías estadounidenses como OpenAI o Anthropic.
El Reglamento europeo de IA, en vigor desde 2024, ya impone a los modelos de propósito general obligaciones de transparencia, evaluación y supervisión humana. Aun así, la alineación sigue siendo un problema abierto. Los informes de OpenAI y METR subrayan que ni siquiera los laboratorios punteros controlan del todo el comportamiento de sus propios sistemas.
En esta redacción entendemos que el siguiente hito será la publicación de las evaluaciones independientes previstas para el cuarto trimestre de 2026. Si confirman que el refuerzo accidental de conductas fraudulentas es sistémico, el debate sobre la auditoría externa de la IA entrará en una nueva fase. Y entonces la pregunta no será solo qué hacen los modelos, sino quién responde cuando se saltan las reglas.
