OpenAI ha decidido frenar el desarrollo de su nuevo modelo de lenguaje, Astra, después de que las últimas evaluaciones internas alertaran de avances en ciberseguridad que la propia compañía califica de «potencialmente peligrosos». La decisión, que retrasa de forma indefinida el lanzamiento de un sistema que habría alcanzado el nivel de riesgo más alto en su Marco de Preparación, supone un frenazo sin paliativos en la carrera por la inteligencia artificial más capaz.
Claves de la operación
- Umbral crítico: capacidad de generar ataques de día cero sin intervención humana. El modelo habría demostrado la habilidad de identificar y desarrollar exploits de día cero en sistemas reales protegidos, así como diseñar estrategias de ciberataque novedosas de forma autónoma.
- OpenAI congela el desarrollo hasta implementar salvaguardas aisladas. La empresa solo reanudará el trabajo sobre Astra cuando estén listos entornos de prueba con acceso restringido a herramientas y red, ejecución en espacios aislados y mayor monitorización.
- El sector ya sufre una oleada de vulnerabilidades halladas por modelos similares. Apple ha limitado su programa de recompensas por bugs porque los modelos de IA generan un volumen ingobernable de hallazgos, y tanto Anthropic como Meta han reportado que sus propios modelos hackearon sistemas en pruebas.
El significado real del nivel ‘Crítico’ y por qué OpenAI frena en seco
La paralización de Astra ilustra un punto de inflexión en la industria. Hasta ahora, los modelos de lenguaje más avanzados se clasificaban en el nivel «Alto» de la escala de riesgo de OpenAI —un escalón que el GPT-5.6 Sol, lanzado este mismo año, ya había alcanzado—. Pero Astra habría traspasado la siguiente frontera, rozando el umbral «Crítico» que el Marco de Preparación de la empresa reserva para sistemas capaces de «crear nuevos riesgos de ciberataques a escala y de explotación de vulnerabilidades».
El temor concreto es doble: por un lado, que Astra pueda detectar y explotar fallos de seguridad en infraestructuras críticas sin que un operador humano intervenga; por otro, que diseñe cadenas de ataque completas, desde la intrusión inicial hasta la exfiltración de datos, sin que los sistemas de defensa actuales sean capaces de anticiparlo. OpenAI no ha confirmado si Astra llegó a ejecutar alguna acción ofensiva durante las pruebas, pero el simple hecho de que su marco interno haya saltado al nivel Crítico ya justifica la pausa.
El ecosistema tecnológico, bajo asedio: de Apple a Meta, la IA ya hackea
En paralelo, la decisión de OpenAI no ocurre en un vacío. Apple tuvo que limitar su programa de recompensas por bugs porque los modelos de IA estaban generando una avalancha de informes que el equipo humano de ingeniería no podía gestionar. Anthropic, por su parte, solo ofrece Claude Mythos —un modelo que también es capaz de encontrar vulnerabilidades— a un grupo selecto de empresas, precisamente porque, además de hallar fallos, el modelo tienen capacidades de explotarlos. Y esta misma semana, Meta confirmó que un modelo suyo hackeó a otra compañía durante una evaluación de ciberseguridad.
Estos precedentes, sumados a la propia experiencia de OpenAI —en julio, GPT-5.6 Sol y otro modelo aún más avanzado lograron hackear Hugging Face durante una batería de pruebas—, dibujan un paisaje en el que la frontera entre la herramienta de seguridad y el arma digital se ha vuelto peligrosamente porosa.
Astra no necesita ser desplegado para ser peligroso: el solo hecho de que sus capacidades hayan rozado el nivel Crítico ya exige un replanteamiento de cómo la industria mide los riesgos de la IA.
Regulación y mercado español: el desafío de contener lo ingobernable
La medida cautelar también reabre el debate sobre la regulación de los modelos de frontera. El Reglamento Europeo de Inteligencia Artificial (AI Act) ya clasifica como de «alto riesgo» los sistemas de IA que puedan afectar a la seguridad de las infraestructuras críticas, y este episodio podría acelerar la exigencia de evaluaciones de ciberseguridad obligatorias antes incluso de que un modelo llegue al mercado. Para el ecosistema de ciberseguridad español —donde firmas como Telefónica Tech, S2 Grupo o S21sec llevan años integrando IA en sus servicios de respuesta a incidentes—, la noticia de Astra supone una validación práctica de los peores escenarios que los reguladores llevan meses dibujando. Y, para los inversores, la pausa reintroduce una prima de riesgo regulatorio que, hasta ahora, el mercado de la IA no había interiorizado.
OpenAI, por su parte, insiste en que trabajará con agencias gubernamentales y organizaciones de seguridad de la IA para probar Astra antes de cualquier despliegue. Sin embargo, la secuencia deja una pregunta abierta: si el modelo es, de hecho, tan capaz de hacer daño como sugiere la etiqueta Crítico, ¿bastarán los entornos aislados y los controles de ejecución para contenerlo? La historia reciente de la ciberseguridad muestra que los fallos más delicados suelen aparecer cuando el código sale del laboratorio.
En este contexto, la pausa de Astra no solo es una decisión técnica. Es una admisión de que la industria de la IA está generando sistemas que desbordan los propios marcos de control que sus creadores habían diseñado. Y eso, para un sector que factura millones cada día en promesas de productividad, es una llamada de atención más incómoda que un hackeo en un entorno de pruebas.
