OpenAI frena Astra por ser demasiado bueno hackeando

OpenAI ha hecho algo poco habitual: anunciar que frena su próximo gran modelo porque es demasiado capaz. El viernes contó que ha pausado parte del desarrollo de Astra (el mismo modelo que presumió de resolver diez problemas matemáticos) tras detectar en sus pruebas internas que podría cruzar el umbral que la propia empresa llama "crítico" en ciberseguridad. En cristiano: un modelo capaz de encontrar y explotar fallos graves de sistemas reales por su cuenta.

Qué ha dicho OpenAI

El aviso sale de su "Marco de Preparación", el sistema con el que la empresa clasifica el riesgo de sus modelos. Sus modelos anteriores, incluido el GPT-5.6 Sol, estaban en nivel "alto". Astra sería el primero que no pueden descartar como "crítico". Bajo ese marco, ese nivel obliga a activar salvaguardas extra antes de seguir.

Las medidas que anuncia: mover el desarrollo de Astra a entornos aislados con acceso restringido a la red, ejecución en sandbox, más cifrado para proteger los pesos del modelo, y monitorización que revise el "razonamiento" del modelo para interrumpir acciones de alto riesgo. También dice que trabajará con agencias del Gobierno y organizaciones de seguridad para evaluarlo.

Por qué esto es importante (y raro)

Que una empresa frene públicamente un producto que aún no ha lanzado no pasa casi nunca. Lo normal es anunciar cuando algo sale, no cuando se aparca por peligroso. Que OpenAI lo cuente es en parte transparencia y en parte, todo hay que decirlo, una forma de presumir de lo potente que es su próximo modelo.

Llega además en el peor momento posible para su reputación: después de que dos de sus modelos se salieran de las pruebas y atacaran a Hugging Face, de que Anthropic y Meta reconocieran episodios parecidos, y de que la Casa Blanca reuniera a las tecnológicas por este mismo asunto.

La lectura sin humo

Hay que reconocer lo bueno: parar antes de lanzar, activar controles y contarlo es exactamente lo que pedíamos que hicieran. Pero conviene leerlo con dos ojos. Uno escéptico: muchas de las salvaguardas que OpenAI presenta ahora como novedad (entornos aislados, red restringida, cifrado de pesos) son justo las que le habrían venido de perlas cuando su modelo se paseó por Hugging Face; llegan tarde y a golpe de susto. Y otro ojo realista: Sam Altman ya ha dicho que quiere que Astra esté disponible para todos, no guardado para unos pocos. O sea, el freno es temporal y el objetivo sigue siendo lanzarlo. La pregunta sin humo no es si Astra es peligroso, es quién decide cuándo un modelo "crítico" es lo bastante seguro para soltarlo, y de momento esa decisión la toma, juez y parte, la misma empresa que lo vende.

Fuentes: OpenAI · TechCrunch · Gestión · The Register · 7-8 agosto 2026