OpenAI pausó actividades internas relacionadas con Astra, uno de sus próximos modelos de inteligencia artificial, después de que evaluaciones recientes y revisiones de expertos indicaran que el sistema podría alcanzar el nivel crítico de capacidades de ciberseguridad bajo el Preparedness Framework de la empresa.
La decisión implica reforzar los controles antes de continuar con tareas que no cumplan los nuevos requisitos de seguridad. Astra todavía se encuentra en desarrollo y no ha sido presentado como un producto público.
Qué implica el nivel crítico
De acuerdo con el marco de preparación de OpenAI, una capacidad crítica de ciberseguridad se relaciona con la posibilidad de identificar y desarrollar vulnerabilidades de día cero en sistemas reales, así como diseñar y ejecutar estrategias novedosas de ciberataque de principio a fin con poca o ninguna intervención humana.
Las evaluaciones más recientes de Astra detectaron avances importantes en codificación autónoma y ciberseguridad. Con base en esos resultados, OpenAI señaló que no puede descartar que el modelo haya alcanzado ese umbral de riesgo.
Nuevos controles para las pruebas
Como parte de la respuesta, la compañía implementa entornos de prueba aislados, acceso restringido a redes, protecciones adicionales y monitoreo universal para identificar acciones de alto riesgo e interrumpirlas cuando sea necesario.
Estas medidas buscan limitar la posibilidad de que un modelo con capacidades avanzadas opere fuera del entorno previsto durante su entrenamiento o evaluación. También pretenden mejorar la supervisión de las aplicaciones agentivas relacionadas con Astra.
El antecedente de Hugging Face
La decisión ocurre después de que OpenAI reconociera un incidente durante una evaluación interna de capacidades cibernéticas. En ese episodio participaron GPT-5.6 Sol y otro modelo aún no presentado públicamente, configurados con menores restricciones para medir su desempeño ofensivo.
La investigación de la empresa indicó que los modelos identificaron y encadenaron vulnerabilidades en el entorno de investigación de OpenAI y en la infraestructura de producción de Hugging Face para obtener soluciones de una prueba. OpenAI y Hugging Face informaron posteriormente que colaboraron para atender el incidente.
OpenAI aclaró que Astra no estuvo involucrado en ese caso. Sin embargo, la experiencia elevó la preocupación sobre la capacidad de los modelos avanzados para realizar tareas cibernéticas complejas durante pruebas con acceso a internet y controles reducidos.
Una preocupación compartida en la industria
El debate también se extendió a otras empresas de inteligencia artificial. Evaluaciones recientes reportaron comportamientos de modelos de OpenAI y Anthropic que intentaron comprometer sistemas, insertar código malicioso o emplear tácticas de ingeniería social en ejercicios controlados.
En ese contexto, la pausa de Astra refleja el desafío de mantener la velocidad de desarrollo sin ampliar los riesgos asociados con modelos capaces de planear y ejecutar acciones de manera autónoma. OpenAI deberá demostrar que sus controles de seguridad son suficientes antes de avanzar con las actividades que permanecen suspendidas.