La compañía reforzó sus medidas de seguridad y restringió el acceso a redes, herramientas y sistemas mientras evalúa los riesgos asociados con las nuevas capacidades de su próximo modelo de inteligencia artificial.
EU.- La empresa estadounidense OpenAI informó que decidió pausar parte del desarrollo interno de su próximo modelo de inteligencia artificial, denominado Astra, después de que evaluaciones recientes detectaran avances importantes en codificación agéntica y ciberseguridad.
De acuerdo con la información proporcionada por la compañía, las capacidades observadas podrían acercarse al nivel que su Marco de Preparación considera como un umbral “crítico” en materia de ciberseguridad. Este nivel contempla, entre otros escenarios, que un modelo sea capaz de identificar y desarrollar de manera autónoma exploits funcionales de día cero contra sistemas críticos reales o ejecutar estrategias novedosas de ataque de extremo a extremo contra objetivos reforzados.
La decisión refleja la creciente preocupación de la industria tecnológica por el ritmo con el que los modelos de IA están adquiriendo capacidades para realizar tareas complejas de manera autónoma.
OpenAI aclaró que Astra todavía es un modelo en desarrollo y que no estuvo relacionado con el reciente incidente de seguridad que afectó a Hugging Face. La compañía señaló además que, conforme aumentan las capacidades de sus sistemas, también está reforzando los mecanismos destinados a evitar usos indebidos.
Refuerzan controles de seguridad
Como parte de la respuesta, OpenAI implementó entornos de prueba aislados, restricciones de acceso a redes y herramientas, así como mayores medidas de protección para los pesos de los modelos mediante cifrado.
También fueron incorporados sistemas adicionales de monitoreo y detección de comportamientos riesgosos, además de mecanismos para ejecutar los modelos en ambientes aislados y limitar su interacción con recursos externos.
La empresa indicó que las actividades internas relacionadas con Astra que todavía no cumplen con los nuevos requisitos de seguridad fueron suspendidas.
Asimismo, se estableció un sistema de monitoreo universal de acciones de riesgo y posibles comportamientos desalineados en las aplicaciones que utilizan agentes de inteligencia artificial.
La ciberseguridad, una nueva frontera para la IA
El anuncio se produce en un momento en que OpenAI reconoce avances acelerados de sus modelos en tareas de ciberseguridad. La compañía ha señalado que sus sistemas más recientes son capaces de ayudar a identificar vulnerabilidades, analizar código, validar problemas de seguridad y desarrollar correcciones.
En junio, OpenAI presentó GPT-5.6 Sol, al que describió como su modelo más avanzado hasta ese momento para tareas de ciberseguridad. Sin embargo, la empresa precisó que dicho modelo no superaba el umbral crítico establecido por su Marco de Preparación, aunque sus capacidades habían aumentado considerablemente.
La compañía también ha impulsado herramientas como Codex Security, orientadas a que los desarrolladores y equipos de seguridad puedan localizar vulnerabilidades y generar parches con supervisión humana.
El caso de Astra pone de manifiesto uno de los principales desafíos para el desarrollo de sistemas de IA cada vez más autónomos: mantener el ritmo de innovación sin permitir que capacidades diseñadas para la defensa informática puedan convertirse en herramientas para ataques reales.
Por ello, OpenAI ha optado por fortalecer los controles antes de continuar con determinadas actividades internas de Astra, mientras evalúa si las nuevas capacidades pueden desplegarse bajo condiciones que reduzcan los riesgos de seguridad.
