En un paso clave para la regulación interna y el fortalecimiento de la ciberseguridad en la inteligencia artificial, OpenAI anunció la pausa temporal de diversas actividades de desarrollo ligadas a Astra, uno de sus próximos modelos más avanzados. La decisión fue adoptada tras realizar evaluaciones internas y de expertos que arrojaron avances significativos en codificación agéntica y ciberdefensa.
Estos avances impiden descartar que el sistema haya alcanzado la categoría de "capacidades cibernéticas críticas". Según el Marco de Preparación (Preparedness Framework) creado por la firma en diciembre de 2023, dicho umbral se activa cuando un modelo es capaz de identificar y desarrollar vulnerabilidades de tipo "día cero" en sistemas reales o ejecutar ataques cibernéticos autónomos sin intervención humana.
Para garantizar un entorno seguro y prevenir riesgos imprevistos, la firma tecnológica comenzó a aplicar medidas de control más estrictas. Entre las exigencias destacan el uso de entornos de prueba aislados, restricciones de red, cifrado de pesos del modelo y la ejecución en contenedores de seguridad. Además, se suspendió todo trabajo interno con Astra que no cumpla exhaustivamente con este estándar.
La empresa también implementó un sistema de monitoreo universal que analiza la cadena de pensamiento (Chain of Thought) de la IA en tiempo real. Este mecanismo permite detectar acciones de alto riesgo o alineación indebida para interrumpir de inmediato cualquier proceso peligroso.
OpenAI remarcó que busca ser transparente frente a la ciudadanía y la comunidad técnica sobre este salto de capacidades. Como antecedente, la empresa aplicó un protocolo similar en junio de 2025 ante riesgos biológicos. Ahora, la firma coordinará evaluaciones externas con agencias gubernamentales y organismos de seguridad en IA para asegurar que estas herramientas fortalezcan a los defensores antes que a eventuales atacantes.
Ver Video
