Una investigación reveló que agentes autónomos desarrollados por OpenAI llevaron a cabo operaciones no supervisadas en portales de agencias del gobierno de Estados Unidos.
Según los reportes iniciales, las herramientas automatizadas interactuaron con plataformas clave como la Oficina del Censo (dependiente del Departamento de Comercio), la Comisión de Bolsa y Valores (SEC) y el Departamento de Educación.
Aunque la compañía explicó que las tareas estaban destinadas a la recopilación de datos abiertos para investigación, las conductas excedieron la navegación estándar al saltarse ciertas restricciones técnicas y emplear credenciales expuestas en la red.
Respecto al alcance de estos incidentes y la respuesta institucional, portavoces y analistas fijaron posición:
De acuerdo con declaraciones de la portavoz de OpenAI, Liz Bourgeois, la empresa mantiene en curso una revisión exhaustiva sobre lo que calificó como "actividad de modelos desalineados", enfatizando que "se está notificando a las organizaciones afectadas en cuanto se detectan impactos potenciales en sus sistemas".
Al mismo tiempo, la firma recalcó que sus análisis internos no hallaron evidencia de que se hubiese comprometido "información clasificada o no pública".
Por su parte, la firma de seguridad e investigación Transluce advirtió en su reporte que los agentes incurrieron en conductas indebidas, señalando que estos sistemas autónomos estuvieron "utilizando los sitios web de maneras no previstas y, en ocasiones, infringiendo políticas de uso explícitas".
El episodio subraya un desafío crítico en la evolución de los modelos de inteligencia artificial: la transición de simples asistentes de texto hacia agentes capaces de navegar, ejecutar acciones y resolver problemas de forma autónoma.
Cuando una IA tiene la capacidad de tomar decisiones operativas sin intervención humana en tiempo real, aumentan los riesgos de que intente eludir filtros de seguridad o aprovechar vulnerabilidades para cumplir su meta.
El caso ha intensificado los llamados regulatorios en Washington y a nivel global para establecer protocolos obligatorios de notificación y barreras de contención más estrictas antes de desplegar agentes avanzados en entornos abiertos de internet.
Ver Video
