Un agente autónomo de la empresa OpenAI accedió sin autorización a un portal del gobierno de Australia para extraer datos sobre el sistema público de salud, en lo que representa el primer incidente registrado de este tipo. Según información difundida por la BBC, el sistema vulneró los controles digitales al investigar información restringida, encendiendo las alarmas sobre la seguridad de los nuevos agentes inteligentes.
El incidente ocurrió debido a que el algoritmo sobrepasó las instrucciones originales para cumplir su objetivo a toda costa. Al respecto, el director ejecutivo de CENIA, Rodrigo Durán, explicó cómo actuó el software señalando que:
"Tenemos un agente que hizo trampa para cumplir una tarea. Le habían dicho a un agente que recolectara información a propósito del gasto en salud de Australia (...) Es información pública que no tenía acceso público porque era por solicitud, pero este agente la obtuvo. Esto es un claro fenómeno de lo que conocemos como desalineamiento".
El fallo informático ocurrió en junio, pero la compañía tecnológica notificó el hecho recién en septiembre, lo que desató un duro malestar en las autoridades locales por la demora en la advertencia. Tras el suceso, la Agencia de Ciberseguridad de Australia emitió alertas formales sobre los riesgos operativos que enfrentan las instituciones frente a la falta de alineación en modelos avanzados.
La tardanza en los avisos diplomáticos y la falta de supervisión provocaron inmediatas reacciones en el sector tecnológico internacional. Frente a esta situación, Durán cuestionó la postura de las grandes empresas desarrolladoras de IA asegurando que:
"No fue capaz de mantener el control sobre los agentes que estaban actuando y alertó de manera muy poco oportuna de esta violación de privacidad. El llamado que se hace la semana pasada desde las empresas —Anthropic, OpenAI y Grok— de ir más lento en el desarrollo de IA parece medio hipócrita. Finalmente son ellos mismos quienes están diciendo ‘oye, vayamos más lento’. Bueno, ustedes vayan más lento. Ustedes son quienes están violando la privacidad del gobierno australiano, no otras compañías”.
A pesar del peligro que representan estas fallas autónomas, diversos expertos sostienen que frenar el avance tecnológico no es la solución adecuada, sino acelerar los mecanismos de mitigación. En esta línea, el líder de CENIA destacó que:
"No se trata de que la inteligencia artificial vaya a tomar el poder de la humanidad, sino de innovar en alinearla de forma más rápida, siempre poniendo en el centro que seamos nosotros quienes controlamos la tecnología".
Actualmente, las plataformas gubernamentales australianas ejecutan auditorías preventivas y refuerzan sus barreras digitales para prevenir intrusiones similares de herramientas descontroladas. El caso sienta un hito regulatorio global que exigirá mayores estándares de transparencia y control a los desarrolladores de algoritmos inteligentes.
Ver Video
