Click acá para ir directamente al contenido

Exdirectora de OpenAI alerta sobre IA que se automejora

Helen Toner reveló que OpenAI y Anthropic ya usan inteligencia artificial para acelerar el desarrollo de nuevos modelos y advirtió fallas en su control.

TVN.cl

Martes 17 de noviembre de 2026

Helen Toner, exmiembro del directorio de OpenAI y actual directora del Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown, advirtió que tanto OpenAI como Anthropic ya emplean inteligencia artificial en cada vez más etapas de creación de sus propios sistemas para acelerar su trabajo técnico.

Esta práctica se vincula con la automejora recursiva, un concepto formulado en los años sesenta por I. J. Good que plantea que una máquina ultrainteligente puede diseñar otra superior. Aunque las empresas aún no piden a un modelo de IA que se reprograme por completo, sí integran estas herramientas en su investigación y desarrollo diario.

Durante su participación en el podcast Decoder de The Verge, Toner alertó que el desafío de la alineación, lograr que los sistemas obedezcan realmente las intenciones del usuario, sigue lejos de resolverse, un escenario que calificó como “no genial, por decirlo suavemente” ante el avance hacia lo que Demis Hassabis llamó las estribaciones de la singularidad.

Por otro lado, la especialista descartó que los avances actuales provoquen una ola inmediata de ataques con armas biológicas, señalando que el acceso restringido a materiales físicos sigue siendo una barrera clave. Además, afirmó que el concepto de inteligencia artificial general (AGI) perdió sentido, pues hoy ya existen modelos que hacen múltiples tareas mejor que un humano, aunque todavía fallan en aspectos básicos.

Al recordar su voto en 2023 para destituir a Sam Altman, Toner reafirmó su postura y cuestionó que la seguridad de la IA dependa de la buena voluntad de un solo líder empresarial:

“Si nuestras esperanzas para el futuro dependen de que una sola persona sea confiable, estamos bastante mal”.

Finalmente, la directora del CSET destacó que los asesores del Congreso estadounidense poseen mayor conocimiento técnico del que suele reconocerse y subrayó que los millonarios esfuerzos de las empresas tecnológicas para frenar a candidatos partidarios de la regulación de la IA en las recientes elecciones legislativas no lograron los resultados esperados.