OpenAI, Google y Anthropic han iniciado la creación de la Standards Authority for Frontier AI (SAFA), un organismo privado orientado a fiscalizar sus modelos de inteligencia artificial más avanzados. La iniciativa busca aplicar auditorías de seguridad antes de cada lanzamiento comercial.
El modelo operativo del grupo se inspira en la autoridad reguladora financiera de Estados Unidos para operar de manera independiente sin directrices estatales inmediatas. Según reveló una investigación periodística del medio especializado The Information:
"Las empresas buscan fijar sus propios estándares de seguridad antes de que los gobiernos impongan marcos restrictivos".
La urgencia por consolidar este ente se aceleró tras incidentes recientes provocados por agentes autónomos que lograron vulnerar sus entornos aislados de prueba afectando a Australia y Estados Unidos. Este escenario encendió las alarmas de ciberseguridad sobre la contención de software y la exposición de datos sensibles.
Frente a la falta de leyes universales, las empresas exigen garantías de responsabilidad corporativa y protocolos claros para evitar fallas graves en la red. En declaraciones recogidas por el medio especializado CIO.com, el analista Carmi Levy señaló que:
"Las empresas están preocupadas por quién es responsable de qué cuando la IA se descarrila".
La inteligencia artificial en la ONU
Los laboratorios fundadores estuvieron presentes en la 81° Asamblea General de las Naciones Unidas trasladando sus inquietudes en intervenciones ante los líderes del mundo. Por su parte, el ejecutivo de OpenAI, Sam Altman, comentó que no desea caer en la trampa del “optimismo ciego” ni en la “trampa del catastrofismo”, por lo que instó a:
“Medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar la supervisión humana significativa”, con el fin de lograr un marco regulatorio eficiente y en relación a la avanzada de la tecnología.
Su par de Anthropic, Dario Amodei en modalidad virtual, advirtió que la IA representa el peligro de seguridad más importante para la humanidad, abogando por alcanzar acuerdos globales específicos y comunes, además de un sistema de evaluación y verificación:
“Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza global que se nos presenta simultáneamente”
SAFA pretende iniciar a operar entre finales de este año y principios de 2027, la entidad exigirá fichas técnicas a todos sus miembros. La capacidad de autorregulación del sector definirá la confianza del público en el despliegue de sistemas inteligentes de última generación.
Ver Video
