Chile avanza a paso firme en la adopción de Inteligencia Artificial (IA) para automatizar procesos. En muchos de los casos, esta se utiliza dentro del mercado e investigaciones para simular la opinión pública y respaldar decisiones. Sin embargo, esta inclusión tecnológica enfrenta una advertencia ante posibles impactos en el país.
Una investigación encabezada por Andrés Abeliuk, Vanessa Gaete y Naim Bro (UAI), y publicada en la revista EPJ Data Science, demostró que los modelos predictivos no comprenden la realidad chilena. Entrenados con datos del “Norte Global”, estos algoritmos importan sesgos que discriminan directamente a las mujeres, los adultos mayores, las personas religiosas y los sectores de menor nivel educativo.
El informe, titulado “Auditando la equidad sociodemográfica y transcultural en la opinión pública simulada por grandes modelos de lenguaje”, evidencia que los descalibres algorítmicos no son universales, sino que dependen de cada entorno sociocultural.
Por ejemplo, mientras en Estados Unidos los errores de la IA se vinculan a la raza o la postura política, en Chile el sistema falla sistemáticamente al predecir a una mujer adulta mayor o de menor escolaridad, imponiendo visiones ajenas a su entorno cotidiano.
Sobre el impacto de estos hallazgos, el gerente de CENIA, Rodrigo Durán, destaca la solidez del diagnóstico:
"El reciente trabajo de Andrés Abeliuk, junto con Naim Bro y Vanessa Gaete, muestra de nuevo, con evidencia súper robusta, que los modelos de lenguaje del norte global tienen sesgo a partir de los datos con los que se entrenan. Acá lo que estamos viendo es que los modelos tienden a representar mucho mejor la opinión pública de Estados Unidos frente a la del sur global, particularmente Chile, y que además los sesgos que se reproducen son distintos".
¿Cómo afectan estos resultados a un país en pleno proceso de automatización?
A medida que empresas, investigadores y organismos recurren a la IA para reemplazar o complementar encuestas, sondear tendencias y diseñar políticas públicas, las decisiones corren el peligro de basarse en evidencia distorsionada que borra las demandas de los sectores más vulnerables.
Con este escenario, Durán plantea la urgencia de construir alternativas con perspectiva regional:
"Es super importante entender que disponibilizar datos para mejorar la calidad de las entregas de estos modelos es fundamental para que la inteligencia artificial esté al servicio de las personas en el sur global, particularmente en América Latina y el Caribe".
Frente a este diagnóstico, el ejecutivo remarca que la clave para superar estas brechas radica en avanzar hacia una mayor soberanía tecnológica a través de datos representativos de la realidad local y regional.
"Por eso nosotros emprendemos este trabajo desde CENIA, de disponibilizar datos a través del corpus LatamGPT, de desarrollar modelos soberanos como LatamGPT y también de sensibilizar a propósito de la importancia que tiene la disponibilidad de datos para lograr un mejor rendimiento de los modelos de lenguaje".
Si el Estado y el sector privado integran estas herramientas sin auditorías locales rigurosas, la automatización terminará por institucionalizar la inequidad de forma invisible. La IA sólo será un motor de progreso real para Chile si los sistemas son capaces de comprender la diversidad sociocultural del país y ofrecer respuestas equitativas para toda la sociedad.
Ver Video
