Para la inteligencia artificial, los hombres siguen siendo líderes, científicos o referentes de la tecnología. Las mujeres, en cambio, aparecen vinculadas al hogar, la familia, el cuidado y las tareas de asistencia.
Pero estos resultados no son casuales. "La inteligencia artificial no es neutral: refleja las sociedades que la diseñan, los datos con los que se entrena y las decisiones políticas que orientan su uso", explica Bibiana Aido, directora regional de ONU Mujeres para América Latina y el Caribe, en entrevista con DW. Si esos datos contienen estereotipos, exclusiones o discriminación, agrega, la IA puede reproducirlos e incluso amplificarlos.
Las consecuencias van mucho más allá de un error técnico. "Si la IA reproduce desigualdades históricas, estereotipos de género, racismo, exclusión o violencia, no estamos ante un problema tecnológico aislado; estamos ante un desafío democrático, ético y de derechos humanos", señala Aido.
Según Paola Ricaurte Quijano, investigadora titular del Tecnológico de Monterrey y coordinadora de la Red Feminista de IA para América Latina y el Caribe, consultada por DW, los sesgos de la IA afectan de manera desproporcionada a personas trans, racializadas y con discapacidad, ampliando las desigualdades y los daños que generan estas tecnologías.
Además, no se trata de fallas puntuales. "Estos sesgos no son errores aislados que se arreglan con una actualización; son propiedades intrínsecas de modelos centralizados", remarca en diálogo con este medio Luciana Benotti, profesora de la Universidad Nacional de Córdoba y especialista en auditoría algorítmica.
El origen de los sesgos
¿Cómo se originan estos sesgos? La explicación empieza mucho antes de que la IA genere una respuesta. "Detrás de cada sistema hay decisiones humanas: qué datos se usan, qué se mide, qué se deja afuera, quién define el problema, quién programa la solución y quién supervisa sus impactos", añade la directora regional de ONU Mujeres.
Buena parte de esta tecnología se desarrolla en espacios donde las mujeres y otros grupos históricamente excluidos siguen subrepresentados, especialmente en los puestos técnicos y de liderazgo (ver gráfico arriba). "Los equipos homogéneos tienden a ver menos riesgos, anticipar menos impactos diferenciados y diseñar soluciones que responden a experiencias parciales", advierte Aido.
"Una industria muy masculinizada"
El desarrollo de la inteligencia artificial sigue estando en manos de una "industria muy masculinizada", subraya Ricaurte Quijano. "Por áreas, la brecha suele agrandarse. Por ejemplo, en ciberseguridad, solamente el 12 por ciento son mujeres o personas de minorías étnicas." (Ver gráfico abajo).
En ese sentido, considera que las "mujeres y comunidades históricamente excluidas" de los circuitos de innovación deben ser reconocidas como productoras de conocimiento.
"Cuando las mujeres no participan en el desarrollo de estas tecnologías, se toman decisiones sobre el futuro digital sin sus experiencias, necesidades y conocimientos", apunta Aido. "Y eso tiene consecuencias: los sistemas pueden invisibilizar realidades, reproducir estereotipos o generar daños que podrían haberse prevenido con equipos más diversos y procesos de evaluación más inclusivos".
A eso se suma otra cuestión. "El desarrollo de los sistemas de IA más avanzados está concentrado en un oligopolio de pocas grandes empresas tecnológicas que no solo controlan los modelos, sino también los mecanismos para medir qué tan buenos son estos", señala Benotti, directora de Inteligencia Artificial en la Fundación Vía Libre, especializada en la temática.
Según la académica, estos modelos no priorizan las "necesidades locales". Así, en América Latina y el Caribe "consumimos tecnologías diseñadas con metodologías que no entienden nuestros contextos complejos", afirma Benotti.
Esa falta de adaptación también se expresa en el idioma. Al traducir textos desde el inglés, indica Ricaurte Quijano, los sistemas tienden a reproducir estructuras propias de esa lengua y, con ello, a reforzar el predominio de los idiomas dominantes.
"Los sesgos de los sistemas de IA tienen que pensarse como daños, ya que vulneran los derechos de las personas", asegura la especialista.
Cómo cambiar el rumbo
Benotti advierte que estas tecnologías ya dejaron de ser herramientas de laboratorio y se están implementando en ámbitos sensibles, como la educación. En ese contexto, sostiene que es necesario desarrollar metodologías locales y auditorías algorítmicas independientes para evaluar el impacto de estos sistemas.
Aido, por su parte, plantea otro de los desafíos centrales. "Necesitamos que las mujeres participen en el diseño, desarrollo, regulación y evaluación de estas tecnologías. No puede haber decisiones sobre el futuro digital sin mujeres en la mesa".
Para América Latina, el reto es ocupar un lugar propio en la construcción de estas tecnologías. "No queremos una región que llegue tarde a la conversación global sobre IA", alerta.
Y agrega: "El futuro no se espera, se construye. Y si queremos un futuro digital justo, seguro e inclusivo, tenemos que construirlo con las mujeres y las niñas en el centro."
(cp)
Ver Video
