La académica de la Facultad de Ciencias Físicas y Matemáticas (FCFM) de la Universidad de Chile, Francielle Vargas, lideró el desarrollo de un nuevo sistema de inteligencia artificial diseñado para combatir el discurso de odio. El proyecto fue presentado en el prestigioso congreso internacional ACL 2026 sobre Procesamiento del Lenguaje Natural, marcando un hito para la ciencia local.
La propuesta técnica recibe el nombre de Supervised Moral Rationale Attention (SMRA), el cual funciona como un modelo intrínsecamente capaz de autoexplicarse. Esta herramienta no solo clasifica publicaciones potencialmente peligrosas en entornos digitales, sino que expone en tiempo real las razones que justifican cada una de sus decisiones de moderación.
A diferencia de los detectores tradicionales que suelen basarse únicamente en palabras clave aisladas, el modelo SMRA recurre a fundamentos morales para guiar su análisis. Esto le permite enfocarse en fragmentos de texto asociados al daño o la degradación social, aumentando la precisión y reduciendo de manera sustancial los sesgos algorítmicos.
Según información publicada por el sitio web de la Universidad de Chile:
"Presentar este trabajo en ACL representa una oportunidad para visibilizar la investigación que desarrollamos en la Universidad de Chile, fortalecer la colaboración con la comunidad científica internacional y contribuir al desarrollo de modelos de lenguaje más interpretables, seguros y alineados con los valores humanos", destacó Francielle Vargas.
Este avance busca convertir la moderación automatizada de contenido en un proceso mucho más justo, ético y auditable antes de que sea implementado a gran escala por las grandes plataformas. Con este tipo de frameworks, la investigación pretende establecer salvaguardas sólidas frente al crecimiento exponencial de las redes sociales.
La destacada participación de la académica incluyó además su rol como coordinadora en la sesión sobre seguridad en grandes modelos de lenguaje dentro del evento mundial.
Ver Video
