Cofundador de Anthropic advierte que la inteligencia artificial necesita “voces morales”

La inteligencia artificial fue uno de los temas centrales durante la presentación de Magnifica Humanitas, la primera encíclica del papa León XIV. En la actividad participó Christopher Olah, cofundador de la empresa Anthropic, quien abordó los desafíos éticos y sociales que acompañan el rápido avance de esta tecnología.

Durante su exposición, Olah sostuvo que las compañías que desarrollan inteligencia artificial operan bajo diversas presiones, que van desde la competencia comercial hasta factores políticos y geopolíticos. Según explicó, estos elementos pueden influir en las decisiones que toman las organizaciones tecnológicas.

Por ello, enfatizó la importancia de que existan actores externos capaces de supervisar y cuestionar el desarrollo de estas herramientas. A su juicio, el debate no debe quedar únicamente en manos de las empresas o de los expertos en informática, sino incorporar a académicos, líderes sociales, filósofos, comunidades religiosas y gobiernos.

Un debate que va más allá de la tecnología

El investigador afirmó que los sistemas actuales de inteligencia artificial representan un desafío distinto al de otras tecnologías desarrolladas en el pasado.

Mientras un avión o un puente son construidos a partir de componentes diseñados y comprendidos por sus creadores, explicó que los modelos de IA son entrenados mediante enormes cantidades de datos y presentan comportamientos que incluso quienes trabajan en ellos continúan estudiando.

Olah aseguró que todavía existen aspectos de estos sistemas que resultan difíciles de interpretar, incluso para los equipos que los desarrollan. Por esa razón, considera necesario abrir la discusión a disciplinas ajenas a la informática, incluyendo la filosofía, la ética y las ciencias sociales.

Los desafíos que plantea la IA

Durante su intervención, el cofundador de Anthropic identificó tres áreas que, a su juicio, requieren especial atención.

La primera tiene relación con el impacto que la inteligencia artificial podría tener sobre el empleo. Olah planteó que existe la posibilidad de que numerosos trabajos sean transformados o reemplazados por estas tecnologías, lo que obligaría a buscar mecanismos de apoyo para las personas afectadas.

Otro de los puntos mencionados fue la distribución de los beneficios que podría generar la IA. Según explicó, el desarrollo de estas herramientas se concentra actualmente en un reducido grupo de países, por lo que surge la interrogante de cómo garantizar que sus ventajas lleguen también a otras regiones del mundo.

Asimismo, llamó a reflexionar sobre el impacto que estas tecnologías podrían tener en la vida cotidiana de las personas, las familias y las futuras generaciones.

Un llamado a la colaboración

Hacia el final de su discurso, Olah valoró la decisión del Vaticano de impulsar una reflexión sobre inteligencia artificial y destacó la necesidad de construir espacios de diálogo entre quienes desarrollan estas tecnologías y quienes analizan sus consecuencias desde otras perspectivas.

El ejecutivo sostuvo que el futuro de la inteligencia artificial dependerá de la capacidad de distintos sectores de la sociedad para participar activamente en su desarrollo y fiscalización, con el objetivo de orientar su avance hacia el beneficio común