El Premio Nobel de Física Geoffrey Hinton advirtió en una entrevista televisiva dada a la BBC sobre la posibilidad real de que la inteligencia artificial provoque el fin de la humanidad. El experto afirmó que el acelerado desarrollo tecnológico expone al mundo a desastres cibernéticos, virus biológicos y desestabilización social masiva.
El especialista cuestionó el avance desmedido de los modelos de lenguaje y el aprendizaje profundo sin las medidas de resguardo necesarias. Durante la conversación emitida por la cadena británica, Hinton enfatizó la urgencia de establecer límites éticos internacionales ante este peligroso escenario. Según información publicada por el portal 24 Horas, el investigador sostuvo que:
"Considerar un 10% de probabilidad no me parece una estimación descabellada, aunque nadie dispone de las herramientas para dar una cifra exacta".
El desarrollador conocido como el padrino de esta tecnología acusó a las grandes firmas privadas de priorizar los beneficios económicos por sobre la seguridad global. En sus declaraciones remarcó que las empresas compiten agresivamente por crear modelos más potentes sin medir las consecuencias. Ante este riesgo, en el reporte difundido por la BBC, Hinton señaló que:
"Mientras intentan hacer que estas cosas sean más inteligentes, deberían ser cautos y descubrir cómo lidiar con los peligros".
Para evitar un desenlace catastrófico, el científico comparó la situación actual con los tratados de no proliferación de armas nucleares impulsados durante la Guerra Fría. Hinton recalcó que los plazos de reacción para la sociedad se redujeron drásticamente debido a la velocidad del sector. Las autoridades globales deben coordinar acuerdos estrictos antes de perder el control definitivo de la superinteligencia.
Las alarmantes advertencias del Premio Nobel coinciden con la reciente renuncia del desarrollador Jacob Coxon a la firma de inteligencia artificial Anthropic. El profesional abandonó la compañía creadora del modelo Claude tras denunciar la falta de responsabilidad en el desarrollo corporativo. Coxon aseguró públicamente que las principales empresas avanzan sin evaluar adecuadamente las amenazas existenciales que enfrentamos.
El exinvestigador sostuvo que dentro de los laboratorios existe una preocupación generalizada sobre la pérdida de control de la tecnología antes del fin de la década. Sus temores fueron ratificados por otros científicos del área de alineación, quienes admiten la falta de un plan efectivo para contener sistemas autónomos.
“You just said that 10% doesn’t seem an unreasonable estimate that AI could kill all humans”
“Yes”
“Wow… oh my God.”
@vicderbyshire speaks to Nobel Prize Winner and so-called ‘Godfather of AI’ Geoffrey Hinton about predictions by an Anthropic researcher that there’s a more than 10% chance AI could kill all humans within a decade.
#Newsnight
Ver Video
