El desarrollador Jacob Coxon renunció a la firma de inteligencia artificial Anthropic tras alertar sobre la peligrosa velocidad con la que avanza el sector. El profesional de 27 años, con trayectoria en OpenAI, acusó a ambas firmas de arriesgar la estabilidad humana global.
A través de un extenso hilo en su cuenta de la red social X, el experto dio a conocer su decisión. Coxon cuestionó duramente la aceleración de estas tecnologías, señalando que:
"Ninguna de las dos compañías está actuando de manera responsable; se están lanzando directamente hacia una superinteligencia capaz de auto-mejorarse y apostando con nuestras vidas".
El exinvestigador sostuvo que los peligros expuestos no son exageraciones de la industria ni discursos para el mercado comercial. En sus publicaciones enfatizó que:
"Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década", reflejando la angustia latente en los laboratorios.
Jacob Coxon explicó que los futuros sistemas informáticos superarán rápidamente las capacidades analíticas de los humanos en poco tiempo. Según sus palabras, estos modelos:
"Serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales" en el entorno digital.
Ante el alarmante escenario, el ingeniero hizo un llamado a congelar temporalmente el entrenamiento de capacidades avanzadas. En el cierre de su mensaje interpeló a la comunidad tecnológica preguntando:
"¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Van a bajar la cabeza porque 'de todos modos ya esta ocurriendo', o aprovechar este momento para abogar por condiciones diferentes?".
La publicación en X provocó la reacción inmediata de la líder de investigación sobre alineación en Anthropic, Evan Hubinger. El especialista confirmó la preocupación reinante en el sector expresando que:
"Realmente creemos con sinceridad que la IA podría matarnos a todos los humanos. Personalmente, pienso que existe >10 % dentro de la próxima década. Creo que Anthropic esta haciendo lo mejor que puede", afirmó mediante una respuesta al hilo de Jacobs. Asimismo, mencionó que aún no se tiene un plan y que el verdadero temor esta en la superinteligencia que surge desde el auto-mejoramiento.
Análisis difundidos por medios internacionales como The Wall Street Journal, BBC, Axios y Forbes reportan que este despido voluntario evidencia una grieta profunda. Los reportes señalan que las empresas priorizan liderar la competencia comercial sobre la implementación de marcos de seguridad efectivos.
La salida de perfiles técnicos clave expone la urgente necesidad de regular el desarrollo de modelos de lenguaje avanzados. Expertos coinciden en que sin consensos multilaterales ni pausas estratégicas, la carrera tecnológica podría desbordar la capacidad humana de supervisión.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
Ver Video
