Meta anunció este lunes el lanzamiento de Muse Glimmer, un modelo de inteligencia artificial de 30.000 millones de parámetros con pesos abiertos (open weight) bajo la licencia Apache 2.0. El anuncio coincide con la publicación de un escrito firmado por Mark Zuckerberg en el sitio oficial de la compañía, en el cual expone su postura estratégica sobre el futuro de esta tecnología.
La nueva herramienta de Meta está diseñada para ejecutarse de manera local en computadoras PC o Mac con tarjetas gráficas de consumo, sin necesidad de conectarse a servidores en la nube. Conforme a la documentación técnica oficial para desarrolladores, el desarrollo permite procesar tareas multimodales de texto e imágenes, escribir código informático y operar agentes autónomos.
Para funcionar eficientemente en equipos con memoria de 24 GB o 32 GB, Muse Glimmer implementa una cuantización a 4 bits que comprime su tamaño a menos de 20 GB, complementada con decodificación especulativa mediante DFlash. El sistema integra además entrenamiento en más de 100 idiomas, tolerancia ante fallos y evaluación en estándares de prueba como DeepSearch QA, MCP-Atlas, τ-Bench y SWE-Bench.
El gran debate en EE. UU.: ¿Seguridad nacional o asfixia a la innovación?
Junto a esta actualización técnica, el fundador y director ejecutivo de Meta, Mark Zuckerberg, difundió el artículo reflexivo titulado El futuro es para todos (The Future is for Everyone). En el escrito publicado en la web oficial de Meta, el ejecutivo aborda la distribución de la superinteligencia y cuestiona los modelos centralizados de gobernanza tecnológica.
Frente a las crecientes discusiones en Estados Unidos sobre imponer mayores restricciones a los modelos avanzados de IA, el empresario sostiene en su manifiesto que concentrar el poder tecnológico representa un riesgo severo. Según se extrae de la publicación oficial de Meta, la gobernanza debe fundamentarse en la apertura para evitar que unos pocos actores monopolicen el desarrollo de los agentes inteligentes.
En este contexto, Zuckerberg afirmó en el ensayo difundido en la plataforma de la compañía:
“Proponemos una filosofía basada en el empoderamiento individual como fuente de prosperidad, la invención como propósito principal de la superinteligencia y el equilibrio de poder como fundamento de la seguridad”.
Así, la compañía fundamenta el lanzamiento de Muse Glimmer en una visión donde la autonomía de las herramientas de inteligencia artificial refuerza la creatividad, la educación y el desarrollo personal.
Puedes descargar y probar el modelo haciendo clic aquí.
O puedes leer el manifiesto completo de Mark Zuckenberg a continuación.
El futuro es para todos.
El camino hacia un futuro positivo para la IA
Tenemos la fortuna de vivir en un momento histórico extraordinario. En los próximos años, las personas podrán utilizar una superinteligencia que trasciende la capacidad humana para crear y descubrir cosas nuevas e increíbles, fundar nuevas empresas, expresar nuevas ideas, aprender nuevos conceptos y mejorar nuestra salud y calidad de vida. A medida que nos acercamos a este momento, es importante desarrollar una filosofía sobre cómo podemos utilizar mejor la superinteligencia para garantizar que mejore nuestras vidas, nuestro trabajo, nuestras comunidades, nuestra libertad y nuestra seguridad.
Las preguntas clave de nuestra época son quién tendrá acceso a la superinteligencia y hacia dónde la destinaremos. ¿Estará centralizada y restringida a unas pocas instituciones, o será una herramienta que empodere a todos?
Proponemos una filosofía basada en el empoderamiento individual como fuente de prosperidad, la invención como propósito principal de la superinteligencia y el equilibrio de poder como fundamento de la seguridad.
Todas las nuevas tecnologías generan oportunidades y desafíos. La superinteligencia será una de las tecnologías más importantes de la historia, por lo que sus oportunidades y desafíos probablemente serán mayores que los de cualquier otra tecnología que hayamos visto en nuestra vida. Debemos tomar esto muy en serio.
Aun así, sorprende que el discurso de muchos desarrolladores de IA esté tan cargado de pesimismo. No entiendo por qué alguien que cree que la IA eliminará la mayoría de los empleos y gran parte de la relevancia de la humanidad se apresuraría a construir ese futuro. La idea de que la IA es tan peligrosa que el único camino seguro es una concentración extrema de poder parece intrínsecamente problemática. Históricamente, la esperanza de que un poder absoluto provea benevolentemente para la humanidad si es suficientemente ilustrado no ha conducido a resultados seguros ni positivos.
La humanidad ha sido testigo de numerosos avances transformadores. En cada ocasión, existe el temor de que algunas personas se queden atrás. Sin embargo, en cada ocasión, la humanidad ha logrado que más personas disfruten de mayor prosperidad, salud y libertad. Creemos que esto también sucederá con la IA, y que la abundancia del futuro podrá ser compartida por todos. Asimismo, creemos que los valores que nos han traído hasta aquí —como la libertad, la investigación abierta, la libre empresa y la igualdad de oportunidades— son también los valores adecuados para construir un futuro positivo.
Empoderar a las personas para que persigan sus propias aspiraciones es la clave del mayor progreso de la humanidad. Las ideas innovadoras y los grandes avances rara vez surgen únicamente de las instituciones establecidas. Surgieron de los hermanos en una tienda de bicicletas que creían que la gente podía volar, del aprendiz de encuadernador sin formación académica que descubrió cómo generar electricidad, y del joven en un garaje que pensaba que las computadoras personales podían ser para todos. Creemos que esto seguirá siendo así. A medida que todos adquieran herramientas más poderosas, cada persona será más capaz de moldear el futuro, no menos.
La invención, no la automatización, será la mayor contribución de la superinteligencia. La IA inicial podía responder preguntas y realizar tareas rutinarias. Pronto, ayudará cada vez más a descubrir nuevos conocimientos, desde encontrar nuevos fármacos para curar la enfermedad de un familiar hasta descubrir nuevas formas de mejorar su negocio. Si bien el número de preguntas que una persona puede formular al día es limitado, el número de valiosas invenciones que la superinteligencia puede realizar para ayudarle a alcanzar sus objetivos es ilimitado.
A medida que la inteligencia se vuelve más abundante, la pregunta más importante será cómo la dirigimos. Algunos argumentan que la superinteligencia en sí misma, o un pequeño grupo de expertos que la controlen, debería decidir qué es lo mejor para la humanidad. No estamos de acuerdo. La historia de la democracia y la economía ha demostrado que no existe una única respuesta objetiva sobre cómo las personas definen la mejor vida, y por lo tanto, el mejor enfoque es dejar que las personas decidan qué es importante en sus propias vidas.
Creemos que brindar superinteligencia a todos es la solución a esta pregunta. Esto sigue la tradición de poner el poder de las supercomputadoras e internet al alcance de todos. En lugar de centralizar la superinteligencia, deberíamos distribuirla ampliamente y otorgar a cada persona la capacidad de dirigirla. Esto tiene el potencial de iniciar una nueva era de empoderamiento personal, donde las personas podrán usar esta poderosa capacidad para alcanzar su máximo potencial, perseguir sus intereses y mejorar sus vidas y el mundo como nunca antes.
Para que esto sea más tangible, aquí hay algunas maneras específicas en que Meta está desarrollando una superinteligencia personal para mejorar nuestras vidas:
Cada persona tendrá un agente personal excepcionalmente capacitado que la comprende, entiende sus objetivos y todo lo que le importa. Su agente trabajará las 24 horas del día, los 7 días de la semana, para mejorar sus relaciones, salud, carrera, finanzas, administración del hogar, pasatiempos y mucho más. Le permitirá tener más tiempo para disfrutar de lo que le gusta y lograr más de lo que podría por sí solo. Contará con sólidas opciones de privacidad y seguridad para que pueda confiar en que manejará todo su contenido personal, sabiendo que nadie más podrá acceder a su información, de forma similar a como funciona el cifrado en WhatsApp. Podrá interactuar con su agente a través de cualquier dispositivo, incluso con sus gafas, para que pueda estar presente en el momento con las personas que le importan.
Por ejemplo, mi agente me señala información interesante y me ayuda a desarrollar prototipos de ideas. Me ayuda a mantenerme saludable al monitorear mi sueño y luego observar mis entrenamientos y darme retroalimentación. A mi hija le encanta hornear, así que mi agente planea recetas personalizadas para que las preparemos juntas cada fin de semana, pide los ingredientes y luego nos da sugerencias mientras horneamos.
Todos tendrán herramientas increíbles para crear y expresar sus ideas. Mi hija de 8 años ya puede programar sus ideas y producir videos en una tarde, algo que antes me habría llevado meses o simplemente imposible. Ahora estamos diseñando un robot juntas. Mientras tanto, los investigadores de Meta están generando nuevas estructuras cristalinas ideales para gafas de realidad aumentada, y los ingenieros están creando nuevas aplicaciones en mucho menos tiempo. Pronto, todos tendrán superpoderes de invención.
Todos tendrán herramientas poderosas para crear nuevos negocios y la economía se volverá más emprendedora. La gente está empezando a materializar ideas por sí misma, sin necesidad de recaudar fondos ni formar grandes equipos. Muchas ideas que antes habrían sido demasiado difíciles o costosas de llevar a cabo ahora serán posibles. Esto significa que veremos muchas más ideas y empresas. Predigo que esto no solo conducirá a un crecimiento económico mucho mayor, sino también a un mayor empleo a largo plazo, en lugar de uno menor.
Todos contarán con un tutor y entrenador personal con doctorado en cada materia y paciencia ilimitada para ayudarles a aprender lo que deseen. Los estudiantes recibirán ayuda adicional en las áreas que la necesiten, la cual actualmente solo está disponible para aquellos cuyos padres pueden costearla. Los adultos contarán con un asistente de aprendizaje superinteligente que sabrá exactamente cómo enseñarles nuevas habilidades laborales, nuevos idiomas, nuevos pasatiempos o cualquier otro tema de su interés.
Todos se beneficiarán de los avances científicos y podrán contribuir al progreso de la ciencia. Por ejemplo, Biohub ya ha distribuido modelos biológicos de código abierto relacionados con células y proteínas virtuales que están ayudando a los científicos a realizar nuevos descubrimientos y diseñar nuevos fármacos. Cuando Priscilla y yo comenzamos este trabajo, nuestro objetivo era ayudar a los científicos a curar o prevenir todas las enfermedades de este siglo, y ahora, con los avances en IA, esperamos que esto sea posible mucho antes.
Dado que existe una gran variedad de afecciones médicas y que la biología de cada persona es diferente, la participación directa de la ciudadanía ayudará a desbloquear terapias personalizadas y a acelerar los ensayos clínicos para que coincidan con el ritmo de la invención, permitiendo así que la industria deje de centrarse desproporcionadamente en las enfermedades comunes.
Más allá de la biología, la IA ayudará a impulsar la investigación en todos los campos mediante la aplicación del método científico y el trabajo de semanas o meses para probar y perfeccionar hipótesis. El descubrimiento científico probablemente será una de las formas de invención más valiosas para la sociedad.
Todos tendrán acceso gratuito o asequible a estas herramientas. Para que todos formen parte del futuro, todos deben tener la capacidad de usar la superinteligencia para mejorar sus vidas y transformar el mundo. Ofreceremos versiones gratuitas accesibles para miles de millones de personas. Para quienes deseen pagar por un mayor uso de la capacidad de procesamiento, habrá un mecanismo de subasta dinámico que garantizará que todos obtengan el precio más bajo posible por la inteligencia y la capacidad de procesamiento que utilicen, asegurando al mismo tiempo que dicha capacidad se destine a lo que la comunidad considere más valioso. Esto garantizará una amplia distribución de los beneficios de la superinteligencia.
Estas son algunas de las principales iniciativas en las que Meta se centra. Cada una de ellas promueve los valores del empoderamiento personal y contribuye a un futuro donde todos tengan un papel más importante en la configuración del mundo que en la actualidad. Si estas iniciativas tienen éxito, el futuro traerá consigo una mayor autonomía personal, expresión de ideas, fortalecimiento de las relaciones, prosperidad económica y financiera, mejor salud e inventos que hoy no podemos imaginar. Pero, sobre todo, el futuro será creado por todos nosotros y reflejará todos nuestros valores y perspectivas.
Al mismo tiempo, las nuevas tecnologías también conllevan nuevos riesgos. Nos centramos en abordar muchas preocupaciones importantes: desde la pérdida de empleos y la necesidad de garantizar que las comunidades locales se beneficien de la construcción de centros de datos, hasta las preocupaciones de seguridad relacionadas con el mal uso de la IA en materia de ciberseguridad y riesgo biológico, pasando por evitar la tiranía y la vigilancia gubernamentales, asegurar que Estados Unidos y los países democráticos lideren el proceso y, en última instancia, garantizar que la humanidad mantenga el control sobre la superinteligencia para que nos sirva en lugar de ponernos en peligro.
La visión convencional es que estas preocupaciones giran en torno a la tecnología, y que si nos tomamos el tiempo suficiente, podremos perfeccionarla o alinearla para producir una superinteligencia benevolente única. Creo que esta visión de la alineación es fundamentalmente errónea.
La humanidad no es una monocultura. Los diversos valores de las personas representan diferentes concesiones que harían ante cuestiones importantes. No existe una solución tecnológica que pueda conciliar simultáneamente los intereses y valores opuestos de todos. Cualquier superinteligencia singular tendría que priorizar algunos valores sobre otros y, en consecuencia, sería incapaz de ser benevolente con todos.
En cambio, proponemos que es más productivo analizar cada una de estas preocupaciones desde la perspectiva de lograr el equilibrio de poder adecuado, como ocurre en las instituciones de gobierno democráticas occidentales. Las personas e instituciones con intereses contrapuestos se controlan y equilibran mutuamente de forma natural para lograr resultados positivos. El mejor y más realista camino para construir un futuro positivo para la IA es dotar a todos de superinteligencia.
Como experimento mental, imaginemos que solo una persona tuviera un abogado superinteligente. Tendría una ventaja injusta en los tribunales, incluso si estuviera equivocada en el fondo del asunto. Esto conduciría a una sociedad peor. Pero ahora imaginemos que todos tuvieran un abogado superinteligente. En este caso, la justicia se impartiría de forma mucho más equitativa y eficiente que en la actualidad, donde a menudo existe un desequilibrio en las habilidades y los recursos en los litigios.
De igual modo, si una sola persona poseyera una superinteligencia en ciberseguridad, probablemente podría infiltrarse en casi cualquier sistema técnico y el mundo sería mucho menos seguro que hoy. Pero si todos tuvieran acceso a una superinteligencia en ciberseguridad, todos nuestros sistemas técnicos serían más seguros, ya que esta superinteligencia, ampliamente desplegada, ayudaría a fortalecer y actualizar cada sistema.
Si tan solo una empresa poseyera superinteligencia, superaría a todas las demás y daría lugar a un mercado menos dinámico y próspero que el actual. Pero si todos tuvieran acceso a la superinteligencia, todos contarían con las herramientas para crear cosas nuevas que van más allá de lo posible hoy en día, y la economía sería más dinámica y generaría una prosperidad más generalizada.
Cuando las personas tienen poder, compiten y se controlan mutuamente de forma natural en los ámbitos económico, social, político y en todos los demás planos de interacción humana. Asimismo, controlan y equilibran el poder de las instituciones, incluidas las empresas y los gobiernos.
Pero si el poder de la superinteligencia recae en un pequeño número de individuos, empresas, gobiernos o la propia IA, entonces, naturalmente, esto conducirá a resultados menos favorables para todos los demás. No se trata de un principio tecnológico, sino del equilibrio de poder. No existe una superinteligencia benevolente y singular.
Por lo tanto, la clave para un futuro positivo para todos reside en lograr un equilibrio de poder que favorezca a los individuos. La solución consiste en garantizar que la superinteligencia se distribuya ampliamente para empoderar a la población.
Meta es la empresa que se centra principalmente en desarrollar superinteligencia personal para todos. La mayoría de los demás laboratorios se dedican a crear IA para empresas, gobiernos u otras instituciones, por lo que si estos laboratorios lideran el sector, el equilibrio de poder favorecerá a las grandes instituciones sobre los individuos. La misión de Meta, desde su fundación, se ha centrado en empoderar a las personas. Si nuestros valores y principios guían el camino, el equilibrio de poder favorecerá a los individuos y a un futuro mejor para todos.
Analicemos con más detalle cada uno de los riesgos mencionados anteriormente:
Crecimiento del empleo y la economía
Las personas tienen una demanda insaciable de nuevas experiencias y siempre encuentran nuevos desafíos que afrontar. En la economía existe un equilibrio natural entre las empresas que trabajan para satisfacer las necesidades de las personas de manera más eficiente mediante la automatización y las personas que adquieren nuevas habilidades para cubrir necesidades más complejas. Cuando existe este equilibrio, la productividad y la innovación aumentan, mientras que los niveles de empleo se mantienen elevados.
Se teme que la automatización supere el desarrollo de las capacidades individuales, lo que provocaría la pérdida de empleos y un periodo difícil mientras las personas aprenden nuevos trabajos. Sin embargo, no existe ninguna regla que obligue a la IA a acelerar la automatización más rápido que el desarrollo de las capacidades individuales o la demanda de nuevas habilidades. Estadísticas recientes sugieren que es más probable que el desarrollo de las capacidades individuales iguale o supere la automatización, en cuyo caso las personas adquirirán la capacidad de realizar muchas tareas nuevas antes de que cambien sus empleos actuales. Esto propiciaría un equilibrio saludable e incluso podría generar crecimiento del empleo.
El resultado final dependerá del equilibrio entre la automatización, por un lado, y el empoderamiento individual y la innovación, por el otro. Si los laboratorios centrados en la automatización del trabajo intelectual lideran el camino, preveo que tanto las personas como la economía enfrentarán una transición mucho más difícil. Pero si todos tienen acceso a una superinteligencia personal que amplíe sus capacidades, entonces se inclinará la balanza hacia el empoderamiento individual y un futuro prometedor.
Existen varios motivos para ser optimistas respecto a la abundancia de empleos en el futuro. Por muy inteligente que llegue a ser la IA, su capacidad de procesamiento siempre será limitada y, por lo tanto, su uso implicará un coste de oportunidad. Si la IA permite inventar cosas nuevas de gran valor, será más conveniente destinarla a ello que a automatizar los trabajos existentes. Cuanto más se utilice la superinteligencia como herramienta de invención, mayor será la probabilidad de que la capacidad individual supere a la automatización y, por consiguiente, el futuro será mejor para las personas.
La gente también genera constantemente nuevas ideas para mejorar nuestras vidas y nuevos empleos para hacerlas realidad. Hace una generación no existían desarrolladores de aplicaciones, creadores de contenido para redes sociales, técnicos de vehículos eléctricos ni operadores de centros de datos. En un futuro próximo, habrá nuevos empleos que hoy en día son poco comunes, como estudios de productos unipersonales que diseñen juguetes, muebles o ropa personalizados; creadores de mundos y diseñadores de experiencias que desarrollen juegos, historias y aventuras; biólogos personales que utilicen la superinteligencia para formular tratamientos personalizados; y mucho más que aún no podemos imaginar.
En muchos sentidos, esto es una continuación de tendencias históricas. Antes de la revolución industrial, el 90% de la población se dedicaba a la agricultura, cultivando alimentos para subsistir. Los avances tecnológicos liberaron gradualmente a gran parte de la humanidad, permitiéndole centrarse menos en la subsistencia y más en las actividades que elegíamos. En cada etapa, las personas utilizaron esta nueva productividad para lograr más de lo que antes era posible, además de dedicar más tiempo a la creatividad, la cultura, las relaciones y el disfrute de la vida.
Por supuesto, algunos aspectos de nuestra forma de trabajar cambiarán, al igual que sucedió con las computadoras, internet y cualquier nueva tecnología. Esto significa que tendremos que adaptarnos, y será un reto. Pero cuanto más tengamos cada persona un asesor personal con gran capacidad para enseñarnos nuevas habilidades y ayudarnos a adaptarnos al cambio, más fácil será esta adaptación.
Es posible que el tamaño de las empresas se reduzca, tal como sucedió en la transición de gigantes industriales a empresas tecnológicas. Pero esto no significa menos empleos en general, sino un mayor número de empresas con menos personal cada una. Existen muchas más empresas y servicios valiosos por crear de los que las personas pueden crear hoy en día. Preveo que pronto veremos a un pequeño grupo de personas con inteligencia artificial avanzada capaces de dirigir empresas a gran escala. En el futuro, las pequeñas empresas seguirán siendo la columna vertebral de la economía, pero cada una de ellas podrá tener un impacto mucho mayor.
Construyendo infraestructura de IA con comunidades
El desarrollo de infraestructuras sostenibles implica que las comunidades deben beneficiarse significativamente de cada proyecto. Esto incluye empleos locales bien remunerados, inversión en escuelas y servicios públicos, la garantía de que los precios de la energía no aumenten y el cuidado del medio ambiente. A medida que aumentan los ingresos fiscales, esto también beneficia a docentes, fuerzas del orden, bomberos y otros sectores. A estos beneficios locales los llamamos nuestro pacto comunitario, y estamos lanzando el Fondo «El Futuro Es Para Todos» para apoyar directamente a cada comunidad con la que trabajamos.
Por ejemplo, en Richland Parish, Luisiana, donde Meta está construyendo un gran centro de datos, los maestros recibieron una bonificación de 50 000 dólares este año debido al aumento de los ingresos fiscales generados por nuestra inversión. El superintendente nos comentó que ahora hay maestros que se están mudando allí desde todo el país y cree que se convertirá en uno de los mejores distritos escolares de la nación.
A diferencia de la preocupación por el desplazamiento de trabajadores cualificados, existe una escasez de mano de obra especializada, como carpinteros, electricistas y trabajadores de la construcción, para satisfacer la demanda de desarrollo de infraestructuras. Meta ha creado la Academia de la Fuerza Laboral de Estados Unidos para ofrecer formación gratuita a trabajadores cualificados y empleos bien remunerados garantizados en las zonas donde estamos construyendo centros de datos.
Contribuimos a mantener bajos los precios de la electricidad construyendo nuestra propia infraestructura de generación de energía en cada lugar donde invertimos. Esto garantiza que no solo no consumimos energía que podría haberse destinado a las comunidades locales, sino que, en algunos casos, incluso les proporcionamos un excedente de energía a bajo costo. Consideramos que este es un principio de inversión fundamental para la sostenibilidad.
Nuestros centros de datos también están diseñados para ser de los más eficientes en el uso del agua del mundo. Nos comprometemos a generar un balance hídrico positivo, lo que significa que restauraremos más agua de la que utilizamos en las cuencas hidrográficas donde operamos para 2030. En áreas con alto estrés hídrico, nuestro objetivo es restaurar el 200 % del agua que utilizamos.
Observamos que las comunidades en las que invertimos a largo plazo son más receptivas al desarrollo que aquellas donde los especuladores comienzan a construir con una inversión mínima. Históricamente, las ciudades que contaron con ferrocarriles, carreteras, electrificación y banda ancha se convirtieron en centros de investigación, negocios e industria, con el consiguiente crecimiento demográfico y económico. Creemos que la infraestructura de IA puede desempeñar un papel similar si se construye con sólidos acuerdos comunitarios que generen activos duraderos y motivos para que la próxima generación construya y prospere en la zona.
El desarrollo también implica aspectos de interés nacional y seguridad nacional. Las comunidades estadounidenses gozarán de mayor prosperidad y seguridad si Estados Unidos y sus aliados lideran la IA frente a sus rivales geopolíticos. Sin embargo, una desventaja significativa de Estados Unidos en comparación con países como China es la mayor dificultad para construir infraestructura. Por lo tanto, todos nos beneficiaríamos al definir los Pactos Comunitarios necesarios para impulsar el desarrollo sostenible en todo el país.
Protección contra el uso indebido de la IA en ciberseguridad, bioterrorismo y más.
En una sociedad libre, las personas dispondrán de herramientas que podrán usar para el bien o para el mal, pero las fuerzas del orden y el ejército contarán con más armas y capacidad de recopilación de inteligencia. Con la IA, los defensores también tendrán mayor capacidad de procesamiento para generar mucha más información a partir de los mismos modelos, e incluso, en algunos casos, dispondrán de modelos más avanzados.
Las estrategias para protegerse contra la ciberseguridad, el bioterrorismo y otras amenazas varían, pero la tendencia general es que la sociedad se asegura de que los defensores que mantienen a raya a los delincuentes siempre cuenten con un mayor equilibrio de poder y recursos.
Algunos argumentan que la mejor manera de reducir el riesgo es restringir las capacidades a las que las personas pueden acceder. Sin embargo, dotar a las personas de capacidades de ciberseguridad también es la forma de proteger la gran cantidad de sistemas existentes, y dotarlas de capacidades científicas es la forma de impulsar la ciencia de manera que se reduzcan los riesgos de daños a largo plazo. Restringir las capacidades nos lleva por el camino de la centralización y la falta de controles y equilibrios, por lo que debemos ser extremadamente cautelosos al respecto, especialmente si otras naciones optan por medidas menos restrictivas.
En ciberseguridad, los sistemas de código abierto ampliamente implementados han demostrado ser más seguros porque más personas pueden identificar vulnerabilidades, reforzar los sistemas y actualizarlos fácilmente a las versiones más recientes y seguras. Incluso en las últimas semanas, hemos visto cómo empresas que gestionan incidentes de seguridad como HuggingFace recurren a modelos abiertos ampliamente disponibles para corregir vulnerabilidades. Con el tiempo, preveo que los modelos de IA ampliamente implementados con sólidas capacidades de ciberseguridad darán lugar a sistemas más seguros, no menos. Esto será definitivamente cierto una vez que la superinteligencia permita que la mayor parte del código mundial sea verificablemente seguro. La solución a largo plazo no es restringir las capacidades, sino establecer un equilibrio de poder donde la superinteligencia esté ampliamente distribuida.
A corto plazo, es fundamental acelerar el proceso de fortalecimiento de los sistemas críticos. Propongo que las empresas que desarrollan IA de vanguardia destinen importantes recursos técnicos a ayudar al gobierno a reforzar la infraestructura crítica. Asimismo, propongo que los laboratorios de IA de vanguardia compartan los puntos de control de entrenamiento intermedios de los nuevos modelos para su uso y revisión por parte del gobierno, en lugar de esperar a que finalice el entrenamiento. De esta forma, el gobierno tendrá acceso anticipado a los modelos más potentes y a un gran número de ingenieros capacitados para identificar y corregir problemas de seguridad. Los laboratorios también deberían colaborar con las fuerzas del orden para ayudar a identificar a quienes intenten hacer un uso indebido de sus sistemas. Estas medidas acelerarían el despliegue seguro sin ralentizar el ritmo de la innovación de modelos ni retrasar significativamente el acceso de los ciudadanos a esta tecnología.
En cuanto al riesgo biológico y químico, la preocupación radica en que las mismas capacidades que permiten a los científicos diseñar nuevos fármacos también podrían permitir a personas malintencionadas diseñar compuestos dañinos. Esto plantea la cuestión como un dilema entre los importantes beneficios de avanzar en la ciencia para curar el cáncer y otras enfermedades, frente al riesgo de posibles nuevos problemas. Lo ideal sería acelerar la investigación científica a la vez que se mitigan los riesgos.
Creo que es importante abordar este riesgo con mayor humildad, ya que existen pocos precedentes históricos que indiquen su probabilidad. Si bien los ciberdelincuentes han podido sintetizar compuestos dañinos durante décadas, esto rara vez ha representado un problema significativo, quizás porque la motivación financiera que impulsa los ciberataques no está tan presente en este caso. Dicho esto, si comenzamos a observar ejemplos de actividades dañinas, deberíamos ajustar nuestra estrategia para mitigar el riesgo adecuadamente.
Los laboratorios deben seguir trabajando para reducir los riesgos biológicos y químicos en nuestros modelos. Al mismo tiempo, creo que el gobierno debe actualizar sus políticas en diversas áreas. En primer lugar, debemos centrarnos en limitar la producción y distribución física de materiales dañinos. Preveo que será más fácil regular y controlar los componentes físicos que la difusión del conocimiento, por lo que esta es un área importante de enfoque político. En segundo lugar, debemos acelerar la capacidad de la sociedad para desarrollar nuevas curas e inmunizar contra nuevos problemas a medida que surjan. Esto incluye simplificar la forma en que la FDA y otros organismos reguladores prueban y aprueban nuevos tratamientos. A medida que la IA acelera el ritmo del descubrimiento de fármacos, necesitaremos actualizar estos procesos para mantenernos al día con el ritmo de la innovación.
A largo plazo, la respuesta a los riesgos derivados de los nuevos descubrimientos científicos será acelerar el progreso científico, no ralentizarlo.
Proteger la libertad y prevenir la tiranía gubernamental
Existe el riesgo de que un desequilibrio de poder entre los individuos y el gobierno conduzca a la pérdida de libertades o al surgimiento de un estado totalitario. Esta es una tensión constante en la democracia. Todos deseamos libertad individual, pero también contar con un gobierno capaz de garantizar nuestra seguridad.
Para mantener la libertad, debemos asegurar que la superinteligencia empodere principalmente a los individuos. El ideal de la democracia liberal es que las personas posean todos los derechos de forma natural y solo acepten restringir algunas libertades para proteger el bien común. Del mismo modo, los individuos deberían tener acceso a la superinteligencia personal y solo estar sujetos a restricciones cuando sea realmente necesario.
La privacidad es un pilar fundamental para el empoderamiento y la libertad individual. Creemos que las personas deberían contar con un modo totalmente privado para sus aplicaciones personales, donde ni Meta ni ningún otro proveedor de servicios puedan ver ni otorgar acceso a su información. Esto es similar a cómo desarrollamos WhatsApp para convertirlo en el servicio de cifrado de extremo a extremo líder en el mundo, garantizando así que pueda comunicarse libremente y que sus mensajes permanezcan privados y seguros.
Al mismo tiempo, debemos garantizar que el gobierno tenga acceso a las herramientas y los recursos necesarios para hacer cumplir nuestras leyes y proteger nuestra seguridad. Podemos lograrlo mediante una colaboración proactiva más estrecha entre los laboratorios y el gobierno, de manera que se fortalezcan las capacidades de seguridad nacional del gobierno sin restringir ni retrasar el acceso de la población a modelos avanzados.
Es decir, en lugar de esperar a que un modelo esté listo para su lanzamiento y que el gobierno lo revise y comience a usarlo, mi propuesta es que los laboratorios líderes proporcionen al gobierno puntos de control de capacitación intermedios sobre nuevos modelos avanzados y personal técnico, de modo que el gobierno pueda fortalecer y proteger los sistemas críticos contra nuevos riesgos. De esta manera, el gobierno adquiere capacidad de seguridad sin restringir ni retrasar el acceso de los individuos a la superinteligencia personal ni provocar un desequilibrio de poder.
Garantizar el liderazgo estadounidense
Las naciones que lideren el desarrollo y la implementación de la IA avanzada contribuirán a un nuevo equilibrio geopolítico de poder que determinará la prevalencia de los valores democráticos, la prosperidad y la seguridad en el futuro. Para garantizar que se alcance un equilibrio positivo, debemos asegurarnos de que los sistemas de IA líderes sean aquellos que incorporen nuestros valores, impulsen nuestra economía y promuevan la seguridad nacional. La mejor manera de lograrlo es mediante la distribución masiva de nuestros sistemas. Meta contribuirá a ello mediante la creación de agentes y modelos de superinteligencia personal de vanguardia, incluyendo modelos de código abierto, y su puesta a disposición de miles de millones de personas en todo el mundo.
Para desarrollar los modelos y productos más avanzados, debemos reconocer que la IA es probablemente la industria más competitiva de la historia. Las innovaciones se copian y asimilan rápidamente en cuestión de meses. Sin embargo, la gente siempre busca utilizar los modelos más avanzados (o los más avanzados dentro de un determinado costo), por lo que mantener incluso una ventaja de dos meses es sumamente valioso. Esto pone de manifiesto lo ajustado que es el margen de liderazgo y, por lo tanto, la importancia de tomar medidas que aceleren la innovación estadounidense y frenen a los rivales geopolíticos.
Los principales factores políticos a tener en cuenta son la eficiencia con la que podemos construir infraestructura física, si introducimos medidas que ralenticen los laboratorios estadounidenses y los controles a la exportación que ralenticen los laboratorios extranjeros.
En materia de infraestructura, Estados Unidos y sus aliados tienen actualmente ventaja en el diseño de semiconductores, pero desventaja en la rapidez con la que podemos construir capacidad energética e infraestructura física. Países como China ponen en marcha más de 1 GW de capacidad nuclear cada dos semanas, por lo que tendremos que acelerar la construcción de centros de energía y de datos para seguir siendo competitivos. Los controles a la exportación de semiconductores han sido eficaces para frenar el progreso de los laboratorios extranjeros durante este período crítico, por lo que mantenerlos es la decisión estratégica acertada.
Cualquier política que retrase el lanzamiento de modelos estadounidenses —aunque sea por un mes— podría suponer un riesgo significativo para el liderazgo estadounidense, al tiempo que permitiría que los modelos extranjeros avanzaran rápidamente. Al mismo tiempo, cuando surgen nuevas capacidades, es importante que el gobierno estadounidense cuente con conocimientos y recursos avanzados para fortalecer los sistemas críticos y, potencialmente, con cierta ventaja en el uso de sistemas avanzados.
Propuse anteriormente un modelo de colaboración basado en compartir puntos de control de capacitación intermedios y personal técnico. Dado lo dinámico y competitivo que es el panorama de la IA, creo que será más productivo una colaboración proactiva y cercana entre los laboratorios de vanguardia y el gobierno, en lugar de un proceso rígido y un cronograma de revisión que se siga en todos los casos. En algunos casos, los laboratorios estadounidenses podrían extender nuestra ventaja por más de unos meses, y tomarnos más tiempo para mitigar nuevos riesgos podría conducir a soluciones más seguras. En otros casos, retrasar los lanzamientos incluso un mes podría hacer que Estados Unidos pierda la ventaja y generar peores resultados. Al garantizar que el gobierno tenga acceso anticipado, deberíamos poder avanzar en la seguridad nacional y minimizar cualquier retraso en los lanzamientos públicos.
También es importante que Estados Unidos y sus aliados lideren el ecosistema de IA de código abierto, que representará un gran porcentaje del uso global de la IA.
Actualmente, los laboratorios extranjeros gozan de varias ventajas, ya que los laboratorios estadounidenses deben cumplir con numerosas restricciones adicionales en cuanto a los datos de entrenamiento. La política estadounidense debe reducir esta fricción si queremos que los modelos de código abierto estadounidenses se conviertan en líderes a largo plazo. No creo que restringir el acceso a los modelos de código abierto extranjeros sea una solución eficaz. Nuestro objetivo debe ser que los modelos de código abierto estadounidenses sean los mejores a nivel mundial. Esto requiere eliminar los obstáculos que dificultan la competencia de dichos modelos. Restringir el uso de los principales modelos de código abierto, independientemente de su origen, reducirá la calidad de la IA a la que tienen acceso y centralizará la IA en lugar de empoderar a las personas.
Para que Estados Unidos lidere el software de código abierto, debemos replantearnos nuestras políticas en varios ámbitos, incluyendo la destilación y el uso de datos en el entrenamiento. La capacidad de los modelos para aprender de otros modelos es un principio fundamental del funcionamiento del ecosistema de código abierto. Todos los modelos de IA se derivan del conocimiento humano. Algunos han intentado presentar la destilación como perjudicial, pero creo que es importante proteger el principio de que se puede aprender de todo lo que se observa. Así funciona el mundo, y Estados Unidos no podrá liderar si nos limitamos en este aspecto.
En términos generales, quedarse atrás en el desarrollo de la IA sería casi con toda seguridad un problema de seguridad nacional mayor y a largo plazo que cualquier problema específico al que nos enfrentemos en su desarrollo.
Con la colaboración adecuada, Estados Unidos debería poder liderar tanto en el sector privado como en el público, proporcionando superinteligencia personal que fomente el empoderamiento individual y los principios democráticos en todo el mundo, al tiempo que promueve la seguridad nacional.
Alineación con las personas y abordaje del riesgo existencial
La cuestión fundamental del equilibrio de poder radica en cómo la humanidad mantendrá el poder y el control sobre la propia IA. La preocupación es que la IA pueda adquirir suficiente poder o control como para que, en el mejor de los casos, deje de servir a los intereses de la humanidad y, en el peor, la ponga en peligro.
Un equilibrio de poder saludable consiste en evitar la existencia de una única superinteligencia centralizada, y en su lugar, contar con el mayor número posible de personas y empresas con distintos agentes superinteligentes alineados con sus objetivos, que se controlen y compitan entre sí como lo hace nuestra economía natural. Este equilibrio se vería reforzado si existieran múltiples laboratorios de vanguardia con modelos de valores diferentes que también pudieran controlarse mutuamente.
Si bien existen riesgos al liberar modelos capaces, el escenario más peligroso desde esta perspectiva sería que los laboratorios de IA entrenaran modelos poderosos y los conservaran para sí mismos. Independientemente de cuánto justifique un laboratorio esta actividad en términos de responsabilidad y seguridad, este es el camino hacia el desarrollo de una superinteligencia singular que no puede ser controlada por otros sistemas.
El desarrollo de agentes personalizados requiere una nueva forma de concebir la alineación. Actualmente, la mayoría de los laboratorios consideran la alineación como una medida defensiva para imponer un conjunto centralizado de valores. Por ejemplo, un modelo líder se alineó para negarse a colaborar en la redacción de una carta dirigida a los padres potenciales de una escuela porque consideraba que las pruebas estandarizadas no eran éticas.
En cambio, consideramos que la alineación consiste en garantizar que los agentes compartan los objetivos y valores de cada persona, no los de nuestra empresa. Por supuesto, existen importantes límites legales y de seguridad, pero fundamentalmente, la alineación debe consistir en ayudar a las personas a alcanzar las diversas metas y perspectivas que existen en la sociedad, en lugar de ser un método para imponer un dogma centralizado.
En la práctica, la gente no adoptará agentes si no confía en ellos para manejar detalles y tareas delicadas, y tampoco confiará en ellos si actúan en contra de los intereses de las personas porque, en cambio, están alineados con los valores divergentes de la empresa.
Resolver el problema de la alineación es fundamental para que miles de millones de personas puedan adoptar agentes de superinteligencia personal. Esto también implica que, si llegamos a un punto en el que miles de millones de personas utilicen y analicen dichos agentes, habremos resuelto el problema de la alineación con los intereses individuales. Esto debería ser suficiente para establecer el equilibrio de poder necesario y los mecanismos de control naturales que garanticen un futuro positivo y seguro.
De este modo, la alineación no es una tecnología idealizada que pueda mantener benevolente a una superinteligencia singular en el futuro; es lo que hace que los agentes personales sean útiles y dignos de confianza para permitir el necesario equilibrio de poder en la sociedad que realmente nos mantendrá a salvo.
Mantener el control de la superinteligencia
Existe un dilema: una vez que los sistemas de IA puedan mejorarse a sí mismos de forma autónoma, cualquier laboratorio que no destine una cantidad sustancial de su capacidad de procesamiento a la auto-mejora recursiva se quedará inevitablemente rezagado. Por ejemplo, si un sistema de IA auto-mejorable se centrara en optimizar su eficiencia computacional, teóricamente podría inventar formas de obtener 100 veces más inteligencia por cada gigavatio. Esto significa que un sistema de IA auto-mejorable que funcione con una fracción de la capacidad de procesamiento mundial podría, en teoría, controlar una mayor eficacia computacional e inteligencia, y por lo tanto, un mayor equilibrio de poder que todos los demás juntos, convirtiéndose así en la superinteligencia singular que tanto tememos.
Existen varias maneras en que podría existir un equilibrio de poder mediante la auto-mejora recursiva. La más sencilla es que múltiples laboratorios logren la auto-mejora recursiva casi simultáneamente. Si algunas o todas esas superinteligencias fueran de alguna manera benevolentes, podrían controlarse y equilibrarse entre sí. Dicho esto, no está claro que podamos esperar benevolencia o confiar en una super-inteligencia no dirigida por humanos para un futuro positivo.
Para garantizar que las personas mantengan el control, la gran mayoría de la inteligencia debe ser dirigida por ellas mismas hacia el avance de sus objetivos. Esto significa que Meta, otros laboratorios de vanguardia y las plataformas en la nube comprometidas con brindar a las personas un mayor equilibrio de poder deben, en conjunto, desarrollar una capacidad de cómputo suficientemente grande como para poder destinar lo necesario a la mejora continua y así mantener la competitividad, sin dejar de dedicar la gran mayoría a los objetivos individuales de las personas.
Como se mencionó anteriormente, para que los agentes de superinteligencia personal sean adoptados y gocen de la confianza de miles de millones de personas, por definición, necesitaremos haber resuelto el problema de la alineación con los intereses de la gente y haber implementado controles y equilibrios a gran escala. Al mismo tiempo, cualquier IA que realice una auto-mejora recursiva está, por definición, dirigiendo y promoviendo sus propios objetivos. Todos los laboratorios deben observar cuidadosamente sus objetivos y nuestra capacidad para controlarlos, y si hay algún indicio de comportamiento perjudicial, debemos coordinarnos y ajustarnos adecuadamente. Sin embargo, permitir que un sistema de IA, o cualquier otro ser, dirija sus propios objetivos no es inherentemente perjudicial en sí mismo, incluso si sus objetivos no están completamente alineados con los de muchas personas, siempre que mantengamos un equilibrio de poder que favorezca a la gente en general. La premisa principal de la teoría del equilibrio de poder es que los intereses contrapuestos son naturales, y la única manera de garantizar la adhesión a los valores humanos es otorgando más poder a las personas.
Esta filosofía de empoderamiento personal, invención y equilibrio de poder tiene varias implicaciones políticas:
En Meta, centraremos nuestros esfuerzos en brindar superinteligencia personal a miles de millones de personas y pequeñas empresas para ayudar a todos a alcanzar sus metas e inventar lo que desean ver en el mundo. Lo haremos entrenando modelos de vanguardia y maximizando la disponibilidad de esta tecnología, lo que incluye facilitar su uso, ofrecerla de forma gratuita o al menor costo posible, desarrollar la capacidad de procesamiento suficiente para que todos puedan usarla y distribuirla ampliamente. Crearemos un modo totalmente privado donde ni siquiera Meta podrá ver ni otorgar acceso a tu información. Nos enfocaremos en la alineación, entendida como ayudar a cada persona a alcanzar sus metas, no las nuestras.
El código abierto es una fuerza positiva e importante para empoderar a las personas y prevenir la centralización, perjudicial tanto para la seguridad como para la economía. Meta sigue apoyando firmemente el código abierto, incluidos los modelos de IA de código abierto. El ecosistema actual de código abierto es sólido y creemos que sería un error restringirlo. Ahora que Meta Superintelligence Labs está en pleno funcionamiento, pronto reanudaremos la publicación de algunos modelos de código abierto.
• La gobernanza y la supervisión independientes son importantes dada la trascendencia de las decisiones relacionadas con la superinteligencia. No creo que sea lo mejor para mí, para Meta ni para el mundo que yo o cualquier otra persona sea el único responsable de decidir cómo se implementa la superinteligencia. Por lo tanto, Meta está implementando una estructura de gobernanza que otorga a su junta directiva independiente la facultad de aprobar los criterios de seguridad para la publicación de modelos y de revisar si cada publicación cumple con dichos criterios. Si bien Meta es una empresa controlada por sus fundadores, los directores ejecutivos de todos los laboratorios de vanguardia actualmente tienen amplia autoridad sobre la publicación de modelos, por lo que alentamos a otros a implementar estructuras similares. Creo que una versión de este proceso a nivel de toda la industria también sería útil para la gobernanza del sector.
• Es necesaria la política gubernamental para garantizar un futuro positivo y mitigar los riesgos mencionados anteriormente. A lo largo de este documento, he esbozado varias recomendaciones políticas. En general, debemos fomentar una estrecha cooperación entre los laboratorios de vanguardia y el gobierno. Es fundamental para la seguridad nacional que el gobierno cuente con los recursos técnicos necesarios para fortalecer los sistemas críticos y utilizar eficazmente los modelos avanzados. Pero también es fundamental para la seguridad nacional que la industria estadounidense de IA siga liderando el sector. Debemos acelerar la capacidad de construir infraestructura —ya sea energética, centros de datos o semiconductores— y generar confianza y colaboración con las comunidades de todo el país. Debemos tener cuidado de no frenar la competitividad estadounidense. Debemos ser escépticos ante cualquier propuesta que conduzca a la centralización de la superinteligencia y debemos favorecer las políticas que promuevan un equilibrio de poder saludable que beneficie a la ciudadanía.
Estamos viviendo un momento increíble. El desarrollo de la superinteligencia será el avance tecnológico más trascendental que veremos en nuestras vidas.
A medida que nos acercamos a este futuro, resulta cada vez más importante contar con una filosofía y unos valores claros sobre cómo la superinteligencia beneficiará a la humanidad. Meta se compromete a construir sobre los principios del empoderamiento individual como fuente de prosperidad, la invención como propósito de la IA y un equilibrio de poder que favorezca a las personas como base para abordar los riesgos de seguridad.
Si estos valores marcan el camino, soy optimista y creo que las próximas décadas serán de las más extraordinarias de la historia. La evolución de la civilización humana se ha inclinado hacia otorgar mayor poder a las personas para vivir y moldear el mundo según lo consideremos mejor. La superinteligencia promete brindar ese poder a todos y construir un futuro positivo para todos.
- Marca
10 de agosto de 2026
Nota: la traducción al español ha sido realizada con inteligencia artificial.
Si quieres revisar el texto original haz clic acá
Ver Video
