El banco de semillas: por qué defiendo los pesos abiertos (aunque Amodei tenga parte de razón)

El 24 de julio de 2026, Jensen Huang y media industria firmaron una carta abierta pidiendo a los reguladores que no estrangulen los modelos de pesos abiertos. Tres días después, Dario Amodei publicó una respuesta con un titular sorprendente: Anthropic nunca ha pedido prohibirlos. Y sin embargo, el debate real no está en la prohibición. Está en qué tipo de ecosistema queremos: un monocultivo eficientísimo, o un bosque desordenado que sobrevive a las plagas.

Qué ha pasado, en cristiano

Vamos con los hechos, que en estas semanas de ruido conviene fijarlos.

El 24 de julio, una carta abierta encabezada por Jensen Huang (Nvidia) y respaldada por compañías como Hugging Face, Meta, Microsoft y Mistral pidió a los legisladores que eviten «restricciones prematuras y amplias» sobre los modelos de pesos abiertos. El subtexto: en Washington se está cociendo la idea de que publicar pesos es, en sí mismo, un riesgo de seguridad nacional.

El 27 de julio, Dario Amodei respondió desde el blog de Anthropic con un texto titulado Our position on open-weights models. Y lo primero que hace es desactivar la caricatura: «Anthropic nunca ha defendido una prohibición de los modelos de pesos abiertos». Los modelos abiertos que no tienen capacidades peligrosas son, dice literalmente, un bien público.

A partir de ahí, su argumento se ordena en dos miedos y tres medidas.

Los dos miedos: primero, que un gobierno autoritario —China, sin rodeos— desarrolle modelos superiores y los use para dominio militar o represión interna. Segundo, que cualquier modelo suficientemente capaz se use para ciberataques o para diseñar armas biológicas. Amodei es explícito en algo importante: el primer miedo no tiene nada que ver con si los pesos son abiertos o cerrados. Es una carrera de capacidad, no de licencia.

Las tres medidas: mantener y endurecer el control de exportación de chips avanzados a China; perseguir la destilación a escala industrial respaldada por un estado (la técnica de bombardear un modelo ajeno con prompts para reconstruir su comportamiento); y exigir pruebas de seguridad obligatorias a todo modelo suficientemente capaz, sea abierto o cerrado, americano o chino.

Leído así, es un texto mucho más razonable de lo que sugerían los titulares. Y, precisamente por eso, merece una respuesta seria en lugar de un aplauso o un abucheo.

Dónde estoy de acuerdo (que es más de lo que parece)

Tres cosas de ese texto me parecen correctas y quiero decirlas antes de discrepar.

Uno: la irreversibilidad es real. Cuando publicas unos pesos, no hay botón de retirada. No puedes parchear, no puedes revocar, no puedes actualizar la copia que alguien se descargó el martes. Y las salvaguardas —el entrenamiento que hace que el modelo se niegue a explicarte cosas feas— son, con acceso a los pesos, desmontables en cuestión de horas y por poco dinero. Eso no es propaganda: es cómo funciona el fine-tuning. Cualquiera que haya hecho un ajuste fino sabe que la capa de «buenos modales» es lo más fino y lo más fácil de raspar de todo el edificio.

Dos: el eje relevante es la capacidad, no la licencia. Amodei tiene razón en que «abierto» no es una categoría moral. Un modelo abierto de 7.000 millones de parámetros y un modelo cerrado que diseña rutas de síntesis novedosas no plantean el mismo problema ni de lejos. Regular por el adjetivo en vez de por lo que la cosa hace es exactamente el tipo de error que produce leyes malas.

Tres: la biología es el punto serio. Aquí es donde le concedo lo máximo. En ciberseguridad, la defensa escala razonablemente con el ataque: si un modelo abierto encuentra vulnerabilidades, otro modelo abierto las parchea. En biología esa simetría se rompe. Diseñar un patógeno y diseñar la vacuna no cuestan lo mismo ni tardan lo mismo, y el material de partida es incómodamente accesible. Quien despache esto como alarmismo no ha hecho los números. Es el argumento más fuerte del texto y no tengo una respuesta cómoda para él.

Dicho todo eso: sigo pensando que el equilibrio cae del lado abierto. Y la razón es agrícola.

El monocultivo perfecto

En 1845, Irlanda cultivaba patata. Pero no «patata» en general: cultivaba masivamente una única variedad, la Lumper, porque era la más productiva por hectárea. Un sistema optimizado, eficiente, campeón de todos los benchmarks de la época. Entonces llegó Phytophthora infestans, un hongo al que la Lumper no sabía resistir, y como todas las plantas del país eran genéticamente casi la misma planta, el hongo no tuvo que ganar un millón de batallas: ganó una sola, un millón de veces. Murió más de un millón de personas.

La lección de la agricultura moderna no es «cultiva lo más productivo». Es: la diversidad genética es el precio del seguro. Y por eso, en el archipiélago de Svalbard, a poco más de mil kilómetros del Polo Norte, existe una bóveda excavada en el permafrost con más de un millón de muestras de semillas. No están ahí porque sean las mejores. Están ahí porque son distintas, y porque nadie sabe qué plaga vendrá.

Esa es, para mí, la función de los pesos abiertos.

Un ecosistema donde toda la inteligencia relevante vive dentro de cuatro empresas, tras cuatro APIs, con cuatro conjuntos de decisiones de entrenamiento tomadas por cuatro equipos que además comparten mercado, cultura, proveedores y sesgos, es un monocultivo. Es más eficiente, sí. También es más frágil de una manera que no se ve hasta que se ve: una decisión de producto que cambia el comportamiento de un modelo del que dependen diez mil empresas, un fallo compartido de alineamiento que nadie de fuera puede auditar, un cambio de precios, un cambio de términos, un cambio de gobierno.

Y ese último no es hipotético, porque ya lo vimos: una carta del gobierno estadounidense bastó para que Anthropic apagara Fable 5 y Mythos 5 para el mundo entero. No hubo debate parlamentario, no hubo aviso, no hubo alternativa. Un modelo del que dependían miles de empresas dejó de existir por decisión administrativa de un país que no era el suyo. Si te preguntas qué aporta exactamente un modelo de pesos abiertos que no aporte una API buenísima y barata, la respuesta es esa: el modelo abierto que ya te habías descargado seguía funcionando al día siguiente.

Amodei describe la irreversibilidad de los pesos abiertos como un defecto: una vez fuera, no se puede recoger. Y tiene razón en el diagnóstico. Pero yo lo miro desde el otro lado del cristal: la irreversibilidad es justamente lo que lo convierte en un banco de semillas. Un modelo abierto es la única forma de inteligencia artificial que no puede ser apagada, encarecida, censurada retroactivamente ni retirada del mercado por una junta directiva. En un mundo donde todo lo demás es un servicio que alguien más puede cortar, eso no es un efecto colateral. Es la propiedad.

Ahora bien, no quiero venderte una moto que ya desmonté yo mismo. Escribí aquí sobre las tripas de GLM-5.2: pesos abiertos, licencia MIT, frontera al alcance… y una realidad incómoda de 376 GB que casi nadie puede ejecutar en su propia casa. La conclusión de aquel post sigue en pie: abierto no es lo mismo que libre. Pero fíjate en la dirección de la crítica. El problema de GLM-5.2 no era que sus pesos fueran públicos. Era que la infraestructura para usarlos no lo es. La respuesta correcta a eso no es cerrar más los pesos: es abrir más la infraestructura. Y lo mismo vale para el otro lado del espejismo: una IA «soberana» que por debajo llama a la API de otro no es soberana, es un cangrejo ermitaño con muy buen marketing.

El examen que solo pueden pagar los de siempre

Aquí está mi discrepancia concreta, y es la única parte de este artículo donde me pongo antipático.

De las tres medidas de Amodei, dos me parecen defendibles con el marco que él mismo propone. La tercera —pruebas de seguridad obligatorias para todo modelo suficientemente capaz— es correcta en el principio y peligrosísima en la implementación. Porque un examen no es neutral: tiene un coste, y ese coste lo pagan de forma muy distinta los distintos actores.

Un laboratorio con miles de millones en financiación absorbe un régimen de evaluación obligatoria como quien absorbe una factura de la luz: tiene el equipo de policy, tiene los abogados, tiene los evaluadores internos y, sobre todo, tiene la relación con el regulador que le permite ayudar a redactar el examen. Un laboratorio universitario europeo, una startup de doce personas o un colectivo que publica un modelo en Hugging Face, no. Para ellos, el mismo requisito no es una factura: es un muro.

Nadie tiene que actuar de mala fe para que esto acabe mal. Basta con que cada actor defienda razonablemente sus propios intereses y con que la carga se aplique de forma plana. El resultado —consolidación del mercado en manos de quienes ya están dentro— es idéntico al que produciría una prohibición, pero con mejor prensa. En la literatura de regulación esto tiene nombre desde los años setenta: captura del regulador. Y su síntoma clásico es exactamente este: una norma cuyo coste de cumplimiento es plano y cuyo impacto competitivo es brutalmente asimétrico.

Que quede claro, porque el matiz importa: no estoy diciendo que sea la intención de Anthropic. El propio texto insiste en aplicar las pruebas por igual a modelos abiertos y cerrados, americanos y extranjeros, y eso es lo contrario de un privilegio de casta. Estoy diciendo algo más aburrido y más difícil de esquivar: que las buenas intenciones no sobreviven al proceso legislativo, y que el detalle de quién paga el examen, quién lo diseña y a partir de qué umbral se aplica va a decidir más sobre el futuro del ecosistema que toda la discusión filosófica sobre si los pesos deben ser públicos.

Lo que yo defendería

Si me dejaran escribir tres líneas en esa ley, serían estas.

Umbral por capacidad medida, no por adjetivo. Que el disparador de la obligación sea lo que el modelo demuestra saber hacer en pruebas concretas —biología, ciberofensiva, autonomía— y no la licencia bajo la que se publica ni el tamaño de quien lo publica. Aquí Amodei y yo estamos de acuerdo, y conviene subrayarlo.

Coste proporcional y evaluación pública. Que exista una infraestructura de evaluación financiada públicamente —un CERN de los evals— a la que un equipo pequeño pueda mandar su modelo sin arruinarse. Si la seguridad es un bien público, su verificación no puede ser un servicio de pago que solo cubren cinco empresas.

Y un test de honestidad para todos. Amodei pide que los beneficios de seguridad que reclaman los defensores de lo abierto se demuestren empíricamente en lugar de asumirse. Me parece justísimo. Aplíquese también en la otra dirección: que los laboratorios cerrados demuestren empíricamente que su opacidad produce más seguridad de la que produce el escrutinio de miles de investigadores externos. Ninguna de las dos afirmaciones debería viajar gratis.

Lo que me llevo a casa

El desacuerdo real no es «abierto sí, abierto no». Es dónde ponemos el umbral, quién lo mide y quién paga la medición. Todo lo demás es guerra de titulares.

La eficiencia y la resiliencia no son la misma virtud. El monocultivo gana todos los años hasta el año en que lo pierde todo. Un ecosistema con modelos abiertos, pequeños, auditables y ejecutables en casa es peor en el benchmark y mucho mejor en el desastre. Y en Europa, donde no tenemos frontera propia pero sí tenemos regulación, esa distinción es literalmente nuestra política industrial.

La irreversibilidad corta por los dos lados, y hay que mirarlas de frente. Un modelo abierto no se puede retirar cuando resulta peligroso; ese es el argumento de Amodei y es cierto. Un modelo abierto tampoco se puede retirar cuando resulta incómodo para quien manda —o cuando llega una carta desde Washington—; ese es el mío y también es cierto. La pregunta no es cuál de las dos frases es verdad —lo son las dos—, sino a cuál de los dos riesgos le tienes más miedo. Yo, viendo cómo se concentra el poder de cómputo en tres direcciones postales, tengo bastante claro cuál me quita el sueño.

El banco de semillas de Svalbard no se construyó porque alguien supiera qué cosecha iba a fallar. Se construyó porque alguien aceptó que alguna fallaría.

Con la pastilla roja bien tragada.

Fuentes: