El matizado punto medio de Anthropic sobre los modelos de IA de pesos abiertos

La acusación y la aclaración

Durante los últimos días, una acusación familiar ha circulado nuevamente en la conversación sobre políticas de IA: que Anthropic quiere prohibir los modelos de pesos abiertos para proteger su propio negocio. La acusación surgió mientras funcionarios estadounidenses supuestamente consideraban prohibir los modelos chinos de pesos abiertos en empresas estadounidenses. En respuesta, una coalición de 41 organizaciones tecnológicas, incluidas OpenAI y Meta, firmó una carta abierta defendiendo la IA de pesos abiertos como esencial para el liderazgo estadounidense. Y en medio de ese ruido, Anthropic fue etiquetado como el laboratorio anti-pesos abiertos.

El CEO Dario Amodei refutó directamente esa afirmación en una publicación de blog. "Anthropic nunca ha abogado por una prohibición de los modelos de pesos abiertos", escribió. "Los modelos de pesos abiertos que no tienen capacidades peligrosas son un bien público". La aclaración fue tajante, pero también fue el inicio de un argumento más detallado sobre lo que realmente quiere Anthropic.

Dos escenarios de pesadilla detrás de la posición de Amodei

Amodei enmarca sus preocupaciones en torno a dos modelos de amenaza distintos, ambos presentados hace seis meses en un ensayo titulado La adolescencia de la tecnología.

Su temor principal es que los gobiernos autoritarios, sobre todo el Partido Comunista Chino, podrían construir modelos de IA más potentes que los estadounidenses y utilizarlos para lograr una superioridad militar permanente o llevar a cabo una vigilancia profunda de su propia población. "El modelo más peligroso puede ser aquel que se entrena en secreto y solo se entrega al Ejército Popular de Liberación para su uso en drones y al Ministerio de Seguridad del Estado para vigilancia y represión", escribió.

La preocupación secundaria es el riesgo de mal uso. Los modelos de pesos abiertos, argumentó Amodei, presentan un mayor potencial de daño que los modelos cerrados porque es más difícil aplicar salvaguardas y el monitoreo es casi imposible una vez que se liberan los pesos. Pero enfatizó que prohibir el uso de estos modelos por parte de empresas estadounidenses "no hace nada para abordar este riesgo, porque los actores malintencionados probablemente no sean empresas estadounidenses legítimas".

Tres políticas específicas en lugar de una prohibición general

• Controles de exportación de chips: EE. UU. debería "no vender chips potentes ni equipos de fabricación de chips a China, y debería reprimir el contrabando desenfrenado y las soluciones alternativas utilizadas para obtener acceso a dichos chips". Debido a que las leyes de escalado significan que China no puede construir modelos fronterizos sin chips avanzados, Amodei considera esta la vía más eficiente para bloquear la amenaza de superioridad autoritaria.
• Represión de la destilación a escala industrial: la destilación es mucho más eficiente en cómputo que entrenar desde cero, lo que permite a China evadir parcialmente las prohibiciones de chips. Amodei pide intervenciones políticas para disuadir este comportamiento, señalando que "los pesos abiertos son mucho menos relevantes que el hecho de que las operaciones están respaldadas por un estado autoritario que busca superar a EE. UU. en la frontera".
• Pruebas de seguridad obligatorias para todos los modelos suficientemente capaces: tanto los modelos abiertos como los cerrados deberían ser evaluados en riesgos cibernéticos, biológicos y de alineación antes de su publicación. "Si los modelos abiertos representan o no un riesgo mayor, y si ese riesgo puede mitigarse, es algo que debería surgir de las pruebas, en lugar de decidirse de antemano", escribió Amodei. Para ser efectivas, las pruebas tendrían que ser globales, un resultado difícil pero potencialmente alcanzable dado los intereses mutuos.

Dónde Anthropic está de acuerdo y en desacuerdo con la carta abierta

Amodei dijo que está de acuerdo con gran parte de la carta de la industria firmada por 41 organizaciones: los pesos abiertos amplían el acceso a la economía de la IA, fortalecen la competencia y brindan a los clientes un mayor control. También coincidió en que las preocupaciones sobre la destilación deberían abordarse mediante marcos legales y comerciales específicos.

Pero objetó la suposición de la carta de que los modelos de pesos abiertos facilitan el desarrollo de salvaguardas o que el acceso amplio necesariamente ayuda más a los defensores que a los atacantes. "Me parece al menos igual de probable que ocurra lo contrario", escribió, citando el riesgo de que modelos de IA suficientemente capaces podrían armamentizar virus de nivel pandémico con materiales ampliamente disponibles, mientras que la defensa "es una tarea operativa de varios años en el mejor de los casos". Esa asimetría, argumentó, debería probarse empíricamente en lugar de descartarse por supuesto.

Lo que esto significa para el debate sobre políticas de IA

La publicación de Amodei llega en un momento en que la administración Trump ya se ha movido hacia requisitos de pruebas de seguridad para modelos fronterizos, y mientras las propuestas de la industria para pruebas universales ganan tracción. Una coalición que incluye a OpenAI, Meta y otros ha pedido marcos legales específicos en torno a la destilación, haciendo eco del llamado de Amodei a medidas que ataquen el método en lugar del resultado.

Anthropic también ha estado invirtiendo fuertemente en infraestructura política. La compañía recientemente duplicó su apuesta política a 40 millones de dólares, señalando su propio Marco Avanzado de IA como la propuesta política más sólida de cualquier laboratorio fronterizo. La publicación de Amodei de hoy completa la narrativa detrás de ese gasto: un laboratorio que intenta dar forma a la regulación sin alienar a la comunidad de desarrolladores que depende de los modelos abiertos.

El resultado es una postura que puede satisfacer a pocos puristas. Los defensores acérrimos del código abierto verán las pruebas de seguridad como una puerta trasera al control. Los halcones de la seguridad nacional pueden encontrar insuficientes las medidas sobre destilación y chips. Pero el argumento de Amodei es que el punto medio es el único terreno que realmente aborda tanto los riesgos como los beneficios de la tecnología. Si ese punto medio se mantiene dependerá de lo que hagan los responsables políticos a continuación.