Le terrain d'entente nuancé d'Anthropic sur les modèles d'IA à poids ouverts

L'accusation et la clarification

Depuis quelques jours, une accusation familière circule à nouveau dans les discussions politiques sur l'IA : Anthropic voudrait interdire les modèles à poids ouverts pour protéger ses propres intérêts commerciaux. Cette accusation a émergé alors que les responsables américains envisageaient d'interdire les modèles chinois à poids ouverts aux entreprises américaines. En réponse, une coalition de 41 organisations technologiques, dont OpenAI et Meta, a signé une lettre ouverte défendant l'IA à poids ouverts comme essentielle au leadership américain. Et au milieu de ce bruit, Anthropic a été étiqueté comme le laboratoire anti-poids ouverts.

Le PDG Dario Amodei a directement réfuté cette affirmation dans un article de blog. « Anthropic n'a jamais préconisé une interdiction des modèles à poids ouverts », a-t-il écrit. « Les modèles à poids ouverts qui n'ont pas de capacités dangereuses sont un bien public. » La clarification était brutale, mais elle marquait le début d'un argument plus détaillé sur ce qu'Anthropic veut réellement.

Deux scénarios cauchemardesques derrière la position d'Amodei

Amodei encadre ses préoccupations autour de deux modèles de menace distincts, qu'il a tous deux présentés il y a six mois dans un essai intitulé L'adolescence de la technologie.

Sa principale crainte est que des gouvernements autoritaires, notamment le Parti communiste chinois, puissent construire des modèles d'IA plus puissants que ceux des États-Unis et les utiliser pour obtenir une supériorité militaire permanente ou surveiller profondément leur propre population. « Le modèle le plus dangereux pourrait être celui qui est entraîné en secret et remis uniquement à l'Armée populaire de libération pour être utilisé dans des drones et au ministère de la Sécurité d'État pour la surveillance et la répression », a-t-il écrit.

La préoccupation secondaire est le risque de mauvaise utilisation. Les modèles à poids ouverts, a soutenu Amodei, présentent un potentiel de préjudice plus élevé que les modèles fermés car les garde-fous sont plus difficiles à appliquer et la surveillance est presque impossible une fois les poids publiés. Mais il a souligné qu'interdire l'utilisation de ces modèles par les entreprises américaines « ne fait rien pour atténuer ce risque, car les mauvais acteurs ne sont probablement pas des entreprises américaines légitimes. »

Trois politiques ciblées au lieu d'une interdiction générale

Plutôt que de soutenir une interdiction générale des modèles à poids ouverts, Amodei approuve trois mesures concrètes :

• Contrôles à l'exportation de puces : les États-Unis devraient « ne pas vendre de puces puissantes ou d'équipements de fabrication de puces à la Chine, et devraient réprimer la contrebande généralisée et les contournements utilisés pour obtenir l'accès à ces puces. » Parce que les lois d'échelle signifient que la Chine ne peut pas construire des modèles de frontière sans puces avancées, Amodei considère cela comme le moyen le plus efficace de bloquer la menace de supériorité autoritaire.
• Répression de la distillation à l'échelle industrielle : la distillation est beaucoup plus efficace en termes de calcul que l'entraînement à partir de zéro, permettant à la Chine de contourner partiellement les interdictions de puces. Amodei appelle à des interventions politiques pour dissuader ce comportement, notant que « les poids ouverts sont bien moins pertinents que le fait que les opérations sont soutenues par un État autoritaire cherchant à dépasser les États-Unis à la frontière. »
• Tests de sécurité obligatoires pour tous les modèles suffisamment capables : les modèles ouverts et fermés doivent être testés pour les risques cybernétiques, biologiques et d'alignement avant leur publication. « Que les modèles ouverts présentent ou non un risque accru, et si ce risque peut être atténué, est quelque chose qui devrait émerger des tests, plutôt que d'être décidé à l'avance », a écrit Amodei. Pour être efficaces, les tests devraient être mondiaux, un résultat difficile mais potentiellement réalisable compte tenu des intérêts mutuels.

Ce programme en trois volets rejette explicitement une interdiction générale des poids ouverts tout en imposant des contraintes que beaucoup dans la communauté open-source pourraient contester.

Où Anthropic est d'accord et en désaccord avec la lettre ouverte

Amodei a déclaré être d'accord avec une grande partie de la lettre de l'industrie signée par 41 organisations : les poids ouverts élargissent l'accès à l'économie de l'IA, renforcent la concurrence et donnent aux clients un plus grand contrôle. Il a également convenu que les préoccupations concernant la distillation devraient être traitées par des cadres juridiques et commerciaux ciblés.

Mais il a contesté l'hypothèse de la lettre selon laquelle les modèles à poids ouverts facilitent le développement de mesures de protection ou que l'accès large aide nécessairement les défenseurs plus que les attaquants. « Il me semble au moins aussi probable que le contraire soit vrai », a-t-il écrit, citant le risque que des modèles d'IA suffisamment capables puissent militariser des virus de niveau pandémique avec des matériaux largement disponibles, tandis que la défense « est une tâche opérationnelle de plusieurs années dans le meilleur des cas. » Cette asymétrie, a-t-il soutenu, devrait être testée empiriquement plutôt que supposée.

Ce que cela signifie pour le débat sur la politique de l'IA

L'article de blog d'Amodei arrive alors que l'administration Trump s'est déjà orientée vers des exigences de tests de sécurité pour les modèles de frontière, et alors que les propositions de l'industrie pour des tests universels gagnent du terrain. Une coalition qui comprend OpenAI, Meta et d'autres a appelé à des cadres juridiques ciblés autour de la distillation, faisant écho à l'appel d'Amodei pour des mesures qui ciblent la méthode plutôt que le résultat.

Anthropic a également investi massivement dans l'infrastructure politique. L'entreprise a récemment doublé sa mise politique à 40 millions de dollars, pointant son propre cadre avancé d'IA comme la proposition politique la plus solide de tout laboratoire de frontière. L'article de blog d'Amodei aujourd'hui remplit le récit derrière ces dépenses : un laboratoire essayant de façonner la réglementation sans aliéner la communauté de développeurs qui dépend des modèles ouverts.

Le résultat est une position qui pourrait satisfaire peu de puristes. Les défenseurs acharnés de l'open-source verront les tests de sécurité comme une porte dérobée vers le contrôle. Les faucons de la sécurité nationale pourraient trouver les mesures de distillation et de puces insuffisantes. Mais l'argument d'Amodei est que le terrain d'entente est le seul terrain qui aborde à la fois les risques et les avantages de la technologie. Que ce terrain d'entente tienne dépendra de ce que les décideurs politiques feront ensuite.