Le secrétaire américain à la Défense, Pete Hegseth, fait pression sur Anthropic pour qu’il fournisse à l’armée un accès illimité à son modèle d’intelligence artificielle Claude, selon un rapport d’Axios. Hegseth aurait informé le PDG d’Anthropic, Dario Amodei, que la société avait jusqu’à vendredi pour accorder un accès complet au Pentagone sous peine de sanctions importantes. Les menaces incluent l’invocation de la loi sur la production de défense, la rupture des contrats existants et la désignation d’Anthropic comme risque pour la chaîne d’approvisionnement. Une telle désignation obligerait d’autres entrepreneurs de la défense à certifier qu’ils n’utilisent pas Claude dans leurs flux de travail.
La demande du Pentagone se concentre sur la dépendance de l’armée envers Claude pour ses opérations les plus sensibles. Un responsable de la défense a déclaré à Axios que l’armée avait immédiatement besoin de la technologie d’Anthropic, car il s’agit actuellement du seul modèle d’IA utilisé pour des travaux hautement classifiés. Le responsable a noté : “La seule raison pour laquelle nous parlons encore à ces gens est que nous avons besoin d’eux et nous en avons besoin maintenant.” Claude aurait été utilisé dans des opérations militaires spécifiques, notamment le raid visant Nicolas Maduro au Venezuela. Anthropic a proposé d’appliquer ses politiques d’utilisation standard aux contrats du Pentagone, mais a fixé des limites à certaines applications. La société a déclaré qu’elle ne permettrait pas que son modèle soit utilisé pour la surveillance de masse des citoyens américains ou pour des systèmes d’armes autonomes fonctionnant sans surveillance humaine.
Le même jour où la nouvelle concernant la campagne de pression du Pentagone tombait, Anthropic annonçait une refonte significative de ses protocoles de sécurité. L’entreprise a révélé qu’elle modifiait sa politique de mise à l’échelle responsable (RSP), abaissant ainsi les garde-fous de sécurité précédemment établis. Pendant des années, la promesse centrale d’Anthropic aux consommateurs et aux partenaires commerciaux était de mettre un terme à la formation de nouveaux modèles d’IA si des critères de sécurité spécifiques ne pouvaient être garantis à l’avance. Cette politique antérieure reposait sur des « fils déclencheurs durs » conçus pour arrêter immédiatement le développement si certains seuils de risque étaient atteints.
La politique mise à jour remplace ces lignes rouges strictes par une approche plus flexible. Le nouveau cadre d’Anthropic s’appuie sur des « rapports sur les risques » et des « feuilles de route de sécurité aux frontières » plutôt que sur des pauses automatiques dans le développement. Dans un communiqué, Anthropic a expliqué : « Deux ans et demi plus tard, notre évaluation honnête est que certaines parties de cette théorie du changement se sont déroulées comme nous l’espérions, mais d’autres ne l’ont pas été. » L’entreprise affirme que ce changement est nécessaire pour rester compétitive sur un marché en évolution rapide.
Jared Kaplan, directeur scientifique d’Anthropic, a défendu cette décision dans une interview avec Time. Kaplan stated that unilaterally pausing development would be counterproductive while competitors continue to advance. “Nous avons estimé que cela n’aiderait personne si nous arrêtions de former des modèles d’IA”, a déclaré Kaplan. “Avec les progrès rapides de l’IA, nous n’avons pas vraiment pensé qu’il était logique pour nous de prendre des engagements unilatéraux… si nos concurrents sont en avance.”
Anthropic a cité un « problème d’action collective » comme principale motivation du changement de politique. L’entreprise a fait valoir que si un développeur fait une pause pour des raisons de sécurité tandis que d’autres continuent sans mesures d’atténuation fortes, la sécurité globale de l’écosystème pourrait se dégrader. Selon le RSP mis à jour, « les développeurs bénéficiant des protections les plus faibles donneraient le ton, et les développeurs responsables perdraient leur capacité à mener des recherches sur la sécurité et à faire progresser le bénéfice public. » Anthropic a également souligné l’environnement antiréglementaire plus large aux États-Unis comme facteur ayant influencé sa décision.
Le contexte financier souligne les pressions concurrentielles auxquelles l’entreprise est confrontée. En février, Anthropic a obtenu 30 milliards de dollars de nouveaux investissements, portant sa valorisation totale à 380 milliards de dollars. Les derniers modèles de la société, notamment en termes de capacités de codage, ont reçu de nombreux éloges. Cependant, cette croissance coïncide avec un changement de philosophie d’entreprise. Alors que les engagements précédents d’Anthropic en matière de sécurité constituaient la pierre angulaire de sa marque, la nouvelle approche donne la priorité à la formation continue plutôt qu’aux arrêts brusques.
Chris Painter, directeur de l’organisation à but non lucratif METR, a offert une évaluation mitigée de la nouvelle politique d’Anthropic. Painter a salué l’accent accru mis sur la transparence, mais a averti que la flexibilité du nouveau RSP pourrait conduire à un effet « d’ébullition ». Ce phénomène décrit un scénario dans lequel les normes de sécurité sont progressivement érodées par une série de rationalisations, conduisant finalement à un écart significatif par rapport aux objectifs de sécurité initiaux.
Painter a en outre interprété le changement de politique comme le signe de luttes plus larges dans l’industrie. Il a noté que les changements suggèrent qu’Anthropic « estime qu’il doit passer en mode triage avec ses plans de sécurité, car les méthodes d’évaluation et d’atténuation des risques ne suivent pas le rythme des capacités ». Painter a conclu que cette évolution prouve que la société n’est peut-être pas suffisamment préparée à larisques catastrophiques potentiels associés à l’IA avancée. Ni l’annonce d’Anthropic concernant le RSP ni les reportages sur les demandes du Pentagone n’ont explicitement relié les deux événements, bien que leur timing le même jour ait attiré l’attention sur l’intersection de la pression gouvernementale et de la politique de sécurité des entreprises.
