OpenAI a conclu un accord pour déployer ses modèles d’intelligence artificielle dans des environnements classifiés pour le Pentagone, suite à une rupture des négociations entre le Pentagone et son rival Anthropic. Le président Donald Trump a ordonné aux agences fédérales de cesser d’utiliser la technologie d’Anthropic après une période de transition de six mois, et le secrétaire à la Défense Pete Hegseth a désigné l’entreprise comme présentant un risque pour la chaîne d’approvisionnement. Le PDG d’OpenAI, Sam Altman, a admis que l’accord avait été précipité et avait entraîné des réactions négatives importantes, contribuant ainsi à ce que Claude d’Anthropic dépasse ChatGPT d’OpenAI dans l’App Store d’Apple samedi.
L’accord permet à OpenAI de fournir des services d’IA au ministère de la Défense tout en maintenant des interdictions de sécurité spécifiques. L’entreprise vise à apaiser les tensions entre le ministère de la Défense et l’industrie de l’IA. “Si nous avons raison et que cela conduit à une désescalade entre le DoW et l’industrie, nous ressemblerons à des génies et à une entreprise qui a pris beaucoup de peine pour faire des choses pour aider l’industrie”, a déclaré Altman.
Le article de blog d’OpenAI décrit trois cas d’utilisation interdits pour ses modèles : la surveillance nationale de masse, les systèmes d’armes autonomes et les décisions automatisées à enjeux élevés telles que les systèmes de « crédit social ». La société a déclaré qu’elle conservait l’entière discrétion sur sa pile de sécurité et son déploiement via l’API cloud. “Nous ne savons pas pourquoi Anthropic n’a pas pu conclure cet accord, et nous espérons qu’eux et d’autres laboratoires l’envisageront”, ajoute le blog.
Anthropic a déclaré avoir des lignes rouges contre l’utilisation de sa technologie dans des armes entièrement autonomes ou dans la surveillance nationale de masse. Sam Altman a déclaré qu’OpenAI avait les mêmes lignes rouges qu’Anthropic. Mike Masnick de Techdirt a affirmé que l’accord permettait la surveillance nationale car il faisait référence au respect du décret 12333.
Katrina Mulligan, responsable des partenariats de sécurité nationale chez OpenAI, a fait valoir que l’architecture de déploiement empêche l’intégration dans des systèmes d’armes ou des capteurs. “En limitant notre déploiement à l’API cloud, nous pouvons garantir que nos modèles ne peuvent pas être intégrés directement dans des systèmes d’armes, des capteurs ou tout autre matériel opérationnel”, a déclaré Mulligan.
