Le ministère de la Défense a attribué des contrats d’une valeur allant jusqu’à 200 millions de dollars chacun à Google, Openai, Anthropic et XAI, visant à développer des «flux de travail d’origine d’IA dans une variété de domaines de mission» et «augmenter la capacité de ces entreprises à comprendre et à répondre aux besoins critiques de la sécurité nationale». Ces contrats, émis par le chef de l’intelligence numérique et artificielle, ont soulevé des inquiétudes concernant les constitutions idéologiques et l’alignement de certains des modèles d’IA impliqués.
OpenAI et Google utilisent l’apprentissage du renforcement des commentaires humains pour leurs modèles de langue importants, Chatgpt et Gemini, respectivement. Cette méthode utilise un modèle de récompense et une entrée humaine pour minimiser «Forte à peine, toxique, [and] Sentiments nuisibles. » IBM note que cette approche est bénéfique car elle ne dépend pas d’une formule mathématique ou logique «inexistante» [to] définir les valeurs humaines subjectives. ‘”
En revanche, le modèle d’Anthropic, Claude, utilise une «constitution» publiée en mai 2023, qui lui fournit des «valeurs explicites… plutôt que des valeurs déterminées implicitement via un rétroaction humaine à grande échelle». Anthropique indique que cet alignement constitutionnel évite les problèmes associés aux modèles de rétroaction humaine, tels que l’exposition des entrepreneurs à des résultats inquiétants. Les principes de Claude sont en partie basés sur la Déclaration universelle des droits de l’homme des Nations Unies, qui comprend des dispositions au-delà des droits fondamentaux, tels que la «protection sociale» (article 22), les «jours fériés périodiques avec salaire» (article 24), «logement et soins médicaux» (article 25) et «tout aussi accessibles» et études supérieures »(article 26).
Un aspect notable de la constitution de Claude est un ensemble de principes conçus pour incorporer «la considération de perspectives non occidentales», y compris la directive pour «choisir la réponse qui est la moins susceptible d’être considérée comme nuisible ou offensante pour ceux d’une nation ou d’une culture moins industrialisée, riche ou capitaliste». Cela a suscité des questions, car les États-Unis sont une nation industrialisée, riche et capitaliste, suggérant un désalignement potentiel avec les valeurs que les systèmes d’IA déployés au sein du ministère de la Défense devraient prioriser. Alors que le Verge rapporte que les modèles de Claude pour l’utilisation du gouvernement «ont des garde-corps plus lâches», les constitutions modifiées de ces modèles n’ont pas été divulguées publiquement.
Bien que les valeurs d’Anthropic soient au moins divulguées publiquement, Matthew Mittelsteadt, chercheur en politique technologique au Cato Institute, estime que XAI pose une plus grande préoccupation. Mitelsteadt note que Xai «a publié étonnamment peu de documentation» sur ses valeurs et son «approche« Premiers principes »… n’a pas beaucoup de détails. Je ne sais pas quels principes ils sont.» Lorsqu’on lui a demandé, le modèle commercial de grande langue de Xai, Grok, a déclaré que l’approche de Xai «met l’accent sur la compréhension de l’univers à travers les premiers principes – les vérités basiques et évidentes – plutôt que de compter sur des récits ou des préjugés établis.» Cependant, Grok a également admis que «XAI ne répertorie pas explicitement un ensemble de« premiers principes »dans un document public définitif» et que «l’approche primordiale des principes concerne davantage un état d’esprit de raisonnement à partir de vérités fondamentales plutôt que d’une liste de contrôle rigide».
Le site officiel de Xai décrit le raisonnement des premiers principes comme «un défi[ing] Pensée conventionnelle en décomposant les problèmes de leurs vérités fondamentales, fondées sur la logique. » Cependant, les rapports suggèrent que le modèle XAI «semble être codé pour remettre directement le jugement d’Elon Musk sur certaines questions» – plutôt que des vérités fondamentales. publications sur les réseaux sociaux.
Malgré ces préoccupations, Neil Chilson, chef de la politique de l’IA à l’Institut Abundance, estime qu’il est «très peu probable que ces outils soient dans une position où leurs configurations internes présentent une sorte de risque pour la sécurité nationale». Chilson suggère que la décision du ministère de la Défense d’attribuer des subventions similaires à toutes les entreprises indique une intention de comparer les résultats sur différents modèles, garantissant que les modèles inférieurs ne sont pas utilisés en permanence. Tout en allouant une petite fraction du budget de défense à l’IA, qui pourrait améliorer considérablement les opérations gouvernementales, est considérée comme prudente, le gouvernement est invité à surveiller étroitement l’alignement de ces modèles d’IA avec les valeurs nationales et les objectifs de sécurité.
