Geoffrey Hinton, connu comme le « parrain de l’IA », a déclaré que la guerre menée par la Russie en Ukraine a modifié sa vision de l’utilisation de l’intelligence artificielle dans des applications militaires. Hinton a déclaré à NBC News que les complexités entourant l’IA dans la guerre sont plus grandes qu’il ne le pensait auparavant. Cette reconnaissance intervient après des années de plaidoyer en faveur d’une interdiction internationale des armes mortelles autonomes.
Hinton a indiqué que le rôle important des drones, en particulier ceux dotés de l’IA, dans la défense de l’Ukraine contre les forces russes l’a rendu plus ouvert aux applications militaires de la technologie de l’IA. Il a fait remarquer que « l’Ukraine survit grâce aux drones », soulignant la difficulté de s’opposer à leur utilisation dans la guerre moderne.
Bien que l’Ukraine utilise des drones alimentés par l’IA contre des cibles russes, Hinton a noté que la défense du pays dépend fortement de la surveillance humaine et de la production cohérente de munitions. Il a reconnu les avantages des systèmes d’IA sur le champ de bataille, mais a qualifié la situation de « désordre », soulignant ses inquiétudes persistantes quant aux implications de l’utilisation de l’IA dans la guerre.
Hinton a souligné que l’évolution des combats en Ukraine suscite des visions troublantes de futurs scénarios de guerre impliquant des armes autonomes. Il a commenté les dangers de retirer la prise de décision humaine du combat, suggérant que de tels progrès pourraient conduire à des résultats plus rapides et plus meurtriers.
Il a souligné l’importance de l’engagement et du plaidoyer du public pour guider le développement des technologies d’IA de manière responsable. “La seule chose qui va freiner ces grandes entreprises d’IA, c’est la pression du public”, a déclaré Hinton, soulignant son engagement à éduquer le public sur les risques et les avantages de l’IA.
Hinton n’était pas disponible pour d’autres commentaires, selon son assistant qui a communiqué avec Business Insider. Pendant ce temps, au cours de la dernière décennie, les employés de plusieurs entreprises technologiques, dont Google et Microsoft, ont résisté à toute implication dans des projets d’IA liés à la défense.
La semaine dernière, le président Donald Trump a signé une directive visant à accélérer le développement de l’IA à des fins de sécurité nationale. Le mémorandum présidentiel sur la sécurité nationale déclarait que l’IA pourrait être transformationnelle pour la sécurité nationale des États-Unis, suggérant qu’une utilisation appropriée pourrait protéger les militaires et réduire les dommages causés aux civils, tout en conservant un avantage technologique sur les adversaires.
L’administration Trump a plaidé en faveur d’une adoption sans restriction de l’IA dans le cadre de la sécurité nationale. Le Pentagone a désigné la société Anthropic comme présentant un risque pour la chaîne d’approvisionnement après avoir demandé que son Claude AI ne soit pas utilisée dans des armes autonomes. En outre, le Pentagone a démantelé un bureau qui visait à atténuer les dommages causés aux civils en temps de guerre.
