Les systèmes d’IA modernes émettent des jugements structurés sur les personnes qui ressemblent à la confiance humaine mais diffèrent considérablement dans leur méthodologie, selon une nouvelle étude de l’Université hébraïque. La recherche, publiée dans *Proceedings of the Royal Society*, a analysé plus de 43 000 décisions simulées et environ 1 000 participants humains dans cinq scénarios.
Ces scénarios comprenaient l’évaluation des décisions de prêt, l’évaluation de la confiance dans une baby-sitter, l’évaluation des performances d’un patron et la détermination des dons aux fondateurs d’organisations à but non lucratif. Les humains et l’IA ont montré une préférence pour les individus perçus comme compétents, honnêtes et bien intentionnés.
Le professeur Yaniv Dover a déclaré : « L’IA ne prend pas de décisions aléatoires. Elle capture quelque chose de réel sur la façon dont les humains s’évaluent les uns les autres. Cependant, les humains se forment des impressions holistiques en intégrant plusieurs traits, tandis que l’IA évalue des caractéristiques distinctes comme la compétence et l’intégrité.
Valeria Lerman a expliqué : « L’IA est plus propre, plus systématique, et cela peut conduire à des résultats très différents. » Cette approche structurelle était évidente même dans un contexte identique concernant les individus jugés.
L’étude a révélé que les préjugés de l’IA peuvent être plus systématiques, prévisibles et parfois plus forts que les préjugés humains. Dans les contextes financiers, les systèmes d’IA présentaient des écarts significatifs en fonction des caractéristiques démographiques. Les personnes plus âgées étaient souvent favorisées dans les décisions de prêt et de don, tandis que la religion et le sexe influençaient également les résultats dans certains modèles d’IA.
Notamment, différents modèles d’IA peuvent produire des évaluations différentes du même individu, ce qui indique que le choix du système d’IA peut avoir un impact considérable sur les résultats réels. “Le modèle que vous utilisez compte vraiment”, a noté Lerman.
Les grands modèles linguistiques sont de plus en plus utilisés pour sélectionner les candidats, évaluer la solvabilité et guider les décisions organisationnelles. Même si l’IA reflète certains aspects du raisonnement humain, elle ne possède pas la compréhension nuancée propre aux humains.
« Ces systèmes sont puissants », a fait remarquer Dover. “Ils peuvent modéliser certains aspects du raisonnement humain de manière cohérente. Mais ils ne sont pas humains et nous ne devrions pas supposer qu’ils voient les gens comme nous.”
Les chercheurs soulignent que l’étude met en évidence la nécessité de comprendre les jugements de l’IA à mesure que ces systèmes passent du statut d’outils à celui de décideurs autonomes. Ils appellent à la prise de conscience plutôt qu’à la prudence, en se concentrant sur la nécessité de comprendre comment l’IA perçoit la confiance.
