L’intelligence artificielle (IA) fascine depuis longtemps certains et est critiquée par d’autres. Il est devenu difficile de prédire ce qui est possible et ce qui ne l’est pas avec l’IA. Un groupe d’universitaires de l’Université de la Colombie-Britannique (UBC) à Vancouver a imaginé quelque chose qui pourrait ressembler à de la science-fiction : un scientifique IA entièrement autonome. Cette IA analyse les données, crée et mène des expériences. Cette découverte a des implications à la fois fascinantes et, pour certains, dérangeantes.
Bien que l’idée d’un scientifique en IA puisse sembler un rêve farfelu, Équipe de l’UBC a fait de ce projet une réalité grâce à des partenariats avec l’Université d’Oxford et IA SakanaMême si ces documents de travail générés par l’IA ne contribuent pas initialement beaucoup à la science, le fait qu’ils soient le résultat de l’apprentissage automatique issu de leurs expériences et qu’ils fonctionnent représente une avancée dans la recherche en IA.
Le scientifique de l’IA qui n’arrête jamais d’apprendre
Ce travail est centré sur une approche appelée apprentissage ouvert. Ce nouveau scientifique de l’IA fonctionne différemment de l’IA traditionnellequi repose sur de vastes quantités de données créées par des humains. Elle apprend en essayant de nouvelles choses, en les étudiant et en les perfectionnant. Grâce à cette technique, l’IA peut repousser les limites des connaissances actuelles et peut-être découvrir de nouvelles perspectives que les chercheurs humains auraient pu manquer.
L’une des premières tâches auxquelles ce scientifique en IA s’est attaqué était d’améliorer les techniques d’apprentissage automatique existantes, telles que la modélisation par diffusion et l’accélération réseaux neuronaux profonds. Bien que ces avancées ne semblent pas révolutionnaires, elles illustrent la capacité de l’IA à développer et tester des idées de manière autonome. L’IA elle-même ne pouvait pas faire grand-chose à ses débuts, mais elle a maintenant commencé à s’immiscer dans tous les aspects de notre vie.
Jeff CluneLe professeur qui dirige le laboratoire de l’UBC a reconnu que les résultats ne sont pas nécessairement un succès, mais qu’ils sont prometteurs. L’approche d’apprentissage du scientifique en IA, qui consiste à peaufiner constamment ses expériences et à rechercher des choses qu’il trouve « intéressantes », constitue une nouvelle approche par rapport aux méthodes plus rigides traditionnellement utilisées dans la recherche en IA.
Les scientifiques de l’IA testent le code et affinent leurs théories de manière indépendante
Le laboratoire de Clune expérimente depuis un certain temps l’apprentissage ouvert. Dans le cadre de projets précédents, ils ont développé des programmes d’IA conçus pour explorer des environnements virtuels et générer des comportements en fonction de ce qu’ils trouvent intéressant. Ces programmes devaient être soigneusement guidés par des instructions codées à la main, mais l’introduction de grands modèles de langage (LLM) a changé la donne. Désormais, ces programmes d’IA peuvent déterminer de manière indépendante ce qui mérite d’être étudié, ce qui les rend plus autonomes et potentiellement plus créatifs.
La capacité des scientifiques en IA à écrire le code nécessaire pour valider leurs théories, ainsi qu’à exécuter des tests, est l’un de leurs attributs les plus fascinants. Cela permet à l’IA d’affiner continuellement sa stratégie, devenant de plus en plus efficace et peut-être plus perspicace. Clune compare ce processus à la découverte d’un nouveau continent, car les deux impliquent l’esprit d’exploration et d’inconnu et la possibilité de grandes surprises en cours de route.
La fiabilité de ces systèmes est faible, malgré leur brillant avenir. Bien que les scientifiques de l’IA puissent sembler remarquables, Tom Espoirchercheur à l’ Institut Allen pour l’IAaffirme que l’IA est encore très dérivée et peu fiable. Cette méfiance vient du fait que l’IA promet trop et n’est pas assez performante, notamment dans les domaines de la créativité et de la véritable innovation.
Gérer le potentiel et le risque
Avec la création du scientifique IA, des inquiétudes ont également surgi quant à l’orientation de la recherche scientifique. Lorsque l’IA pourra créer et évaluer des théories par elle-même, où seront les chercheurs humains ? De plus, comment pouvons-nous garantir que ces technologies d’IA sont utilisées de manière appropriée ? Une personne malveillante pourrait-elle former un scientifique IA à domicile et l’utiliser pour desseins maléfiques dans le futur?
Ce scientifique en IA fait déjà des progrès dans la création d’agents IA, qui sont des programmes autonomes dotés de fonctions prédéterminées. Le groupe de Clune a créé des agents conçus par IA qui surpassent leurs conçu par l’homme Les compétences en mathématiques et en compréhension de lecture, par exemple, sont comparables à celles de l’IA. Ce succès laisse entrevoir un avenir où l’IA pourrait contribuer à l’innovation de manière encore peu claire, plutôt que de se contenter d’aider aux activités quotidiennes.
Mais cette avancée comporte des risques. Il est particulièrement inquiétant que ces systèmes d’IA puissent produire des agents mal intentionnés, que ce soit volontairement ou non. Clune et son équipe sont conscients des risques et tentent de trouver des solutions pour empêcher ce genre de situations de se produire. Ils soutiennent que le secret est de superviser correctement la création de ces systèmes pour garantir leur solidité et leur sécurité.
Même si l’on ne sait pas encore où cela nous mènera, une chose est sûre : les scientifiques spécialisés en IA sont là et ils ne cesseront pas de devenir plus intelligents. L’IA est sur le point d’entrer dans une nouvelle phase et tout le monde observera de près si elle mène à des découvertes révolutionnaires ou à de nouveaux problèmes. À mesure que l’IA évolue, il sera essentiel que les universitaires mettent l’accent sur les questions éthiques et s’assurent que ces systèmes sont construits de manière éthique. En fin de compte, la manière dont nous abordons la relation complexe entre la technologie et les humains déterminera l’impact de l’IA sur la société.
Crédits de l’image en vedette : Institut national du cancer / Unsplash
Source: Les scientifiques de l’IA recherchent, apprennent et découvrent
