Deepmind Gato AI est un “agent généraliste” qui peut effectuer un large éventail d’activités compliquées, y compris empiler des blocs pour écrire de la poésie.
Après que DeepMind ait dévoilé un système d’IA capable de mener à bien un large éventail d’activités complexes, allant de l’empilement de blocs à l’écriture de poésie, le Dr Nando de Freitas a déclaré que “le jeu est terminé” dans la recherche de plusieurs décennies sur l’intelligence artificielle générale (IAG). Décrit comme un “agent généraliste”, DeepMind Gato AI doit simplement être mis à l’échelle afin de créer une IA capable de rivaliser avec l’intelligence humaine, explique le Dr de Freitas.
Le directeur de recherche de DeepMind a répondu à un article d’opinion publié dans The Next Web qui prédisait que “les humains n’atteindront jamais l’AGI”, déclarant qu’il croyait qu’une telle conclusion était inévitable. « Tout est question d’échelle maintenant ! Le jeu est terminé!” il a écrit sur Twitter. Ajoutant “Il s’agit de rendre ces modèles plus grands, plus sûrs, plus efficaces en termes de calcul, plus rapides à l’échantillonnage, une mémoire plus intelligente, plus de modalités, des données innovantes, en ligne/hors ligne… Résoudre ces défis est ce qui fournira l’AGI.”
Interrogé par l’expert en apprentissage automatique Alex Dimikas à quel point il pensait que l’IA Deepmind Gato était loin de passer un vrai test de Turing – un test d’intelligence informatique qui nécessite qu’un humain soit incapable de faire la différence entre une machine et une autre personne – Dr de Freitas répondit : “Encore loin.”
Qu’est-ce que Deepmind Gato AI ?
DeepMind est une société d’intelligence artificielle bien connue qui se concentre sur la résolution de problèmes d’intelligence artificielle. Il vise à introduire de nouvelles idées et techniques dans l’apprentissage automatique, l’ingénierie, la simulation et l’infrastructure informatique à travers plusieurs initiatives. Gato a dévoilé une technologie d’intelligence artificielle multimodale de pointe qui peut gérer plus de 600 tâches diverses. Ces dernières années, l’excellent kit d’apprentissage automatique tout-en-un a attiré l’attention du marché mondial de la technologie. Alors, est-ce bon pour l’humanité ? L’IA Gato de Deepmind peut-elle être dangereuse ?
Deepmind Gato AI deviendrait-il dangereux ?
D’éminents experts en IA ont exprimé leurs craintes que l’avènement de l’IAG ne conduise à une catastrophe existentielle pour l’humanité, le professeur de l’Université d’Oxford Nick Bostrom suggérant qu’une machine “super-intelligente” avec des capacités cognitives rivalisant ou dépassant l’intelligence biologique pourrait supplanter les humains en tant que vie dominante. forme sur Terre.
L’un des soucis les plus importants avec l’introduction d’un système AGI qui peut apprendre et s’améliorer de manière exponentielle plus rapidement que les humains est qu’il sera impossible de le désactiver. Interrogé sur les problèmes de sécurité posés par les chercheurs en IA sur Twitter, le Dr de Freitas a répondu : “Il est essentiel de donner la priorité à la sécurité lors du développement de l’IAG.” “C’est sans aucun doute le problème le plus difficile auquel nous sommes confrontés”, a-t-il ajouté. « Tout le monde devrait y penser. Je suis également préoccupé par le manque de diversité.
Google, qui a acquis la société DeepMind basée à Londres en 2014, travaille déjà sur un “gros bouton rouge” pour éviter les dangers d’une explosion de l’intelligence artificielle. Les chercheurs de DeepMind écrivant dans un article de 2016 intitulé “Safely Interruptible Agents” ont décrit un cadre pour empêcher l’intelligence artificielle sophistiquée d’ignorer les signaux d’arrêt.
L’interruptibilité sûre peut être utile pour prendre le contrôle d’un robot qui se comporte mal et peut entraîner des conséquences irréversibles », indique le document, ajoutant« Si un tel agent fonctionne en temps réel sous supervision humaine, il peut être nécessaire de temps en temps pour un opérateur humain d’appuyer sur le gros bouton rouge pour empêcher l’agent de poursuivre une séquence d’actions nuisibles – nuisibles soit pour l’agent, soit pour l’environnement – et conduire l’agent dans une situation plus sûre.
Ce que Deepmind Gato AI implique pour l’humanité reste à voir. Il a été pensé pour prédire la pluie deux heures à l’avance et peut déjà produire du code à un niveau compétitif. Espérons que nous ne finirons pas comme le film Terminator.
