Qualcomm, l’un des principaux fournisseurs de communications et de processeurs sans fil, a réalisé des progrès significatifs dans le domaine de l’intelligence artificielle (IA) au Mobile World Congress de Barcelone. L’objectif principal de l’entreprise est d’exécuter l’IA à grande échelle sur des appareils de pointe tels que des téléphones, des ordinateurs et d’autres appareils.
Qualcomm a exécuté avec succès le premier grand modèle multimodal et grand langage au monde sur un téléphone Android, permettant une conversation en plusieurs étapes de type chat entre l’utilisateur et son appareil. En outre, la société a annoncé son intention d’accélérer l’IA sur une large gamme d’appareils de pointe, notamment les ordinateurs, les véhicules, les téléphones de nouvelle génération, les appareils IoT industriels, les points d’accès Wi-Fi et l’infrastructure cellulaire.
Qualcomm AI Hub facile à utiliser
Pour faciliter le développement d’applications d’IA, Qualcomm a créé AI Hub, qui fournit aux développeurs une vaste bibliothèque de modèles d’IA optimisés pour des performances élevées sur Snapdragon et d’autres plates-formes Qualcomm. La plateforme offre de nombreuses fonctionnalités, telles que le rendu d’images et de texte, et une inférence jusqu’à quatre fois plus rapide sur les appareils alimentés par Snapdragon ou d’autres plateformes Qualcomm.
L’AI Hub offre une expérience conviviale, permettant aux développeurs de choisir parmi plus de 75 modèles d’IA et de choisir entre les environnements de travail TensorFlow, PyTorch ou Onyx. Des modèles sont également disponibles sur Hugging Face et GitHub, permettant aux développeurs d’intégrer facilement l’IA dans leurs applications.
Qu’est-ce que LoRA ?
Qualcomm a également réalisé une autre prouesse technique en exécutant sa première implémentation de faible ordre (LoRA) sur un téléphone Android. Développé par Microsoft, LoRA vise à réduire la complexité de la formation des modèles en termes de latence, de coût et d’exigences matérielles. LoRA propose une nouvelle approche de la génération d’images différente des outils d’IA générative tels que DALL-E. En réduisant la complexité du modèle, LoRA réduit les besoins en mémoire, améliore l’efficacité et permet de personnaliser des versions légères sans nécessiter de téléchargement ou de réglage fin de l’ensemble du modèle.
LoRA adopte une approche différente des modèles de rendu d’IA traditionnels. Ces modèles apprennent un motif de pixels pour créer l’image. LoRA utilise une liste de vecteurs pour créer l’image. Les vecteurs représentent les caractéristiques de base de l’image (forme, couleur, texture, etc.).
L’approche vectorielle de LoRA réduit considérablement la complexité et la taille du modèle. Cela permet au modèle d’être formé plus rapidement, nécessitant moins de matériel et consommant moins d’énergie.
Snapdragon X Elite : le conçu pour les applications d’IA
Conçu pour exécuter l’IA, le Snapdragon X Elite dispose d’une architecture SoC 4 nm, d’un processeur Qualcomm Oryon à 12 cœurs avec prise en charge double cœur et d’un GPU Qualcomm Adreno intégré. Il offre des jours d’utilisation avec une seule charge, éliminant ainsi le besoin d’une recharge constante. L’une de ses caractéristiques les plus importantes est qu’il peut également exécuter des modèles génératifs d’IA LLM avec 13 milliards de paramètres.
Pour démontrer les capacités du SoC, Qualcomm a effectué une analyse de performances entre le Snapdragon X Elite et un processeur x86 concurrent avec la configuration GPU, CPU et NPU la plus efficace. Le benchmark utilisait GIMP, un puissant éditeur graphique raster open source équipé du plugin Stable Diffusion pour la génération d’images GAI. Les résultats ont montré que Snapdragon X Elite avec un NPU « 45 TOPS » peut restituer des images trois fois plus rapidement que son concurrent x86. Pour mieux comprendre la puissance de traitement du 45 TOPS, nous pouvons regarder l’exemple ci-dessous :
- Un cerveau humain peut effectuer environ 100 000 milliards d’opérations par seconde.
- Un ordinateur de bureau peut effectuer environ 10 000 milliards d’opérations par seconde.
- Un smartphone peut effectuer environ 1 000 milliards d’opérations par seconde.
Comme on peut le constater, la puissance de traitement de 45 TOPS est 45 fois supérieure à celle d’un smartphone et 4,5 fois supérieure à celle d’un ordinateur de bureau. Cela montre que la plate-forme Snapdragon X Elite est une plate-forme très puissante pour les applications d’IA.
NPU, dont nous avons commencé à entendre le nom
NPU signifie Neural Processing Unit, un processeur spécialisé pour les applications d’intelligence artificielle et d’apprentissage automatique. Les NPU offrent des performances supérieures, notamment dans le calcul des opérations mathématiques utilisées par les réseaux de neurones artificiels (ANN). Ces opérations mathématiques incluent des fonctions de multiplication matricielle, de convolution et d’activation.
Les NPU sont conçus pour fonctionner plus efficacement avec des données de faible précision, ce qui les rend idéaux pour les charges de travail d’IA. Ils sont également beaucoup plus économes en énergie que les processeurs et les GPU pour l’informatique IA.
Les innovations de Qualcomm en matière d’IA
L’optimisme de l’entreprise sur le sujet vise à garantir que l’intelligence artificielle soit utilisée efficacement sur de nombreuses plateformes différentes. Le processeur de téléphone Snapdragon 8 Gen 3 et les plates-formes PC Snapdragon X Elite de la société peuvent remplir des fonctions importantes dans des domaines tels que l’IA générative, la vision par ordinateur et le traitement du langage naturel.
Qualcomm propose également des fonctionnalités d’IA avancées aux développeurs via Qualcomm AI Hub. Le hub fournit aux développeurs des ressources, notamment plus de 75 modèles d’IA optimisés pour des performances élevées sur Snapdragon et d’autres plates-formes Qualcomm.
L’utilisation de l’intelligence artificielle dans les smartphones est limitée, mais si l’entreprise tient parole et développe ces technologies comme elle le souhaite, nous pourrons utiliser l’intelligence artificielle dans nos téléphones comme nous l’utilisons dans nos ordinateurs. L’IA apporte également une toute nouvelle dimension à l’expérience de jeu, permettant aux assistants de jeu virtuels de générer du nouveau contenu de jeu et d’ajuster dynamiquement les règles du jeu et le gameplay en fonction des connaissances du joueur ou de son désir de vivre une expérience plus stimulante.
La commercialisation évolutive de l’IA sur appareil par Qualcomm constitue une contribution majeure à la démocratisation de l’IA. Ces étapes visionnaires font de Qualcomm un acteur clé de l’IA, et l’entreprise peut encore accélérer l’adoption à grande échelle de l’IA.
Les développements en matière d’intelligence artificielle se poursuivent. À ce rythme, l’intelligence artificielle, qui est entrée pour la première fois dans nos ordinateurs, atteindra efficacement nos téléphones. Je pense que cela montre également à quel point ce secteur va croître à l’avenir, avec des processeurs conçus uniquement pour que l’IA puisse comprendre. Même si son éthique et sa moralité font actuellement l’objet de débats, dans les prochains jours, l’utilisation de cette technologie sera en quelque sorte acceptée par tous les utilisateurs. Avec les progrès de Qualcomm, nous pouvons nous attendre à voir des appareils alimentés par l’IA capables d’effectuer facilement des tâches complexes, rendant notre vie plus pratique et plus efficace.
Crédit image en vedette : Qualcomm
Source: Les rêves de Qualcomm en matière d’intelligence artificielle sont sans précédent
