La recherche Google est un outil que nous utilisons tous de manière presque réflexive, et les modifications de son comportement peuvent avoir un impact important sur la façon dont nous trouvons des informations en ligne.
Récemment, Google a déployé une fonctionnalité, Google SGE, où certains résultats de recherche incluent désormais des résumés générés par l’IA. Dans un récent déploiement limité affectant certains utilisateurs américainsla nouvelle fonctionnalité de Google proposant des résultats résumés par l’IA a a soulevé des inquiétudes concernant la modération.
Même si Google souhaite que cela soit utile, il semble que ces résumés aient un impact côté obscur involontaire. Il y a une légère hausse inquiétante sites d’arnaques et de logiciels malveillants présentés dans ces résumés d’IA.
Quel est le problème avec les résumés générés par l’IA ?
L’idée derrière cette fonctionnalité est assez simple : Google souhaite fournir des réponses rapides sans que vous ayez besoin de visiter de nombreux sites Web. Pour certaines requêtes – comme « combien de cuillères à soupe dans une tasse » – les résumés de l’IA peuvent être très utiles. Cependant, les réponses générées par l’IA sont parfois incomplètes, trompeuses ou tout simplement fausses.
Plus inquiétant encore, ils promouvoir activement les contenus dangereux.
Repéré par Lily Ray sur Xla recherche basée sur l’IA de Google, SGE, recommande les sites de spam dans le cadre de sa réponse :
OH SUPER.
SGE RECOMMANDERA MÊME LES SITES DE SPAM DANS LE CADRE DE LA RÉPONSE. pic.twitter.com/wqgFFXqbMB
-Lily Ray (@lilyraynyc) 22 mars 2024
Cela a des implications majeures pour la sécurité en ligne. Les moteurs de recherche sont notre passerelle vers Internet, et de nombreux utilisateurs font implicitement confiance aux meilleurs résultats. Les résumés générés par l’IA qui ressemblent à des réponses légitimes peuvent donner aux escroqueries une couche supplémentaire de crédibilité.
Comment l’IA de Google est-elle trompée pour obtenir des résumés dignes d’une arnaque ?
Les spécialistes du référencement (Search Engine Optimization) et les propriétaires de sites Web moins scrupuleux manipulent depuis longtemps les algorithmes de recherche pour améliorer le classement de leur site. Aujourd’hui, ces mêmes techniques sont utilisées pour transmettre des informations trompeuses à l’IA de Google dans le but de détourner ces résumés.
Voici un exemple de la façon dont cela pourrait fonctionner :
- Configuration de l’arnaque: Un escroc crée un site Web proposant une offre trop belle pour être vraie, comme un iPhone à prix très réduit
- Jeu d’algorithme: Ils remplissent leur site de mots-clés et de contenu conçus pour le rendre pertinent, même s’il est rempli de fausses critiques et de charabia technique.
- L’intelligence artificielle est plus intelligente: L’IA de Google, qui analyse le site à la recherche d’informations, ne détecte pas les modèles trompeurs et se laisse tromper en pensant que le site est une excellente ressource.
- Résumé dangereux: Lorsqu’une personne recherche des informations relatives à ce produit, l’IA génère un résumé mettant en évidence le site frauduleux.
Ne faites pas confiance (entièrement) à la machine
Bien que Google espère améliorer la capacité de son IA à détecter et filtrer les contenus malveillants, il est essentiel d’être conscient des risques.
Voici comment rester en sécurité :
- Vérifiez les sources: Même avec les résumés de l’IA, prenez un moment pour examiner le site Web qu’il suggère. Recherchez les signes d’adresses Web douteuses (comme les domaines de premier niveau inhabituels tels que .online), la conception de sites génériques ou une surabondance d’avis élogieux qui semblent trop similaires.
- La recherche traditionnelle est toujours votre amie: N’abandonnez pas complètement le défilement des résultats de recherche standard. Les sites établis et réputés offrent souvent les informations les plus précises
- Le scepticisme est un bouclier: Si un accord semble incroyablement bon, il l’est presque certainement. Ne vous laissez pas emporter par des offres trop belles pour être vraies, même si un résumé Google semble les approuver
Les plats à emporter ? Les progrès de l’IA nécessitent de la prudence
Même si l’IA a le potentiel de rationaliser de nombreuses tâches en ligne, il est essentiel d’être conscient de ses limites et de son potentiel d’utilisation abusive. Les résumés générés par l’IA peuvent être mitigés.
En attendant que sa capacité à repérer les sites Web douteux s’améliore, appliquez une bonne dose de pensée critique à vos résultats de recherche.
Crédit image en vedette: Google YouTube