Facebook investit des efforts importants dans l’application des normes communautaires pour les participants sur ses différentes plateformes sociales. En ce sens, en plus d’avoir du personnel humain en charge d’assurer la conformité, Facebook s’appuie sur les technologies de l’Intelligence Artificielle, et offre aujourd’hui un aperçu des progrès réalisés ces derniers temps dans ce domaine.
À cet égard, il a fait référence aux systèmes actuellement utilisés tels que Reinforcement Integrity Optimizer (RIO), mis en œuvre à la fin de l’année dernière, qui, selon lui, a contribué à réduire considérablement les discours de haine et d’autres types de messages indésirables sur ses plateformes sociales dans le premier semestre de l’année.
Mike Schroepfer, CTO de Facebook, a déclaré : “L’IA est un domaine en évolution incroyablement rapide, et bon nombre des éléments les plus importants de nos systèmes d’IA actuels sont basés sur des techniques telles que l’autosurveillance, qui semblait être un avenir lointain il y a quelques années à peine. »
À cet égard, il explique qu’au lieu de former un système basé sur l’IA basé sur un ensemble de données fixe, avec RIO, ils ont opté pour un modèle dans lequel le système apprend directement sur des millions de contenus actuels, s’adaptant au fil du temps pour mieux faire son travail. .
Schroepfer soutient que l’approche utilisée dans RIO est « incroyablement précieuse » pour la conformité aux normes de l’UE, ajoutant que :
Parce que la nature du problème évolue toujours avec les événements actuels, lorsque de nouveaux problèmes surviennent, nos systèmes doivent pouvoir s’adapter rapidement. L’apprentissage par renforcement est une approche puissante pour aider l’IA à relever de nouveaux défis en cas de pénurie de bonnes données de formation.
À cet égard, ils s’attendent à ce que RIO continue d’aider au fil du temps à réduire davantage les discours de haine sur la plate-forme.
Mais en plus de RIO, Facebook ils remplacent également les systèmes personnalisés à usage unique par des systèmes plus généraux, constatant des «améliorations impressionnantes» grâce à l’utilisation de modèles d’IA multimodaux, qui peuvent fonctionner avec plusieurs langues et plusieurs types de contenu.
Schroepfer a également fait référence à des modèles d’apprentissage « zero-shot » et « few-shot » qui permettent à l’intelligence artificielle d’identifier le contenu contrefait, même s’ils n’en ont que peu ou jamais eu un exemple.
Il a déclaré : « L’apprentissage à zéro et à quelques coups est l’un des nombreux domaines de l’IA de pointe dans lesquels nous avons fait des investissements importants dans la recherche, et nous nous attendons à voir des résultats l’année prochaine. »
