Le Parlement européen a émis une recommandation invitant les législateurs européens à interdire la reconnaissance faciale automatique dans les lieux publics. Ils exigent également que des réglementations strictes soient mises en œuvre pour garantir que l’utilisation par la police de l’intelligence artificielle est justifiable. Les appels font suite à un vote en faveur d’une résolution non contraignante sur la question.
Avec 377-248 et 62 abstentions, la résolution non contraignante a été adoptée. Désormais, il appartient aux législateurs européens de promulguer ou non ces réglementations. En avril, la Commission européenne a publié son projet de loi sur l’intelligence artificielle, qui bénéficie désormais du soutien du Parlement européen et peut aller de l’avant.
Pas de reconnaissance faciale par l’IA et pas de bases de données privées
Selon les députés, les individus ne devraient pas être observés dans les lieux publics. Cela est dû aux inquiétudes concernant les erreurs que l’intelligence artificielle peut avoir lorsqu’il s’agit de reconnaître les personnes. Selon le Parlement européen, les députés estiment qu’ils identifient les minorités ethniques, les personnes âgées et les femmes avec un taux d’erreur plus élevé.
Ils conseillent que les algorithmes utilisés par l’intelligence artificielle par les organisations publiques soient « transparents, traçables et suffisamment documentés ». Et, si possible, utilisez un logiciel open source.
Un autre problème sur lequel ils ont insisté est l’utilisation de bases de données privées (aussi « privées » qu’elles puissent être). Certaines agences publiques utilisent l’intelligence artificielle pour identifier les citoyens à l’aide de bases de données privées de reconnaissance faciale. L’une des plus populaires et controversées est Clearview AI.
Enfin, ils proposent que l’utilisation de systèmes automatisés pour identifier des individus ou prédire des crimes soit arrêtée. Ils soutiennent, cependant, que dans des circonstances extrêmes et des infractions graves telles que le terrorisme ou les enlèvements, cela peut être bénéfique et important.
Le Parlement européen la résolution n’est en aucun cas contraignante. Cela implique qu’elle a une fonction de soutien par rapport aux législateurs de la Commission européenne, plutôt qu’un rôle actif d’influence sur l’application des règles. Margrethe Vestager indique depuis un certain temps que ces pratiques ne sont pas conformes au RGPD. Trois ans après son entrée en vigueur, il doit déjà être renouvelé.