Rapport "Lignes directrices politiques européennes relatives aux discriminations induites par l'IA et les algortithmes" (2025)

Dans ce contexte, les présentes lignes directrices ont pour but d’équiper les organismes de promotion de l’égalité et les autres INDH, en particulier dans l’Union européenne, pour lutter contre la discrimination dans les systèmes d’IA/PDA en : 

• les tenant informés de leurs responsabilités face à l’évolution du paysage réglementaire encadrant l’intelligence artificielle, notamment concernant son impact direct ou indirect sur leur mandat ;
• leur proposant des lignes directrices spécifiques, des recommandations et des exemples de bonnes pratiques pour superviser l’application et la mise en œuvre des nouvelles réglementations, tout en les reliant à la réglementation existante ;
• assumant un rôle de ressource pour les organismes de promotion de l’égalité et les INDH afin d’aider et de conseiller les parties prenantes nationales, telles que les décideurs politiques et les régulateurs, en ce qui concerne les droits humains, l’égalité et la non-discrimination. 

Ces lignes directrices sont particulièrement axées sur les systèmes d’IA/PDA dans le secteur public.

La deuxième partie des lignes directrices repose sur 2 piliers : 

• Premièrement, elle analyse les nouvelles directives européennes relatives aux normes applicables aux organismes de promotion de l’égalité (« directives sur les normes ») et explique comment leurs dispositions en matière de mandat, d’indépendance, de ressources et de pouvoirs – y compris la promotion, l’accès à la justice et la collecte de données – peuvent être mobilisées pour lutter contre les risques de discrimination liés aux systèmes d’IA et de PDA.
• Ensuite, elle propose des points d’entrée thématiques pour l’utilisation de l’IA dans des secteurs souvent couverts par les mandats des organismes de promotion de l’égalité : application de la loi, migration, asile et contrôle des frontières, protection sociale et sécurité sociale, emploi et éducation. Pour chaque secteur, elle établit un lien entre les utilisations concrètes de l’IA et les dispositions pertinentes du Règlement sur l’IA (interdictions, classifications à haut risque, exigences de transparence et d’enregistrement) et souligne les domaines dans lesquels des garanties spécifiques au secteur et la participation des organismes de promotion de l’égalité et des INDH sont essentielles.

Ce rapport a été élaboré dans le cadre du projet « Défense de l’égalité et de la non discrimination par les organismes de promotion de l’égalité concernant l’utilisation de l’intelligence artificielle (IA) dans les administrations publiques », financé par l’Union européenne via l’Instrument d’appui technique, et cofinancé par le Conseil de l’Europe. Ce projet est mis en œuvre par le Conseil de l’Europe en coopération avec le Commission européenne, le Centre pour l’égalité des chances et la lutte contre le racisme (Unia, Belgique), le Médiateur de la non-discrimination (Finlande) et la Commission pour la citoyenneté et l’égalité de genre (Portugal).