Unia devient l'un des régulateurs des droits fondamentaux pour l'IA
- Actualités
Le règlement européen sur l'intelligence artificielle (IA) vise à protéger les citoyens belges et européens des effets néfastes de l'intelligence artificielle.
L'article 77 du règlement prévoit la nomination de régulateurs des droits fondamentaux pour chaque État membre afin de veiller à la protection des droits fondamentaux dans l'utilisation de l'IA. Unia s'en chargera au niveau belge pour les compétences qui lui ont été attribuées.
Qui sont les différents régulateurs belges ?
Pour la Belgique, 26 régulateurs ont été désignés, chacun veillant à la protection des droits fondamentaux lors de l'utilisation de l'IA, en fonction de ses compétences. Sur la base de son mandat actuel et des nouveaux pouvoirs que lui confère le règlement sur l'IA, Unia se concentrera sur la détection et la prévention de la discrimination algorithmique dans l'utilisation des systèmes d'IA :
- des systèmes d'IA
- des systèmes de prise de décision automatisée par les institutions publiques
Grâce notamment au projet européen AI TSI auquel Unia participe pour la Belgique, nous avons déjà développé une expertise considérable sur l'IA et les risques de tels systèmes. Nous savons qu'ils peuvent perpétuer et renforcer des biais injustes.
Que peut faire un régulateur ?
En tant que contrôleur des droits fondamentaux relevant de sa compétence, Unia dispose de plusieurs pouvoirs. Par exemple, Unia peut :
- être informée par les autorités de surveillance du marché d'incidents graves
- demander des informations aux autorités de surveillance du marché et aux fournisseurs de systèmes d'IA à haut risque et solliciter leur coopération
- demander aux autorités de surveillance des marchés de procéder à des tests si les informations disponibles sont insuffisantes
- demander la coopération des responsables de l’utilisation des systèmes d’IA à haut risque en cas de risques pour les droits fondamentaux. Lors de l’évaluation, une attention particulière est accordée aux risques pesant sur les groupes vulnérables.
Qu'est-ce qu'une priorité selon Unia ?
En principe, la structure de contrôle devrait être opérationnelle d'ici août 2025. Unia estime qu'il existe plusieurs priorités urgentes pour un contrôle efficace et une protection plus large des droits fondamentaux :
- des accords formels permettant une coopération significative entre les autorités de surveillance du marché et les organismes de promotion de l'égalité
- des ressources suffisantes pour les organismes de promotion de l'égalité afin de garantir une participation efficace au cadre de surveillance, conformément aux récentes directives de l'UE sur les normes applicables aux organismes de promotion de l'égalité
Pensez-vous être victime d'une discrimination ?
Les experts d'Unia vous aideront si vous pensez être confronté aux effets discriminatoires d'un système d'IA.
Contenu en lien avec le sujet
Intelligence artificielle (IA) et discrimination
L’intelligence artificielle (IA) présente des risques de discrimination aux niveaux sociétal et individuel. Découvrez le dossier d’Unia sur l’IA.
Projet IA : non-discrimination dans l'utilisation de l'IA dans les administrations publiques
Unia participe à un projet européen visant à renforcer les capacités des organismes de promotion de l'égalité en vue de l'utilisation croissante de l'IA dans l'administration.