Projet IA : garantir l'égalité et la non-discrimination dans l'utilisation de l'intelligence artificielle dans les administrations publiques

Le projet IA se concentre sur la protection des droits fondamentaux dans les applications de l'IA par les autorités publiques, comme le prévoient le règlement de l'Union européenne sur l'IA et la Convention du Conseil de l'Europe sur l'IA, les Droits de l'homme, la Démocratie et l'État de droit.

• Objectif : Le projet doit permettre à Unia de détecter et de prévenir la discrimination dans l'utilisation de l'IA et de la prise de décision automatisée par les institutions publiques. Pour y arriver, nous fournirons une assistance juridique aux personnes discriminées par l'IA, rédigerons des recommandations politiques et proposerons des formations conformes aux normes de l'UE et du Conseil de l'Europe, ainsi qu'à la législation nationale.
• Coopération internationale : nous coopérons avec des organismes de promotion de l'égalité en Finlande et au Portugal.
• Cadre stratégique : le projet fait partie du plan stratégique 2023-2027 d'Unia qui se concentre, entre autres, sur la lutte contre les effets discriminatoires de l'IA.
• Calendrier : le projet se déroulera jusqu'en août 2026.

Une analyse de l'état actuel et des lacunes sera présentée au début du mois de février 2025 :

• le cadre juridique et de gouvernance actuel de l'IA ;
• les besoins et les lacunes actuels et futurs.

Cette analyse servira de point de départ pour :

1. La formation pour le personnel des institutions des droits de l'homme, des autorités de contrôle, des ministères et de la société civile : nous réaliserons une formation en ligne (de suivi) sur l'IA, la non-discrimination et l'égalité. Début des inscriptions à l'été 2025.
2. Des recommandations politiques : nous élaborerons des recommandations concrètes pour le suivi de la mise en œuvre du règlement de l'UE sur l'IA et des normes pertinentes.
3. Le traitement des cas et les évaluations : nous fournirons un protocole d'évaluation pour examiner le rôle de l'IA dans les notifications.

Grâce à ce projet, Unia se prépare à jouer son rôle en vertu de l'article 77 du règlement de l'Union européenne sur l'IA. Le règlement sur l'IA définit les modalités de coopération entre les autorités de contrôle des droits fondamentaux existantes, telles qu'Unia, et les autorités de régulation du marché concernées, afin de garantir que les droits fondamentaux des individus sont effectivement protégés contre les risques potentiels de l'IA. L'accent est mis en particulier sur le droit de ne pas être discriminé.

Vous pouvez en savoir plus sur ce projet TSI sur la discrimination et l'IA sur le site du Conseil de l'Europe. Vous pouvez également découvrir plus d'informations sur le site suivant :

• UE :
  • Soutien à la réforme - Commission européenne (europa.eu)
  • Loi sur l'IA (europa.eu)
  • Directives européennes 2024/1499 et 2024/1500 sur les organismes de promotion de l'égalité de traitement
• Conseil de l'Europe :
  • La Convention-cadre sur l'intelligence artificielle - Intelligence artificielle (coe.int)
  • Etude sur l'impact des systèmes d'intelligence artificielle, leur potentiel de promotion de l'égalité, y compris l'égalité entre les femmes et les hommes, et les risques qu'ils peuvent entraîner en matière de non-discrimination (coe.int)
  • Comité d'experts sur l'intelligence artificielle, l'égalité et la discrimination (GEC/ADI-AI) - Égalité de genre