Rapport ‘Europese beleidsaanbevelingen inzake AI- en algoritmegestuurde discriminatie’ (2025)
- Advies of aanbeveling
- Rapport
- Raciale kenmerken
- Seksuele oriëntatie
- Bekijk alle categorieën
Het Rapport ‘Europese beleidsaanbevelingen inzake AI en algoritmegestuurde discriminatie’ toont hoe gelijkheidsorganen en nationale mensenrechteninstellingen hun mandaat kunnen inzetten om grondrechten te beschermen bij AI-toepassingen en risico’s op discriminatie op te sporen en te verminderen, vooral in de openbare sector. De aanbevelingen bouwen verder op de EU AI Verordening en andere Europese normen. Unia droeg actief bij aan het rapport.
Doel van de aanbevelingen
Tegen deze achtergrond hebben deze beleidsaanbevelingen tot doel organen voor gelijke behandeling en andere nationale mensenrechteninstellingen, met name in de Europese Unie, uit te rusten om discriminatie in AI/ADM-systemen tegen te gaan door:
- hen op de hoogte te brengen over hun verantwoordelijkheden met betrekking tot de veranderende regelgeving op het gebied van artificiële intelligentie, met inbegrip van de directe en indirecte gevolgen daarvan voor hun mandaat;
- hen specifieke aanbevelingen en voorbeelden van goede praktijken aan te reiken voor het toezicht op de toepassing en uitvoering van de nieuwe regelgeving, waarbij een link wordt gelegd met de bestaande regelgeving;
- dienst te doen als hulpmiddel voor organen voor gelijke behandeling en nationale mensenrechteninstellingen om nationale belanghebbenden, zoals beleidsmakers en regelgevers, bij te staan en te adviseren met betrekking tot mensenrechten, gelijkheid en non-discriminatie.
Deze aanbevelingen richten zich in het bijzonder op AI/ADM-systemen in de openbare sector.
Deel 1
Deel 1 vat de bepalingen van de Europese AI-verordening samen die het meest relevant zijn voor gelijkheidsorganen en nationale mensenrechteninstellingen. Het zet ook de rollen en verantwoordelijkheden van deze organen en instellingen expliciet uiteen en doet gerichte beleidsaanbevelingen over hoe deze instellingen algoritmische discriminatie kunnen voorkomen, opsporen en tegengaan, bijvoorbeeld door onder meer bewustmakingscampagnes te voeren, klachten te ondersteunen, juridische stappen te ondernemen en nauw samen te werken met de bevoegde nationale autoriteiten in het bredere AI-toezichtsysteem.
De nieuwe wetgeving erkent het risico op discriminatie bij verschillende AI-toepassingen en biedt enkele waarborgen. In het bijzonder gaat dit rapport in op:
- Verboden AI-systemen: AI-systemen die onverenigbaar zijn met de waarden en grondrechten van de Unie, waaronder het recht op non-discriminatie.
- AI-systemen met een hoog risico: welke systemen worden beschouwd als hoog risico omwille van een risico op discriminatie? Hoe worden AI-systemen geclassificeerd en hoe kunnen gelijkheidsorganen en andere mensenrechteninstellingen bijdragen aan de periodieke herziening van deze classificatie ?
- Transparantie en databanken: toelichting van de registratie- en logboekverplichtingen die kunnen helpen om te identificeren waar AI-systemen gebruikt worden. Welke informatie kan je verkrijgen als je denkt dat je rechten geschonden worden?
- Handhaving: toelichting bij de rol van instanties die de grondrechten beschermen, zoals vermeld in artikel 77 van de AI-Verordening, de rechtsmiddelen waarover individuen beschikken, en de mechanismen en mogelijkheden voor samenwerking tussen organen voor gelijke behandeling, gegevensbeschermingsautoriteiten, markttoezichtautoriteiten en andere regelgevers en actoren.
Deel 2
Het tweede deel van de aanbevelingen steunt op 2 pijlers.
- De eerste pijler analyseert de nieuwe EU-richtlijnen inzake normen voor instanties voor gelijke behandeling (“Normenrichtlijnen”) en legt uit hoe de bepalingen daarvan inzake mandaat, onafhankelijkheid, middelen en bevoegdheden, met inbegrip van bevordering, toegang tot de rechter en gegevensverzameling, ingezet kunnen worden om discriminatierisico’s die verbonden zijn aan het gebruik van AI- en ADM-systemen aan te pakken.
- De tweede pijler biedt thematische aanknopingspunten voor het gebruik van AI in sectoren die vaak onder het mandaat van organen voor gelijke behandeling vallen: wetshandhaving, migratie-, asiel- en grenstoezichtbeheer, welzijn en sociale zekerheid, werkgelegenheid en onderwijs. Voor elke sector wordt een verband gelegd tussen concrete toepassingen van AI en de relevante bepalingen van de AI-Verordening (verbodsbepalingen, classificaties van hoge risico’s, transparantie- en registratievereisten) en wordt aangegeven waar sectorspecifieke waarborgen en de betrokkenheid van organen voor gelijke behandeling en nationale mensenrechten instellingen van essentieel belang zijn.
Context
Dit rapport werd opgesteld in het kader van het project 'Handhaving van gelijkheid en non-discriminatie door organen voor gelijke behandeling met betrekking tot het gebruik van artificiële intelligentie bij overheidsinstanties'. Dit project wordt gefinancierd door de Europese Unie via het Technisch Ondersteuningsinstrument en mede gefinancierd door de Raad van Europa. Het wordt geïmplementeerd door de Raad van Europa in samenwerking met de Europese Commissie, het Interfederaal Centrum voor Gelijke Kansen (Unia, België), de Ombudsinstelling voor Non-discriminatie (Finland) en de Commissie voor Burgerschap en Gendergelijkheid (Portugal).
Verwante inhoud
Artificiële intelligentie (AI) en discriminatie
Artificiële intelligentie (AI) houdt risico’s in voor discriminatie op maatschappelijk en individueel vlak. Ontdek het dossier over AI.
Rapport 'Rechtsbescherming tegen algoritmische discriminatie in Europa' (2025)
Het rapport 'Rechtsbescherming tegen algoritmische discriminatie in Europa' onderzoekt de bestaande wettelijke kaders en de lacunes in de wetgeving. Het bestudeert ook het gebruik van AI in het Belgische openbaar bestuur en formuleert beleidsaanbevelingen inzake algoritmische discriminatie voor België.
AI-project: non-discriminatie bij gebruik van AI in publieke administraties
Unia werkt mee aan een Europees project dat capaciteiten van gelijkheidsorganen versterkt met het oog op stijgend gebruik van AI bij de overheid.
- Advies of aanbeveling
- Rapport
- Raciale kenmerken
- Seksuele oriëntatie
- Geloof of levensbeschouwing
- Handicap
- Leeftijd
- Gezondheidstoestand
- Vermogen
- Fysieke eigenschap
- Politieke overtuiging
- Syndicale overtuiging
- Sociale toestand of afkomst
- Geboorte
- Burgerlijke staat
- Geslacht (of gender)
- Taal