AI-project: gelijkheid en non-discriminatie waarborgen bij gebruik van artificiële intelligentie in overheidsadministraties
- Onderzoeksproject
- Politie en justitie
- Samenleving
- Bekijk alle categorieën
Unia werkt samen met de Europese Commissie en de Raad van Europa aan een innovatief AI-project. Dit project moet algoritmische discriminatie in overheidsadministraties voorkomen en bestrijden. Daarnaast zal het de capaciteiten van gelijkheidsorganen versterken. Algoritmische discriminatie brengt namelijk nieuwe uitdagingen met zich mee. Via dit project ontwikkelen we de nodige expertise en methodologieën om ons mandaat naar behoren uit te oefenen in de nieuwe context van AI.
Doel en kern van het Europese AI-project
Het AI-project richt zich op de bescherming van grondrechten in AI-toepassingen door overheden, zoals vastgelegd in de AI Verordening van de Europese Unie en het Verdrag van de Raad van Europa over AI, Mensenrechten, Democratie en de Rechtsstaat.
- Doel: het project moet Unia in staat stellen om discriminatie op te sporen en te voorkomen bij gebruik van AI en geautomatiseerde besluitvorming door overheidsinstellingen. Dat zullen we doen door juridische bijstand te verlenen aan personen die door AI worden gediscrimineerd, beleidsaanbevelingen op te stellen en trainingen te geven in overeenstemming met de normen van de EU en de Raad van Europa, en de nationale wetgeving.
- Internationale samenwerking: we werken samen met gelijkheidsorganen in Finland en Portugal.
- Strategisch kader: het project is onderdeel van het strategisch plan 2023-2027 van Unia dat onder meer focust op het tegengaan van discriminerende effecten van AI.
- Timing: het project loopt tot augustus 2026.
Inhoud en activiteiten van het AI-project
Begin februari 2025 wordt de ‘as-is en gap analyse’ gepresenteerd, met focus op:
- Actueel juridisch en bestuurlijk kader voor AI
- Actuele en toekomstige behoeften en lacunes
Deze analyse zal het uitgangspunt worden voor:
- Training voor medewerkers bij mensenrechteninstellingen, toezichthoudende autoriteiten, ministeries en middenveld: we realiseren een (vervolg) online opleiding over AI, non-discriminatie en gelijkheid. Start inschrijvingen zomer 2025.
- Beleidsaanbevelingen: we ontwikkelen concrete aanbevelingen voor toezicht op de implementatie van de EU AI Verordening en relevante normen.
- Dossierbehandeling en Assessments: we zorgen voor een assessment protocol om de rol van AI in meldingen te onderzoeken.
Belang voor Unia
Via dit project bereidt Unia zich voor op onze rol onder Artikel 77 van de AI Verordening van de Europese Unie. De AI Verordening bepaalt samenwerkingsmodaliteiten tussen bestaande autoriteiten die toezicht houden op grondrechten zoals Unia en relevante marktoezichthouders om ervoor te zorgen dat de grondrechten van individuen effectief worden beschermd tegen de mogelijke risico’s van AI. Hierbij wordt bijzondere nadruk gelegd op het recht om niet gediscrimineerd te worden.
Financiering
Het project is een cofinanciering van de Raad van Europa en de Europese Unie via het Technical Support Instrument. Het wordt uitgevoerd door de Raad van Europa.
Meer info?
Op de website van de Raad van Europa lees je meer over dit TSI-project over discriminatie en AI. Meer info ontdek je ook bij:
- EU:
- Reform Support - European Commission (europa.eu)
- AI Act (europa.eu)
- EU Directives 2024/1499 and 2024/1500 on Equality Bodies
- Raad van Europa:
- The Framework Convention on Artificial Intelligence - Artificial Intelligence (coe.int)
- Study on the impact of artificial intelligence systems, their potential for promoting equality, including gender equality, and the risks they may cause in relation to non-discrimination (coe.int)
- Committee of Experts on Artificial Intelligence, Equality and Discrimination (GEC/ADI-AI) - Gender Equality
Verwante inhoud
Artificiële intelligentie (AI) en discriminatie
Artificiële intelligentie (AI) houdt risico’s in voor discriminatie op maatschappelijk en individueel vlak. Ontdek het dossier over AI.
- Onderzoeksproject
- Politie en justitie
- Samenleving
- Raciale kenmerken
- Geloof of levensbeschouwing
- Seksuele oriëntatie
- Handicap
- Leeftijd
- Gezondheidstoestand
- Fysieke eigenschap
- Vermogen
- Politieke overtuiging
- Syndicale overtuiging
- Sociale toestand of afkomst
- Geboorte
- Burgerlijke staat
- Geslacht (of gender)
- Geen beschermd kenmerk
- Taal
- Ander beschermd kenmerk