Ga verder naar de inhoud

AI-project: gelijkheid en non-discriminatie waarborgen bij gebruik van artificiële intelligentie in overheidsadministraties

03/02/2025

Unia werkt samen met de Europese Commissie en de Raad van Europa aan een innovatief AI-project. Dit project moet algoritmische discriminatie in overheidsadministraties voorkomen en bestrijden. Daarnaast zal het de capaciteiten van gelijkheidsorganen versterken. Algoritmische discriminatie brengt namelijk nieuwe uitdagingen met zich mee. Via dit project ontwikkelen we de nodige expertise en methodologieën om ons mandaat naar behoren uit te oefenen in de nieuwe context van AI.

Doel en kern van het Europese AI-project

Het AI-project richt zich op de bescherming van grondrechten in AI-toepassingen door overheden, zoals vastgelegd in de AI Verordening van de Europese Unie en het Verdrag van de Raad van Europa over AI, Mensenrechten, Democratie en de Rechtsstaat.

  • Doel: het project moet Unia in staat stellen om discriminatie op te sporen en te voorkomen bij gebruik van AI en geautomatiseerde besluitvorming door overheidsinstellingen. Dat zullen we doen door juridische bijstand te verlenen aan personen die door AI worden gediscrimineerd, beleidsaanbevelingen op te stellen en trainingen te geven in overeenstemming met de normen van de EU en de Raad van Europa, en de nationale wetgeving.
  • Internationale samenwerking: we werken samen met gelijkheidsorganen in Finland en Portugal.
  • Strategisch kader: het project is onderdeel van het strategisch plan 2023-2027 van Unia dat onder meer focust op het tegengaan van discriminerende effecten van AI.
  • Timing: het project loopt tot augustus 2026.

Inhoud en activiteiten van het AI-project

Begin februari 2025 wordt de ‘as-is en gap analyse’ gepresenteerd, met focus op:

  • Actueel juridisch en bestuurlijk kader voor AI
  • Actuele en toekomstige behoeften en lacunes

Deze analyse zal het uitgangspunt worden voor:

  1. Training voor medewerkers bij mensenrechteninstellingen, toezichthoudende autoriteiten, ministeries en middenveld: we realiseren een (vervolg) online opleiding over AI, non-discriminatie en gelijkheid. Start inschrijvingen zomer 2025.
  2. Beleidsaanbevelingen: we ontwikkelen concrete aanbevelingen voor toezicht op de implementatie van de EU AI Verordening en relevante normen.
  3. Dossierbehandeling en Assessments: we zorgen voor een assessment protocol om de rol van AI in meldingen te onderzoeken.

Belang voor Unia

Via dit project bereidt Unia zich voor op onze rol onder Artikel 77 van de AI Verordening van de Europese Unie. De AI Verordening bepaalt samenwerkingsmodaliteiten tussen bestaande autoriteiten die toezicht houden op grondrechten zoals Unia en relevante marktoezichthouders om ervoor te zorgen dat de grondrechten van individuen effectief worden beschermd tegen de mogelijke risico’s van AI. Hierbij wordt bijzondere nadruk gelegd op het recht om niet gediscrimineerd te worden.

Financiering

Het project is een cofinanciering van de Raad van Europa en de Europese Unie via het Technical Support Instrument. Het wordt uitgevoerd door de Raad van Europa.

Verwante inhoud

Dossier

Artificiële in­tel­li­gen­tie (AI) en dis­cri­mi­na­tie

Artificiële intelligentie (AI) houdt risico’s in voor discriminatie op maatschappelijk en individueel vlak. Ontdek het dossier over AI.

  • Onderzoeksproject
  • Politie en justitie
  • Samenleving
  • Raciale kenmerken
  • Geloof of levensbeschouwing
  • Seksuele oriëntatie
  • Handicap
  • Leeftijd
  • Gezondheidstoestand
  • Fysieke eigenschap
  • Vermogen
  • Politieke overtuiging
  • Syndicale overtuiging
  • Sociale toestand of afkomst
  • Geboorte
  • Burgerlijke staat
  • Geslacht (of gender)
  • Geen beschermd kenmerk
  • Taal
  • Ander beschermd kenmerk