Unia aangeduid als bewaker van de grondrechten bij AI

Voor België werden er 26 toezichthouders aangeduid die elk voor hun bevoegdheden zullen waken over de bescherming van de grondrechten bij gebruik van AI. Unia zal zich op basis van haar bestaand mandaat en de nieuwe bevoegdheden onder de AI-verordening toeleggen op het opsporen en voorkomen van algoritmische discriminatie bij gebruik van:

• AI-systemen
• systemen van geautomatiseerde besluitvorming door overheidsinstellingen

Dankzij onder meer het Europese AI TSI-project waar Unia voor België aan deelneemt, hebben we al heel wat expertise ontwikkeld over AI en de risico's van dergelijke systemen. We weten dat ze oneerlijke vooroordelen kunnen bestendigen en versterken.

Als toezichthouder op de grondrechten binnen haar bevoegdheden, beschikt Unia over verschillende bevoegdheden. Zo zal Unia:

• door markttoezichthouders worden geïnformeerd over ernstige incidenten
• informatie opvragen bij markttoezichthouders en aanbieders van hoog-risico AI-systemen en om samenwerking verzoeken
• verzoeken dat markttoezichthouders testen uitvoeren als de beschikbare informatie onvoldoende is
• samenwerking vragen aan gebruiksverantwoordelijkheden van AI-systemen met een hoog risico wanneer er zich risico's voordoen voor de grondrechten. Bij de evaluatie wordt bijzondere aandacht besteed aan risico’s voor kwetsbare groepen.

De toezichtstructuur moet in principe in augustus 2025 operationeel zijn. Unia meent dat er voor een doeltreffend toezicht en een bredere bescherming van de grondrechten verschillende dringende prioriteiten zijn:  

• formele overeenkomsten om een zinvolle samenwerking toe te laten tussen markttoezichtautoriteiten en gelijkheidsorganen
• voldoende middelen voor gelijkheidsorganen om effectieve deelname aan het toezichtskader te waarborgen, in overeenstemming met de recente EU-richtlijnen inzake normen voor gelijkheidsorganen