Een voorlopige overeenkomst. Na drie dagen onderhandelen heeft de Europese Unie vrijdag 8 december 2023 een voorlopige overeenkomst bereikt over het voorstel voor geharmoniseerde regels inzake artificiële intelligentie. Het regelgevingsvoorstel heeft tot doel ervoor te zorgen dat AI-systemen die op de Europese markt worden gebracht en binnen de EU worden gebruikt, veilig zijn en de fundamentele rechten en waarden van de EU respecteren. Dit voorstel beoogt ook investeringen en innovatie op het gebied van AI in Europa te bevorderen. Unia analyseert momenteel de reikwijdte van deze voorlopige overeenkomst en werkt samen met andere Europese instellingen voor de mensenrechten.

Onderhandelingen over de AI Act

AI staat al maandenlang in het middelpunt van de belangstelling. De diverse AI-technologieën, zoals ChatGPT, zijn zowel uitermate interessant als verontrustend. Onderhandelingen over de toekomstige Europese AI-verordening zijn bezig om juridische bescherming te waarborgen voor Belgische en Europese burgers.

De ‘AI Act’ bevindt zich momenteel in de laatste fase van het wetgevingsproces. De Europese Raad en het Parlement zitten samen met de Europese Commissie om de EU-verordening te finaliseren die rechtstreeks van toepassing is in elke lidstaat.

Geen vertrouwen en innovatie zonder robuuste regulering

Regulering van de zogenaamde ’Foundation Models’ die bestaan uit technologie zoals GPT-4 waarop ChatGPT gebouwd is, is essentieel voor de bescherming van gelijkheid en fundamentele rechten. Om wereldwijd leiderschap op het gebied van AI te waarborgen, moeten de leiders van de EU zorgen voor robuuste regulering van deze Foundation Models in de AI-verordening. De verordening heeft als dubbel doel de bevordering en ondersteuning van de ontwikkeling en het gebruik van AI, en het naleven van de wet, fundamentele rechten en waarden van de Unie.

Geharmoniseerd toezicht en expertise op het gebied van mensenrechten

In het kader van haar mandaat als gelijkheidsorgaan en mensenrechteninstelling volgt Unia deze ontwikkelingen uiteraard nauwlettend. Samen met de Europese koepelorganisaties voor gelijkheidsorganen en mensenrechteninstellingen, ENNHRI en Equinet zijn we tot een standpunt en aanbevelingen gekomen met het oog op de verdere onderhandelingen tussen de 3 instellingen op 6 december 2023.

Unia en haar Europese tegenhangers benadrukken de noodzaak aan harmonisatie van toezicht op nationaal en Europees niveau (‘AI Office’) en expertise op het gebied van mensenrechten. Daarnaast is ook samenwerking met bestaande mensenrechteninstellingen cruciaal.

7 aanbevelingen voor een krachtige AI Act

• Artikel 6: zorg voor een objectieve classificatie van AI-systemen overeenkomstig het oorspronkelijke voorstel van de Europese Commissie is cruciaal voor robuuste en toepasbare wetgeving.
• Effectieve rechtsmiddelen (Artikel 68 a en d): garandeer de mogelijkheid om klacht neer te leggen bij nationale toezichthoudende autoriteiten en het AI Office voor individuen, verenigingen die individuele en collectieve belangen vertegenwoordigen, evenals nationale gelijkheidsorganen en nationale mensenrechteninstellingen.
• Samenwerking tussen het AI Office en gelijkheidsorganen en nationale mensenrechteninstellingen: voorzie in een samenwerking met gelijkaardige verplichtingen als tussen de nationale toezichthoudende autoriteiten gelijkheidsorganen en mensenrechteninstellingen zoals voorzien in de artikelen 64 en 65.
• Expertise op het gebied van fundamentele rechten voor Foundation models: zorg dat deze expertise opgenomen wordt in het beheer van de Foundation Models, met het oog op een versterkt toezicht en een volledige bescherming van fundamentele rechten.
• Onderzoek naar de impact op de fundamentele rechten (FRIA): pleit tegen compromissen die FRIA beperken tot de publieke sector en zorg voor duidelijke en verplichtende richtlijnen over de informatie die door gebruikers moet worden verzameld (in lijn met  het oorspronkelijke voorstel van het Europees Parlement).
• Uitzonderingen voor openbare en nationale veiligheid: weet dat discriminerende uitzonderingen met betrekking tot openbare orde en nationale veiligheid leiden tot verschillende niveaus van bescherming van rechten die niet voldoen aan de eisen van noodzakelijkheid en proportionaliteit (Artikel 52.1) uit het Europees Handvest van de grondrechten.
• Bevestig het verbod op voorspellend profileren: zorg voor een expliciet en effectief verbod op voorspellend profileren (niet als onderdeel van het verbod op social scoring) om te zorgen voor eerbiediging van het recht op een effectief rechtsmiddel en een eerlijk proces, evenals het recht op non-discriminatie.

Raadpleeg de volledige tekst van de aanbevelingen (EN)