Digitale omnibus inzake AI: belangrijkste wijzigingen van de AI-verordening

Organisaties die werken met zogeheten hoog-risico AI-systemen (denk aan systemen die worden ingezet bij werving, creditbeoordeling of kritieke infrastructuur) hoeven niet langer te rekenen met één vaste deadline. De omnibusverordening splitst de toepassingsdatum op in twee momenten. Voor de meeste hoog-risico systemen, die vallen onder artikel 6 lid 2 en bijlage III van de AI-verordening, geldt 2 december 2027 als streefdatum. Voor de systemen die onder bijlage I vallen, is de deadline 2 augustus 2028.

Ja. Naar aanleiding van recente ontwikkelingen rond AI-systemen die seksueel schadelijk materiaal kunnen genereren, worden per 2 december 2026 twee nieuwe verboden toegevoegd aan de lijst van verboden AI-praktijken. Het gaat om een verbod op AI-systemen die realistische intieme beelden, video's, audio of soortgelijk materiaal van identificeerbare personen kunnen genereren zonder hun uitdrukkelijke toestemming (zogeheten non-consensueel intiem materiaal) en om een verbod op systemen die CSAM kunnen genereren.

De AI-verordening verplicht aanbieders en gebruiksverantwoordelijken van bepaalde AI-systemen (zoals chatbots of systemen die synthetische content genereren) om gebruikers hierover te informeren. De oorspronkelijke toepassingsdatum was 2 augustus 2026. Voor bestaande systemen die al vóór die datum op de markt waren, geldt een overgangsperiode van vier maanden. Zij moeten uiterlijk 2 december 2026 voldoen aan de markeringseisen van artikel 50.

De AI-verordening verplichtte organisaties aanvankelijk om te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel. Die resultaatsverplichting verdwijnt. De nieuwe tekst bepaalt dat aanbieders en gebruiksverantwoordelijken maatregelen moeten nemen om de ontwikkeling van AI-geletterdheid bij hun medewerkers te ondersteunen, maar niet om een bepaald kennisniveau daadwerkelijk te waarborgen. Het kwalificeert daarmee eerder als een inspanningsverplichting dan als resultaatsverplichting. Dit klinkt als een verlichting van de regeldruk, maar het risico is reëel dat AI-training minder prioriteit krijgt binnen organisaties. Wie AI-systemen inzet zonder dat medewerkers de werking en de risico's ervan begrijpen, loopt kans op verkeerd gebruik of het missen van fouten in de uitkomsten.

Ja, onder strikte voorwaarden. De omnibusverordening voegt een nieuwe bepaling toe (artikel 4bis) die het mogelijk maakt om bijzondere persoonsgegevens te verwerken voor het opsporen en corrigeren van vooringenomenheid (bias) in AI-systemen. Nieuw is dat dit niet langer alleen voor aanbieders van hoog-risico systemen geldt, maar ook voor aanbieders van andere AI-systemen, zoals general-purpose AI én voor gebruiksverantwoordelijken van hoog-risico systemen. Zo kunnen ook organisaties die zelf een hoog-risico systeem inzetten in hun eigen context toetsen of het systeem niet discrimineert.

De voorwaarden zijn streng. Onder meer moet de verwerking strikt noodzakelijk zijn, mogen de gegevens niet worden gedeeld, moeten de gegevens na gebruik worden verwijderd en zijn de gegevens onderworpen aan stevige beveiligingsmaatregelen. Extra aandacht voor privacywaarborgen blijft dan ook noodzakelijk.

De omnibusverordening biedt organisaties meer tijd en flexibiliteit, maar maakt compliance er niet eenvoudiger op. De al complexe regels zijn complexer geworden en de verplichtingen gelden op verschillende momenten voor verschillende typen systemen. Organisaties die met AI werken, doen er goed aan om een AI-beleid op te stellen of te actualiseren en hun compliance-strategie opnieuw te ijken.

Heb je vragen? Neem gerust contact met één van onze specialisten binnen team IT, Privacy & Cybersecurity.

Wilt u maandelijks een overzicht ontvangen van onze nieuwste juridische updates en blogartikelen? Schrijf u dan in voor onze nieuwsbrief.