Hoewel de verplichtingen uit de AI‑Verordening nog maar deels van toepassing zijn, heeft de Europese Commissie al een voorstel gedaan om een aantal bepalingen te wijzigen. Met het voorstel voor een digitale Omnibus‑verordening wil de Commissie de regels voor AI duidelijker, werkbaarder en toekomstbestendiger maken. Het doel: bedrijven beter ondersteunen bij naleving zonder innovatie te remmen of de bescherming van grondrechten, veiligheid en rechtsstaat in gevaar te brengen. Met het voorstel zegt de Commissie tegemoet te komen aan door belanghebbenden geuite zorgen. Hoewel er in totaal 33 wijzigingen zijn voorgesteld, worden de vijf (naar verwachting) meest impactvolle veranderingen in deze blog uitgelicht.
De AI‑Verordening verplicht aanbieders en gebruiksverantwoordelijken om medewerkers voldoende AI‑geletterd te maken. Deze verplichting zal met het nieuwe voorstel komen te vervallen. Men wordt slechts aangemoedigd om passende maatregelen te nemen om het kennisniveau van personeel over AI op peil te houden. Hierdoor bestaat het risico dat AI‑opleiding en ‑bewustwording minder prioriteit krijgen, terwijl tekortschietende AI‑geletterdheid kan leiden tot verkeerde bediening van AI-systemen, onjuiste interpretaties en het niet tijdig herkennen van risico’s.
Een belangrijke verruiming is dat aanbieders van AI‑systemen – ongeacht het risiconiveau – onder voorwaarden bijzondere persoonsgegevens mogen verwerken wanneer dit noodzakelijk is om bias (vooringenomenheid) op te sporen en te corrigeren. Deze mogelijkheid ondersteunt de ontwikkeling van eerlijke en veilige AI‑systemen, maar tegelijkertijd maakt de verruiming het verbod op verwerking van bijzondere persoonsgegevens minder strikt, wat extra aandacht vraagt voor privacybescherming en passende waarborgen.
De verplichting om alle AI‑systemen te registreren in de EU‑databank zal, als het voorstel wordt aangenomen, komen te vervallen. Dit verlaagt de administratieve lasten voor aanbieders, maar het betekent ook dat een belangrijk instrument voor publieke transparantie en toezicht wegvalt. Aanbieders bepalen immers zelf het risiconiveau van hun AI‑systemen. As zij oordelen dat hun AI-systeem geen hoog risico vormt, is registratie niet langer verplicht.
Voor bepaalde AI‑systemen zal het toezicht van nationale autoriteiten naar het AI‑bureau van de Europese Commissie verschuiven. Het bureau wordt daarmee rechtstreeks verantwoordelijk voor toezicht en handhaving. Deze centralisatie kan zorgen voor een consistentere toepassing van de AI-verordening binnen de EU, maar roept tegelijkertijd ook vragen op. Het AI‑bureau zou bijvoorbeeld te maken kunnen krijgen met capaciteitsdruk.
De verplichtingen voor AI‑systemen met een hoog risico gaan pas gelden zodra de Europese Commissie formeel vaststelt dat er voldoende middelen beschikbaar zijn voor naleving. Pas na zo’n besluit start de toepasselijke termijn. Dit creëert flexibiliteit, maar betekent ook dat belangrijke verplichtingen later in werking treden dan oorspronkelijk gepland.
De belangrijkste voorgestelde wijzigingen aan de AI Verordening uit de Omnibus-Verordening zijn voornamelijk het uitstel van deadlines, de versoepeling van verplichtingen en meer flexibiliteit. Naast mogelijke verlichting van lasten, geven deze wijzigingen tevens aanleiding tot zorgen over transparantie, toezicht en waarborgen rondom privacy en een adequaat niveau van kennis ten aanzien van AI. Als deze wijzigingen worden aangenomen, vraagt dit om een herijking van AI‑compliance‑strategieën. Hoewel het voorstel nog niet is aangenomen, doen bedrijven er in ieder geval goed aan de ontwikkelingen nauwlettend te volgen en waar mogelijk tijdig maatregelen te treffen om op de ontwikkelingen in te spelen.
Neem bij vragen contact op met Hieke van Druten, advocaat IT, Privacy & Cybersecurity of met één van onze andere specialisten binnen team IT, Privacy & Cybersecurity.
Wil je elke maand een overzicht van updates en blogs in jouw mailbox? Klik dan hier om je in te schrijven voor de nieuwsbrief!
