In Nederland werken bijna 1,7 miljoen mensen in de zorg. En nog is sprake van een groot personeelstekort. De personeelstekorten in de zorg brengen voor bestuurders en HR-professionals nieuwe uitdagingen met zich mee. Wij zien in de praktijk dat dit bijvoorbeeld leidt tot het aannemen van zorgmedewerkers die achteraf niet zo geschikt blijken te zijn voor de zorg. In deze blogreeks gaan wij in op allerlei arbeidsrechtelijke zaken die je tegen kunt komen vanaf de sollicitatie tot het einde van het dienstverband.
In de zorg wordt steeds meer gebruik gemaakt van artificiële intelligentie (AI). Dit gebeurt zowel in het primaire als in het secundaire proces. Zo wordt AI bijvoorbeeld ingezet voor ondersteuning bij diagnostiek maar ook voor de planning of schriftelijke verslaglegging. Daarnaast worden steeds meer zorgapplicaties (zoals voor een elektronisch cliëntendossier) standaard aangeboden met bepaalde AI-functionaliteiten.
Naast dat AI veel voordelen met zich meebrengt, creëert dit ook risico’s en daarmee aandachtspunten waar je als zorgaanbieder iets mee moet doen. Zie hieronder een opsomming van een aantal belangrijke thema’s om mee aan de slag te gaan als je van plan bent om gebruik te gaan maken van AI.
Ingebruikname van een AI-systeem kan zijn gebonden aan een diversiteit aan wet- en regelgeving. Denk aan bijvoorbeeld de AI-Verordening (want uiteraard: het is AI), de Algemene Verordening Gegevensbescherming (zodra persoonsgegevens worden verwerkt) en de Medical Device Regulation (als het een medisch hulpmiddel betreft). Daarnaast kunnen ook eisen voor AI-systemen voortvloeien uit wet- en regelgeving die van toepassing is op de zorgaanbieder. Denk aan bijvoorbeeld de NIS2/(aanstaande) Cyberbeveiligingswet, de Wet aanvullende bepalingen verwerking persoonsgegevens in de zorg of de Wet op de Ondernemingsraden.[1] Belangrijk dus om (liefst op papier) vooraf te inventariseren aan welke wet- en regelgeving het gebruik van een bepaald AI-systeem moet voldoen.
Afhankelijk van de functionaliteiten van een AI-systeem, kan het gebruik hiervan resulteren in een bepaald risiconiveau. Dat risiconiveau kan natuurlijk volgen uit de wettelijke kaders (zoals de classificatie op basis van de AI-Verordening, of het hoge privacy risico op basis van de AVG) maar ook uit kaders die gelden binnen de organisatie zelf (hoe kritiek is het AI-systeem bijvoorbeeld voor de bedrijfsvoering?). Afhankelijk van de risicoclassificatie, kan het vervolgens nodig zijn om risicoanalyses uit te voeren. Denk aan bijvoorbeeld een DPIA, BIA of FRIA.
Los van hoe risicovol het gebruik van een bepaald AI-systeem is en onder welke wet- en regelgeving het al dan niet valt, geldt de verplichting tot AI-geletterdheid voor alle organisaties die gebruik maken van AI. Daarnaast is het belangrijk om altijd bepaalde basisnormen (zoals menselijke controle en transparantie) in acht te nemen, zie hiervoor bijvoorbeeld de ‘Ethische Richtsnoeren voor betrouwbare kunstmatige intelligentie’. Als laatste mag natuurlijk een AI-beleid binnen de organisatie niet ontbreken, want hoe weten medewerkers anders wat wel en niet mag en onder welke voorwaarden?
Sommige zorgaanbieders ontwikkelen AI-systemen (volledig of gedeeltelijk) zelf terwijl andere zorgaanbieders deze (soms vrijwel ongemerkt) alleen afnemen. Hoe je als zorgaanbieder ook in aanraking komt met AI, zodra je het gebruikt dien je dit verantwoord en in lijn met wet- en regelgeving te doen. In dat kader zijn de afspraken met leveranciers hierover ook zeer van belang! Want mag bijvoorbeeld jouw data worden gebruikt voor het trainen van het AI-model? Of, hoe en wie gaat het benodigde risicomanagement toepassen? Gelukkig hoef je hiervoor niet zelf het wiel uit te vinden, en kun je bijvoorbeeld inspiratie putten uit de AI-model clauses van de Europese Commissie (EC).
Het kan wat ontmoedigend lijken om de bovenstaande rits aan aandachtspunten opgesomd te zien staan, maar laat dat je er niet van weerhouden om toch met AI aan de slag te gaan! Het gebruik van AI kan namelijk voor zowel je cliënt als je medewerker enorme voordelen met zich meebrengen. Daarnaast zijn er altijd mogelijkheden om de samenwerking op te zoeken met andere zorgaanbieders en klein te beginnen (met bijvoorbeeld een korte pilot met maar een beperkt aantal gebruikers) waardoor het in eerste instantie soms allemaal net wat meer in een ‘light’ versie kan worden aangevlogen.
Leestip: Meer weten over de status van AI in de zorg op Europees niveau? Lees dan het recent door de EC uitgebrachte rapport hierover.
Heb je vragen over het gebruik van AI in de zorg? Neem dan contact op met Michelle Wijnant.
Blogserie HR in de zorg
