AI en inkoop

In Zweden is AI bij borstkankerscreening een gamechanger: waar normaal twee radiologen iedere mammografie beoordelen, volstaat met AI één radioloog — zonder verlies aan kwaliteit. In het VK daalde het aantal fout-positieve uitslagen bij mammografie met 5,7% en fout-negatieven met 9,4%. In de VS haalde een AI-tool voor tumorafbakening een nauwkeurigheid van 84,7%, tegenover 67,2% voor ervaren specialisten. En het Antoni van Leeuwenhoek toonde aan dat AI de overlevingskans bij immunotherapie met 24% kan verhogen.

Ook buiten oncologie zijn de resultaten veelbelovend. AI kan inmiddels automatisch coronaire calciumscores berekenen uit CT-scans — even nauwkeurig als een gespecialiseerd radioloog. Bij acute beroertes detecteert AI bloedvatverstopping binnen seconden en alarmeert direct het team.

Administratief zijn de winsten eveneens groot. Transcriptietools die patiëntgesprekken automatisch uitwerken, leveren artsen 24% tijdwinst op en verminderen cognitieve belasting met 81%. Geen verrassing dus dat 65% van de Europese zorgaanbieders dit soort tools de komende jaren wil implementeren.

De Europese Commissie heeft ook de financiële impact berekend. AI-ondersteunde klinische beslissingsondersteuning kan EU-zorgstelsels over tien jaar tot €252 miljard besparen. Geautomatiseerde beeldanalyse levert €192 miljard op, digitale GGZ-platforms €164 miljard. De digitale gezondheidsmarkt groeit van €11 miljard (2023) naar €61 miljard in 2035.

Brede implementatie is nog ver weg. Data is gefragmenteerd en niet-gestandaardiseerd (45% van de zorgaanbieders ervaart dit als knelpunt). AI-tools leveren pas waarde als ze integreren met bestaande systemen zoals het EPD. Regelgeving is complex: medische AI valt onder zowel de AI Act als de MDR, en 60% van de leveranciers noemt die overlap als een grote belemmering. Uitlegbaarheid van algoritmen ontbreekt vaak, en 34% van de zorgaanbieders ziet een tekort aan digitale vaardigheden als drempel.

De komende jaren worden in de zorg veel nieuwe AI-tools ingekocht. Goed inkopen is ook juridisch inkopen. Bij de selectie en contractering van AI-oplossingen zijn de volgende vragen essentieel:

• Voldoet de tool aan de regelgeving? Medische AI wordt door de AI-verordening aangemerkt als hoog-risico AI en kwalificeert vaak ook als medisch hulpmiddel onder de MDR. Dat stelt eisen aan veiligheid, klinische validatie, menselijk toezicht en documentatie. Controleer of de leverancier aan beide kaders voldoet en leg dit contractueel vast.
• Is de werking uitlegbaar? Zorgprofessionals moeten begrijpen hoe een algoritme tot een aanbeveling komt. Selecteer bij voorkeur tools die 'explainable AI' bieden, en zorg dat de leverancier helder communiceert over de prestaties en beperkingen van het systeem.
• Sluit de tool aan op bestaande systemen? AI levert pas waarde als het integreert met het EPD en de bredere werkstroom. Laat integratie-eisen meewegen in de selectie en zet ze in het contract.
• Is er een opleidingsplan? AI-geletterdheid niet vrijblijvend: de Europese AI-verordening verplicht organisaties die met AI werken tot scholing. Zorg dat de leverancier hierin ontzorgt en dat er een concreet plan ligt voor implementatie en training.
• Zijn er goede juridische afspraken? Goede contractuele afspraken over aansprakelijkheid, datagebruik, auditrechten en exit-mogelijkheden voorkomen problemen achteraf.

Heeft u vragen over de juridische aspecten van AI en inkoop? Wij helpen u als zorginstelling graag. Neem gerust contact op met Menno de Wijs, advocaat IT, Privacy & Cybersecurity.

Wil je elke maand een overzicht van updates en blogs in uw mailbox? Schrijf je dan in voor de nieuwsbrief!