Je wilt een AI-tool aanschaffen voor je zorgorganisatie, maar je weet niet welke vragen je de leverancier moet stellen. De leidraad kwaliteit AI in de zorg geeft je die houvast: een praktisch raamwerk voor iedereen die werkt met voorspellende algoritmen in de zorg. In dit artikel lees je wat de leidraad inhoudt, hoe het fasemodel werkt en wat het concreet betekent voor jouw situatie.
📌 In het kort
- De leidraad kwaliteit AI in de zorg is een veldnorm voor het verantwoord ontwikkelen en inzetten van voorspellende AI-algoritmen in de zorg.
- De leidraad is niet juridisch bindend, maar werkt op basis van ‘pas toe of leg uit’.
- Het fasemodel bevat zes fasen, van probleemdefiniëring tot doorlopende monitoring.
- De leidraad sluit aan bij wél bindende wetgeving zoals de MDR, AVG en EU AI Act.
- Relevant voor ontwikkelaars, zorgverleners, inkopers én toezichthouders.
Wat is de Leidraad kwaliteit AI in de zorg?
De leidraad kwaliteit AI in de zorg is geen droog beleidsdocument. Het is een praktische standaard die het veld zelf heeft opgesteld, in opdracht van het ministerie van VWS. Het doel: zorgen dat voorspellende AI-algoritmen in de zorgsector veilig, betrouwbaar en transparant zijn.
De leidraad richt zich specifiek op AIPA’s: AI-Predicted Assessments, ofwel voorspellende AI-algoritmen in de zorg. Een AIPA is software die op basis van patiëntdata een individuele gezondheidsuitkomst voorspelt of classificeert. Neem een algoritme dat röntgenfoto’s van longen beoordeelt en afwijkingen signaleert. Of een tool die op basis van bloedwaarden voorspelt of een patiënt risico loopt op een ziekenhuisopname. Dat zijn AIPA’s.
Wat de leidraad onderscheidt van losse richtlijnen is de scope: hij begeleidt het complete traject, van het eerste idee tot en met het moment dat het algoritme maandenlang draait in de praktijk. Als zorgmanager of inkoper geeft dat je één coherent kader om een AI-leverancier op te beoordelen, in plaats van een verzameling losse normen.
💡 Expert tip
Als inkoper of zorgmanager hoef je de leidraad echt niet van voor naar achter te lezen. Begin bij fase 6, implementatie en monitoring, en werk terug. Zo zie je direct welke vragen je een leverancier moet stellen vóór aanschaf. Ik doe dit zelf ook wanneer we klanten adviseren bij de selectie van AI-tools.
Wil je weten waar AI jou tijd bespaart?
Vul in 1 minuut de scan in. Onze specialisten sturen je binnen één werkdag een persoonlijk rapport met concrete AI-toepassingen voor jouw functie en sector.
Geen verkoopgesprek. Geen verplichtingen.
Is de leidraad verplicht, of kun je het naast je neerleggen?
Dat is misschien wel de meest gestelde vraag die ik tegenkom bij zorgorganisaties. En het eerlijke antwoord is: nee, de leidraad is juridisch niet bindend. Maar dat betekent niet dat je hem kunt negeren.
De leidraad functioneert als veldnorm en werkt op basis van het principe ‘pas toe of leg uit’. Je volgt de richtlijnen, of je onderbouwt gemotiveerd waarom je dat in jouw situatie niet doet. Toezichthouders zoals de Inspectie Gezondheidszorg en Jeugd (IGJ) kunnen de leidraad in de toekomst gebruiken als referentiekader bij inspecties. Dat maakt het een instrument met tanden, ook zonder wettelijke status.
Belangrijk is ook de koppeling aan wél bindende wetgeving. AI governance in de zorg bestaat nooit uit één document. De leidraad werkt aanvullend op een heel stelsel van wet- en regelgeving.
| Wetgeving | Wat het regelt | Relatie tot de leidraad |
|---|---|---|
| MDR (Medical Device Regulation) | Veiligheid van medische hulpmiddelen, inclusief AI als medisch hulpmiddel | Leidraad is aanvullend en helpt invulling geven aan MDR-eisen |
| AVG (Algemene Verordening Gegevensbescherming) | Verwerking van persoonsgegevens, inclusief gezondheidsdata | Leidraad verwijst naar AVG-vereisten per fase |
| EU AI Act | Verplichtingen voor hoog-risico AI-systemen, bindend voor hele EU | Leidraad biedt praktische handvatten naast deze wettelijke verplichtingen |
| Wkkgz (Wet kwaliteit, klachten en geschillen zorg) | Kwaliteitsverplichtingen voor zorgaanbieders | Leidraad sluit aan op kwaliteitsborging onder deze wet |
| NEN/ISO-normen | Technische standaarden voor softwareontwikkeling en informatiebeveiliging | Leidraad verwijst naar relevante normen per fase |
De zes fasen van de leidraad uitgelegd
Stel: een ziekenhuis koopt een AI-tool van een leverancier. Die leverancier zegt dat het systeem “klinisch gevalideerd” is. Maar wat betekent dat precies? Is het getest op jouw patiëntenpopulatie? Zijn er afspraken over monitoring na livegang? Het fasemodel van de leidraad helpt je precies die vragen te stellen.
De leidraad structureert het traject van een AIPA in zes fasen. Elke fase heeft specifieke eisen en aanbevelingen. Hieronder een overzicht:
| Fase | Naam | Kernvraag | Concrete actie voor jouw organisatie |
|---|---|---|---|
| 0 | Probleemdefiniëring | Wat wil je oplossen, voor wie en waarom? | Vraag de leverancier naar het klinische doel en de beoogde gebruikersgroep |
| 1 | Datamanagement | Welke data is gebruikt en hoe is die beheerd? | Controleer of FAIR-principes en AVG-vereisten zijn gedocumenteerd |
| 2 | Modelontwikkeling | Hoe is het model gebouwd en intern getest? | Vraag naar de TRIPOD-rapportage en de gebruikte datasets |
| 3 | Interne validatie | Presteert het model ook op andere subgroepen? | Vraag naar bias- en fairness-tests binnen de eigen populatie |
| 4 | Externe validatie | Werkt het ook in een andere setting of populatie? | Vraag naar validatiestudies buiten de ontwikkelende instelling |
| 5 | Softwareontwikkeling en certificering | Voldoet de software aan technische normen en wetgeving? | Controleer MDR-certificering en NEN-conformiteit |
| 6 | Implementatie en monitoring | Hoe wordt het systeem gevolgd na livegang? | Vraag naar het monitoringprotocol en afspraken over gebruikerstraining |
Fase 0–2: Van probleemdefiniëring tot modelontwikkeling
Stel je voor: een leverancier presenteert een glanzend dashboard met indrukwekkende nauwkeurigheidscijfers. Maar niemand heeft gevraagd: welk probleem lost dit eigenlijk op? Precies dat is waar fase 0 begint.
De eerste drie fasen leggen de fundering van een betrouwbaar algoritme. Als inkoper of manager kun je per fase concrete vragen stellen:
- Fase 0 – Probleemdefiniëring: Wat is het klinische doel van dit algoritme? Wie zijn de beoogde eindgebruikers, en in welke context wordt het ingezet? Is er een klinische behoefte onderbouwd?
- Fase 1 – Datamanagement: Welke databronnen zijn gebruikt? Zijn de data gedocumenteerd volgens FAIR-principes (vindbaar, toegankelijk, uitwisselbaar en herbruikbaar)? Hoe is omgegaan met AVG-vereisten en eventuele WMO-verplichtingen?
- Fase 2 – Modelontwikkeling: Welke datasets zijn gebruikt voor training en interne validatie? Is er een TRIPOD-conforme rapportage beschikbaar? Zijn de analysestappen transparant gedocumenteerd?
Wij zien bij klanten in de zorg dat juist in deze vroege fasen de meeste informatie ontbreekt. En dat is precies waar problemen later in het traject vandaan komen.
Fase 3–6: Van validatie tot implementatie en monitoring
Een model dat intern goed presteert, is nog geen bewijs dat het werkt in jouw ziekenhuis, bij jouw patiënten. Validatie is geen formaliteit. Het is de stap die bepaalt of een AIPA de praktijk in mag.
- Fase 3 – Interne validatie: Test het model op bias en fairness. Presteert het gelijkwaardig voor verschillende subgroepen, zoals leeftijd, geslacht of etniciteit? AI bias in de zorg is een reëel risico: een algoritme dat uitstekend werkt voor één populatiegroep kan systematisch slechter presteren voor een andere. Vraag de leverancier hier expliciet naar.
- Fase 4 – Externe validatie: Is het model getest in een andere instelling of patiëntenpopulatie? Externe validatie is cruciaal voor generaliseerbaarheid. Ontbreekt die? Dan is voorzichtigheid geboden.
- Fase 5 – Softwareontwikkeling en certificering: Voldoet de software aan de MDR als medisch hulpmiddel? Zijn NEN-normen gevolgd? Dit is het moment voor technische due diligence.
- Fase 6 – Implementatie en monitoring: Hoe wordt het algoritme gevolgd na livegang? Zijn er afspraken over signalering van neveneffecten? Is er gebruikerstraining voorzien? AI-ethiek in de zorg eindigt niet bij de go-live: doorlopende monitoring is de basis van verantwoord gebruik.
Bij een klant in de ziekenhuiszorg zag ik dat het monitoringprotocol volledig ontbrak na implementatie. Het algoritme draaide maanden zonder dat iemand systematisch bijhield of de uitkomsten in de praktijk overeen kwamen met de validatieresultaten. Dat is precies het soort risico dat fase 6 wil voorkomen.
Wat betekent ‘moet’ versus ‘sterk aanbevolen’ in de leidraad?
Hoe weet je nu wat echt niet mag ontbreken en wat fijn mee te nemen is? De leidraad maakt dat onderscheid zelf expliciet, en dat is nuttig.
‘Moet’ zijn minimumeisen voor verantwoord gebruik van responsible AI in de zorg. Hier mag je niet van afwijken zonder een onderbouwde reden. ‘Sterk aanbevolen’ zijn best practices die de kwaliteit verder verhogen, maar die niet als harde drempel gelden. Dit onderscheid helpt zorgorganisaties prioriteiten stellen, zeker als tijd of budget beperkt is.
| Type | Voorbeelden uit de leidraad |
|---|---|
| Moet (minimumeis) | Documentatie van het klinische doel (fase 0); vastleggen van databronnen en versies (fase 1); uitvoeren van bias-analyse (fase 3); opleveren van monitoringprotocol (fase 6) |
| Sterk aanbevolen (best practice) | Gebruik van TRIPOD-rapportagerichtlijnen (fase 2); externe validatie in meerdere instellingen (fase 4); interactieve gebruikerstraining met scenario-oefeningen (fase 6) |
Voor AI governance in de zorg geldt: begin met alles wat ‘moet’. Voeg daarna toe wat ‘sterk aanbevolen’ is, op basis van het risicoprofiel van de toepassing.
Voor wie is de leidraad bedoeld?
Bij een klant in de ouderenzorg zag ik hoe een inkoper een AI-tool aankocht zonder ook maar één technische vraag te stellen aan de leverancier. Niet omdat ze het niet wilden, maar omdat ze niet wisten wélke vragen relevant waren. De leidraad helpt precies daarmee.
De leidraad richt zich op vijf groepen, elk met een eigen rol en bijbehorende actie:
- Ontwikkelaars van AIPA’s: Gebruik de leidraad als ontwikkelkader en documenteer per fase wat je hebt gedaan en waarom. Dat maakt transparantie aantoonbaar.
- Zorgverleners die AI inzetten: Vraag voor ingebruikname welke fasen zijn doorlopen en of er een monitoringprotocol bestaat. Jij bent eindverantwoordelijk voor de zorgbeslissing.
- Inkopers en aanbestedende partijen: Gebruik de zes fasen als checklist bij de selectie van een leverancier. Vraag naar documentatie per fase.
- Beleidsmakers: Gebruik de leidraad als referentiekader bij het opstellen van inkoopbeleid of AI-strategie voor de organisatie.
- Toezichthouders: Gebruik de leidraad als norm bij het beoordelen van de kwaliteit van ingezette AI-systemen in zorginstellingen.
AI-ethiek in de zorg is niet alleen een vraagstuk voor technici. Elke rol in dit lijstje draagt een eigen verantwoordelijkheid.
Wat zijn de bekende knelpunten bij toepassing van de leidraad?
De leidraad is goed. Maar hij is niet perfect. En dat is het eerlijk zeggen waard.
Uit onderzoek van Motivaction, uitgevoerd in opdracht van VWS onder 196 respondenten, blijkt dat de leidraad gemiddeld een 7,1 scoort. Positief, maar met serieuze kanttekeningen:
- 43% vindt de leidraad te lang. 80 pagina’s is voor veel zorgprofessionals geen haalbare leesavond. De behoefte aan kortere formats, zoals een app of video, is groot.
- 22% vindt de leidraad onvolledig. Specifiek wordt gewezen op het gebrek aan aandacht voor LLM-toepassingen (grote taalmodellen zoals ChatGPT) en de koppeling aan de EU AI Act ontbreekt grotendeels.
- Praktische toepasbaarheid schiet tekort. Zorgorganisaties zonder technische achtergrond missen concrete handvatten om de leidraad zelf toe te passen.
Wij merken in onze eigen praktijk dat de behoefte aan praktische vertaalslagen groot is. De leidraad geeft het kader. Maar van kader naar concrete stap is voor veel zorgmanagers nog een flinke sprong.
Wat betreft de koppeling aan de EU AI Act: die wet is wél bindend voor hoog-risico AI-systemen in de zorg. Een algoritme dat een medische beslissing ondersteunt valt waarschijnlijk in die categorie. De leidraad biedt praktische handvatten, maar de AI Act voegt daar wettelijke verplichtingen aan toe. Dat onderscheid verdient meer aandacht in een volgende versie van de leidraad.
Kijk je naar wat er nu beschikbaar is op ai-agents.nl, dan zie je dat we ook voor zorgorganisaties praktische ondersteuning bieden bij het uitrollen van AI binnen een organisatie.
Wil je weten waar AI jou tijd bespaart?
Vul in 1 minuut de scan in. Onze specialisten sturen je binnen één werkdag een persoonlijk rapport met concrete AI-toepassingen voor jouw functie en sector.
Geen verkoopgesprek. Geen verplichtingen.
Veelgestelde vragen
Is de leidraad kwaliteit AI in de zorg juridisch verplicht?
Nee, de leidraad is een veldnorm zonder juridische binding. Hij werkt op basis van ‘pas toe of leg uit’: je past de richtlijnen toe, of je onderbouwt gemotiveerd waarom niet. Toezichthouders kunnen de leidraad in de toekomst wel als referentie gebruiken bij inspecties.
Wat is een AIPA?
AIPA staat voor een voorspellend AI-algoritme in de zorg. Het gaat om software die op basis van patiëntdata een individuele gezondheidsuitkomst voorspelt of classificeert, zoals een algoritme dat longfoto’s beoordeelt op afwijkingen.
Hoeveel fasen bevat de leidraad?
De leidraad onderscheidt zes fasen, van probleemdefiniëring (fase 0) tot en met implementatie en doorlopende monitoring (fase 6). Per fase gelden specifieke eisen en aanbevelingen.
Wat is het verschil tussen ‘moet’ en ‘sterk aanbevolen’ in de leidraad?
‘Moet’ zijn minimumeisen waarvan niet zomaar mag worden afgeweken. ‘Sterk aanbevolen’ zijn best practices die de kwaliteit verhogen maar niet strikt verplicht zijn.
Hoe verhoudt de leidraad zich tot de EU AI Act?
De leidraad is aanvullend op bestaande wetgeving zoals de MDR, AVG en de EU AI Act. De EU AI Act is wél bindend voor hoog-risico AI-systemen in de zorg. De leidraad biedt praktische handvatten naast die wettelijke verplichtingen, maar vervangt ze niet.
Waar kan ik de volledige leidraad downloaden?
De volledige leidraad kwaliteit AI (versie 1.1, 81 pagina’s) is beschikbaar via guideline-ai-healthcare.com en via de websites van Sigra en Data voor Gezondheid. Er is ook een online leeromgeving beschikbaar.
