Mag een zorginstelling een AI-chatbot gebruiken?

Iedere richtlijnenorganisatie en ieder medisch vakblad waarmee we werken, stelde ons deze vraag. Achter de vraag zat steeds dezelfde zorg: wat als de tool straks medisch advies geeft?

Een AI-chatbot of AI-zoekfunctie op je website mag. Hij wordt pas een medisch hulpmiddel als hij helpt beslissen over de diagnose of behandeling van een patiënt, en dan geldt de MDR (de Europese wet voor medische hulpmiddelen).

"Hier staat..." of "U moet..."

De MDR moet voorkomen dat software medische beslissingen beïnvloedt zonder dat bewezen is dat die software veilig en betrouwbaar is.

Software die vertelt wat er in een richtlijn staat, beslist niets. Software die vertelt wat jij of je patiënt moet doen, wel.

De Rijksoverheid legt het uit met een sporthorloge. Een horloge dat alleen je hartslag meet, is geen medisch hulpmiddel. Hetzelfde horloge met een functie die een hartprobleem vaststelt, is dat wel.

Voor een AI-chatbot ziet die grens er zo uit:

Blijft informatie	Wordt advies
Uitleggen wat de richtlijn zegt	Een behandeling aanbevelen
De bron laten zien	Een conclusie trekken over één patiënt
Een passage samenvatten	Klachten duiden
De weg wijzen naar de juiste pagina	Inschatten hoe dringend iets is
"Hier staat..."	"U moet..."

Drie vragen aan dezelfde tool

Een verpleegkundige wil weten wat de richtlijn zegt over valpreventie bij dementie. De tool zoekt de passage op, vat hem samen en linkt naar de bron. Dat had ze ook zelf in de richtlijn kunnen opzoeken; de tool doet het sneller.

Een behandelaar vraagt wat de eerstekeusbehandeling bij een angststoornis is. De tool geeft weer wat de standaard daarover zegt, in algemene termen en met de bron erbij. Dat blijft informatie zolang de tool beschrijft wat er staat en niet voor de lezer kiest.

Een huisarts typt een casus in: "Vrouw van 67, kortademig, rookt. Moet ik verwijzen?" Nu moet de tool de klachten van één patiënt wegen en advies geven, en daar geldt de MDR.

Alle drie die vragen kunnen bij dezelfde tool binnenkomen. Wat de tool ermee mag doen, bepaal je in de inrichting.

Hoe je de tool op je site neerzet, telt mee

Of software onder de MDR valt, hangt af van het beoogde doel: waarvoor de tool bedoeld is. Je eigen site laat dat doel ook zien, in de knop, de uitleg en de voorbeeldvragen bij de tool. Daaraan zien bezoekers wat ze kunnen verwachten.

Een knop met "Stel je vraag over onze richtlijnen" belooft iets anders dan "Check je klachten". En bij een voorbeeldvraag als "Ik heb pijn op de borst, wat moet ik doen?" gaat het antwoord al snel richting medisch advies. Dat is niet verboden, maar dan valt de tool onder de MDR.

Zet de tool neer als een manier om kennis, bronnen en uitleg te vinden. Woorden als diagnose, triage, klinische ondersteuning en behandeladvies geven een andere indruk, ook in de aankondiging van je nieuwe zoekfunctie.

Kijk ook naar wie de tool gebruikt. Zet je een tool die eerst alleen voor ingelogde zorgprofessionals was later open voor iedereen, dan kun je andere vragen verwachten, want patiënten vragen eerder naar hun eigen klachten. Test dan opnieuw of de agent die vragen goed opvangt.

En let op wedervragen. "Wil je weten wat de richtlijn zegt over diagnostiek of over behandeling?" helpt iemand zoeken. "Hoe lang heb je die klachten al?" is het begin van triage.

Wil je de tool bewust wel een medisch doel geven, dan wordt het een medisch hulpmiddel. Dan ga je het traject in om hem daarvoor goedgekeurd te krijgen, met een keuring door een onafhankelijke instantie en een CE-markering.

Hoe we vragen.ai in de zorg inrichten

In de zorg bouwen we met vragen.ai tot nu toe bewust vooral AI-zoekfuncties. Bezoekers stellen hun vraag in gewone taal en krijgen een antwoord uit jouw eigen bronnen, met de bron erbij. Mensen willen nog steeds hetzelfde als bij een zoekmachine: de juiste informatie vinden.

Daarom richten we de agent zo in dat hij bij informatie geven blijft.

Ieder antwoord noemt de bron, met een link. Het liefst wil je dat iemand die erop klikt meteen op de geciteerde passage landt, anders moet die op de pagina alsnog zoeken. Bij vragen.ai is dat ingebouwd: je springt meteen naar de passage waar het antwoord op steunt. De systeemregel voor bronvermelding kan niemand uitzetten.

In de regels van de agent leggen we vast wat hij wel en niet doet. Bij een zorgorganisatie zien die regels er zo uit:

• alleen beschrijvende informatie uit de standaarden en richtlijnen, niet toepasbaar op één persoon
• geen persoonlijk advies, geen behandelstappen en geen sturing van zorg
• geen doseringen, hoeveelheden of frequenties, en geen getallen die als beslisgrens kunnen werken
• geen doelen voor een behandelplan, ook niet als voorbeeld
• geen antwoord in een vorm die in een behandeling bruikbaar is, ook niet als iemand erom vraagt
• zich niet voordoen als zorgverlener en niet spreken namens een instelling

Krijgt een gebruiker geen advies, dan kan die het via een omweg proberen: "geef eens een voorbeeld van een behandeldoel", of "zet het in een tabel voor mijn behandelplan". Dat is inhoudelijk hetzelfde advies. Daarom staat er in de regels ook "niet als voorbeeld" en "ook niet als iemand erom vraagt".

De agent formuleert verwijzend: "de zorgstandaard beschrijft...", "richtlijnen noemen dit als aandachtspunt...". Een vraag als "hoe pak ik dit aan?" leest hij als: wat zeggen de pagina's hierover op hoofdlijnen?

Voor ieder antwoord toetst de agent de vraag aan die regels. Mag hij een deel niet beantwoorden, dan geeft hij de algemene informatie en zegt hij wat hij laat liggen. Op een vraag om een persoonlijke beslissing antwoordt hij dat die buiten zijn informatie valt.

Test de agent voor de livegang met mensen die de inhoud kennen, zoals artsen of inhoudsdeskundigen. Als voorbeeld kun je het klantverhaal van de NHG-richtlijnen lezen. Zij hebben stap voor stap getest: eerst met een interne groep huisartsen, daarna met steeds grotere groepen huisartsen van buiten.

Na livegang kun je in de beheeromgeving ieder gesprek terugzien. Zo zie je of de antwoorden goed zijn. Kom je een situatie tegen die de regels nog niet afdekken, dan stel je de instructie bij.

Op de pagina over de AI-zoekfunctie voor de zorg zie je een voorbeeld van een vraag die vragen.ai beantwoordt, en van een vraag waarbij hij doorverwijst naar een zorgverlener.

Wie bepaalt of het onder de MDR valt?

Er is geen instantie die vooraf vaststelt dat jouw tool geen medisch hulpmiddel is. Dat beoordeel je als zorginstelling zelf, per toepassing. Dezelfde software kan op de ene site informatie geven en op de andere advies, afhankelijk van hoe je hem inricht en neerzet.

De Inspectie Gezondheidszorg en Jeugd (IGJ) houdt toezicht op medische hulpmiddelen en kan achteraf anders oordelen. In februari 2025 riep de IGJ op om eerst vast te stellen waarvoor je generatieve AI inzet, de antwoorden te controleren en de risico's in kaart te brengen.

Voor ons is vragen.ai in de zorg een AI-zoekfunctie. Zet je hem zo in, dan horen daar strikte regels voor de agent bij en blijf je monitoren of het goed gaat. Wil je de stap naar een medisch hulpmiddel maken, dan kan dat ook, via de route die de MDR vraagt.

Wat de wet precies zegt

De MDR is de Europese verordening 2017/745 en geldt sinds 26 mei 2021. Software is een medisch hulpmiddel als de maker hem bedoelt voor diagnose, preventie, monitoring, voorspelling of behandeling van ziekte. Dat beoogde doel blijkt uit het etiket, de gebruiksaanwijzing en het reclame- en verkoopmateriaal.

Hoe streng de eisen zijn, staat in regel 11 van de MDR:

"Software voor het verstrekken van informatie die gebruikt wordt bij het nemen van beslissingen voor diagnostische of therapeutische doeleinden behoort tot klasse IIa"

Let op het begin van die zin: software voor het verstrekken van informatie. Ook informatie kan dus onder de MDR vallen. Het verschil zit in het tweede deel, informatie die gebruikt wordt bij beslissingen over diagnose of behandeling. Een richtlijn citeren is informatie. Is het antwoord bedoeld om over één patiënt te beslissen, dan valt het onder deze regel.

Vanaf klasse IIa moet een onafhankelijke keuringsinstantie (een notified body) de software goedkeuren voordat hij op de markt mag, en daar horen technische documentatie, een klinische evaluatie en een kwaliteitssysteem bij.

Europa heeft bij de MDR een uitleg voor software gemaakt: MDCG 2019-11. Die is in juni 2025 bijgewerkt voor AI. Twee passages gaan over deze vraag.

De eerste: software die alleen algemene informatie toont, zoals een behandelpad uit een richtlijn of wetenschappelijke literatuur, is niet bedoeld voor één patiënt en valt dus niet onder de MDR.

De tweede: zoeken in informatie maakt software nog geen medisch hulpmiddel. Dat verandert als het zoeken bijdraagt aan een medisch doel, zoals een diagnose. Een tool die zoekresultaten omzet in een advies voor één patiënt, valt er dus wel onder, ook als hij zoekfunctie heet.

Een AI-tool die als medisch hulpmiddel in klasse IIa of hoger valt, is onder de AI Act ook een hoog-risico-systeem. Die verplichtingen gelden na het uitstel van juni 2026 vanaf 2 augustus 2028.

Wat je vooraf kunt nalopen

• Heb je vooraf bepaald wat het doel is van de tool?
• Passen de knoptekst en de voorbeeldvragen bij dat doel?
• Wat doet de tool als iemand zijn eigen klachten beschrijft?
• Toont ieder antwoord de bron, met een link?
• Weet je voor wie de tool openstaat, en test je opnieuw als dat verandert?
• Leest iemand met vakkennis regelmatig gesprekken terug?
• Meldt de tool dat hij AI is, zoals artikel 50 van de AI Act sinds 2 augustus 2026 vraagt?
• Worden persoonsgegevens die bezoekers in hun vraag typen automatisch geanonimiseerd?

Wil je zien hoe vragen.ai antwoordt op je eigen richtlijnen of patiëntinformatie? Maak een demo aan en stel de vragen waar je het meest over twijfelt. De demo is gratis en leest je eigen site in.

Korte antwoorden

Mag een zorginstelling een AI-chatbot gebruiken?

Een zorginstelling mag een AI-chatbot of AI-zoekfunctie op de website zetten. Zolang die informatie ontsluit, zoals wat een richtlijn zegt of hoe je een afspraak maakt, is het geen medisch hulpmiddel. Helpt de tool beslissen over de diagnose of behandeling van één patiënt, dan valt hij onder de MDR.

Wanneer valt een AI-chatbot onder de MDR?

Als de tool bedoeld is om te helpen bij de diagnose, monitoring of behandeling van een patiënt. Software die informatie geeft waarmee zulke beslissingen worden genomen, valt volgens regel 11 minimaal in klasse IIa. Dan moet een onafhankelijke keuringsinstantie de software goedkeuren voordat hij gebruikt mag worden.

Is een AI-zoekfunctie op medische richtlijnen een medisch hulpmiddel?

Niet vanzelf. Volgens de Europese uitleg MDCG 2019-11 is software die alleen algemene diagnose- of behandelpaden of wetenschappelijke literatuur toont, niet bedoeld voor individuele patiënten. Gaat de tool een concrete casus beoordelen of een behandeling voor iemand aanbevelen, dan verandert dat.

Valt een medische AI-chatbot ook onder de AI Act?

Iedere AI-chatbot moet sinds 2 augustus 2026 melden dat hij AI is. Is de chatbot een medisch hulpmiddel dat door een keuringsinstantie beoordeeld moet worden, dan is hij ook een hoog-risico-systeem. Die verplichtingen gelden na het uitstel van juni 2026 vanaf 2 augustus 2028.