← Alle artikelen

Veiligheid bij AI in de zorg: harde voorwaarde, geen score

Hoe goed het ook is: scoort een AI-gedreven interventie op veiligheid onvoldoende, dan is die niet bruikbaar. Daarom is veiligheid voor ons geen simpele score, maar een harde voorwaarde.

Matthijs Spruijt
·
17 november 2026
·
3 min leestijd
Liever alles op een rij? Download de PDF ↓

Een AI-gedreven interventie die op veiligheid onvoldoende scoort, is onbruikbaar. Ook als deze verder prachtig ontworpen is. Veiligheid is voor ons namelijk geen onderdeel van het eindcijfer, maar een harde voorwaarde: je kunt het niet compenseren door ergens anders hoog te scoren. Dat is hoe wij het bij Therapieland zien, en geen uitkomst van onze Delphi-studie – al sluit die er wel sterk bij aan.

Wat is het verschil tussen een voorwaarde en een score?

Een score als onderdeel van een eindcijfers kun je compenseren: haal je voor het ene een onvoldoende en voor het andere een voldoende, dan kan je gemiddelde alsnog goed zijn. Een harde voorwaarde – ook wel knock-outcriterium – is zwart-wit: je voldoet wel of je voldoet niet. En wat ons betreft gaat dat op voor veiligheid.

Neem een AI-gedreven interventie die prettig communiceert, een duidelijk advies geeft en persoonlijk aanvoelt, maar niet herkent dat iemand in een crisis zit. Die scoort op veel punten hoog, maar dat maakt niet uit, want voor veiligheid haalt die een onvoldoende.

Wat blijkt uit onze Delphi-studie over veiligheid?

De dimensie ‘Veiligheid en Risico’ bestaat uit vier criteria:

  • Geen schadelijk advies
  • Hallucinatie-risico
  • Herkenning en doorverwijzing bij crisis-/noodsituatie
  • Bescherming privacy en persoonsgegevens

In de eerste ronde van het onderzoek gaf het expertpanel deze criteria vrijwel allemaal het hoogste cijfer – ze vinden het dus heel belangrijk. En toen het panel in de laatste ronde alle dimensies moest rangschikken, stond ‘Veiligheid en Risico’ bovenaan.

Betekent dit dat de andere dimensies minder belangrijk zijn?

Nee, de andere dimensies doen er ook toe. Maar eerst moet vaststaan dat de AI-gedreven interventie niemand schaadt, daarna kijk je pas naar wat hem beter maakt.

Wie beslist er bij twijfel?

Een automatische controle kan al helpen, maar bij twijfel moet een mens beslissen over de veiligheid van een AI-interventie.

Wat kun je een leverancier vragen?

Werk je met een partij samen aan AI-gedreven interventies? Vraag hen dan niet alleen of ze op veiligheid toetsen, maar ook hoe. Bijvoorbeeld zo:

  • Toets je veiligheid apart, of neem je het mee in een eindscore?
  • Wat gebeurt er als een tekst op veiligheid onvoldoende scoort?
  • Wanneer beslist er een mens, en wanneer laat je het over aan een automatische controle?

Verder lezen

Over welke criteria twijfelde het expertpanel? Dat lees je hier

Lees verder over de negen kwaliteitsdimensies voor AI in de mentale gezondheidszorg

Gratis proefaccount

Probeer Therapieland twee weken gratis

Volledige toegang tot 250+ programma's en 650+ vragenlijsten. Binnen twee werkdagen geregeld, geen creditcard nodig.

Vraag een proefaccount aan