AI in de zorg: wat het nu al doet, en waar de grens ligt
AI kan taken in de zorg al goed uitvoeren, zoals administratie en samenvattingen. Maar voor behandelingen kan dat niet zo makkelijk. Dit is waarom.
AI is al een uitkomst voor sommige taken in de zorg. Denk aan administratie en samenvattingen. Begrijpelijk, want een fout in een vergaderingsverslag is makkelijk te herstellen. Dat geldt niet als het om advies aan cliënten gaat. Daarom is AI nog niet geschikt voor gebruik in behandelingen. Het risico voor cliënten bepaalt de mogelijke toepassingen voor AI. De vraag is dus niet of je het gebruikt, maar waarvoor. En wanneer is het goed genoeg om meer te doen?
Waarvoor wordt AI nu al gebruikt in de zorg?
Dus niet voor behandelingen, maar wel voor veel werk om de zorg heen. Zoals verslagen maken, gesprekken samenvatten en conceptteksten opstellen. Dat bespaart namelijk tijd. Een zorgverlener controleert het resultaat nog en doet waar nodig aanpassingen. En dat is precies waarom deze toepassing van AI relatief veilig is: er is een deskundig mens bij betrokken voordat het bij de cliënt in de buurt komt.
Waarom ligt de lat hoger in de behandeling zelf?
Gebruik van AI wordt riskanter als de geautomatiseerde informatie bij cliënten terechtkomt. Voor mensen die in een moeilijke situatie zitten, kan dat grote gevolgen hebben. Bijvoorbeeld als de tekst niet klopt, er schadelijk advies in staat of AI niet (op tijd) herkent dat iemand in een crisis zit.
We hebben een Delphi-studie gedaan naar de toepassingen van AI voor e-health. Daarin kwamen deze risico’s terug, bijvoorbeeld als de categorieën:
- ‘Veiligheid en Risico’
- ‘Geen schadelijk advies’
- ‘Hallucinatie-risico’
- ‘Herkenning en doorverwijzing bij crisis-/noodsituatie’
Wat betekent dat als je AI binnen je organisatie wilt inzetten?
Maak eerst onderscheid tussen overig werk en zorgwerk. Voor het eerste is het vaak genoeg als iemand het resultaat even controleert, voor het tweede zijn duidelijke afspraken nodig over wat goed genoeg is.
Stel je leverancier daarom drie vragen:
- Waaraan toets je de content die cliënten te zien krijgen?
- Wie kijkt er mee als het mis dreigt te gaan?
- Hoe weet ik zeker dat de output van dezelfde kwaliteit blijft?
Krijg je daar geen duidelijk antwoord op? Dan zijn de kwaliteitskaders nog niet duidelijk genoeg.
Hoe gaan wij om met die kwaliteitsnorm voor AI?
Wij definiëren eerst duidelijk aan welke kwaliteit AI moet voldoen. Samen met een expertpanel hebben we bepaald wat goede AI-content is, daarna beslissen we pas wat we gaan ontwikkelen.
