AI-proeftuin voor de zorg
Artificial Intelligence (AI) in de zorg is een hot topic tijdens Zorg & ICT. Ruben Doornweerd toont in zijn sessie ‘De opkomst van AI in de gezondheidszorg’ de AI-proeftuin van Nedap.
Dit artikel wordt je aangeboden door Nedap
Die proeftuin is pas twee maanden open. Of tenminste, zo lijkt het. Want er wordt achter de schermen bij Nedap al jaren gewerkt aan AI. “Toen heette het nog machine learning en was het voorbehouden aan een groepje data scientists”, zegt Doornweerd. Maar sinds november ‘22 is AI niet meer alleen voor de specialisten. Eén woord: ChatGPT. Met de introductie van ChatGPT is de AI-hype echt losgebarsten. De belofte van ChatGPT verovert ook de zorg.
ChatGPT is een Large Language Model: een vorm van AI die getraind is om menselijke taal te begrijpen en creëren. Maar hoe is dat toepasbaar in de zorg? Welke randvoorwaarden zijn er? Welke kansen, welke bedreigingen? Om dat te ontdekken heeft Nedap de AI-proeftuin opgerichtom te kijken wat er mogelijk is. Uiteraard uiteraard met fictieve data.
Grijs gebied voor AI: Medical Device Regulation
Er is nog veel onbekend over AI, vandaar dat Doornweerd verschillende disclaimers benoemt. Hij zoomt allereerst in op MDR: “MDR is het allergrootste vraagteken. Dat is feitelijk de Europese wetgeving, waarbij op het moment dat iets bestempeld wordt als medisch hulpmiddel, je allerlei ISO-normeringen, kwalitatieve kwalificaties en kwaliteitseisen moet gaan doen. Maar de richtlijn is in 2017 geschreven en ChatGPT is van november ‘22. En wanneer is software een hulpmiddel? Dit is echt een heel grijs gebied.”
Voor leveranciers is dit MDR-vraagstuk de allergrootste zoektocht, meent Doornweerd. “Het risico is geen boete, maar het niet-toegelaten worden. Dus wanneer ga je mee in innovatie en neem je het risico dat je product wordt teruggefloten?”
Toepassingen Large Language Model in de zorg
Terug naar de proeftuin. Wat is er na twee maanden mogelijk in de AI-proeftuin gebaseerd op een Large Language Model? Een simulatie ggz-intake waarbij op basis van eigen teksten plus het aanvinken van kenmerken een AI-suggestie voor een diagnose wordt gedaan, inclusief behandelplan, medicatiesuggestie en zorgpadsuggestie. Ook wordt er zo direct een mini-dossier aangemaakt dat je via één druk op de knop kunt samenvatten voor bijvoorbeeld een drie jaar oud kind of een arts of kunt vertalen naar het Turks of een Twents dialect.
Zorgprofessional in de regie bij AI
Doornweerd: “Eigenlijk is dit hetzelfde vraag-en-antwoordspel als iedereen kent, maar nu met meer context. We moeten hier niet alleen vanuit IT-oogpunt naar kijken, maar vanuit procesoogpunt. Hoe zou je willen dat je dit soort modellen gaat inzetten? Waar moet de zorgprofessional regie hebben en waar kun je het overlaten aan een systeem?”
Tot nu toe constateert hij dat zorgprofessionals vooral veel heil zien voor AI in de administratieve verwerking en caseload management – daar waar de zorgprofessional zelf in regie is. Ook niet onbelangrijk: hoe transparant moet je zijn over AI? Doornweerd suggereert dat het voor de cliënt duidelijk moet zijn als informatie AI-gegenereerd zijn. “Zet er een disclaimer bij.”
Vertrouwen in AI
Nog een voorbeeld uit de proeftuin: sentimentsanalyse in een chatbotachtige omgeving. De AI-behandelaar en cliënt praten met elkaar en op basis van de gekozen woorden bepaalt AI het sentiment van de cliënt. “Dat zou aanleiding kunnen zijn om te escaleren, als je de sentimentsanalyse in de Nederlandse taal vertrouwd”, zegt Doornweerd, waarbij hij duidelijk de klemtoon op ‘als’ legt.
Roep om jurisprudentie voor AI in de zorg
Na twee maanden is Nedap nog lang niet uitgespeeld met AI en dus hoopt Doornweerd de AI-leercuve samen met het data science team en zorgprofessionals op te pakken. “Maar uiteindelijk moet ook de jurisprudentie rondom MDR en privacy worden gecombineerd.” Zodat de zorg optimaal kan profiteren van de initiatieven uit de proeftuin.