Ogen sluiten voor AI in zorg is ‘ethisch onverdedigbaar’

Zorgaanbieders hebben de ethische plicht om de inzet van artificiële intelligentie te onderzoeken. Dat stellen brancheorganisatie voor de ouderenzorg ActiZ en kenniscentrum Vilans. De opmars van AI lijkt onvermijdelijk. Toch zijn er bijna een jaar na de introductie van ChatGPT nog veel vragen over de inzet van algoritmes, machine learning en large language models in de zorg. Een inventarisatie.

Het eind vorig jaar verschenen rapport van ActiZ en Vilans leest voor alles als een verkenning. In tien tips krijgt de lezer een indruk van de stand van zaken rond AI in de ouderenzorg. Het zijn overwegend brave aanbevelingen, zoals: start vanuit visie en strategie, positioneer AI als ondersteuning en niet als vervanging, speel tijdig in op wet- en regelgeving en werk samen.

Het venijn zit in de staart. “Door de grote potentiële meerwaarde en de toenemende zorgkloof is het ethisch gezien echter niet meer verdedigbaar om je als organisatie helemaal niet te verdiepen in de (on)mogelijkheden van AI”, concluderen de opstellers.

Onvermijdelijke opmars?

Oftewel: niets doen is geen optie. Is grootschalige inzet van AI in de zorg onvermijdelijk? Veel commentaren wijzen in die richting. “De veranderingen zijn dramatisch”, aldus Robert Califf, hoofd van de Amerikaanse Food and Drug Administration (FDA) tijdens de recente wereldwijde technologiebeurs CES in Las Vegas. “We gaan het meemaken dat de zorg geleid en ondersteund wordt door algoritmes en AI.”

Belofte

Voor een sector die in toenemende mate overbelast, overvraagd en onderbemand is, heeft AI heel wat beloftes in petto. Denk alleen al aan de administratieve verlichting die AI kan brengen. Door routineus papierwerk –al dan niet spraakgestuurd– over te doen aan computers krijgt de professional meer tijd voor de patiënt of cliënt.

Duizend jaar achter

Wat meer is: AI kan ook de kwaliteit van diagnostiek en behandeling een forse impuls geven. Zakentijdschrift Forbes rekende onlangs voor hoeveel tijd artsen kwijt zouden zijn als ze écht hun vakliteratuur zouden bijhouden. “Iedere 26 seconden verschijnt er ergens een nieuwe wetenschappelijke studie of onderzoekpaper”, aldus Forbes. “Zelfs als een arts iedere avond twee artikelen zou lezen, loopt hij aan het eind van het jaar ongeveer duizend jaar achter op de actuele stand van kennis.”

Preventie

Anders dan individuele artsen is AI wel in staat dergelijke hoeveelheden informatie te behappen. Als wetenschappelijk superbrein kan AI nog meer dan literatuur volgen en schiften. Een voorbeeld hiervan is EvidendeHunt.

Ook onderzoek en ontwikkeling van nieuwe medicijnen en behandelmethodes kan sneller, slimmer en effectiever met de inzet van AI. Door het vermogen longitudinale patronen te analyseren, helpt AI bovendien bij de ontwikkeling van daadwerkelijk preventieve geneeskunde en bij de overgang van outputfinanciering naar waardegedreven betalingsmodellen.

AI-wapenwedloop ChatGPT

Meer nog dan de zorg is het vooralsnog de industrie die de kansen van AI op waarde weet te schatten. Microsoft heeft recentelijk naar verluidt tenminste 13 miljard dollar in OpenAI, de maker van ChatGPT, gestoken. Het partnerschap met EPD-fabrikant Epic moet ervoor zorgen dat ChatGPT naadloos aansluit op het elektronisch patiëntendossier.

Google heeft de samenwerking gezocht met private ziekenhuisketen HCA Healthcare, goed voor een jaaromzet van tussen de 60 en 70 miljard dollar. Het generatieve AI-model Med-PaLM moet zorgaanbieders helpen met stroomlijnen van de administratieve en klinische documentatie. Met Vertex AI Search brengt Google daarnaast een AI-gedreven zoekmachine op de markt speciaal gericht op medische professionals.

Amazon Web Services (AWS) wil niet achterblijven in de AI-wapenwedloop, zo leert een recente investering van vier miljard dollar in AI-ontwikkelaar Anthropic. AWS heeft hierbij nadrukkelijk de blik op de zorg en life sciences, aldus AWS-topman Dan Sheeran. Daarnaast rolt AWS onder de naam ‘AWS HealthScribe’ een AI-gedreven oplossing voor administratie uit.

Gemengde gevoelens

Binnen de zorg wordt al dit AI-geweld met gemengde gevoelens bekeken. “We zijn nieuwsgierig, we zijn enthousiast, we zijn voorzichtig”, aldus CIO Cris Ross van Mayo Clinic tegenover CNBC. “En we brengen niets naar de patiëntenzorg als het niet klaar is om daarin te worden opgenomen.”

Sumit Rana, executive vice president voor R&D bij Epic, noemt zichzelf in Healthcare IT News een ‘sceptische optimist”. “Ik hanteer drie vuistregels voor AI. Neemt een mens de uiteindelijke beslissing? Is voldoende duidelijk welke rol AI speelt? En geeft de applicatie voldoende informatie over zowel het gebruik van de AI, de uitkomsten als de beslissingen die hieruit voortvloeien?”

Machtsconcentratie Big Tech

Geruststellende woorden. Maar de vraag is wie straks daadwerkelijk aan het stuur zit. In een opiniestuk in Politico waarschuwen twee gezaghebbende juristen voor de groeiende machtsconcentratie bij Big Tech. “Amazon, Google, Facebook en Microsoft staan op het punt de controle over de ontwikkeling van AI in handen te nemen. Een dergelijke revolutionaire technologie overlaten aan een paar ongereguleerde mega-corporaties is op zijn best kortzichtig en in het slechtste geval gevaarlijk.”

Verticale integratie AI-keten

Ganesh Sitaraman en Tejas Narechania wijzen in dit verband op de verticale integratie van de AI-keten, of ‘AI-stack‘. Deze keten begint bij de productie van chips en loopt via het beheer van de cloud tot de ontwikkeling van AI-modellen en de distributie van applicaties. Grote delen van de AI-stack zijn nu al in handen van Big Tech. Chipfabrikant Nvidia, tevens AI-partner van MicroSoft, heeft ruwweg 85 procent van de wereldwijde markt in handen.  En Amazon, Google en MicroSoft zijn samen goed voor twee derde van de wereldwijde cloud-capaciteit.

Peulenschil

Door deze trend van verticale integratie en de enorme kapitaalintensiteit van de activiteiten, hebben nieuwe spelers geen schijn van kans op deze markt, geloven Sitaraman en Narechania. Om alle gebruikers van zoekmachine Bing te bedienen met ChatGPT moet Microsoft 20.000 gespecialiseerde servers inrichten, zo becijferen ze. De bijhorende investering van 4 miljard dollar is een peulenschil in vergelijking met wat Google nodig heeft om AI bij hun veel grotere gebruikersaantallen te brengen.

Bias

Naast de machtspositie van Big Tech wordt AI achtervolgd door legio andere brandende kwesties, die allemaal voor de zorg van groot belang zijn. Het meest besproken kritiekpunt draait om ‘bias’. Als de broninformatie niet representatief is, dan wel gekleurd of in geval van specifieke patiëntgroepen non-existent, kan AI-gestuurde zorg suboptimale resultaten opleveren of erger nog, groepen buitensluiten.

Herleidbaarheid data

Een ander punt van zorg is de herleidbaarheid van data, de ruwe grondstof van AI. Verschillende studies hebben aangetoond dat AI makkelijk persoonlijk data kan ‘onthouden’. Van daaruit is het een kleine stap naar ‘re-identificatie’ van individuen, zelfs als deze data is geanonimiseerd is.

Papieren werkelijkheid?

Zonder herijking en rationalisering kan de inzet van AI bovendien leiden tot bestendiging van suboptimale werkprocessen. Op zichzelf genomen is de inzet van AI geen garantie voor ‘slimme’ zorg. In een versnipperd werkveld als de zorg kan de brede toepassing van AI makkelijk leiden tot een stortvloed van onsamenhangende puntoplossingen.

Ook de belofte van meer professionele vrijheid is geen gegeven. Als AI leidend wordt in de afhandeling van administratie en bureaucratische controle kan de professional gemakkelijk aan de leiband van de computer komen te lopen. Daarbij komt er een steeds hogere muur te staan tussen registratie en uitvoering. Ironisch genoeg kan AI zo voeding gaan geven aan een ‘papieren’ werkelijkheid.

Leer- en ontwikkelstand

Voorzichtigheid is dus geboden, vinden ook ActiZ en Vilans. Maar dit mag geen vrijbrief zijn voor passiviteit. “Ook als organisaties besluiten om (nog) geen gebruik te maken van een AI-toepassing, kunnen zij hun voordeel halen uit het opdoen van kennis. Om ons heen vindt steeds meer digitalisering plaats, ook in de zorg. Het is dus zeker waardevol om op de hoogte te blijven van de ontwikkelingen en jouw organisatie in een leer- en ontwikkelstand te krijgen. Het eventueel later instappen op bepaalde ontwikkelingen wordt op die manier een stuk gemakkelijker.”

Hoe organisaties in de leer- en ontwikkelstand kunnen komen, vertellen ActiZ en Vilans helaas niet. Dat is nogal een uitdaging in een sector waar tijd, trainingsruimte en onderzoeksbudget schaars zijn. Misschien weet ChatGPT raad.

Artificial intelligence is één van de centrale thema’s tijdens Zorg & ICT 2024. Het grootste health tech event van Nederland wordt van 9 tot en met 11 april gehouden in Jaarbeurs in Utrecht.