De AI Act is al sinds mei 2024 officieel van kracht. En hoewel zorginstellingen nog even lucht krijgen, tikt de klok door richting augustus 2025. Wat verandert er? Voor wie geldt wat? En vooral: hoe zorg je dat je straks niet stilvalt omdat je AI-systeem niet door de keuring komt? Antwoord op acht vragen
1. Wat houdt de AI Act precies in?
De AI Act is een Europese wet die eisen stelt aan de ontwikkeling en het gebruik van AI. De wet moet ervoor zorgen dat Ai veilig en betrouwbaar toegepast wordt. De AI-wet is in mei 2024 al officieel goedgekeurd. De eerste verplichtingen gelden nu dus al en worden in augustus 2025 verder uitgerold.
2. Vanaf wanneer moeten zorginstellingen hier iets mee?
Aanbieders van AI-systemen moeten dan hun product classificeren en eventueel voorbereidingen treffen om hun product te certificeren. Zorginstellingen krijgen iets meer tijd. Dat wil niet zeggen dat ze achterover kunnen leunen. Ze moeten zich wel voorbereiden op toezicht, registratieverplichtingen en correct gebruik.
3. Er zijn steeds meer AI-toepassingen in de zorg, geldt de AI Act voor allemaal ?
AI die bijvoorbeeld invloed heeft op medische beslissingen, zoals algoritmes die helpen bij het stellen van diagnoses, triage, radiologieanalyses of risicobeoordelingen, wordt als ‘hoog risico’ beschouwd. Deze toepassingen moeten voldoen aan strenge eisen, zoals transparantie, risicomanagement en menselijke controle.
4. Moeten zorginstellingen zelf actie ondernemen?
Zorginstellingen hebben verantwoordelijkheden als gebruikers van AI in de zorg. Ze moeten controleren of een AI-systeem gecertificeerd is, goed gedocumenteerd is en correct wordt gebruikt. Gebeurt dat niet, dan kan een zorginstellingen aansprakelijk worden gesteld.
5. Wat verandert er voor medisch personeel dat AI gebruikt?
De AI Act benadrukt de noodzaak van ‘menselijke controle’. Een arts of zorgverlener moet dus altijd eindverantwoordelijk blijven. Een aanbeveling via AI mag niet zomaar worden opgevolgd.
6. Kun je zelf ontwikkelde AI-toepassingen blijven gebruiken in een zorginstelling?
Zelf ontwikkelde tools mogen alleen in gebruik blijven als ze voldoen aan de juiste eisen op het gebied van risicoclassificatie, databeveiliging en transparantie. Er zijn uitzonderingen voor onderzoek, maar voor klinisch gebruik gelden strenge regels.
7. Wat kunnen zorginstellingen nu al doen?
Identificeer welke AI-systemen gebruikt worden. Vraag leveranciers naar hun plannen voor naleving van de AI Act. Train medewerkers in verantwoord gebruik van AI. Stel beleid op voor toezicht, documentatie en ethische overwegingen. Zorginstellingen die hier nu al mee bezig gaan, voorkomen dat ze straks voor onaangename verrassingen komen te staan.
8. Welke instanties gaan in Nederland de naleving van de AI Act controleren?
De Autoriteit Persoonsgegevens (AP) fungeert sinds 2023 als coördinerend toezichthouder op algoritmes en AI. Deze instantie werkt samen met andere toezichthouders binnen de Algoritme en AI Kamer (AAK) en draagt bij aan de voorbereidingen voor de handhaving van de AI Act. De Inspectie Gezondheidszorg en Jeugd (IGJ) zal toezien op AI in medische apparaten en toepassingen binnen de zorg.
