Privacy-first AI: AI met gevoelige zorgdata

Privacy-first AI is een benadering waarbij gegevensbescherming niet achteraf wordt toegevoegd, maar vanaf het eerste ontwerp in de AI-toepassing is ingebakken. Het begrip sluit aan bij het privacy by design-beginsel uit de AVG (artikel 25), maar gaat verder: het omvat ook keuzes over modelarchitectuur, infrastructuur en contractuele afspraken met leveranciers.

Concreet betekent een privacy-first AI-toepassing dat:

• alleen de minimaal noodzakelijke gegevens worden verwerkt (dataminimalisatie);
• de verwerking plaatsvindt binnen een beoordeelde en gecertificeerde omgeving, bij voorkeur binnen de Europese Economische Ruimte;
• er een geldige verwerkersovereenkomst is die voldoet aan artikel 28 AVG;
• de leverancier expliciet heeft vastgelegd dat uw data niet worden gebruikt voor het verder trainen of verbeteren van het model;
• er herleidbaarheid is: u kunt aantonen welke gegevens zijn verwerkt, wanneer en met welk doel.

Het tegenovergestelde van privacy-first AI is een toepassing waarbij uw invoer rechtstreeks bijdraagt aan de verbetering van een algemeen model, zonder dat u daar zeggenschap over heeft. Dit laatste is onverenigbaar met de AVG bij verwerking van bijzondere persoonsgegevens, zoals gezondheidsgegevens.

Zorgorganisaties verwerken dagelijks bijzondere persoonsgegevens: diagnoses, behandelplannen, medicatieoverzichten, psychische klachten. Artikel 9 van de AVG stelt strenge eisen aan de verwerking van dit soort gegevens. Een AI-toepassing die deze gegevens verwerkt zonder de juiste grondslag, de juiste beveiliging of een deugdelijke verwerkersovereenkomst, handelt in strijd met de wet.

De Autoriteit Persoonsgegevens (AP) houdt hier toezicht op. Schendingen kunnen leiden tot boetes, maar het grootste risico is verlies van cliëntvertrouwen. Mensen delen hun meest persoonlijke informatie met zorgverleners; die verwachten dat die informatie zorgvuldig wordt behandeld, ook als er AI in het spel is.

De Inspectie Gezondheidszorg en Jeugd (IGJ) riep zorgaanbieders in februari 2025 expliciet op om zorgvuldig om te gaan met de invoering van generatieve AI. Menselijke controle en navolgbaarheid zijn leidend. Bron: IGJ, februari 2025.

Privacy-first AI is daarmee niet alleen een technische keuze: het is een organisatorische en ethische keuze die rechtstreeks raakt aan de kernwaarden van de zorgsector.

In de zorg zijn de eisen aan privacybescherming bij AI-toepassingen bijzonder hoog, omdat het gaat om bijzondere persoonsgegevens in de zin van artikel 9 AVG. De meest voorkomende toepassingen waarbij dit speelt zijn:

• Spraakgestuurd rapporteren: de behandelaar dicteert na een sessie; de AI schrijft het verslag. De audio en de transcriptie bevatten gevoelige informatie. Coöperatie VGZ onderzocht spraakgestuurd rapporteren in de GGZ en stelde vast dat de registratietijd daalt van gemiddeld circa 30 minuten naar 8 tot 12 minuten per behandelaar per dag. De winst is reëel; de kunst is die verantwoord te verzilveren.
• RAG-toepassingen op eigen documenten: een AI-chatbot die antwoord geeft op basis van interne protocollen, behandelrichtlijnen of cliëntdossiers. Privacyfirst is hier essentieel, want de onderliggende databron bevat patiëntinformatie.
• Administratieve ondersteuning: samenvattingen, brieven, declaratieondersteuning. Ook hier geldt: de invoer bevat persoonsgegevens.

Voor elk van deze toepassingen geldt: beoordeel vóór invoering of een DPIA (gegevensbeschermingseffectbeoordeling) verplicht is. Bij grootschalige verwerking van bijzondere gegevens of inzet van nieuwe technologie met een hoog risico schrijft de AVG een DPIA voor. AI op zorgdata valt in de meeste gevallen in beide categorieën.

Niet elke leverancier die beweert privacy-first te werken, doet dat ook in de praktijk. Stuur bij het selecteren van een AI-toepassing op de volgende concrete zaken:

• Verwerkersovereenkomst: is die beschikbaar, actueel en specifiek genoeg? Bevat die een expliciete no-training-clausule voor uw data?
• Datalocatie: waar staan de servers? Verwerking buiten de EER vraagt om aanvullende maatregelen (standaardcontractbepalingen of adequaatheidsbesluit).
• Beveiligingscertificering: heeft de leverancier een ISO 27001-certificaat, NEN 7510-certificaat of een vergelijkbare aantoonbare beveiligingsstandaard?
• DPIA-ondersteuning: stelt de leverancier informatie beschikbaar die u helpt bij het uitvoeren van een DPIA, zoals een beschrijving van de verwerking, risico's en maatregelen?
• Referenties in de zorg: heeft de leverancier aantoonbare ervaring met zorginstellingen en bijzondere persoonsgegevens?

Als een leverancier op één of meer van deze vragen geen helder antwoord geeft, is dat een signaal. De Autoriteit Persoonsgegevens (AP) biedt richtlijnen voor het beoordelen van AI-verwerkingen: AP over algoritmen en AI.