Schaduw-AI voorkomen: risico's en aanpak

Schaduw-AI is het gebruik van AI-tools door medewerkers buiten de officieel goedgekeurde systemen, zonder dat de organisatie daar zicht op heeft of toestemming voor heeft gegeven. De term is afgeleid van “schaduw-IT”, het bredere fenomeen waarbij medewerkers eigen software of diensten gebruiken naast de bedrijfssystemen.

In de praktijk gaat het om zaken als:

• een verpleegkundige die een gespreksverslag via een publieke chatbot laat samenvatten;
• een behandelaar die cliëntinformatie in een vrij toegankelijke vertaaltool invoert;
• een medewerker die een privé-ChatGPT-account gebruikt voor werkgerelateerde vragen die gevoelige details bevatten.

Het onderscheidende kenmerk is niet welke tool wordt gebruikt, maar dat het buiten de afgesproken kaders en zonder toezicht gebeurt.

Schaduw-AI is geen onschuldig gemak. De risico’s zijn concreet en kunnen vergaande gevolgen hebben, zeker in de zorg.

Privacy en AVG

Bij het invoeren van patiëntgegevens in een niet-goedgekeurde tool verlaat die data uw beveiligde omgeving. Er is geen verwerkersovereenkomst, geen garantie over opslag of beveiliging, en geen grondslag voor de verwerking. De Autoriteit Persoonsgegevens (AP) hanteert de AVG onverkort bij elke AI-verwerking van persoonsgegevens. Bijzondere persoonsgegevens, zoals gezondheidsdata, verdienen extra bescherming op grond van artikel 9 AVG. Een datalek via een schaduw-AI-tool kan leiden tot meldplichten, onderzoek en boetes.

Geen verantwoording mogelijk

Als een AI-tool een samenvatting maakt die feitelijke fouten bevat en die fouten worden overgenomen in de verslaglegging, is er geen spoor terug. De organisatie kan niet aantonen hoe de output tot stand is gekomen, wie er verantwoordelijk voor is of welke versie van het model is gebruikt. In de GGZ, waar het Landelijk Kwaliteitsstatuut (LKS) de behandelaar als eindverantwoordelijke aanwijst, is dit een serieus professioneel risico.

Kwaliteitsrisico

Niet-gevalideerde tools zijn niet getest op de specifieke eisen van zorgprocessen. Ze kunnen verouderde informatie bevatten, medische terminologie verkeerd interpreteren of hallucinëren. Zonder structurele menselijke controle glippen fouten er door.

De IGJ riep zorgaanbieders in februari 2025 op om zorgvuldig om te gaan met de invoering van generatieve AI. Menselijke controle en navolgbaarheid staan daarin centraal. Lees de oproep van de IGJ (februari 2025).

Schaduw-AI is per definitie onzichtbaar in uw officiële systemen. Toch zijn er signalen die u kunt opvangen.

• Medewerkers vertellen het spontaan. Wie AI nuttig vindt, praat er graag over. Luister actief in teamoverleggen en functioneringsgesprekken.
• Output ziet er AI-gegenereerd uit. Verslagen of berichten die buiten de ingevoerde tooling om zijn gemaakt, maar opvallend gestructureerd of generiek zijn, kunnen een signaal zijn.
• Productiviteit stijgt zonder duidelijke oorzaak. Als een team opeens veel sneller werkt zonder dat er een nieuw systeem is ingevoerd, is dat de moeite waard om te bespreken.
• Browser-extensies of apps. Vraag IT om te inventariseren welke extensies en apps medewerkers op werkapparatuur installeren.

De meest directe methode blijft een open gesprek. Vraag teams eerlijk: “Welke AI-tools gebruiken jullie nu, ook priveë?” Medewerkers geven eerder toe wat ze gebruiken als ze geen straf hoeven te verwachten, maar juist gezien worden als probleemoplossers.

Bij een GGZ-praktijk met 24 behandelaren en 3 vestigingen bleek na een interne inventarisatie dat meerdere medewerkers een eigen ChatGPT-account gebruikten voor het opstellen van behandelnotities. Ze hadden goede bedoelingen: ze wilden sneller werken en de administratielast verlagen. De behoefte was reeel. Onderzoek van Coöperatie VGZ laat zien dat de registratietijd door spraakgestuurd rapporteren kan dalen van gemiddeld circa 30 minuten naar 8 tot 12 minuten per behandelaar per dag. De winst is reeel; de kunst is die verantwoord te verzilveren.

De stap die deze praktijk zette: ze maakten het gebruik bespreekbaar zonder te bestraffen, stelden een beknopt AI-gebruiksbeleid op en introduceerden een goedgekeurde tool die werkte met hun eigen beveiligde omgeving. Resultaat: geen schaduw meer, en behandelaren die de nieuwe werkwijze omarmen omdat ze er zelf bij zijn betrokken.

Dit patroon zien we vaker: schaduw-AI verdwijnt niet door verboden, maar door het wegnemen van de onderliggende behoefte op een verantwoorde manier.