Privacy: de AVG geldt ook bij AI
De Algemene Verordening Gegevensbescherming (AVG) stelt heldere eisen aan elke verwerking van persoonsgegevens, ook als die via een AI-tool verloopt. Voor gezondheidsgegevens, die gelden als bijzondere persoonsgegevens onder artikel 9 AVG, gelden extra strenge regels. Verwerking is alleen toegestaan op een expliciete wettelijke grondslag.
ChatGPT is een publiek toegankelijke dienst van een Amerikaans bedrijf. Bij gebruik van de standaard versie geldt dat uw invoer mogelijk wordt gebruikt voor de verdere ontwikkeling van het model. Dat maakt het ongeschikt voor vertrouwelijke zorgdata. De Autoriteit Persoonsgegevens wijst organisaties op hun verantwoordelijkheid bij het gebruik van AI in combinatie met persoonsgegevens.
Hallucinaties: AI verzint soms feiten
Een van de meest onderschatte risico's van generatieve AI is het zogeheten hallucineren. Het model genereert antwoorden die grammaticaal correct en inhoudelijk plausibel klinken, maar feitelijk onjuist kunnen zijn. Bronnen worden soms verzonnen, wetgeving verkeerd geciteerd, namen verwisseld. In een professionele zorgsetting kan dit directe consequenties hebben voor een client.
De IGJ riep zorgaanbieders in februari 2025 op om zorgvuldig om te gaan met generatieve AI. Menselijke controle en navolgbaarheid zijn leidend, ook wanneer AI ondersteunende taken overneemt.
Vertrouwelijkheid: meer dan persoonsgegevens
Naast persoonsgegevens omvat vertrouwelijkheid ook organisatorisch gevoelige informatie: strategiedocumenten, personeelsdossiers, contracten, intern beleid en financiele gegevens. Voer ook dit type informatie niet in publieke AI-tools in. De schade van een lek is niet altijd zichtbaar, maar kan reputatieschade, contractbreuk of juridische aansprakelijkheid opleveren.