Autoriteit Persoonsgegevens (AP) waarschuwt voor risico op datalekken bij gebruik AI-chatbots

Dit incident was extra pijnlijk voor de gemeente Eindhoven aangezien Eindhoven al enkele jaren onder verscherpt toezicht van de AP stond. Dit omdat de gemeente Eindhoven datalekken niet of te laat meldde, veiligheidsrisico’s niet onderzocht en gegevens van inwoners te lang bewaarde. 

De AP waarschuwde medio 2024 in een algemeen bericht al dat het gebruik van AI-chatbots kan leiden tot datalekken. De AP constateerde in die waarschuwing dat digitale assistenten zoals ChatGPT en Copilot op de werkvloer steeds vaker worden gebruikt, bijvoorbeeld voor het beantwoorden van patiënt- en klantvragen of het samenvatten van omvangrijke dossiers. Hierbij worden (gevoelige) persoonsgegevens gedeeld. Hoewel dit efficiëntievoordelen oplevert en routinematig werk kan verlichten, zijn aan dit gebruik ook aanzienlijke risico’s verbonden.

Het bedrijf dat de chatbot aanbiedt kan namelijk ongeoorloofd toegang kan krijgen tot de ingevoerde persoonsgegevens. Daarnaast bestaat het risico dat deze gegevens terugkomen in de output van de chatbots.

Zorg ervoor dat uw organisatie voldoende voorbereid is op de omgang en het gebruik met AI door bijv. een algemene interne bewustwordingscampagne op het gebied van gegevensbescherming en privacy te starten.

• Denk aan het verbeteren van AI-geletterdheid: hoe kun je veilig en verantwoord omgaan met AI. In een eerder item zijn wij hier dieper op ingegaan.
• Denk bv. ook aan het opstellen van AI-gedragscodes.

 In de praktijk staan wij veel overheden (zoals gemeenten) bij op het gebied van privacy, data, AI etc. Heeft u vragen? Neem dan gerust contact met ons op.