ICT

Sinds 2 februari 2025 zijn organisaties die gebruikmaken van artificiële intelligentie (AI) naar Europees recht verplicht om de zogeheten interne ‘AI-geletterdheid’ te bevorderen. Maar wat betekent het om als organisatie ‘AI-geletterd’ te zijn? En welke stappen kan een organisatie zetten om ervoor te zorgen dat haar medewerkers AI op verantwoorde wijze inzetten? Hoewel de precieze omvang van ‘AI-geletterdheid’ op deze punten nog nader dient te worden uitgewerkt, heeft de Autoriteit Persoonsgegevens (de AP) geprobeerd om enige houvast te bieden aan organisaties door middel van een handreiking. Met deze handreiking geeft zij de basis voor een meerjarig actieplan welke organisaties kunnen gebruiken om de AI-geletterdheid te bevorderen.

Een recente uitspraak van het Gerechtshof 's-Hertogenbosch onderstreept nogmaals hoe belangrijk het is dat IT-leveranciers hun zorgplicht serieus nemen. En dat ze niet blind varen op de instructies van de afnemer. Goed opdrachtnemerschap – zoals de wet dat vereist – betekent méér dan uitvoeren wat de klant vraagt: het vereist meedenken, waarschuwen en het actief toetsen van de haalbaarheid van klantwensen.

Sinds 2025 is uw organisatie op grond van de regels uit de nieuwe Europese AI-verordening verplicht om de zogenaamde AI-geletterdheid in uw organisatie te stimuleren. AI-geletterdheid houdt onder meer in dat alle organisaties die artificiële intelligentie maken of inzetten, gehouden zijn hun medewerkers te trainen in de juridische en technische aspecten van kunstmatige intelligentie. En daarvan is eerder sprake dan u denkt; Want gebruikt uw organisatie niet al ChatGPT, Co-pilot of andere AI-tools? De AI-act is daarom vrijwel zeker óók op u van toepassing. 

Digitale zorg is niet meer weg te denken uit de gezondheidssector. Of u nu een zorgaanbieder, een ontwikkelaar van e-healthoplossingen of een ICT-specialist in de zorg bent: het is cruciaal om te weten aan welke regels en richtlijnen u moet voldoen. De Inspectie Gezondheidszorg en Jeugd (IGJ) heeft in mei 2024 het vernieuwde Toetsingskader Digitale Zorg gepubliceerd. Dit kader helpt zorginstellingen en ontwikkelaars om digitale zorg veilig, betrouwbaar en in overeenstemming met de wet- en regelgeving aan te bieden. Maar wat betekent dit voor u?

Stel; u wilt gebruik maken van een bepaalde dienst, maar voordat u hiervan gebruikt kunt maken dient u een profiel aan te maken. U krijgt een registratieformulier thuis gezonden waarbij u onder andere uw geboortedatum moet opgeven. Een organisatie kan dit bijvoorbeeld nodig hebben om uw profiel aan te maken. De organisatie verwerkt in dit geval uw persoonsgegevens en dit betekent dat de regels van de Algemene Verordening Gegevensbescherming (hierna: ‘AVG’) van toepassing zijn. Maar wat nu als u er later achter komt dat de organisatie de verkeerde geboortedatum heeft geregistreerd. De AVG biedt een kosteloze oplossing voor ‘rectificatie’ van persoonsgegevens (art. 16 AVG). Maar wat houdt ‘rectificatie’ precies in en wanneer is die kosteloos? 

Op 27 september 2024 heeft een Duitse rechter – naar ons weten voor het eerst in Europa – uitspraak gedaan over de vraag hoe de TDM-uitzondering zich verhoudt tot het samenstellen van databases waarmee AI-modellen kunnen worden getraind. Hoewel er nog zeker veel vragen overblijven, is de verwachting dat deze uitspraak een belangrijk aanknopingspunt zal vormen in toekomstige geschillen m.b.t. het trainen van AI-modellen en het auteursrecht.