AI-gebruikers opgelet! Kent u uw verplichtingen uit de AI-verordening?

Gebruikt uw organisatie ook al AI-tooling bij het uitvoeren van werkzaamheden? 

AI blijkt immers inmiddels breed geïntegreerd in diverse bedrijfsprocessen in verschillende sectoren. Denk, naast ChatGPT en Copilot, bijvoorbeeld o.a. aan chatbots, HR-selectietools en voorspellende analysetools. 

Een chatbot kan bijvoorbeeld zonder menselijke tussenkomst reageren op vragen van klanten, een HR-selectietool bijvoorbeeld op basis van cv’s een interne beoordeling maken van de geschiktheid van de kandidaat, en een voorspellende analysetool bijvoorbeeld een aanbeveling doen over welke producten in de uitverkoop moeten. Een ander voorbeeld van een analysetool is een systeem dat de wegen controleert op glad- en begaanbaarheid. Door middel van meetstations langs de weg kan een overheidsinstantie bijvoorbeeld meten (lucht- en wegtemperatuur, luchtvochtigheid, hoeveelheid zout) op welke plekken strooiacties moeten worden uitgezet. AI kent dus zeer uiteenlopende toepassingsmogelijkheden. 

Hierbij plaatsen wij als belangrijke kanttekening dat niet alle ‘forecastingtools’ vallen aan te merken als AI-systemen. 

Kan uw organisatie zomaar gebruikmaken van dergelijke AI-tooling?

Nee, niet zomaar, want de AI-verordening stelt eisen aan het gebruik van AI binnen organisaties en legt bovendien verplichtingen op aan de organisaties die AI beroeps- of bedrijfsmatig inzetten.

Voor organisaties is het van belang om deze verplichtingen te kennen en na te leven, aangezien de toezichthouder forse boetes kan opleggen wanneer zij anders constateert. 

Maakt uw organisatie gebruik van AI, en wilt u weten hoe u kunt nagaan waar u in dat geval aan moet voldoen? Dan is dit een item voor u. 

Is het AI waar uw organisatie zich mee bezig houdt? Grote kans! 

 Voor dit item concentreren wij ons op AI-systemen die onder de AI-verordening vallen: het AI-programma dat door een organisatie kan worden gebruikt en ingezet. De definitie van een ‘AI-systeem’ is volgens de wet vrij breed. 

Kortgezegd is volgens de AI-verordening sprake van een AI-systeem indien het systeem:

• autonoom kan functioneren; en
• uit de input conclusies kan trekken/ afleiden en zelfstandig output kan genereren.

Omdat de definitie vrij ruim is, is de AI-verordening ook relatief snel van toepassing op organisaties die deze toepassen (in een eerder item zijn wij dieper op deze definities ingegaan). Organisaties zijn zich daarom lang niet altijd bewust van het feit dat de AI-verordening verplichtingen aan hen oplegt. En dat kan tot risico’s leiden (in de vorm van boetes) wanneer de (nationale of Europese) toezichthouder hier onderzoek naar gaat doen. 

Hoe weet u welke verplichtingen u heeft?

Verplichtingen verschillen per rol en risiconiveau

Rol van uw organisatie:

De toepasselijke verplichtingen verschillen per rol die een organisatie in kan nemen volgens de AI-verordening. Voorbeelden van rollen zijn die van een aanbieder, distributeur of gebruiksverantwoordelijke. Als u AI-systemen gebruikt in een professionele setting, bijvoorbeeld wanneer uw bedrijf tekstgeneratoren gebruikt om productbeschrijvingen op te stellen, zult u nagenoeg altijd een AI-gebruiksverantwoordelijke zijn. De verplichtingen die vanuit de AI-verordening voortvloeien voor uw bedrijf zien dan op die rol. 

Daarbij is het wel belangrijk om te weten dat de rol van uw organisatie door specifieke handelingen van kleur kan verschieten. Denk bijvoorbeeld aan de situatie waarin uw organisatie een AI-systeem voor een ander doel gebruikt dan het beoogde doel (het doel waarvoor het AI-systeem is ontworpen), waardoor er een hoog risico ontstaat voor de rechten en vrijheden van burgers. Daarnaast is zelfs een dubbele rol mogelijk. In de praktijk kan het dus voorkomen dat een organisatie de verkeerde verplichtingen op grond van de AI-verordening implementeert. 

Risico AI-systeem:

Indien uw organisatie gebruikt maakt van AI die kwalificeert als een hoog risico, gelden er strenge verplichtingen. Voor een uitgebreide behandeling van wanneer een AI-systeem een ‘hoog risico’-systeem kan zijn, verwijzen wij u graag naar de blog (AI-verordening: Verplichtingen (UPDATE)). Een aantal voorbeelden van hoog risico-systemen zijn:

• Inzet van AI in het onderwijs, bijvoorbeeld om studenten te beoordelen op hun geschiktheid voor een bepaalde opleiding, of om tentamens te laten nakijken;
• Inzet van AI voor publieke diensten, bijvoorbeeld om te beoordelen of iemand recht heeft op een uitkering;
• Inzet van AI voor kritieke infrastructuur, bijvoorbeeld om te beoordelen of een weg of elektriciteitsnetwerk onderhoud nodig heeft;
• Inzet van AI op de werkplek, bijvoorbeeld om te beoordelen of een sollicitant geschikt is voor een bepaalde functie, of om te beoordelen of een werknemer een promotie verdient;
• AI-systemen die een product zijn, of een veiligheidscomponent vormen binnen een product, waarvoor Europese regels gelden voordat deze op de markt worden gebracht. Het gaat bijvoorbeeld om veiligheidscomponenten binnen liften, kabelbanen, medische apparatuur en speelgoed.  

Om wat voor verplichtingen gaat het?

Als uw organisatie gebruik maakt van zulke hoog-risicosystemen, gelden er voor uw organisatie bijvoorbeeld verplichtingen op het gebied van: 

• Transparantie;
• Cyberveiligheid;
• Menselijk toezicht; en
• AI-geletterdheid, deze plicht houdt kortgezegd in dat uw medewerkers moeten worden getraind in de juridische alsmede de technische aspecten van AI. In een eerder item zijn wij hier dieper op ingegaan. 

Voor sommige organisaties, zoals overheidsinstanties gelden soms zelfs extra verplichtingen, bijvoorbeeld een plicht om AI-gebruik te registreren bij de Europese AI-databank.

Nog niet alle verplichtingen die blijken uit de AI-verordening gelden al, op het moment van schrijven (december 2025). De AI-verordening trad in 2024 in werking, maar verschillende onderdelen daarvan zijn in fases geldig. Bovenstaande verplichtingen die zien op het gebruik van hoog risico-systemen treden officieel in werking in augustus 2026 (en in sommige gevallen, nog later). Wel gelden op dit moment al regels over onaanvaardbare AI-systemen (AI-toepassingen die verboden zijn), en het stimuleren van de AI-geletterdheid (zie het item AI-geletterdheid binnen uw organisatie voor meer informatie). 

Let op: naast de AI-verordening kunnen er overige verplichtingen en regels van toepassing zijn op uw AI-gebruik. Denk hierbij aan privacyrecht (op grond van de Algemene Verordening Gegevensbescherming), recht over het gebruik van data (op grond van de Dataverordening) en auteursrechten. Dit is onder meer afhankelijk van uw organisatie en de manier waarop u AI gebruikt. Wanneer u besluit AI toe te passen binnen uw organisatie, kan een zorgvuldige inventarisatie van specifiek op uw organisatie toepasselijke wetgeving van waarde zijn. Dit kan helpen te voorkomen dat u onverhoopt inbreuk maakt op andermans rechten en/of niet aan bepaalde verplichtingen voldoet.  

Nieuwe verplichtingen brengen nieuwe aansprakelijkheidsrisico’s mee

Nu de AI-verordening ‘nieuwe’ verplichtingen meebrengt voor organisaties kan dit betekenen dat er ook ‘nieuwe’ aansprakelijkheidsrisico’s ontstaan. Om deze zo goed mogelijk af te dekken kan het verstandig zijn dat organisaties hun algemene voorwaarden aanvullen/-passen. Zodoende kunnen organisaties ook zorgen dat hun algemene voorwaarden beter aansluiten op de nieuwe wettelijke eisen. 

Kortom, er zijn veel aandachtspunten die organisaties in acht moeten nemen bij gebruik van AI. Wij kunnen met onze expertise uw organisatie o.a. helpen met:

• Vaststellen of uw organisatie onder de reikwijdte van de AI-verordening valt;
• Kwalificatie van de specifieke rol die uw organisatie inneemt;
• Kwalificatie van de risicoklasse;
• Het in kaart brengen van geldende verplichtingen;
• Waar nodig verwerken van nieuwe AI-verplichtingen in uw algemene voorwaarden; en
• Overige juridische ondersteuning bieden ten aanzien van AI-gebruik, bijvoorbeeld op grond van het privacy- en het auteursrecht.

Wij verzorgen daarnaast regelmatig op maat gemaakte trainingen, kennissessies, interactieve bedrijfsdiscussies, lezingen of cursussen over de juridische aspecten van AI, waarmee uw medewerkers getraind worden op het gebied van AI en de juridische implicaties daarvan. Neem daarover gerust vrijblijvend contact met ons op.