Wat betekent artikel 50 van de AI Act voor uw organisatie?

De roep om transparantie rondom AI is niet nieuw. Door de snelle opkomst van AI-systemen is het steeds lastiger om te herkennen of een tekst, afbeelding of gesprek kunstmatig is gegenereerd. Voor uw organisatie kan dit betekenen dat u de manier waarop u AI inzet of hierover informeert, moet aanpassen.  

Met de inwerkingtreding van artikel 50 is transparantie niet langer alleen een wenselijk doel, maar daadwerkelijk een verplichting geworden. De Europese wetgever wil hiermee vooral voorkomen dat mensen ongemerkt worden misleid over de vraag of zij met een mens, een AI-systeem of door AI gegenereerde content te maken hebben. Voor organisaties betekent dit dat zij moeten nagaan waar en hoe zij AI inzetten én of zij dat voldoende duidelijk maken aan de buitenwereld. 

Wanneer moet u transparant zijn over het gebruik van AI?

Artikel 50 van de AI Act bevat de verschillende categorieën transparantieverplichtingen voor aanbieders en gebruiksverantwoordelijken van bepaalde AI-systemen. Dit onderscheid wordt gemaakt omdat niet ieder gebruik van AI automatisch dezelfde transparantieverplichtingen met zich meebrengt. Er zijn vier situaties waarin de aanbieder of gebruiksverantwoordelijke transparant moet zijn over de inzet van AI. Artikel 50 van de AI Act onderscheidt de volgende vier situaties:

1. AI-systemen die rechtstreeks met personen communiceren;
   - Bijvoorbeeld een klantenservicechatbot.
2. AI-systemen die door AI gemaakte content genereren of manipuleren; 
   - Bijvoorbeeld het maken van marketingmateriaal voor uw website door AI.
3. AI-systemen voor emotieherkenning of biometrische categorisering (= het indelen van gebruikers op basis van lichamelijke of gedragsmatige kenmerken);
   - Bijvoorbeeld AI die uit een gezichtsuitdrukking afleidt of iemand tevreden is.

4. AI-systemen die deepfakes genereren of bewerken en AI-systemen die teksten genereren of bewerken om het publiek te informeren over aangelegenheden van algemeen belang.
   - Bijvoorbeeld het maken van een AI-video van een bestaand persoon.

    

Voor wie gelden de transparantieverplichtingen van de AI Act?

Van belang is dat artikel 50 van de AI Act een tweedeling bevat. De eerste twee verplichtingen zien voornamelijk op de aanbieders van AI-systemen, terwijl de laatste twee zien op de gebruiksverantwoordelijken. Oftewel: ontwikkelt of verkoopt u zelf een AI-systeem, of gebruikt u vooral een AI-systeem van een andere partij binnen uw organisatie? 

De aanbieder is een natuurlijk of rechtspersoon die een AI-systeem of AI-model ontwikkelt, laat ontwikkelen of in de handel brengt. Dit zijn bijvoorbeeld de bedrijven achter het daadwerkelijke AI-systeem. Denk aan OpenAI als aanbieder van ChatGPT, Google als aanbieder van Gemini of Microsoft als aanbieder van Copilot. Maar let op!: ook u kunt een aanbieder zijn! Bijvoorbeeld als u zelf een AI-systeem op de markt brengt of een bestaand AI-systeem aanpast.

De gebruiksverantwoordelijke is degene die een AI-systeem onder eigen verantwoordelijkheid gebruikt (zie voor beide definities artikel 3 van de AI Act). Denk bijvoorbeeld aan een organisatie die een AI-systeem onder eigen verantwoordelijkheid inzet, zoals een AI-chatbot voor haar klantenservice of een HR-tool met geautomatiseerde cv-screening. De meeste organisaties gebruiken tegenwoordig wel op de een of andere manier AI. Dat betekent dat u snel ‘gebruiksverantwoordelijke’ bent én dus dat er voor u verplichtingen gelden!

Het is mogelijk dat een organisatie zowel aanbieder als gebruiksverantwoordelijke is. Denk bijvoorbeeld aan een softwarebedrijf dat een AI-chatbot ontwikkelt en deze onder eigen naam aan klanten aanbiedt, maar dezelfde chatbot ook inzet voor de eigen interne bedrijfsvoering, zoals het verwerken van binnenkomende klantvragen. Afhankelijk van de situatie kan het softwarebedrijf dus verschillende rollen hebben onder de AI Act. 

Vanaf wanneer gelden de transparantieverplichtingen van de AI Act?

De transparantieverplichtingen gelden in beginsel vanaf 2 augustus 2026. Voor de verplichtingen uit artikel 50 lid 2, waarop later wordt teruggekomen, geldt echter een overgangsperiode. Content die vóór 2 augustus 2026 is gemaakt én gepubliceerd, hoeft niet achteraf te worden gelabeld. 

Daarnaast krijgen aanbieders van generatieve AI-systemen die al vóór 2 augustus 2026 op de markt waren langer de tijd om aan de markerings- en detectieverplichting te voldoen. Met generatieve AI-systemen worden systemen bedoeld die bijvoorbeeld tekst, beeld, audio of video kunnen genereren. Deze aanbieders hebben tot 2 december 2026 om aan de verplichting te voldoen. 

Kort gezegd houdt deze verplichting in dat door AI gemaakte of aangepaste content moet worden gemarkeerd en als zodanig herkenbaar moet zijn. Hier gaan wij later in deze blog verder op in.

Biedt uw organisatie een generatief AI-systeem aan? Dan is het belangrijk om vóór 2 december 2026 na te gaan of het systeem aan deze eisen voldoet en, waar nodig, maatregelen te treffen. 

Moet u gebruikers informeren als zij met AI communiceren?

AI-systemen zijn steeds beter geworden in het nabootsen van gesprekken. Daarom moet worden voorkomen dat bij de gebruiker ten onrechte de indruk ontstaat dat hij of zij met een mens spreekt. Het gaat hier om AI-systemen die rechtstreeks met natuurlijke personen communiceren. Hierbij kan worden gedacht aan chatbots, AI-telefoniediensten of bots op sociale media. 

De betrokken personen moeten worden geïnformeerd dat zij met een AI-systeem communiceren. Dit hoeft niet wanneer het voor een normaal geïnformeerde, redelijk omzichtige en oplettende persoon, rekening houdend met de omstandigheden en de gebruikscontext, duidelijk is dat sprake is van interactie met een AI-systeem.

Tot slot geldt een specifieke uitzondering voor AI-systemen die bij wet zijn toegestaan voor het opsporen, voorkomen, onderzoeken of vervolgen van strafbare feiten, mits passende waarborgen voor de rechten en vrijheden van derden in acht worden genomen.

Hoe informeert u gebruikers over het gebruik van AI?
De AI Act schrijft niet specifiek voor hoe u deze informatie moet verstrekken. Wel gelden de algemene eisen uit artikel 50 lid 5 van de AI Act: de informatie moet in een duidelijk, te onderscheiden en toegankelijk formaat worden verstrekt. Daarnaast moet de mededeling uiterlijk op het moment van de eerste interactie of blootstelling worden gedaan. 

Of het gaat om de eerste interactie of de eerste blootstelling, hangt af van de betreffende transparantieverplichting. Bij rechtstreekse communicatie, zoals hiervoor besproken, gaat het om de eerste interactie, terwijl bij andere toepassingen de blootstelling aan het AI-systeem of de AI-content centraal kan staan. Dit moment kan dus per transparantieverplichting verschillen. De overige eisen aan de mededeling gelden in alle vier de situaties.

Wanneer moet AI-gegenereerde content herkenbaar zijn?

AI-systemen zijn niet alleen steeds beter in staat om menselijke interactie na te bootsen, maar kunnen ook content maken die nauwelijks van door mensen gemaakte content te onderscheiden is. AI-gegenereerde content brengt risico’s mee, zoals imitatie, manipulatie en fraude. Daarom bevat artikel 50 lid 2 een specifieke transparantieverplichting. 

Deze verplichting ziet op AI-systemen die door AI gemaakte content genereren of manipuleren. Daarbij kan het gaan om audio-, beeld-, video- en tekstinhoud. Denk bijvoorbeeld aan het genereren van afbeeldingen, een kunstmatige stem die een podcast maakt of het maken van socialmediacontent.

De verplichting houdt kort gezegd in dat door AI gemaakte of aangepaste content moet worden gemarkeerd en detecteerbaar moet zijn. De markering moet in een machineleesbaar formaat worden aangebracht, zodat ook door andere AI-systemen óf computers, kan worden herkend dat sprake is van door AI gemaakte of aangepaste content. 

Niet iedere bewerking valt onder deze verplichting. Zo gelden onder andere uitzonderingen voor bepaalde standaardbewerkingen waarbij geen nieuwe inhoud wordt gecreëerd of bestaande inhoud niet wezenlijk wordt gewijzigd. Denk bijvoorbeeld aan spelling- en grammaticacorrecties, opmaak, kleine visuele aanpassingen of videostabilisatie. 

Welke regels gelden voor emotieherkenning en biometrische categorisering?

De transparantieverplichtingen gelden niet alleen voor AI-systemen waarmee personen rechtstreeks communiceren of waarmee content wordt gemaakt. Artikel 50 lid 3 van de AI Act bevat ook een transparantieverplichting voor organisaties die systemen voor emotieherkenning of biometrische categorisering gebruiken. 

Bij emotieherkenning gaat het om AI-systemen die op basis van biometrische gegevens emoties of intenties proberen te herkennen. Denk bijvoorbeeld aan een systeem dat uit een gezichtsuitdrukking afleidt dat iemand blij of tevreden is. Bij biometrische categorisering deelt een AI-systeem personen op basis van biometrische gegevens in bepaalde categorieën in, bijvoorbeeld een leeftijdscategorie.

Gebruikt uw organisatie een dergelijk AI-systeem? Dan moet u de personen die aan het systeem worden blootgesteld daarover informeren. Dit moet uiterlijk op het moment van de eerste blootstelling op een duidelijke, te onderscheiden en toegankelijke manier gebeuren.

Let wel op: voor bepaalde toepassingen van emotieherkenning en biometrische categorisering gelden strengere regels of zelfs verboden. Daarnaast kan de AVG aanvullende eisen stellen aan de verwerking van persoonsgegevens. In deze blog beperken wij ons tot de transparantieverplichtingen uit artikel 50 van de AI Act.

Wat zijn de verplichtingen bij deepfakes?

Iemand woorden in de mond leggen, iemand laten verschijnen op een plaats waar diegene nooit is geweest of iemand handelingen laten verrichten die in werkelijkheid nooit hebben plaatsgevonden: met deepfakes is dit allemaal mogelijk. Met AI-systemen kunnen tegenwoordig beelden, stemmen en zelfs complete gebeurtenissen worden nagebootst die nauwelijks van echt te onderscheiden zijn. 

Een deepfake is door AI gegenereerde of gemanipuleerde beeld-, audio- of video-inhoud die lijkt op bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen en die voor een persoon ten onrechte authentiek of waarheidsgetrouw lijkt. Kort gezegd gaat het om door AI gemaakte of aangepaste content die voor het publiek echt kan lijken.

Maakt een gebruiksverantwoordelijke dergelijke content openbaar, dan moet duidelijk worden gemaakt dat de content door AI is gegenereerd of gemanipuleerd. 

Voor content die deel uitmaakt van een kennelijk artistiek, creatief, satirisch of fictief werk geldt een beperktere transparantieverplichting. Er moet nog steeds duidelijk worden gemaakt dat sprake is van door AI gemaakte of aangepaste content, maar dit mag op een passende manier gebeuren, zodat de weergave of het genot van het werk niet wordt belemmerd.

Wanneer moet u AI-gegenereerde teksten labelen?

AI-systemen kunnen ook worden gebruikt om AI-gegenereerde of gemanipuleerde tekst te publiceren waarmee het publiek wordt geïnformeerd over aangelegenheden van algemeen belang. In dat geval moet duidelijk worden gemaakt dat de tekst door AI is gegenereerd of gemanipuleerd. 

Artikel 50 lid 4 is van toepassing wanneer de tekst is gepubliceerd, bedoeld is om het publiek te informeren en betrekking heeft op een aangelegenheid van algemeen belang. Daaronder vallen bijvoorbeeld onderwerpen op het gebied van politieke en democratische processen, openbare veiligheid, volksgezondheid en milieubescherming. 

De gebruiksverantwoordelijke moet bij de openbaarmaking duidelijk maken dat gebruik is gemaakt van AI. Deze vermelding moet begrijpelijk en waarneembaar zijn voor natuurlijke personen. 

Een uitzondering geldt wanneer de AI-gegenereerde content een substantiële menselijke toetsing of redactionele controle heeft ondergaan én een persoon of organisatie de eindverantwoordelijkheid voor de publicatie draagt. Met substantiële menselijke toetsing wordt een grondige controle bedoeld. Alleen een spelling- of grammaticacontrole is daarvoor niet voldoende.

Wat betekent dit voor uw organisatie? 

Kortom, wie AI aanbiedt of inzet, doet er goed aan te controleren welke transparantieverplichtingen van toepassing zijn. Breng daarom in kaart:

• Welke AI-systemen bieden wij aan of gebruiken wij?
• Welke rol hebben wij daarbij?
• Informeren wij gebruikers op de juiste manier? 

Twijfelt u welke transparantieverplichtingen voor de AI-systemen binnen uw organisatie gelden? Onze specialisten in het ICT-recht kunnen uw AI-gebruik en de toepasselijke verplichtingen met u in kaart brengen. Neem gerust contact op met een van onze specialisten in het ICT-recht.