Mag ik als werkgever een AI-systeem gebruiken op de werkplek?

AI-verordening

Bedrijven die gebruik maken van AI-systemen moeten voldoen aan de regels van de AI-verordening. De AI-verordening maakt onderscheid tussen verschillende risiconiveaus voor AI-systemen. Hoe hoger het risico, hoe strenger de regels. Sommige AI-systemen houden een zodanig hoog risico in dat deze zelfs verboden worden. Hoe zit het dan met AI-systemen waarmee bijvoorbeeld stress van werknemers wordt vastgesteld op de werkplek?

AI-systemen die emoties van werknemers vaststellen zijn in principe verboden!

De AI-verordening verbiedt in principe AI-systemen die emoties van werknemers vaststellen.
Dit geldt wanneer dit gebeurt op basis van biometrische gegevens. Een van de redenen hiervoor, naast een eventuele inbreuk op de privacy, is dat emoties sterk kunnen verschillen per cultuur. Dit is een van de redenen waarom de betrouwbaarheid van dergelijke AI-systemen twijfelachtig is. Een andere reden is de ongelijke machtsverhouding die bestaat tussen een werkgever en een werknemer.  

Het begrip ‘werkplek’ wordt ruim uitgelegd. Daaronder vallen bijvoorbeeld ook virtuele en tijdelijke werkplekken. Een dergelijk AI-systeem mag ook niet toegepast worden op eventuele potentiële werknemers in een selectieproces. 

Wat wordt precies verstaan onder emoties? Het begrip emotie wordt ruim uitgelegd. Voorbeelden zijn bijvoorbeeld o.a. tevredenheid, woede en schaamte. Een belangrijk onderscheid dat in het begrip wordt gemaakt is dat emoties geen fysieke toestand omvatten. Denk hierbij bijvoorbeeld aan vermoeidheid en pijn. Daarnaast ziet het verbod op het vaststellen/afleiden van emoties op basis van biometrische gegevens. Hieronder vallen o.a.:

• gezicht;
• houding en lichaamsvorm
• stem;
• hartslag;
• iris;
• oogbewegingen; en ook
• toetsaanslagen. 

Een AI-systeem dat verkeerde houdingen van werknemers aan hun bureau monitort en bijvoorbeeld adviezen (bureaustoel verstellen) geeft hoeft niet onder het verbod te vallen. Echter, indien dit systeem daarnaast ook emoties uit de houding van de werknemers afleidt (bijvoorbeeld woede) zal dit systeem waarschijnlijk verboden zijn. Een ander voorbeeld is de productiviteit van werknemers meten aan de hand van toetsaanslagen. Indien naast de productiviteit ook de emotie van de werknemers wordt gemeten aan de hand van de toetsaanslagen (bijvoorbeeld omdat dit kan worden afgeleid uit de manier van typen c.q. harde toetsaanslagen) kan dit verboden zijn. 

Uitzonderingen op verbod AI-systeem met emotieherkenning op werkplek? Ja, maar wees voorzichtig! 

Voor sommige AI-systemen op de werkplek met emotieherkenning kan een uitzondering gelden. Dat is het geval als het AI-systeem wordt gebruikt voor een medisch of veiligheidsdoeleinde. Hierbij kan gedacht worden aan AI-systemen voor therapeutisch gebruik. Echter, deze uitzondering is niet breed, waardoor lang niet alle gevallen zullen opgaan:

• Zo zal monitoring van emoties om algemene welzijnsaspecten vast te stellen hier niet onder vallen. Stress valt bijvoorbeeld onder algemene welzijnsaspecten.  
• Ook zal emotieherkenning die wordt gebruikt om de motivatie van werknemers te beoordelen niet onder de uitzondering vallen en derhalve verboden zijn.
• Emotieherkenning die op grond van medische overwegingen worden ingezet om werknemers met autisme te helpen zou wel onder de uitzondering kunnen vallen. 

Een werkgever mag op de werkplek geen AI-systemen inzetten om stress bij werknemers te meten of af te leiden. Alleen wanneer verhoogde stress een veiligheidsrisico oplevert, bijvoorbeeld bij gevaarlijke werkzaamheden, kan een dergelijke inzet onder voorwaarden gerechtvaardigd zijn.

Hoe zit het dan met andere AI-systemen op de werkplek? Zijn die wel toegestaan?

Ieder AI-systeem heeft een zogeheten beoogd doel. Dit betreft kortgezegd het gebruik waarvoor het specifieke AI-systeem bedoeld/ontworpen is. De AI-verordening bevat een opsomming van beoogde doelen die worden gekwalificeerd als een hoog risico. Het bevat een apart kopje t.a.v. werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid. De AI-verordening benoemd daarbij o.a. de volgende doelen:

• AI-systemen die worden ingezet voor werving en selectie (bijv. voor plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties en het beoordelen van kandidaten);
• AI-systemen die besluiten nemen over arbeidsvoorwaarden, promotie of beëindiging van arbeidsrelaties;
• AI-systemen die worden gebruikt voor taaktoewijzing op basis van individueel gedrag of persoonlijke kenmerken;
• AI-systemen die worden ingezet voor monitoring en evaluatie van prestaties en gedrag van werknemers.

Op grond van het voornoemde kan worden geconcludeerd dat AI-systemen op de werkplek vrijwel altijd onder een hoog risico zullen vallen. Dit komt met name doordat dergelijke AI-systemen ingrijpende gevolgen kunnen hebben voor de rechten, carrièrekansen en levensonderhoud van werknemers. Deze kwalificatie als hoog risico kan echter anders liggen indien het AI-systeem geen significant risico oplevert voor de gezondheid, veiligheid en grondrechten van werknemers. Of en wanneer hiervan sprake zal zijn is vooraf moeilijk vast te stellen en vereist per geval een nadere juridische analyse. 

Dat een AI-systeem op de werkplek als een hoog risico wordt gekwalificeerd betekent niet dat het AI-systeem niet mag worden gebruikt. 

Waar moet je als werkgever aan denken bij gebruik van een AI-systeem op de werkplek? 

Zoals reeds eerder benoemd stelt de AI-verordening verplichtingen en regels die per risiconiveau verschillen. De verplichtingen en regels voor gebruik van een AI-systeem met een hoog risico zijn strenger dan die gelden voor gebruik van een AI-systeem met een lager risico. Wilt u meer weten over deze verplichtingen en wat deze zoal inhouden? In eerdere items zijn wij hier dieper op ingegaan, deze treft u hier en hier.

Het implementeren en in kaart brengen van de geldende verplichtingen is een complex en tijdrovend proces voor de werkgever. Dit proces is namelijk vaak afhankelijk van verschillende juridische kwalificaties, denk o.a. aan de specifieke rol die de werknemer inneemt op grond van de AI-verordening en de kwalificatie van de risicoklasse van het AI-systeem. Daar komt overigens ook bij dat de regels van de AI-verordening niet het enige juridisch kader vormt waar verplichtingen uit volgen. Dikwijls speelt privacy en daarmee de verplichtingen uit de Algemene Verordening Gegevensbescherming bij het gebruik van AI-systemen op de werkplek ook een belangrijke rol. Een verkeerde implementatie kan fikse boetes tot gevolgen hebben voor u als werkgever. 

Kortom, het vaststellen en naleven van de juiste verplichtingen vraagt om zorgvuldige juridische analyses en keuzes. Wij helpen u graag bij dit proces, zodat u zich als werkgever houdt aan de geldende verplichtingen en zodoende het risico op eventuele boetes minimaliseert.