Art. 5(1)(f) verbiedt emotion recognition AI-systemen "in the areas of workplace and education institutions". Voor HR-tooling-vendors plus deployers een directe compliance-vraag. Wat valt eronder, wat valt erbuiten.
Wat valt onder het verbod
Sentiment-analyse op werknemer-spraak, video-analyse op werknemer-emotie tijdens werkzaamheden, voice-stress-analyse voor screening, AI-baseed proctoring met emotie-detectie. Brede scope.
Uitzonderingen
Voor medische of veiligheidsredenen toegestaan: bijvoorbeeld een chauffeur-vermoeidheid-detector. Voor evident-medische context (psychiater die emotie-analyse als hulpmiddel gebruikt) ook. Maar in standaard-werkplek-monitoring geen ruimte.
Waar de grens loopt
Sentiment-analyse op klantenservice-gesprekken (klant-uitingen): toegestaan, want klant is niet werknemer. Sentiment op de medewerker zelf: verboden. Een tool die beide doet moet de werknemer-feature uitzetten of geen markttoegang krijgen.
Bestaande tooling herzien
HR-vendors met emotion-features moeten die voor EU-customers uitschakelen. Wij scannen uw tooling-stack op verboden features en regelen exit of feature-disable met de leverancier.
Verwant: Freelance AI consultant inhuren, AI sentiment callcenter.