Bij geautomatiseerde besluiten met juridisch of significant gevolg heeft betrokkene recht op menselijke tussenkomst, uitleg en aanvechting (AVG art. 22). AI Act art. 86 versterkt dat voor high-risk AI.
Wat valt onder "geautomatiseerd"
Een besluit volledig door AI genomen, zonder significant menselijke betrokkenheid. Een mens die een AI-aanbeveling rubber-stamps zonder kritische review wordt door AP gezien als geautomatiseerd. Voor compliance: aantoonbare menselijke afweging vereist.
Welke uitleg moet u leveren
Logica achter het systeem in begrijpelijke taal. Niet de model-gewichten, wel: welke input-factoren spelen een rol, hoe wegen ze, in welke richting. Plus de specifieke uitkomst voor de individuele betrokkene en de redenen daarvoor.
Hoe operationeel maken
Per AI-systeem: standaard-uitlegtemplate met geanonimiseerde feature-importantie. Per individueel besluit: case-specifieke uitleg met SHAP- of LIME-output vertaald naar plain language. Recruiter, klantenservice of customer-experience-team levert de uitleg, AI-team levert de inhoud.
Aanvechtings-recht
Betrokkene mag het besluit aanvechten en menselijke heroverweging eisen. Geen rubber-stamp re-review; werkelijk een mens die opnieuw kijkt met inzage in alle data, niet alleen het AI-output. Procedureel inrichten zodat dit niet ad-hoc gebeurt.
Verwant: Freelance AI consultant inhuren, AVG en generatieve AI.