Bijlage III punt 3 zet veel AI-toepassingen in onderwijs als high-risk. Voor onderwijsinstellingen met moderne tooling een directe compliance-uitdaging plus instemmingstrajecten met OR en student-/leerlingenraad.
Wat valt eronder
AI-systemen voor toelating tot onderwijs, beoordelen van leerresultaten, evalueren van prestaties, monitoring tijdens toetsing (proctoring), plus toewijzing aan opleiding-paden. Niet elke EdTech, maar veel meer dan management denkt.
Plagiaatdetectie en AI-detectie
Klassieke plagiaatdetectie (Turnitin, Ouriginal): meestal niet high-risk omdat gebruik niet automatisch beslissend is. AI-content-detectie (Turnitin AI Detection): wel high-risk als beoordeling op gebaseerd. Per tool nuanceren wij de classificatie.
Proctoring en biometrie
Online proctoring met gezichtsherkenning, oogbewegingen, gedrag: vrijwel altijd high-risk en raakt biometrische verbod. Veel universiteiten hebben hier nu al juridisch issues. Wij adviseren over alternatieven (open-book, in-person toetsing) of strikt-compliant inrichting.
Leerling- en studentenrechten
Transparantie naar leerling/student bij AI-gebruik. Recht op menselijke heroverweging bij beoordelingsbesluit. Voor leerplichtige minderjarigen extra eisen onder AVG-bepalingen voor kinderen.
Verwant: Freelance AI consultant inhuren, AI consultant onderwijs.