AI Act EdTech: Proctoring, Valutazione e Obblighi per le Piattaforme Educative

In sintesi: I sistemi AI usati per proctoring degli esami, valutazione automatica degli studenti e determinazione dell'accesso a percorsi formativi rientrano nell'Allegato III, punto 2 del Regolamento UE 2024/1689 e sono classificati come ad alto rischio. La scadenza per la conformità completa è il 2 dicembre 2027. Le piattaforme EdTech devono avviare subito il percorso di adeguamento, con attenzione particolare al bias demografico del proctoring e alla base giuridica per il trattamento dei dati biometrici.

Il Settore EdTech nel Mirino dell'AI Act

L'istruzione è uno degli ambiti in cui le decisioni algoritmiche hanno effetti più profondi e duraturi sulla vita delle persone. Un sistema AI che nega l'accesso a un percorso universitario o che certifica (erroneamente) un comportamento di illecito durante un esame può alterare il percorso formativo e professionale di un individuo in modo irreparabile.

Il legislatore europeo ha riconosciuto questo impatto classificando i sistemi AI nel settore dell'istruzione come ad alto rischio nell'Allegato III, punto 2 del Regolamento UE 2024/1689.

Il punto 2 dell'Allegato III copre i sistemi AI destinati a essere utilizzati per:

• Determinare l'accesso o l'ammissione a istituti di istruzione e formazione professionale
• Valutare le competenze e le prestazioni (incluso il superamento di esami) degli studenti
• Valutare il livello appropriato di istruzione per indirizzare gli studenti

Il Proctoring AI: Il Caso Più Critico

Il proctoring automatizzato degli esami online è il sistema EdTech che concentra le maggiori preoccupazioni normative, sia per l'AI Act sia per il GDPR. I sistemi di proctoring AI tipicamente:

1. Monitorano il video del candidato durante l'esame tramite webcam
2. Analizzano il comportamento: movimenti degli occhi (eye-tracking), postura, presenza di terzi nell'inquadratura
3. Analizzano l'audio: voci di terzi, rumori anomali
4. Monitorano lo schermo: apertura di applicazioni non consentite, navigazione web
5. Generano alert automatici per comportamenti ritenuti anomali
6. Producono un report per l'istituzione con le anomalie rilevate

Il Problema del Bias nel Proctoring

La ricerca accademica ha documentato un problema sistematico nei sistemi di proctoring AI: il tasso di falsi positivi (studenti flaggati erroneamente come irregolari) è significativamente più alto per:

• Studenti con carnagione scura (i sistemi di computer vision performano peggio su volti non bianchi)
• Studenti con disabilità visive o motorie (comportamenti atipici erroneamente flaggati)
• Studenti in ambienti domestici non ottimali (illuminazione scarsa, background non uniforme)
• Studenti non madrelingua che leggono le domande con movimenti delle labbra

Questo non è un problema marginale: studi condotti negli USA e UK (dove il proctoring è più diffuso) indicano tassi di falsi positivi 2-3 volte più alti per studenti afroamericani rispetto agli studenti bianchi.

L'Art. 10 dell'AI Act (data governance e audit del bias) richiede esplicitamente che questi bias vengano identificati, documentati e mitigati. I provider di sistemi di proctoring devono condurre analisi disaggregate delle performance per sottogruppi demografici.

Il Problema della Base Giuridica GDPR

Il proctoring AI spesso tratta dati biometrici (immagini del volto per il riconoscimento, eye-tracking che rivela anomalie neuromotorie). I dati biometrici sono categorie particolari di dati ai sensi dell'Art. 9 GDPR.

La base giuridica per il trattamento è problematica:

• Il consenso è tecnicamente problematico quando il rifiuto comporta l'impossibilità di sostenere l'esame
• L'interesse legittimo richiede un bilanciamento attento tra interesse dell'istituzione e diritti dello studente
• La necessità contrattuale può applicarsi se l'esame online con proctoring è parte integrante del contratto formativo

La DPIA (Data Protection Impact Assessment) è obbligatoria ai sensi dell'Art. 35 GDPR per il trattamento sistematico di dati biometrici.

Sistemi di Valutazione Automatica: Gli Obblighi per le Piattaforme

Oltre al proctoring, rientrano nell'Allegato III i sistemi che valutano automaticamente le prestazioni degli studenti e ne determinano il superamento o il fallimento dell'esame.

Correzione Automatica di Prove Scritte

I sistemi AI che correggono automaticamente prove scritte aperte (non solo quiz a risposta multipla) e assegnano un voto che diventa determinante per il superamento dell'esame sono sistemi ad alto rischio. Gli obblighi per il provider:

• Documentazione tecnica che descrive i criteri di valutazione usati dal modello
• Analisi del bias: il modello valuta diversamente stili di scrittura tipici di diversi background linguistici?
• Supervisione umana: il voto automatico deve poter essere contestato e rivisto da un docente
• Spiegabilità: lo studente deve poter ricevere una spiegazione dei criteri che hanno portato al voto

Sistemi di Ammissione AI

I sistemi AI usati per selezionare i candidati tra le domande di ammissione a corsi universitari, master o programmi professionali rientrano nell'Allegato III punto 2 (accesso ai percorsi formativi). Questi sistemi sono tra quelli a più alto impatto: la decisione di ammettere o rifiutare un candidato può determinare il suo percorso professionale futuro.

Adaptive Learning con Scoring

I sistemi di adaptive learning che si limitano ad adattare i contenuti alle esigenze dello studente senza determinare giudizi formali (ammissione, superamento esame, certificazione) probabilmente non rientrano nell'alto rischio, o rientrano nell'esenzione Art. 6(3) per impatto limitato. Se però il sistema produce uno scoring dello studente usato per decisioni formative significative, la classificazione ad alto rischio è probabile.

Gli Obblighi Pratici per le Piattaforme EdTech

Per i Provider (chi sviluppa il sistema)

1. Documentazione tecnica (Allegato IV): con particolare attenzione a tasso di falsi positivi, analisi per sottogruppi demografici, limitazioni note
2. Audit del bias: analisi delle performance del modello disaggregata per genere, età, provenienza, disabilità
3. Supervisione umana (Art. 14): il sistema deve essere progettato per consentire revisione umana di ogni alert o decisione automatica
4. Registrazione nella banca dati UE (Art. 49): prima dell'immissione sul mercato
5. Istruzioni per i deployer (Art. 13): come usare il sistema correttamente, come gestire le contestazioni

Per i Deployer (università, scuole, istituti di formazione)

1. Verifica della conformità del vendor: prima di adottare un sistema di proctoring o valutazione AI, richiedere documentazione
2. Supervisione umana reale: istituire un processo di revisione umana per ogni alert generato dal sistema
3. Aggiornamento dei regolamenti d'esame: includere le modalità di ricorso contro le decisioni AI
4. DPIA: obbligatoria per i sistemi che trattano dati biometrici o producono profilazione sistematica degli studenti
5. Informativa agli studenti: comunicare chiaramente l'uso del sistema AI, i dati trattati e i diritti disponibili
6. Accordi con le rappresentanze studentesche: in molte istituzioni, l'introduzione di sistemi di sorveglianza richiede consultazione con le rappresentanze

Le Questioni Aperte: Cosa l'AI Act Non Risolve

Il Divieto di Riconoscimento delle Emozioni

L'Art. 5 dell'AI Act vieta i sistemi di riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni scolastiche (la formulazione include "educational institutions"). Alcuni sistemi di proctoring includono analisi delle espressioni facciali per rilevare ansia, noia o distrazione. Queste funzionalità potrebbero rientrare nel divieto assoluto dell'Art. 5, non solo nell'alto rischio.

I provider di proctoring devono verificare con attenzione se le loro funzionalità di analisi comportamentale rientrano in questa categoria vietata.

L'Accesso Domestico e la Digital Divide

Il proctoring AI assume un ambiente di esame standardizzato: buona illuminazione, background uniforme, silenzio, connessione stabile. Gli studenti in condizioni economiche svantaggiate spesso non hanno accesso a questi requisiti. Un sistema di proctoring che produce tassi di alert più alti per studenti in ambienti domestici non ottimali introduce una forma di discriminazione socioeconomica non intenzionale ma reale.

Domande Frequenti (FAQ)

Usiamo un sistema di proctoring di un fornitore americano: dobbiamo fare qualcosa come università? Sì, come deployer. Dovete verificare che il fornitore stia adeguando il sistema all'AI Act (ha portata extraterritoriale), richiedere documentazione sull'audit del bias condotto, istituire un processo di revisione umana degli alert, e aggiornare la DPIA per includere il sistema AI. Se il fornitore non collabora sulla conformità AI Act, valutate soluzioni alternative.

Il nostro sistema di proctoring include eye-tracking: è un dato biometrico? L'eye-tracking per rilevare movimenti anomali degli occhi non è necessariamente un dato biometrico nel senso dell'Art. 9 GDPR (che richiede dati che consentano l'identificazione univoca). Tuttavia, se l'eye-tracking è combinato con il riconoscimento facciale o con dati che consentono di identificare lo studente, il trattamento complessivo può coinvolgere dati biometrici. La DPIA è prudente in ogni caso.

Uno studente può rifiutare il proctoring AI? Cosa succeede? Dipende dal regolamento dell'istituzione e dalla base giuridica del trattamento. Se la base giuridica è il consenso, lo studente può rifiutare (ma potrebbe non poter sostenere l'esame in quella modalità). L'istituzione deve valutare se offrire modalità alternative di esame per chi rifiuta il proctoring AI. Se la base giuridica è la necessità contrattuale, il rifiuto può avere conseguenze sul rapporto formativo, ma deve essere comunicato chiaramente nel regolamento d'esame prima dell'iscrizione.

Come gestiamo i ricorsi degli studenti contro le decisioni del proctoring AI? Il regolamento d'esame deve includere una procedura di ricorso esplicita per le decisioni influenzate dal sistema AI. Il ricorso deve prevedere la revisione da parte di un docente o commissione umana, con accesso al report generato dal sistema (per consentire la contestazione). Questo è anche un requisito Art. 14 AI Act (supervisione umana) e Art. 22 GDPR (contestazione delle decisioni automatizzate).

Il nostro sistema di adaptive learning assegna "livelli di competenza" agli studenti: è ad alto rischio? Dipende dall'uso di questi livelli. Se il livello di competenza è puramente informativo per lo studente e il docente, senza effetti formali, probabilmente non è ad alto rischio (Art. 6(3)). Se il livello di competenza determina l'accesso a moduli successivi, la certificazione finale o il riconoscimento formale delle competenze, la classificazione ad alto rischio è probabile.

Approfondimenti correlati:

• AI Act Allegato III: Classificazione dei Sistemi ad Alto Rischio: matrice completa di auto-classificazione
• AI Act Data Governance: Come Auditare i Bias: metodologia per l'audit del bias demografico
• AI Act Articolo 50: Trasparenza per Chatbot: obblighi per sistemi interattivi in ambito educativo
• GDPR e AI Act per Startup e SaaS: doppia conformità per chi tratta dati personali

Fonti: Regolamento (UE) 2024/1689, Art. 5, Art. 6, Allegato III punto 2; Regolamento (UE) 2016/679 (GDPR), Artt. 9, 22, 35; Legge 23 settembre 2025, n. 132.