AI Act e Profilazione: Quando il Tuo Algoritmo È Sempre ad Alto Rischio

In sintesi: L'Art. 6(3) del Regolamento UE 2024/1689 contiene una clausola che può classificare come ad alto rischio sistemi AI di profilazione che non rientrano esplicitamente nell'Allegato III. Se il sistema profila persone fisiche e usa il profilo per prendere decisioni che le riguardano, il rischio di essere soggetti agli obblighi completi è reale, anche per startup con use case apparentemente innocui come lead scoring o personalizzazione avanzata.

La Clausola Nascosta della Profilazione

Quando si parla di sistemi AI ad alto rischio, la maggior parte delle analisi si concentra sulle categorie esplicite dell'Allegato III: credit scoring, selezione del personale, proctoring, infrastrutture critiche. Esiste però una clausola meno nota che può rendere ad alto rischio sistemi AI apparentemente lontani da questi settori.

L'Art. 6(2) del Regolamento stabilisce che un sistema AI è ad alto rischio se, oltre a rientrare nell'Allegato III, pone un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone. Il Digital Omnibus ha codificato esplicitamente che tra i fattori da considerare vi è la profilazione di persone fisiche.

In pratica: un sistema AI che profila persone fisiche in modo approfondito, e usa quei profili per prendere decisioni individuali che le riguardano, può essere ad alto rischio anche se il settore in cui opera non è elencato nell'Allegato III.

Cos'è la Profilazione nel Contesto AI Act

Il Regolamento AI non definisce autonomamente la profilazione, ma il riferimento al GDPR (Art. 4, n. 4) è inequivocabile: la profilazione è qualsiasi forma di trattamento automatizzato di dati personali che valuta aspetti personali relativi a una persona fisica, in particolare per analizzare o prevedere:

Rendimento professionale
Situazione economica
Salute
Preferenze personali
Interessi
Affidabilità
Comportamento
Posizione geografica o spostamenti

Un sistema AI che usa dati comportamentali (click, acquisti, navigazione) per costruire un profilo individuale che poi guida decisioni automatizzate sta profilando.

La Differenza tra Profilazione e Analisi Aggregata

Non tutta l'analisi dei dati è profilazione nel senso rilevante per l'AI Act:

Tipo di analisi	Profilazione AI Act?
Analytics di traffico sul sito (aggregato)	No
Segmentazione clienti in macro-cluster anonimi	No
Raccomandazione prodotti basata su cronologia acquisti individuali	Sì (verifica necessaria)
Lead scoring individuale per prioritizzare le vendite	Sì (verifica necessaria)
Churn prediction per singolo cliente con offerta personalizzata	Sì (verifica necessaria)
Dynamic pricing per singola persona	Sì (verifica necessaria)
Fraud scoring su transazione individuale	Sì (verifica necessaria)
A/B testing su varianti di contenuto	No (se non profila singoli)

Quando la Profilazione Diventa Alto Rischio

Il test per determinare se un sistema di profilazione è ad alto rischio si articola in tre condizioni che devono essere tutte presenti:

Condizione 1: Il Sistema Profila Persone Fisiche Identificabili

Il sistema deve produrre profili riferiti a persone fisiche identificate o identificabili. Un sistema che analizza il comportamento di sessioni anonime non attiva la clausola. Un sistema che collega i dati comportamentali a un account utente (anche pseudonimizzato ma re-identificabile) profila persone fisiche.

Condizione 2: Il Profilo È Usato per Decisioni Individuali

Il profilo deve essere usato per prendere decisioni (o raccomandare decisioni che sono poi prese automaticamente o semi-automaticamente) che riguardano la specifica persona fisica. Esempi:

Mostrare o non mostrare un'offerta specifica a quella persona
Determinare un prezzo individuale diverso da quello di listino
Classificare la persona in categorie che influenzano il servizio ricevuto
Raccomandare alla persona contenuti, prodotti o azioni specifiche

Condizione 3: Il Rischio per i Diritti Fondamentali È Significativo

Questa è la condizione più soggettiva e quella su cui si concentra l'interpretazione normativa. I fattori che aumentano il rischio:

Il profilo include o inferisce caratteristiche sensibili (salute, opinioni politiche, orientamento sessuale, etnia)
Le decisioni basate sul profilo possono discriminare o escludere persone da opportunità
Le decisioni basate sul profilo hanno effetti duraturi (non solo un singolo annuncio, ma la classificazione in una categoria che determina il trattamento futuro)
La persona non sa di essere profilata o non può opporsi alla profilazione

I Casi Pratici per le Startup

Lead Scoring per Startup SaaS

Un sistema che assegna un punteggio di propensione all'acquisto a ogni lead, basato su dati comportamentali (pagine visitate, tempo sul sito, email aperte), e usa questo punteggio per determinare l'intensità del follow-up commerciale, è un sistema di profilazione.

È ad alto rischio? Dipende dall'impatto delle decisioni. Se il punteggio determina solo la priorità nella coda del team commerciale, il rischio è probabilmente limitato. Se determina se la persona viene contattata o ignorata (effetto di esclusione), o se le condizioni contrattuali offerte dipendono dal punteggio, il rischio aumenta.

Dynamic Pricing Personalizzato

Un sistema che determina prezzi diversi per utenti diversi sulla base del loro profilo comportamentale (frequenza di visita, sensibilità al prezzo, storico acquisti) è un sistema di profilazione con effetti economici diretti.

È ad alto rischio? Il dynamic pricing personalizzato è un'area di attenzione crescente. Se il sistema può portare a prezzi sistematicamente più alti per determinati gruppi demografici (anche indirettamente, tramite proxy), il rischio di classificazione ad alto rischio è reale.

Churn Prediction con Offerte di Retention

Un sistema che identifica i clienti a rischio di abbandono e genera automaticamente offerte di retention personalizzate opera nel perimetro della profilazione. Se le offerte sono significativamente differenti da quelle disponibili agli altri clienti, c'è un elemento di decisione individuale basata su profilo.

È ad alto rischio? Probabilmente no, se le offerte sono vantaggiose per la persona e non discriminatorie. Ma la valutazione va documentata.

Sistemi di Audience Targeting con Inferenza su Caratteristiche Sensibili

Un sistema che, partendo da dati comportamentali, inferisce caratteristiche sensibili (salute, opinioni politiche, orientamento sessuale) per targetizzare messaggi pubblicitari entra in territorio pericoloso. Oltre alla clausola di profilazione dell'AI Act, potrebbe ricadere nei divieti dell'Art. 5 (categorizzazione biometrica per inferire caratteristiche protette).

Il Coordinamento con il GDPR Art. 22

La profilazione con effetti giuridici significativi o analoghi sulle persone fisiche è già regolata dal GDPR Art. 22, che riconosce alle persone il diritto di non essere sottoposte a decisioni basate esclusivamente su trattamento automatizzato.

AI Act e GDPR si coordinano ma non si sovrappongono perfettamente:

Aspetto	GDPR Art. 22	AI Act clausola profilazione
Trigger	Decisione esclusivamente automatizzata con effetti giuridici	Sistema AI che profila e pone rischio significativo
Diritto dell'interessato	Diritto di non essere soggetto alla decisione	Obblighi di supervisione umana e documentazione
Rimedio	Intervento umano, contestazione, spiegazione	Conformità al regime alto rischio (Artt. 9-15)
Sanzionatorio	GDPR (Garante Privacy)	AI Act (ACN)

Un sistema che attiva sia Art. 22 GDPR sia la clausola di profilazione AI Act deve essere gestito in entrambi i framework. La DPIA GDPR e la valutazione del rischio AI Act possono essere integrate in un unico documento.

Come Documentare la Valutazione

Quando un sistema di profilazione è al confine tra alto rischio e non, la documentazione della valutazione è fondamentale. Il documento di classificazione deve contenere:

Descrizione del sistema: cosa fa, quali dati usa, come produce l'output
Analisi della profilazione: il sistema profila persone fisiche? Come? Con quali dati?
Analisi delle decisioni: quali decisioni vengono prese sulla base del profilo? Chi le prende?
Analisi del rischio: quali sono i potenziali impatti sulla persona? C'è rischio di discriminazione? Di esclusione?
Conclusione: il sistema è ad alto rischio secondo la clausola di profilazione? Motivazione
Misure adottate: anche se il sistema è classificato come non ad alto rischio, quali misure di mitigazione del rischio sono state adottate?

Questo documento va conservato e aggiornato ad ogni modifica significativa del sistema.

Domande Frequenti (FAQ)

Il nostro sistema di raccomandazione usa solo dati aggregati per costruire il modello, anche se produce output individuali: è profilazione? Sì. La profilazione si valuta sull'output del sistema (profilo individuale), non sul metodo di costruzione del modello. Se il sistema produce output riferiti a singoli individui che guidano decisioni su di loro, è profilazione anche se il modello è stato addestrato su dati aggregati.

Usiamo il profilo solo per migliorare l'esperienza utente (UX personalizzata): è davvero ad alto rischio? La personalizzazione della UX è generalmente a basso rischio, perché l'impatto è limitato e i benefici per la persona sono chiari. La clausola di profilazione richiede un rischio "significativo" per i diritti fondamentali: la personalizzazione del colore dei pulsanti o dell'ordine dei contenuti non raggiunge questa soglia. L'importante è documentare perché il rischio è limitato.

Come si coordinano gli obblighi AI Act con il diritto GDPR alla spiegazione delle decisioni automatizzate (Art. 22)? Il GDPR Art. 22 richiede di offrire all'interessato la possibilità di ottenere l'intervento umano, esprimere il proprio punto di vista e contestare la decisione. L'AI Act richiede che il sistema sia progettato per consentire supervisione umana reale (Art. 14). I due obblighi convergono: un sistema di profilazione conforme a entrambi ha meccanismi reali di override umano e processi di risposta alle richieste degli interessati.

Abbiamo un sistema di fraud detection su transazioni: rientra nella profilazione ad alto rischio? Il credit scoring e la fraud detection su persone fisiche rientrano nell'Allegato III punto 5b (con eccezione esplicita per il fraud detection nella parte finale del punto). La clausola di profilazione può comunque applicarsi se il sistema di fraud detection produce profili di rischio individuali che influenzano l'accesso ai servizi. Valutare caso per caso.

Chi in azienda deve essere responsabile di questa valutazione? La responsabilità della classificazione è del legale rappresentante come provider del sistema. In pratica, la valutazione coinvolge tipicamente il CTO (per la descrizione tecnica del sistema), il DPO (per il coordinamento GDPR), e un consulente AI Act (per l'analisi normativa). La decisione finale va documentata e approvata a livello di management.

Approfondimenti correlati:

AI Act Allegato III: Classificazione dei Sistemi ad Alto Rischio: matrice completa di auto-classificazione
AI Act Gap Analysis: Come Mappare il Rischio Prima delle Ispezioni ACN: metodologia di audit interno
AI Act Articolo 50: Trasparenza per Chatbot e Agenti Conversazionali: obblighi di disclosure per sistemi interattivi
GDPR e AI Act per Startup e SaaS: doppia conformità per chi tratta dati personali

Fonti: Regolamento (UE) 2024/1689, Artt. 5, 6, 9-15; Regolamento (UE) 2016/679 (GDPR), Art. 4 n.4, Art. 22; Accordo trilogo Digital Omnibus on AI, 7 maggio 2026.