Sistema AI ad Alto Rischio
Sistemi di intelligenza artificiale che, per il settore di impiego o la funzione svolta, presentano rischi significativi per la salute, la sicurezza o i diritti fondamentali.
Definizione
L'AI Act identifica come "ad alto rischio" i sistemi AI che rientrano nelle categorie dell'Allegato III: infrastrutture critiche, istruzione e formazione, occupazione e gestione dei lavoratori, accesso a servizi pubblici e privati essenziali, attività di contrasto, migrazione e asilo, amministrazione della giustizia. Sono soggetti a obblighi stringenti prima dell'immissione sul mercato europeo.
Riferimenti normativi
AI Act, art. 9
«I fornitori di sistemi di IA ad alto rischio attuano un sistema di gestione dei rischi relativo ai sistemi di IA ad alto rischio.»
Implicazioni pratiche
Obblighi per i provider
Sistema di gestione del rischio; dati di addestramento di qualità; documentazione tecnica; log automatici; trasparenza verso i deployer; supervisione umana; accuratezza, robustezza e cybersicurezza; valutazione di conformità; registrazione nel database EU.
Obblighi per i deployer
Verificare la dichiarazione di conformità del provider; formare il personale; designare un referente per gli obblighi AI Act; effettuare una valutazione d'impatto sui diritti fondamentali (FRIA) in certi contesti.
Domande frequenti
Un software HR che analizza i CV è un sistema ad alto rischio?
Sì, se utilizzato per selezione o filtro dei candidati in contesti di assunzione. Rientra nella categoria "occupazione e gestione dei lavoratori" dell'Allegato III.