Un Sistema AI ad alto rischio è un sistema di intelligenza artificiale che, per il suo ambito di applicazione e il suo impatto potenziale, presenta un rischio significativo per la sicurezza, i diritti fondamentali o il benessere delle persone.

Secondo il Regolamento sull’Intelligenza Artificiale (AI Act) dell’Unione Europea, un sistema AI è considerato ad alto rischio se rientra in categorie specifiche, tra cui:

• Sicurezza e infrastrutture critiche (es. gestione delle reti elettriche o dei trasporti).
• Istruzione e formazione (es. valutazione automatizzata degli studenti).
• Occupazione e gestione dei lavoratori (es. AI per il reclutamento o monitoraggio sul posto di lavoro).
• Servizi pubblici e privati essenziali (es. AI per la concessione di prestiti o assistenza sanitaria).
• Forze dell’ordine e giustizia (es. riconoscimento facciale, profilazione per scopi investigativi).
• Migrazione, asilo e controllo delle frontiere (es. AI per la valutazione delle richieste di asilo).

Questi sistemi sono soggetti a requisiti rigorosi di trasparenza, affidabilità e supervisione umana per garantire che non violino i diritti delle persone o mettano a rischio la sicurezza.