La trasparenza AI si riferisce alla capacità di un sistema di intelligenza artificiale di rendere comprensibili e accessibili i suoi processi decisionali, le fonti di dati utilizzate e i criteri adottati per generare output.

Può essere suddivisa in diverse dimensioni:

• Trasparenza del modello: Spiegabilità degli algoritmi e dei loro funzionamenti.
• Trasparenza dei dati: Chiarezza sull’origine, la qualità e l’uso dei dati di addestramento.
• Trasparenza dell’output: Interpretabilità delle decisioni o raccomandazioni fornite dall’AI.
• Trasparenza operativa: Informazioni su chi ha sviluppato l’AI, con quali obiettivi e con quali limitazioni.

L’obiettivo della trasparenza AI è garantire fiducia, equità e accountability, soprattutto in settori sensibili come la sanità, la finanza e la giustizia.