Page 19 - Rassegna 2021-4

IL GDPR VOLANO DI ECONOMICITÀ ED EFFICACIA DELLE ATTIVITÀ DELLE
PUBBLICHE AMMINISTRAZIONI

➣ la compensazione di tutte le criticità connesse con l’opacità dei sistemi
di intelligenza artificiale;
➣ il mantenimento della decisione finale entro la sfera di competenza del
“decisore”;
➣ la realizzazione di un “controllo di qualità” del processo decisionale.

È evidente che per rendere effettivo il principio è necessario che l’inter-
vento umano non sia meramente formale ma rilevante e significativo.

c. Il principio di non discriminazione algoritmica
Un ulteriore principio fondamentale è quello di non discriminazione algoritmica, secon-
do cui è opportuno che il titolare del trattamento utilizzi procedure matematiche o statistiche
appropriate per la profilazione, mettendo in atto misure tecniche e organizzative adeguate al
fine di garantire, in particolare, che siano rettificati i fattori che comportano inesattezze dei
dati e sia minimizzato il rischio di errori e al fine di garantire la sicurezza dei dati personali,
secondo una modalità che tenga conto dei potenziali rischi esistenti per gli interessi e i diritti

dell’interessato e che impedisca, tra l’altro, effetti discriminatori nei confronti di persone fisiche
sulla base della razza o dell’origine etnica, delle opinioni politiche, della religione o delle con-
vinzioni personali, dell’appartenenza sindacale, dello status genetico, dello stato di salute o
dell’orientamento sessuale, ovvero che comportano misure aventi tali effetti. In tale contesto,
pur dinanzi ad un algoritmo conoscibile e comprensibile, non costituente l’unica motivazione
della decisione, occorre che lo stesso non assuma carattere discriminatorio .
(21)
Questo importante principio attiene alla qualità dei dati utilizzati dagli
algoritmi necessaria a contenere possibili effetti discriminatori (cosiddetti bias)

nei confronti dei destinatari della decisione. Riconoscere e garantire l’esattezza
dei dati costituisce un grande problema per il corretto funzionamento dei siste-
mi di intelligenza artificiale. Questi funzionano seguendo il noto principio
GIGO (Garbage in = Garbage out) o RIRO (Rubbish in = Rubbish out) che chiarisce
come gli stessi sistemi di intelligenza artificiale (che, invero tanto intelligenti
non sono) effettuino elaborazioni/correlazioni in modo acritico per cui, se rice-
vono, come input, un set di dati errato o senza senso daranno come output dati
aventi le stesse caratteristiche.

6. Integrazione al Conceptual Framework

Quindi, le Pubbliche Amministrazioni che intendano sviluppare processi
decisionali automatizzati devono allineare i loro procedimenti amministrativi ai
principi fissati nel descritto Conceptual Framework. Ma ciò non è sufficiente.

(21) Vengono riportate in corsivo le espressioni testuali della Sentenza in esame.

17