Page 18 - Rassegna 2021-4

DOTTRINA

Quindi, nella Sentenza, il Consiglio di Stato, procede deduttivamente indi-
viduando e fissando tre principi guida, da tenere in debita considerazione nel-
l’esame e nell’utilizzo degli strumenti informatici:
a. il principio di conoscibilità (e il complementare principio di comprensibilità);
b. il principio di non esclusività della decisione algoritmica;
c. il principio di non discriminazione algoritmica.

a. Il principio di conoscibilità
È il principio per cui ognuno ha diritto a conoscere l’esistenza di processi
decisionali automatizzati che lo riguardino e in questo caso a ricevere informa-
zioni significative sulla logica utilizzata. Sussiste quindi un diritto di ogni inte-
ressato - e un correlativo dovere da parte del titolare che tratta i suoi dati - di
avere conoscenza dell’esistenza di decisioni basate su trattamenti automatizzati.
Tale conoscenza deve estendersi anche ai meccanismi in grado di decifrare la
logica dei software utilizzati. In tale ottica, il principio di conoscibilità si completa con
il principio di comprensibilità, cioè, per riprendere l’espressione del GDPR, di rice-
vere “informazioni significative sulla logica utilizzata”. Ciò non implica neces-

sariamente una spiegazione complessa degli algoritmi utilizzati o la divulgazio-
(19)
ne dell’algoritmo completo . La complessità non è una scusa per non fornire
informazioni all’interessato. Il Considerando 58 GDPR statuisce che il princi-
pio di trasparenza è “particolarmente utile in situazioni in cui la molteplicità degli opera-
tori coinvolti e la complessità tecnologica dell’operazione fanno si che sia difficile per l’interes-
sato comprendere se, da chi e per quali finalità sono raccolti dati personali che lo riguardano”.
Le informazioni fornite dovrebbero tuttavia essere sufficientemente complete
affinché l’interessato possa comprendere i motivi alla base della decisione.

b. Il principio di non esclusività della decisione algoritmica
Nel caso in cui una decisione automatizzata “produca effetti giuridici che riguar-
dano o che incidano significativamente su una persona”, questa ha diritto a che tale decisione
non sia basata unicamente su tale processo automatizzato. In proposito, deve comunque esi-
stere nel processo decisionale un contributo umano capace di controllare, validare ovvero smen-
tire la decisione automatica. In ambito matematico e informativo il modello viene definito come
HITL (human in the loop), in cui, per produrre il suo risultato è necessario che la macchina
(20)
interagisca con l’essere umano ”.
In questo modo l’intervento umano può garantire:

(19) Così § IV - E.1 delle Linee Guida sul processo decisionale automatizzato WP251 rev. 01
adottate dal WP29 il 6 ottobre 2018.
(20) In corsivo le espressioni testuali della Sentenza.

16