Page 95 - Rassegna 2024-3

IL LEGAL FRAMEWORK EUROPEO E I PROGETTI A SUPPORTO DELL’UTILIZZO
DELL’INTELLIGENZA ARTIFICIALE

tinuamente a miglioramenti ed evoluzioni e pertanto non essere mai conside-
rati completi, finiti.
Il suggerimento in tale circostanza sarebbe cercare di adattare la normati-
va a standard più appropriati e calzanti alle future tecnologie. Un esempio pra-
tico potrebbe essere la modifica della definizione presente nell’art.10, comma
3, con “adottare appropriate misure per garantire che la formazione, la conva-
lida e i test dei insieme di dati (datasets) siano pertinenti, rappresentativi, e esenti
da errori, coerenti con le migliori procedure industriali.
Altra questione rilevante da trattare in modo riflessivo è la privacy e l’uso
dei dati personali acquisiti dalle tecnologie di IA. L’articolo 10, comma 5,
dell’AI Act fornisce un’utile definizione riguardo l’uso dei dati personali al
fine di garantire il monitoraggio, il rilevamento e la correzione delle distorsio-
ni in relazione ai sistemi di IA ad alto rischio. In tale ottica, potrebbe essere
utile aggiungere un’eccezione nel GDPR in merito agli insiemi di dati (data-
sets) statici immagazzinati in sistemi di validazione, di analisi comparativa e di
test di bias .
10
L’insieme di dati (datasets) statici sono utili perché consentono agli svilup-
patori di vedere come cambiano i sistemi di IA nel tempo e impattano sulla pre-
stazione della tecnologia. Inoltre, forniscono un importante riscontro per con-
frontare le prestazioni di diversi sistemi di IA, permettendo di ridurne la varia-
bilità. Tuttavia, i limiti nella conservazione dei dati nell’attuale GDPR può crea-
re difficoltà nella conservazione dell’insieme di dati (datasets) effettuati nelle ana-
lisi comparative nel corso del tempo.
Un esempio è il caso in cui i dati individuali devono essere cancellati a
causa dei requisiti che richiedono di minimizzare la raccolta dei dati sensibili,
ciò potrebbe causare la variazione e il cambiamento del insieme di dati (datasets)
dell’apparato. Una particolare eccezione garantirebbe agli sviluppatori la possi-
bilità di mantenere i datasets statici per queste finalità. A tal riguardo, giungere
ad un valido chiarimento normativo potrebbe portare a supportare il progresso
nello sviluppo e nel miglioramento della solidità dei sistemi di IA e della gestio-
ne e risoluzione dei bias.

10 Termine usato per definire i fattori confondenti di uno studio statistico. Costituisce la devia-
zione dei risultati osservati dai risultati veri, e quindi il meccanismo di raccolta, analisi, inter-
pretazione, pubblicazione o revisione dei dati che può portare a conclusioni che sono siste-
maticamente diverse dalla “verità”. In informatica, il bias è un fenomeno che si verifica nel
modello di apprendimento automatico a causa di presupposti errati nel processo di appren-
dimento automatico. Il bias è come un errore sistematico che si verifica quando un algoritmo
produce risultati sistematicamente distorti a causa di alcune ipotesi errate nel processo di
apprendimento automatico. Sono quindi ipotesi fatte da un modello per rendere più facile
l’apprendimento della funzione target.

93