Page 94 - Rassegna 2024-3

DOTTRINA

L’AI Act pertanto, è stato visto come un valido e affidabile approccio per
fornire un quadro giuridico chiaro basato sul rischio dell’IA in Europa, fermo
restando l’esigenza di specifici chiarimenti di determinati concetti e settori.
Nello specifico, Google ha redatto un documento come feedback agli emenda-
menti europei sull’IA nei quali sono stati evidenziati tre temi principali, che
secondo la società americana, andrebbero approfonditi e chiariti.
Il primo tema è una riflessione sulla complessità del bilanciamento ed equilibrio tra
l’ecosistema IA e gli obblighi per le diverse parti interessate. Potrebbe essere difficoltoso
per i fornitori di sistemi generici di IA gestire tutti i rischi associati alle poten-
ziali applicazioni classificate di rischio elevato, come attualmente previsto
nell’AI Act. Per esempio, il fornitore spesso non avrà accesso ai dati operativi
necessari per il monitoraggio post-vendita se il sistema di IA è stato installato
da un’altra società. Per affrontare tale circostanza, sarebbe consigliabile preve-
dere una nuova categoria di ‘installatori (in inglese deployer)’ all’interno dell’AI
Act che avrebbe funzione di controllo sul rispetto dei requisiti legislativi dell’ap-
plicazioni di IA classificate ad alto rischio.
Il secondo tema è inerente al mantenere fornitori, installatori (deployer ndr) e
utenti su standard attuabili. Determinati criteri della normativa saranno particolar-
mente difficili o quasi impossibili da mettere in pratica (es. art. 10(3) definisce
9
datasets “esenti da errori e completi”, poiché fanno riferimento ad un livello di
perfezione che non è tecnicamente raggiungibile).
La gestione dei dati è un importante aspetto relativo allo sviluppo e appli-
cazione di sistemi di IA, e l’art. 10 dell’AI Act fornisce una utile guida in tal
senso. Tuttavia, ci sono diverse aree che potrebbero essere considerate in
modo migliore per affrontare le sfide sulla lavorazione dei dati ed evitare effet-
ti indesiderati sulle strategie di attenuazione della privacy. In particolar modo,
l’art. 10, comma 3, recita che “la formazione, la convalida e i test dell’insieme
di dati (datasets) devono essere pertinenti, rappresentativi, esenti da errori e
completi”.
In realtà, l’insieme di dati (datasets) non saranno quasi mai ‘esenti da errori’,
in particolar modo i database molto grandi che spesso possono includere milio-
ni se non bilioni di dati, usati principalmente nelle maggior parte dell’IA dispo-
nibili oggigiorno. Inoltre, anche i termini ‘pertinenti’ e ‘rappresentativi’ possono
essere poco precisi poiché potrebbero esserci diversi metri e standard di giudi-
zio per definire qualcosa in tal senso.
‘Completezza’ è caratteristica che non si sposa perfettamente con i data-
base dato che, come tutte le tecnologie, possono essere spesso soggetti con-
9 In informatica è l’insieme di dati organizzati in forma relazionale.

92