La legge europea sull’intelligenza artificiale (AI Act) deve contemperare diverse esigenze, a cominciare dalla tutela della privacy
La costante presenza ed espansione delle tecnologie digitali, nella vita di ogni giorno, è un fenomeno che risulta, oramai, difficile ignorare.
Questo ha consentito di registrare numerosi effetti positivi in campo scientifico, giuridico, letterario ed artistico: si pensi agli importanti progressi registrati nel settore medico, in cui i nuovi dispositivi informatici risultano in grado di diagnosticare malattie o assistere i professionisti nell’esecuzione di interventi chirurgici o alle potenzialità delle intelligenze artificiali nel settore giuridico in cui rappresentano uno strumento di grande ausilio per avvocati, magistrati e operatori del diritto, nella elaborazione di dati o nella redazione di atti.
Gli incredibili effetti positivi, tuttavia, devono necessariamente scontrarsi con una realtà in cui non è possibile ignorare le preoccupazioni che questi sistemi comportano sulla tutela dei diritti umani, la tutela del diritto alla privacy e la necessità di salvaguardare tecniche garantiste di elaborazione e archiviazione dei dati.
Nel panorama europeo, lo sviluppo dell’EU Artificial Intelligence Act (AI Act) ha registrato la previsione di un approccio basato sul rischio, volto ad identificare tutti i rischi che i sistemi di intelligenza artificiale potrebbero presentare e, al contempo, a sostenere un’innovazione sostenibile e responsabile.
Il trattato è istituito al fine di “garantire che le attività nel ciclo di vita dei sistemi di intelligenza artificiale siano pienamente coerenti con i diritti umani, la democrazia e lo stato di diritto” ed a specificare che il principale scopo del documento consiste nella promozione e protezione di questi tre elementi. La ratio di queste misure, infatti, non è porre un freno allo sviluppo tecnologico ma dirigerlo nella giusta direzione, così che si possano sfruttare i potenziali benefici, limitandone al contempo le conseguenze negative.
Tra le principali caratteristiche collegate al funzionamento di numerosi sistemi di AI va segnalato, infatti, che gli strumenti per funzionare necessitano di essere alimentati da milioni di dati, molti dei quali rientranti nella categoria dei dati personali o, addirittura, dei dati sensibili, con tutti i problemi che derivano dalla loro raccolta, archiviazione e circolazione.
D’altro canto, i cosiddetti algoritmi predittivi, che sono in grado di effettuare deduzioni su preferenze, caratteristiche, stato di salute di ognuno conducono al rischio di essere utilizzati per prevedere ed influenzare il comportamento di individui o gruppi di persone. Ad esempio, numerosi software di polizia predittiva e di previsione della recidiva utilizzati negli Stati Uniti sono risultati discriminatori nei confronti di individui afroamericani, anche a causa della sovra-rappresentazione di tale gruppo etnico nelle carceri americane.
L’utilizzo dei software di AI nel settore della sicurezza conduce a numerose preoccupazioni volte a rideterminare l’importanza di assicurare un equo processo e la prevenzione di decisioni arbitrarie, considerato soprattutto i rischi insiti nell’uso delle tecnologie di riconoscimento biometrico.
In questo contesto, è possibile affermare che l’Unione Europea e gli Stati sono chiamati ad assumere il ruolo di garanti al fine di consentire che l’uso dell’AI sia conforme a tutti i diritti umani e che ogni eventuale interferenza sia prevista dalla legge, persegua uno scopo legittimo e sia conforme ai principi di necessità e proporzionalità.
Questo può comportare limitazioni all’utilizzo di tutte le applicazioni di AI che non possono essere gestite in conformità con i diritti umani, nello specifico le tecnologie di riconoscimento biometrico negli spazi pubblici, almeno fino a quando le autorità responsabili non saranno in grado di dimostrarne il rispetto della privacy e l’assenza di impatti discriminatori. Senza dimenticare la necessità garantire che ogni vittima di violazione abbia accesso a specifici rimedi, tutelata da possibili discriminazioni anche attraverso l’imposizione di controlli sugli algoritmi.
Anche alle imprese è richiesto un sempre maggiore sforzo in materia di due diligence nella gestione dei dati, nella determinazione della propria governance e dei propri obiettivi, in conformità con una realtà in costante evoluzione, di cui si rende necessario essere protagonisti e non osservatori.
— — — —
Abbiamo bisogno del tuo contributo per continuare a fornirti una informazione di qualità e indipendente.
