Sfida 5: Contesto legale

Quando si tratta di disciplinare l’attività della Pubblica amministrazione, uno dei problemi fondamentali è il bilanciamento tra gli interessi della collettività e quelli dell’individuo. Nell’ambito dell’Intelligenza Artificiale (IA) garantire questo equilibrio è particolarmente complesso. Le tecniche di IA di maggiore tendenza necessitano di enormi quantità di dati per poter essere efficaci. Vi è dunque un notevole interesse economico alla raccolta di dati sensibili ed è necessario analizzare alcune delle principali questioni giuridiche che possono interessare l’IA. Tra queste: il principio di trasparenza degli atti amministrativi, la responsabilità giuridica, la privacy, la sicurezza informatica e la proprietà intellettuale [1].

Nell’ambito delle attività della Pubblica amministrazione il principio di trasparenza è cardinale e perciò dovrà ispirare anche la progettazione dei nuovi servizi pubblici basati su soluzioni di IA. A questo scopo, tra i criteri da utilizzare ci sono senza dubbio quello della trasparenza degli algoritmi, delle logiche di costruzione dei database su cui essi operano, e definire le correlate responsabilità [2].

Già oggi gli algoritmi di IA possono incidere direttamente sulle valutazioni e sulle decisioni pubbliche, nonché sugli stessi procedimenti amministrativi. Questo pone un problema di accountability, ossia di verifica dell’effettiva responsabilità giuridica a monte di determinate decisioni o risultati, ponendo la Pubblica amministrazione di fronte ad una serie di sfide:

• trovare metodi uniformi e compatibili con l’attuale ordinamento per consentire all’amministrazione di motivare i suoi provvedimenti anche nella parte elaborata dai sistemi di IA.
• indicare le sorgenti dei dati che alimentano l’IA ed attraverso i quali essa ha compiuto le proprie valutazioni, nonché porre i responsabili dei procedimenti amministrativi a conoscenza delle modalità di elaborazione utilizzate dai sistemi IA.

Per garantire la massima trasparenza, il cittadino dovrà essere messo in condizione di comprendere attraverso quale percorso il sistema IA è pervenuto a un determinato risultato [3], in modo sufficientemente chiaro da poter eventualmente riconoscere un errore di calcolo ed intervenire per ottenerne la correzione.

L’utilizzo di dati sensibili da parte dei sistemi IA della Pubblica amministrazione può compromettere il diritto alla privacy del cittadino, così come alcuni diritti fondamentali dell’individuo, nel caso in cui i dati raccolti vengono utilizzati per prevedere eventi d’interesse sociale, dalla gestione del traffico alla prevenzione del crimine. Una delle sfide è quella di evitare che l’utilizzo di dati da parte della PA generi un controllo sociale pervasivo in contrasto con i diritti fondamentali del cittadino [4].

Quanto all’eventuale “minaccia” del diritto alla privacy, potrebbe essere necessaria l’implementazione di alcuni principi e strumenti presenti nel Regolamento europeo sulla protezione dei dati personali (GDPR), come ad esempio quelli del Data protection impact assessment e della privacy by design. Il primo impone a chi utilizza strumenti informatici che possono violare il diritto alla privacy di operare una valutazione preventiva dell’impatto di queste tecnologie sulla protezione dei dati personali. Il secondo si fonda sull’idea secondo cui le regole sulla tutela dei dati personali devono essere incorporate già nella fase di progettazione dei software, facendo sì che i dati identificativi del cittadino siano anonimi o coperti da pseudonimo, ridotti al minimo indispensabile e che il loro utilizzo sia circoscritto a specifiche finalità. La sfida è chiaramente quella di trovare un bilanciamento tra l’utilizzo efficace dell’Intelligenza Artificiale a servizio dei cittadini e il rispetto del loro diritto alla riservatezza, dando a questi ultimi la possibilità di esprimere il proprio consenso informato al trattamento di dati da parte dei sistemi intelligenti.

Per assicurare che le soluzioni di IA acquisite (o sviluppate) dalla Pubblica amministrazione rispettino quanto previsto dalle norme vigenti è necessario poi curare con attenzione le procedure di approvvigionamento di beni e servizi. In particolare, è opportuno che - prima della determina a contrarre - l’amministrazione proceda alla verifica comparativa delle soluzioni disponibili sul mercato, eventualmente procedendo ad apposite consultazioni. È raccomandabile, inoltre, che - in caso di gara - vengano puntualmente definiti i requisiti e le caratteristiche delle soluzioni di IA, con particolare riferimento al rispetto delle leggi vigenti, in modo da garantire sempre la legittimità dell’attività dell’amministrazione.

Note

[1]	Cfr. la “Sfida etica”.

[2]	A tal fine il Codice di Amministrazione Digitale (CAD) ha istituito la figura del difensore civico digitale, al quale il cittadino può inviare segnalazioni e reclami in caso di inadempienze o violazioni connesse all’utilizzo di sistemi digitali da parte dell’amministrazione pubblica.

[3]	La giurisprudenza ha già sancito che - nel caso in cui algoritmi vengano utilizzati per l’attività amministrativa - deve essere sempre garantito il diritto di accesso all’algoritmo (Cfr. sentenza TAR Lazio-Roma, Sez. III-bis, n. 3769/2017).

[4]	Cfr. la “Sfida ruolo dei dati”.