https://www.giustizia-amministrativa.it/-/192547-73
Introduzione alle relazioni nel convegno di studi sul tema
“ALGORITMI, IDENTITÀ DIGITALE E PERSONALITÀ UMANA:
DECISIONE, GIUSTIZIA ED ETICA NELL’INTELLIGENZA ARTIFICIALE”
Attività organizzata a Sarno (SA) dalla Camera Amministrativa di Nocera Inferiore (C.A.N.) e dalla Società degli avvocati amministrativisti delle provincie di Salerno ed Avellino (S.A.A.S.A.), il 12 gennaio 2024
Introduzione dell’Avv. Luigi Ferrara
Cos’è un algoritmo? La risposta non è molto complicata, in realtà si tratta di una immissione di dati in forma matematica in un corpo digitale con struttura semi-narrativa.
Tale attività della tecnica umana ha lo scopo di semplificare alcune attività dell’uomo moderno onde agevolarne il lavoro secondo l’equazione: meno lavoro più tempo libero.
Il paradosso è che creiamo le macchine per agevolarci ma finiamo per restare incollati ad esse diventando sempre più tele-dipendenti.
In effetti oggi, vi è sempre più lavoro assistito da un sistema algoritmico. L’esempio è proprio del campo avvocatura, infatti, mentre una volta bastava riportare lo scritto su carta, formare il fascicolo per recarsi in tribunale a depositarlo, attualmente si resta a studio per convertire il vecchio fascicolo cartaceo in file da inserire in un sistema elettronico che tele-trasporta atti e documenti direttamente in tribunale. In disparte il fatto che in presenza presso il Tribunale poteva avveniva uno scambio di idee con i colleghi o con i giudici finanche per gustarsi un caffè e colloquiare, va detto che tutto ciò finisce per svanire restando attaccati al pc per ore intere a convertire ed a effettuare depositi attraverso una serie di macchinose operazioni di software.
La Pubblica amministrazione oggi fa capo alla c.d. agenda digitale che ha lo scopo di fare leva sul potenziale delle tecnologie ICT per favorire innovazione, progresso e crescita economica, avendo come obiettivo principale lo sviluppo del mercato unico digitale. Dunque, è pacifica l’utilizzazione sempre più di sistemi decisionali automatizzati.
Gli esempi più vicini già realizzati ed alquanto sensibili sono principalmente la gestione delle graduatorie a scorrimento (le famose Gps della buona scuola), in effetti ormai il MI utilizza esclusivamente un sistema automatizzato per assumere i docenti ma non manca un settore dello stesso tipo nel privato come ad es. alcune aziende per le selezioni della forza lavoro esaminano i candidati attraverso una intelligenza artificiale.
In banca poi per aprire un c.c. ci chiedono creare la nostra identità digitale (una sorta di sdoppiata personalità per cui non esente certo da attacchi informatici come la filter bubble cioè una lesione del diritto alla privacy e del diritto all’identità personale dove l’utente viene ingabbiato in una bolla che contiene i dati relativi alle proprie scelte).
Il dubbio è: il giurista moderno come può garantire i cittadini a che «i diritti fondamentali non vengano prevaricati da macchine che prendono decisioni al posto dell’uomo».
Nell’attualità basta citare due casi recenti.
Il caso Loomis in Wisconsin un imputato (… afroamericano), condannato a sei anni di reclusione sulla base di un algoritmo “Compas” che lo classificava come imputato ad alto rischio di recidiva sulla base di una serie di dati forniti al sistema.
Nel 2016 la Corte Suprema dello stato ha affermato la legittimità della procedura, rigettando il ricorso di Loomis sulla base che la non conoscenza del funzionamento dell’algoritmo non violasse il suo diritto a un processo equo.
In Italia, non abbiamo il sistema algoritmo “Compas” ma il famoso “Cineca”, che la p.a. utilizza per il trasferimento e l’assegnazione dei posti dei docenti.
Molte polemiche e ricorsi si sono esperiti sia il tar Lazio, che presso il Consiglio di Stato i quali, come giustizia amministrativa, hanno riconosciuto il pieno diritto alla conoscenza delle sequenze di calcolo, della decisione robotizzata, quale atto amministrativo informatico, che “deve essere ‘conoscibile’, sul principio di trasparenza.
Oppure, della selezione del personale, il caso più famoso è stato l’utilizzo del “robot Vera”, creato da una startup russa, diventato celebre 2018 quando Ikea l’ha “assunto”, per i colloqui di lavoro.
In Italia ha usato un sistema simile l’istituto Banca Intesa con una recente selezione dello scorso ottobre.
Insomma, assistiamo ad un progressivo incremento dell’utilizzo di sistemi robotizzati. Siamo in procinto di utilizzare robot che adottano provvedimenti amministrativi e di polizia, e forse non mancherà molto a che si sosterranno esami universitari con i robot al posto di un docente o finanche per eseguire la stesura delle leggi.
Se guardiamo agli Stati Uniti con il citato caso Loomis, per il settore amministrazione giustizia, possiamo immaginare in futuro, finache, delle sentenze elaborate da un algoritmo giudice.
Il rischio è che il mondo diventi una “algocrazia”, in cui tutto è dominato e controllato da algoritmi che affiancano e sostituiscono le decisioni umane contro il più ampio concetto di libertà!
Non riesco a non pensare alla famosa pellicola dal titolo “2001 Odissea nello Spazio” ricordate il robot Hal 9000? Finì per eliminare l’intero equipaggio dell’astronave per non farsi spegnere.
Il pericolo è quello di ingabbiare la libertà dei singoli ad opera dei grandi e pochi operatori economici che dispongono di grandi risorse per creare sistemi a loro favorevoli, definiti, dai più attenti studiosi, come le nuove dittature. I diritti della persona, infatti, affievoliscono rispetto alle regole dei poteri forti economici che il più delle volte occultano le responsabilità decisionali contro il bene della comunità a fronte di maggiori lucri.
Andiamo verso una tecnocrazia? Forse dove i diritti saranno disciplinati in maniera tecnica dalle macchine?
Certo la preoccupazione, tuttavia, non è rivolta all’utilizzo in sé di strumenti che effettivamente migliorano il benessere degli umani, bensì alla puntuale sostituzione della macchina all’interno di un processo decisionale.
Le circostanze implicano un dato preciso: se una macchina trova le soluzioni al posto dell’uomo allora occorre un “un algoretica” (1).
Tutto ciò comporta un problema sul piano etico, il giurista deve garantire le libertà personali, fondamentali che entrano in contatto con un sistema decisionale non umano, ma di cui un umano deve ritenersi padre.
Il fine ultimo deve essere sempre quello di fare sì che la macchina, priva di coscienza, sia sempre al servizio dell’uomo che invece di coscienza è dotato.
Non dobbiamo corre il rischio di emanare norme legittime sganciate da principi etici. Ciò va a scapito delle libertà, perchè un diritto slegato dalla norma morale o dal diritto naturale autorizza, insomma, lo Stato (che legalmente è legittimato a emanare norme), anche a legalizzare una norma ingiusta.
Il giurista è chiamato a scrivere le regole per disciplinare la vita sociale indicando una serie di cautele etiche, per preservare la dignità, l’autonomia e l’autodeterminazione degli individui, aberrando qualsiasi condotta diretta a ridurre, limitare o sviare l’autonomia dell’uomo.
Per tali motivi la Santa Sede ha voluto un suo componente tra i trentotto esperti del nuovo organo consultivo delle Nazioni Unite sull’intelligenza artificiale – frate Paolo Benanti, teologo, docente, membro della pontificia accademia per la vita, affinché l’organo si impegni “in una riflessione etica seria sull’uso e l’integrazione dei sistemi di supercomputer e processi nelle nostre vite quotidiane”.
La sacra scrittura, dice il papa, attesta che dio ha donato agli uomini il suo spirito affinché abbiano «saggezza, intelligenza e scienza in ogni genere di lavoro» (es 35,31). L’intelligenza è espressione della dignità donataci dal Creatore, che ci ha fatti a sua immagine e somiglianza (cfr gen 1,26) e ci ha messo in grado di rispondere al suo amore attraverso la libertà e la conoscenza.
In ciò gli esseri umani, «con l’aiuto della tecnica», si sforzano affinché la terra «diventi una dimora degna di tutta la famiglia umana», agiscono secondo il disegno di Dio.
Per una comunicazione pienamente umana “intelligenza artificiale non può che essere sapienza del cuore”. Un cuore di carne non di metallo.
Avv. Luigi Ferrara
Pres. Camera Amministrativa di Nocera Inferiore
Note 1. Alfonso Celotto - "Algoritimi e algoretica: quali regole per l'intelligenza artificiale?" In Consulta online periodico telematico ISSN. 27 Marzo 2020.