L’attuazione del principio di trasparenza nello svolgimento dell’amministrazione elettronica

 L’uso massivo di sistemi elettronici nello svolgimento dell’agire delle amministrazioni sta facendo sorgere evidenti problemi di trasparenza, la cui soluzione è prodromica ad un proficuo uso dell’informatica da parte delle p.a.

Di Angelo Giuseppe Orofino -

 

SOMMARIO: 1. La trasparenza informatica: profili introduttivi. – 2. La discussa qualificazione del software come atto amministrativo. – 3. Il codice sorgente e la sua ostensibilità. – 4. Tra accessibilità e intellegibilità: le nuove esigenze della trasparenza algoritmica. – 5. Tra software proprietario e software open source: la scelta del programma quale momento di trasparenza. – 6. La definizione delle regole di programmazione. – 7. La responsabilità dell’immissione dei dati e l’accesso ai file di log. – 8. La motivazione degli atti automatici. – 9. Brevi riflessioni di sintesi.

1.La trasparenza informatica: profili introduttivi.

Il tema della trasparenza informatica ha acquisito un grande rilievo negli ultimi anni, anche all’esito di un serrato dibattito in materia, avutosi sia a livello nazionale che a livello ultranazionale, alimentato dalla crescente attenzione ad esso riservata dalle corti italiane e straniere.

Quello al quale ci si riferisce è, invero, un dibattito sorto già ad inizio del ventunesimo secolo, ma che sino ad oggi non aveva ottenuto una grande eco, ed in ambito giurisprudenziale era stato limitato a poche ed isolate pronunce, nelle quali si era essenzialmente affrontato il tema della ostensibilità dei documenti esternati su supporto magnetico e dei file di log[1].

Nell’ultimo lustro, invece, sta catturando l’attenzione dei tribunali un nuovo profilo della trasparenza informatica: quello riferito alla conoscibilità del software e del suo cuore pulsante, costituito dal codice sorgente.

Il tema, già enunciato in alcuni scritti pubblicati sul finire dello scorso millennio[2], ha acquisito una rinnovata attenzione in quanto si è fatta sempre più impellente l’esigenza di comprensione delle modalità di funzionamento dei programmi adoperati dalle pubbliche amministrazioni nello svolgimento di procedimenti automatizzati, e ciò in conseguenza della crescente importanza acquisita dagli elaboratori e dal conseguente impatto che le decisioni robotiche hanno assunto sulle posizioni soggettive dei cittadini.

Studi sull’uso dell’automazione nello svolgimento di funzioni pubbliche sono stati condotti già da tempo.

In Italia, come noto, già con il «Rapporto sui principali problemi dell’amministrazione dello Stato», presentato nel 1979 dall’allora ministro della Funzione pubblica Massimo Severo Giannini[3], veniva rilevato che gli elaboratori elettronici, in principio adoperati come «apparecchi di semplice registrazione di dati complessi, sono divenuti poi apparecchi di accertamento e verificazione, di calcolo, di partecipazione a fasi procedimentali di istruttoria, e infine di decisione», sicché «i sistemi informatici non servono più alle amministrazioni per fatti di gestione interna, ma servono proprio per amministrare, si proiettano cioè sempre più verso l’esterno»[4].

Dal 1979, ovviamente, molte cose sono cambiate e l’utilizzo dei computer nello svolgimento di funzioni amministrative è divenuto sempre più consistente e invasivo.

L’informatica non viene solo usata quale mezzo di esternazione di provvedimenti, o di atti fatti pervenire da privati all’interno di procedimenti condotti da enti pubblici: gli elaboratori si atteggiano, invece, sempre più come strumenti ai quali viene demandato l’espletamento di talune funzioni (istruttorie, ma anche decisionali), come accade nelle ipotesi di correzione automatizzata delle prove di determinati concorsi, ovvero nella gestione di procedimenti di mobilità da parte di grandi amministrazioni centrali[5].

Mai in precedenza un mezzo tecnico adoperato dall’amministrazione si era rivelato così condizionante e, nello stesso tempo, così determinante ai fini dello svolgimento delle funzioni pubbliche, al punto da porre bisogni di conoscibilità riferiti allo strumento stesso[6], oltre che all’azione condotta per il suo tramite[7].

Si ha, dunque, la evidente peculiarità che l’esigenza di trasparenza – sino ad oggi riferita unicamente alla attività ed alla organizzazione –, viene ad essere estesa anche ad alcuni mezzi tecnici adoperati dalle p.a.

È questo, come detto, un portato del rilievo condizionante assunto da tali mezzi sull’esercizio delle funzioni amministrative.

2.La discussa qualificazione del software come atto amministrativo.

Le peculiarità e le novità di cui si è detto hanno certamente caratterizzato la materia e influenzato la sofferta e contrastata qualificazione del software.

Ed infatti, valorizzando la circostanza che la p.a., già al momento dell’adozione del programma, assume decisioni con le quali riduce la propria discrezionalità, così autolimitandosi per una serie indefinita di situazioni future, taluni autori hanno sostenuto che il software utilizzato per l’emanazione degli atti automatici sarebbe un atto amministrativo[8], e lo hanno qualificato in termini di atto generale[9], di atto interno[10], di strumento di autovincolo[11], o di regolamento[12].

La tesi della natura attizia del software è stata sostenuta in sede giurisdizionale da chi, al fine di garantire l’accessibilità dei programmi adottati per la gestione di procedimenti amministrativi[13], ha ritenuto di considerare tali programmi alla stregua di veri e propri provvedimenti[14], in quanto tali ostensibili ai sensi delle disposizioni sull’accesso documentale. Si è, pertanto, affermata la «riconducibilità del software che gestisce l’algoritmo alla categoria del c.d. atto amministrativo informatico di cui alla lett. d), dell’art. 22 della legge n. 241 del 1990»[15].

In realtà l’art. 22, comma 1, lett. d), della legge sul procedimento definisce il «documento» amministrativo, ai fini della sua ostensione che, ai sensi delle disposizioni in materia di accesso, viene riconosciuta per tutte le tipologie documentali individuate da tale norma. L’art. 22, però, non traccia anche la nozione di «atto» o di «provvedimento amministrativo»[16].

Come si chiarirà nei paragrafi che seguono, non pare dubitabile che il software debba essere un documento accessibile.

Al contrario, non si condivide l’idea secondo la quale il programma possa anche essere ritenuto un atto amministrativo a tutti gli effetti.

Chi ha aderito alla tesi qui avversata lo ha fatto valorizzando il presupposto che è con il software che l’amministrazione costituisce, modifica o estingue le situazioni giuridiche individuali, dando specifico contenuto ed effettiva concretezza alle istruzioni ricevute al momento della progettazione dell’applicazione[17].

Secondo quanto sostenuto da chi condivide l’orientamento poc’anzi richiamato, dunque, sarebbe consentita l’adozione di atti amministrativi scritti in un linguaggio macchina, fatto di segni e caratteri non comprensibili né dal destinatario del provvedimento, né tantomeno dall’autorità che lo emana.

Occorre, dunque, chiedersi se è possibile immaginare l’esistenza di un atto amministrativo il cui contenuto sia decifrabile unicamente da un numero ristrettissimo di tecnici programmatori, e non anche dagli organi delle amministrazioni o dai cittadini ai quali tali atti sono rivolti[18].

Si ritiene che la risposta al quesito innanzi posto debba essere negativa, giacché la produzione di significati prescrittivi, rilevanti nel mondo del diritto è consentita solamente quando vengano usate le forme del linguaggio e della comunicazione giuridica[19]: perché il provvedimento possa venire ad esistenza, occorre che la determinazione volitiva dell’agente venga esternata, in guisa da potere essere percepita dai destinatari[20].

È questa una delle più elementari applicazioni del principio di trasparenza amministrativa: consentire ai cittadini di conoscere il contenuto delle determinazioni adottate dall’autorità e delle motivazioni che le sorreggono, secondo la regola tracciata dall’art. 3 della l. n. 241/1990.

Nell’ordinamento italiano, poi, benché – come già detto – non vi sia una regola generale che imponga l’utilizzo della forma scritta per l’adozione degli atti amministrativi, quest’ultima è certamente la modalità di esternazione normale che essi debbono assumere[21].

E tutte le volte in cui tali atti debbono essere redatti per iscritto, devono essere anche vergati in italiano.

L’italiano, infatti, costituisce la lingua ufficiale degli atti e dei procedimenti pubblici, ed il suo uso è doveroso, salvo nell’ipotesi in cui vi siano espresse deroghe normative.

Quanto detto è peraltro confermato dai principi di diritto comune desumibili dall’art. 122 c.p.c.[22].

La necessità che i provvedimenti siano esternati con un idioma comprensibile al destinatario è, peraltro, asseverata dalle disposizioni che impongono il bilinguismo, ovvero da quelle che prevedono la traduzione, in lingua comprensibile al destinatario, quando i provvedimenti siano adottati nei confronti di uno straniero.

E quindi il software, proprio perché compilato con un insieme di segni ed espressioni non manifestati secondo le normali regole della comunicazione linguistica, non può essere ritenuto un atto amministrativo ma, al più, può formare oggetto di una volizione amministrativa: la volontà di fare proprie, nello svolgimento delle funzioni, le decisioni assunte dalla macchina[23].

Del resto, se gli atti amministrativi sono delle «dichiarazioni» poste in essere da un’autorità[24], allora la dichiarazione, perché possa essere tale, deve essere esternata con modalità che consentano ai destinatari di comprenderne il significato.

Il che concreta la necessità di utilizzare uno strumento comunicativo di uso comune e ben comprensibile.

Da quanto innanzi detto, quindi, deriva l’impossibilità di considerare il software come un atto amministrativo.

L’elaboratore elettronico (ivi compreso il programma) dovrà, invece, essere ritenuto uno strumento dell’agire amministrativo[25].

Un diverso convincimento non terrebbe conto anche delle difficoltà connesse al firmare i programmi informatici, visto che la sottoscrizione elettronica di un software non è sempre possibile[26].

A quanto detto va, infine, aggiunto che se il programma fosse un atto, avverso di esso – quando lesivo – dovrebbe essere consentita tutela giurisdizionale (non importa se immediata, o differita al momento della conclusione del procedimento), secondo la regola tracciata dall’art. 113 Cost.

E quando la tutela passi attraverso l’annullamento dell’atto amministrativo, occorrerà che il ricorrente proponga censure rispettose del principio di specificità dei motivi di ricorso (art. 40 c.p.a.), e l’organo giudicante verifichi, anche officiosamente, tale rispetto.

Appare arduo immaginare che un avvocato e dei giudici siano in grado di garantire l’ossequio del principio di specificità delle censure proposte avverso un programma, il cui contenuto non siano in grado di intendere.

Affermare, come pure è stato fatto che, ai fini della comprensione del software «il privato destinatario dell’atto […] può, comunque, legittimamente avvalersi dell’attività professionale di un informatico competente in materia»[27], non appare convincente, oltre che per le ragioni innanzi evidenziate, anche per gli oneri evidenti che verrebbero posti in capo alle parti processuali ed allo stesso giudice, chiamati a ricorrere ad un tecnico informatico per comprendere il senso delle istruzioni impartite all’elaboratore: si ritiene davvero eccessivamente gravoso immaginare che la possibilità di interpretare gli atti oggetto di sindacato giurisdizionale sia esercitata attraverso la mediazione di tecnici informatici[28].

La questione, poi, si complica ulteriormente quando si adoperino sistemi esperti che, attraverso tecniche di apprendimento automatico, acquisiscano livelli di autonomia sempre maggiore rispetto al momento della progettazione del software, sicché la programmazione diventa sempre meno rilevante ai fini della prognosi sulle decisioni che il computer può assumere.

Se si accedesse alla tesi che qualifica come atto amministrativo il programma, anche quando si faccia ricorso a macchine equipaggiate con reti neurali, dovrebbe dedursene che tale programma sia un atto «incompiuto» o «in divenire», cioè con un contenuto non completo, ma che si arricchirà nel tempo, all’esito dei vari processi di autoapprendimento posti in essere dal software.

Il che appare contrastare con la nozione comunemente accettata di atto amministrativo, quale espressione «compiuta» di volontà.

Con questo non si vuole negare la fondamentale importanza del garantire adeguati strumenti di tutela dei cittadini anche nei confronti dell’attività automatizzata: e però, la qualificazione del programma in termini di atto amministrativo, come visto, finisce per rendere più onerosa e meno efficace tale tutela.

Meglio, dunque, immaginarlo alla stregua di uno strumento, al quale sono affidati compiti da funzionario virtuale[29]: quest’ultimo, allo stesso modo in cui si comporterebbe un funzionario in carne ed ossa, è chiamato a predisporre una bozza di provvedimento da sottoporre all’attenzione del proprio dirigente, che rimane il vero responsabile sia per la decisione assunta e sia, soprattutto, per il buon funzionamento dell’intero apparato: in ragione di tale responsabilità è tenuto, quando sollecitato, a verificare l’operato dell’elaboratore[30].

3.Il codice sorgente e la sua ostensibilità.

La circostanza che il programma non sia un atto amministrativo non deve dissuadere dal garantirne l’accessibilità, che soprattutto deve essere estesa al listato o codice sorgente, cioè al cuore del sistema operativo, dal cui funzionamento dipende quello del programma stesso.

Si è già rilevato, infatti, che il software spiega una innegabile influenza sullo svolgimento delle funzioni automatizzate, sicché dalla conoscenza delle logiche sottese al suo funzionamento passa certamente la tutela del cittadino che si difenda da decisioni robotiche[31].

E, ancorché non sia un provvedimento, non pare dubitabile che il programma, quando usato per la conduzione di procedimenti o lo svolgimento di altre funzioni pubbliche, debba essere considerato alla stregua di un «documento amministrativo»[32], secondo l’ampia definizione recata dall’art. 22, comma 1, lett. d), della l. n. 241/1990[33], senza che la manifestazione su supporto elettronico di tale documento sia idonea a influenzarne il regime di accessibilità[34].

Si rivela pienamente aderente all’idea poc’anzi esposta la disciplina recata in Francia dall’art. L. 300-2 del Code des relations entre le public et l’administration che, all’esito della modifica apportata dall’art. 2 della loi pour une République numérique del 7 ottobre 2016, espressamente annovera tra i documenti amministrativi accessibili anche i listati dei programmi usati dalle amministrazioni[35].

La riforma del 2016 era stata, invero, anticipata da interventi della Commission d’accès aux documents administratifs, che già con una decisione del 2015[36] (il cui orientamento è stato poi ribadito in successive occasioni[37]), aveva ritenuto di considerare il codice sorgente di un algoritmo alla stregua di un documento ostensibile.

Anche il Tribunal administratif de Paris, pronunciandosi sulla stessa vicenda analizzata dalla Cada l’8 gennaio 2015, dopo aver osservato che il listato non è incluso nell’elenco dei documenti per i quali il legislatore francese ha escluso l’accessibilità, ne ha concluso che «chaque version du code source d’un même programme informatique revêt le caractère de document administratif achevé et peut être communiqué»[38].

Anche il confronto con la disciplina francese, dunque, conforta l’idea volta a sostenere la ostensibilità del listato.

Ma vi è di più: l’estrema importanza del ruolo svolto dalla macchina rende necessario abbracciare una declinazione più ampia di trasparenza, che non si fermi al piano formale relativo all’acquisizione del codice dell’algoritmo utilizzato, ma conduca ad assicurare una conoscibilità delle dinamiche informatiche tale da permettere, sul versante tecnico, ogni indagine in merito al funzionamento del sistema, così da assicurare una compiuta verifica: a) in ordine all’adeguatezza dello strumento adoperato; b) circa il buon funzionamento dell’elaboratore; c) in merito alla corrispondenza delle informazioni di progettazione dell’algoritmo, rispetto alle istruzioni contenute nei provvedimenti con i quali l’amministrazione ha indicato le regole di implementazione del software: non è, infatti, improbabile che chi traduce in linguaggio di programmazione le indicazioni ricevute dall’amministrazione commetta degli errori[39].

È frequente che l’elaboratore si atteggi alla stregua di interfaccia per mezzo della quale il cittadino è chiamato ad interloquire con l’amministrazione inserendo, attraverso moduli telematici, i dati necessari per avere accesso ad una procedura o domandare l’adozione di un provvedimento: ciò può succedere in occasione dello svolgimento di prove selettive di vicende concorsuali di vario genere e tipologia[40], ovvero per la presentazione di richieste di finanziamenti o incentivi[41], ovvero ancora per la partecipazione a gare di appalto[42] ed a procedure di mobilità del personale[43], per la elezione del consiglio direttivo federale della Federazione ginnastica italiana[44], o per la presentazione di candidature ad un concorso per il reclutamento di personale docente[45].

L’elencazione potrebbe continuare, ma rischia di divenire sterile e sovrabbondante: gli esempi innanzi riportati dimostrano già con sufficiente compiutezza quale può essere il rilievo assunto dai computer (si badi bene che non ci si riferisce all’importanza del solo software, ma anche a quella dell’hardware) in occasione dello svolgimento di procedimenti condotti mediante l’ausilio degli elaboratori.

Tale rilievo è stato sottolineato anche in una recente occasione dal Tar Lazio che, giudicando sulla richiesta ostensiva presentata da alcuni partecipanti ad una procedura selettiva per l’assunzione di dirigenti scolastici, ha ritenuto che avessero diritto al rilascio del listato, giacché è mediante il sistema informatico adoperato dall’amministrazione che: a) i candidati hanno visualizzato le domande precaricate sul sistema; b) gli stessi candidati hanno provveduto a rispondere alle domande loro presentate a video; c) il computer ha salvato e cifrato le risposte, in vista della loro successiva messa a disposizione delle commissioni valutatrici[46].

Come condivisibilmente osservato dal Tar, nella occasione poc’anzi descritta «l’elaboratore ha svolto compiti di acquisizione, di custodia e di condivisione di dati, comportandosi come un “recettore-intermediario”, veicolando e raccogliendo quesiti e risposte»[47]. Pertanto, lo stesso giudice romano arriva a comparare l’attività svolta dal computer (il Tar parla di software, ma pare più corretto che il riferimento venga fatto all’intero sistema informatico di espletamento della procedura) ai compiti che – in una vicenda dipanatasi con strumenti analogici – sarebbero effettuati da personale ausiliario, e ad affermare che i vari processi ai quali la macchina ha presidiato «si risolvono in attività serventi rispetto alla gestione delle prove concorsuali»[48].

Hanno certamente funzione servente le attività di predisposizione dei fogli informatici mediante i quali i candidati sono chiamati ad espletare le prove selettive, oppure il loro salvataggio e la successiva criptazione al fine di garantire la non modificabilità dei dati acquisiti e la protezione dell’anonimato: sono tutti compiti che, nei concorsi svolti con modalità tradizionali, vengono certamente gestiti da personale con funzioni ausiliarie, chiamato ad occuparsi della distribuzione dei fogli (vidimati dalla commissione) su cui redigere le risposte, della successiva raccolta degli elaborati, e del loro inserimento all’interno di buste sigillate[49].

Nelle procedure svolte ordinariamente, del resto, la garanzia di trasparenza e di integrità viene perseguita mediante alcuni accorgimenti tesi a garantire, in vario modo, la genuinità dei risultati.

Il passaggio alla gestione informatica delle procedure non può certo andare a detrimento delle garanzie che devono presidiare l’espletamento di vicende concorsuali, in quanto la scelta discrezionale della p.a. di gestire un pubblico concorso con mezzi informatici costituisce una facilitazione organizzativa per l’amministrazione, che non può mortificare le esigenze di conoscibilità dell’agire amministrativo coltivate dai cittadini che entrino in contatto con la stessa amministrazione.

Sicché, seguendo una logica di equa distribuzione dei commoda e degli incommoda derivanti dall’adozione di elaboratori per la gestione delle prove concorsuali, i vantaggi conseguiti dalla p.a. in punto di semplificazione dell’attività, devono essere bilanciati con l’esigenza di assicurare la dovuta trasparenza[50], che non può essere minata dalla inibizione all’ostensione del codice sorgente.

4.Tra accessibilità e intellegibilità: le nuove esigenze della trasparenza algoritmica.

Alla luce di quanto detto, quindi, appare certamente appropriata la scelta di parlare, con riguardo all’algoritmo, di un «principio di conoscibilità» che si completa e combina con quello di «comprensibilità»[51]. All’ostensione pura e semplice della stringa di programmazione e degli atti in cui la stessa è formalizzata, dovrebbero accompagnarsi informazioni significative sulla logica utilizzata[52], rese in modo da essere agevolmente colte dal cittadino[53].

Appare utile ribadire che il francese Code des relations entre le public et l’administration canonizza un diritto di conoscenza rinforzato[54], in ragione del quale, quando una decisione sia presa sul fondamento di un trattamento algoritmico, è necessario che si comunichino in forma intellegibile, all’interessato che lo richieda, oltre al codice, anche le regole che definiscono il trattamento e le caratteristiche della sua attuazione[55], sicché «le responsable du traitement doit s’assurer de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard»[56].

Anche in una recente comunicazione della Commissione europea si è individuato nella comprensibilità algoritmica uno dei requisiti fondamentali che debbono essere posseduti dai moderni sistemi di intelligenza artificiale, e pertanto «explainability of the algorithmic decision-making process, adapted to the persons involved, should be provided to the extent possible»[57].

Occorre, però, evidenziare come la conoscenza del codice sorgente (che va comunque garantita) non è di per sé sufficiente ad assicurare trasparenza, anche in ragione della scarsa attitudine dei cittadini alla comprensione del linguaggio usato dalla macchina[58].

A ciò si aggiunga che tale conoscenza può rivelarsi di scarsa utilità ai fini della corretta intelligenza e comprensione delle operazioni compiute dall’elaboratore tutte le volte in cui le amministrazioni adoperino sistemi di apprendimento automatico nei quali le soluzioni siano influenzate da quanto autonomamente «imparato» dal programma, in misura anche maggiore di quanto siano influenzate dalle istruzioni che il software riceve al momento della implementazione[59]: il che, ovviamente, non fa venir meno il problema di conoscibilità innanzi accennato e, anzi, lo acuisce e dimostra la necessità di attente analisi interdisciplinari sul punto, così da garantire la trasparenza decisionale anche nei casi (che si immaginano sempre più frequenti in futuro) in cui si utilizzino reti neurali[60].

Ad oggi, le difficoltà di chiarire e motivare le ragioni che hanno ispirato la statuizione adottata sulla base di algoritmi auto-apprendenti ha portato alcune corti straniere a limitarne consistentemente le possibilità di utilizzo nello svolgimento di funzioni provvedimentali.

In tal senso si è espresso il Conseil Constitutionnel francese[61], oltre che il Consiglio di Stato olandese[62].

Anche più recentemente, il tribunale distrettuale dell’Aia, con una decisione del 2 febbraio 2020 ha ritenuto illegittimo l’uso di un programma di lotta all’evasione fiscale (SyRI) le cui modalità di funzionamento non fossero trasparenti[63] in quanto non potessero essere puntualmente spiegate dai soggetti che ne facevano utilizzo[64].

Sul punto si tornerà infra, parlando di motivazione degli atti automatici: è, però, bene evidenziare sin da subito che anche la Suprema Corte italiana, analizzando il testo dell’art. 3 del d.lgs. n. 39/1993 (il quale, come noto, recava norme sull’automazione amministrativa), ha affermato che l’integrale informatizzazione possa servire per semplificare ed accelerare unicamente l’emanazione di atti amministrativi seriali, la cui adozione non necessiti di una specifica motivazione, e quindi siano suscettibili di una completa elaborazione informatica. A parere della Corte della nomofilachia, invece, l’uso della robotica non potrebbe trovare applicazione nei confronti dei provvedimenti amministrativi, i quali normalmente involgono valutazioni e motivazioni differenziate in relazione alle particolarità delle singole fattispecie: rispetto ad essi, lo strumento informatico potrebbe essere utilizzato solo come mezzo di documentazione e supporto dell’attività degli organi della pubblica amministrazione[65].

Un profilo ulteriore, che però sarà solo accennato in questa sede, in quanto per certi versi eccentrico rispetto all’oggetto della ricerca, attiene al tema del trattamento dei dati personali, inteso quale limite all’uso della automazione amministrativa.

È argomento, come detto, differente rispetto a quello della trasparenza informatica, ciononostante è a questa legato giacché per certi versi «fronteggia» quello della trasparenza, in quanto la conoscibilità è spesso inibita e condizionata dalla necessità di garantire la tutela della riservatezza.

Interferenze tra elaborazione e tutela dei dati personali sono frequenti[66], al punto che alcune corti europee hanno ritenuto di rinvenire limiti all’automazione amministrativa nella necessità di garantire un uso accorto dei dati dei soggetti interessati dai provvedimenti informatizzati[67].

Secondo alcune ricostruzioni, alle quali ha aderito anche il Consiglio di Stato italiano[68], limiti alla completa automazione amministrativa sarebbero rinvenibili nell’art. 22 del Regolamento generale per la protezione dei dati personali n. 2016/679 (General Data Protection Regulation o GDPR).

Per l’attività svolta da soggetti pubblici che perseguano fini istituzionali, però, sembra si attagli meglio quanto previsto dal combinato disposto degli artt. 6, par. 1, lett. e), 9, par. 2, lett. g), e 22 par. 2, lett. b), e par. 4, del regolamento europeo, che disegna un regime specifico con riguardo ai trattamenti necessari per l’esecuzione di un compito di interesse pubblico o connesso all’esercizio di funzioni pubbliche di cui è investito il titolare del trattamento[69].

5.Tra software proprietario e software open source: la scelta del programma quale momento di trasparenza.

La conoscenza (e la conseguente ostensibilità) del codice sorgente, ancorché necessaria a garantire adeguata trasparenza, è però possibile qualora l’amministrazione sia già in possesso di tale codice: ma questo non sempre accade, e tutte le volte in cui ciò non succeda, appare evidente che una eventuale istanza conoscitiva dei privati che vogliano verificare le modalità di funzionamento del programma rischia di essere concretamente frustrata.

Quanto detto è vero sotto un duplice profilo.

Innanzitutto perché non pare affatto semplice immaginare l’attivazione di rimedi giuridici per costringere la casa produttrice di software a rendere noto il listato dei propri programmi, soprattutto quando il produttore non abbia sede in Italia e, magari, sia una multinazionale: se, ad esempio, un programma lavora in ambiente Windows, sarà davvero difficile che un tribunale italiano riesca ad imporre alla Microsoft di rendere noti i sorgenti del proprio programma.

Ma soprattutto, una decisione giurisdizionale che ordini alla Microsoft di cedere i listati pare collidere con le disposizioni che tutelano il diritto di autore.

La necessità di salvaguardare i diritti dei proprietari del software ha portato il Consejo de Transparencia y Buen Gobierno a negare accesso programma, in quanto opera dell’ingegno[70].

Diversa opinione (in differente contesto ordinamentale) è stata, invece, espressa dal Tar Lazio, il quale ha inteso valorizzare la circostanza che, ai sensi dell’art. 24 della l. n. 241/1990, l’accesso per finalità difensive è consentito anche quando abbia ad oggetto documenti protetti dalle disposizioni di tutela della proprietà intellettuale.

Appare evidente nelle opinioni del Tar romano il richiamo alla giurisprudenza in ragione della quale la natura di opera dell’ingegno dei documenti richiesti in ostensione non rappresenta una causa di esclusione dall’accesso, tenuto conto che la disciplina dettata a tutela del diritto d’autore è funzionale a garantire gli interessi economici del titolare dell’opera intellettuale, mentre la normativa sull’accesso è funzionale a garantire altra tipologia di interessi: quelli dei soggetti che interloquiscono con le pubbliche amministrazioni, intenzionati ad acquisire informazioni e documenti utili alla tutela delle proprie situazioni soggettive incise dall’agire dei poteri pubblici. Sicché, quando mosso da intenti difensivi, l’accesso ai documenti deve essere consentito, a patto che chi lo eserciti usi in maniera appropriata le informazioni ottenute, senza poter utilizzare i dati appresi per finalità differenti rispetto a quelle consentite dalla legge sul procedimento amministrativo[71].

L’argomentazione innanzi riassunta è, ovviamente, riferibile al solo accesso documentale, visto che per l’accesso civico le norme di tutela del diritto di autore costituirebbero un limite insormontabile, ai sensi dell’art. 5 bis, comma 2, lett. c), del d.lgs. n. 33/2013.

Si tratta di argomentazione certamente suggestiva, in ordine alla quale non è facile assumere una posizione definitiva.

Viene però da chiedersi se tali argomentazioni possano valere quando il codice sorgente non è detenuto dall’amministrazione, alla quale è fornito unicamente il programma in formato «chiuso».

In tal caso – secondo le classiche regole tracciate dalla l. n. 241/1990 – l’istanza ostensiva può essere attivata anche nei confronti di soggetti privati, allorché chiamati all’espletamento di funzioni di interesse pubblico[72], e può essere rivolta sia a chi ha formato l’atto, sia a chi lo detiene stabilmente[73].

Se l’accesso venisse esercitato direttamente nei confronti dell’amministrazione che non possiede il listato, sarebbe possibile respingere tale istanza affermando l’indisponibilità del codice, mai trasmesso dal fornitore privato.

A quel punto, la richiesta andrebbe indirizzata al produttore del software[74], che potrebbe essere tenuto a trasmettere quanto domandato laddove si consideri che l’attività (di fornitura del programma) da egli posta in essere sia soggetta all’applicazione degli artt. 22 ss. della l. n. 241/1990, nella misura in cui strumentalmente collegata all’attività procedimentale espletata dall’amministrazione[75].

All’esito delle indagini innanzi esposte, quand’anche si giunga alla conclusione (coincidente con quella del Tar) della ostensibilità del codice, permane il problema del grosso sacrificio commerciale imposto alla impresa chiamata a rendere noto il «cuore operativo» del proprio sistema: si tratta di un segreto la cui conoscibilità può, in alcuni casi, essere determinante ai fini del posizionamento dell’operatore economico all’interno del mercato di riferimento.

Per averne un esempio, si pensi all’importanza commerciale del codice che fa funzionare molti programmi (e gli stessi sistemi operativi) Windows o Macintosh, ed al sacrificio che verrebbe imposto alla Microsoft o alla Apple, laddove un giudice italiano, intendendo verificare come interagiscano con i sistemi operativi alcune applicazioni che operano in uno dei due ambienti informatici, ordini l’apertura dei codici di tali sistemi.

In disparte alle (già accennate) difficoltà correlate alla esecuzione di un tale ordine, appare evidente il danno inquantificabile che esso porterebbe alle imprese produttrici Windows o Macintosh.

E difatti, ancorché – come detto – coloro che facciano istanza di accesso non dovrebbero, all’esito dell’ostensione, sfruttare commercialmente i listati acquisiti, è certamente possibile (e probabile) che contravvengano al divieto, utilizzando pezzi di programmi per progettare altri software, senza che tale abuso sia rilevabile, soprattutto quelle volte in cui il codice del software copiato venga secretato e reso inaccessibile dal nuovo sviluppatore, opportunista e scorretto.

L’ingiustizia sarebbe acuita dalla circostanza che colui il quale ha fornito il programma all’amministrazione lo ha fatto sulla base di regole (e ad un prezzo) che non contemplavano la cessione del listato, salvo poi vedere modificati iussu iudicis i termini del rapporto di fornitura, con una nuova regolamentazione che – ove conosciuta ex ante – non è improbabile avrebbe sconsigliato il fornitore dall’addivenire ad un rapporto contrattuale con l’amministrazione[76].

I problemi sul campo, come si vede, non sono di poco momento[77].

Per ovviarvi è certamente preferibile immaginare che le amministrazioni debbano sempre possedere il codice dei programmi usati per l’automazione dei propri procedimenti, così come auspicato dall’art. 41, comma 2, della spagnola Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público[78].

La normativa italiana non reca alcun obbligo, limitandosi a prevedere che le amministrazioni titolari di soluzioni e programmi informatici realizzati su specifiche indicazioni del committente pubblico hanno l’obbligo di mettere a disposizione di altre amministrazioni il codice sorgente, salvo che vi ostino motivate ragioni in ordine alla sicurezza pubblica, alla difesa nazionale o alla genuinità delle consultazioni elettorali[79], e che nei capitolati degli atti con le quali si provveda alla acquisizione di software da parte delle p.a, deve essere espressamente previsto che l’amministrazione committente sia sempre titolare di tutti i diritti di sfruttamento, tranne che lo stesso ente non dimostri che ciò sia eccessivamente oneroso sotto il profilo tecnico ed economico[80].

Ancorché la normativa innanzi richiamata paia esprimere una preferenza per soluzioni open source[81], il ricorso a software proprietario mediante la semplice acquisizione della licenza d’uso rimane una delle ipotesi praticabili, ancorché all’esito di una valutazione comparativa delle diverse soluzioni disponibili[82].

Il tema del free software viene, poi, in rilievo sotto ulteriori – e forse più pregnanti – profili, facenti perno sulla autonomia delle amministrazioni rispetto alle case produttrici e sulla piena consapevolezza di come i software lavorino e, dunque, sulla loro trasparenza.

Chi non accede al codice sorgente non sa come realmente un programma funzioni, così da non poter escludere che esso, in aggiunta alle operazioni palesi ne compia delle altre occulte, come la trasmissione indebita di dati[83], o la apertura di backdoor che consentano a terzi malintenzionati l’accesso alle informazioni contenute nella macchina sulla quale il programma stesso è installato e opera.

In aggiunta, la indisponibilità del listato comporta l’impossibilità di modifica autonoma del software da parte dell’amministrazione che, laddove si rendano necessari adattamenti o aggiornamenti della architettura telematica, sarà costretta a rivolgersi nuovamente alla casa produttrice, nei confronti della quale si creerà una dipendenza.

E qualora il produttore non sia nelle condizioni di apportare le modifiche richieste, l’amministrazione dovrà rinunciare ad ottenere gli aggiornamenti auspicati, e magari sarà costretta a indirizzarsi ad altro fornitore perché appresti una nuova struttura in grado di soddisfare le esigenze sopravvenute: il tutto con dispendio di denaro, di tempo e di energie organizzative[84].

Sono le argomentazioni innanzi esposte ad aver spinto Paesi come la Francia a implementare una politica di promozione dell’uso e dello sviluppo, da parte degli enti pubblici, di programmi con il codice sorgente aperto ed accessibile[85].

Strategie di sviluppo di software con codice sorgente aperto sono incentivate anche dalla Unione europea[86], che ha approvato la European Public Union License[87].

6.La definizione delle regole di programmazione.

Il tema della trasparenza informatica involge anche questioni ulteriori rispetto a quelle, pur di assoluto rilievo, inerenti alla accessibilità ed intellegibilità dei codici sorgente.

Un primo profilo che riveste particolare importanza è quello relativo alla indicazione delle regole sulla base delle quali, nel caso di attività automatizzata, il software deve essere programmato.

Un secondo profilo da prendere in considerazione è quello afferente alla responsabilità della immissione dei dati in ragione dei quali le decisioni robotiche sono assunte: di tale tema ci si occuperà nel paragrafo che segue.

Sono, quelli poc’anzi indicati, due momenti cruciali ai fini del corretto svolgimento dei procedimenti informatici, rispetto ai quali la fase decisionale assume rilievo solo marginale, giacché l’emissione del provvedimento è profondamente influenzata anzitutto dalle istruzioni ricevute al momento della programmazione e, quindi, dai dati immessi nella macchina.

La decisione elettronica sarà, infatti, adottata «incrociando» le regole indicate da chi realizza il software (o dal programma autonomamente acquisite, nelle ipotesi in cui si adoperino sistemi di self learning), ed i dati successivamente immessi nell’elaboratore[88].

Il ruolo del titolare dell’organo competente all’esercizio delle funzioni è, dunque, quasi secondario, e viene in rilievo solo occasionalmente, nell’eventualità in cui si renda necessario (con intervento spontaneo, o su sollecitazione dei cittadini) provvedere alla correzione di possibili errori dell’elaboratore[89]. Proprio per questo, le responsabilità su di egli gravanti sono soprattutto di tipo omissivo o organizzativo, più che commissivo[90].

Certamente di maggiore rilievo è, invece, il ruolo assunto da chi procede a stabilire le regole della programmazione e, quindi, da chi provvede alla immissione dei dati.

Quanto al primo profilo, va evidenziata l’importanza relativa alla chiara formalizzazione in un provvedimento dei criteri sulla base dei quali il software deve essere impostato: tale formalizzazione è certamente necessaria sia ai fini della intellegibilità delle scelte adottate dal programma, sia ai fini della imputabilità delle responsabilità derivanti da tali scelte. Questo, tranne nelle rare ipotesi di attività amministrativa totalmente vincolata, nelle quali l’assenza di spazi di discrezionalità rende superflua la specificazione dei criteri di programmazione[91].

Si è già rimarcato che la necessità di comprensibilità piena delle modalità di funzionamento dell’algoritmo è stata recentemente affermata dalla giurisprudenza che si è occupata della materia[92].

E si è, altresì, rimarcato che tale comprensibilità presuppone – oltre all’accessibilità del codice sorgente – anche la enunciazione di indicazioni sulla logica di funzionamento del software[93]: tale enunciazione, a sua volta, ha come presupposto necessario la preventiva indicazione e, dunque, la verificabilità dei criteri in base ai quali la regola algoritmica è stata confezionata.

La fissazione di criteri preventivi è, del resto, indispensabile anche al fine di consentire (al cittadino, come anche al giudice) il vaglio della conformità dei presupposti e degli esiti del procedimento automatico rispetto alle prescrizioni e alle finalità stabilite dalla legge e dalla stessa amministrazione.

L’esigenza di conoscibilità dei parametri di impostazione del software è stata espressa chiaramente dal legislatore francese e da quello spagnolo.

Quest’ultimo nel già richiamato art. 41, comma 2, della Ley 40/2015[94] prevede che, in ipotesi di automazione procedimentale, debbono essere previamente stabiliti gli organi chiamati alla definizione dei criteri di programmazione e di verifica del funzionamento del sistema informativo[95].

Alla stessa maniera, il Code des relations entre le public et l’administration dispone, all’art. L. 312-1-3, che le amministrazioni «publient en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles». Come già evidenziato supra, poi, lo stesso Crpa dispone che al cittadino che ne faccia domanda devono essere comunicate le regole in ragione delle quali è definito il trattamento algoritmico[96].

La spiegabilità (e sindacabilità) del software presuppone, dunque, anche l’adozione di un atto contenente le istruzioni di programmazione.

Tali istruzioni, avendo rilievo quasi di atto presupposto, devono necessariamente essere formalizzate in un provvedimento[97], secondo regole tipiche che caratterizzano l’agire amministrativo, in ragione delle quali non può derivare un autovincolo all’agire discrezionale[98] in assenza di un atto che tracci le coordinate che la p.a. dovrà seguire nello svolgimento della sua azione[99].

Simile opinione è stata espressa, sebbene con talune puntualizzazioni, in un risalente orientamento giurisprudenziale, in virtù del quale si è ritenuto legittimo che la commissione di una procedura concorsuale recepisse – purché con provvedimento espresso (come viene espressamente sottolineato dal Consiglio di Stato) – criteri valutativi previamente elaborati (in forma elettronica) da soggetti esterni[100] all’amministrazione[101].

Si è argomentata tale posizione affermando che l’eventuale acriticità nel recepimento dei criteri stabiliti da altri, e la stessa comprensione di tali criteri da parte degli organi amministrativi,  costituirebbe un mero stato psicologico che non si ripercuoterebbe sulla legittimità degli stessi criteri, la cui validità va verificata nel nudo confronto tra il dato normativo ed i parametri, elaborati dall’impresa privata, e fatti propri dall’amministrazione.

Da ciò conseguirebbe che – degradata a mero stato psicologico – la consapevolezza dell’amministrazione in ordine al contenuto delle regole in base alle quali il programma è stato impostato, potrebbe persino mancare del tutto, giacché sarebbe irrilevante e non spiegherebbe alcuna influenza sulla legittimità di tali regole e, in via derivata, sulla legittimità del provvedimento che le recepisce[102].

Si tratta di opinione alla quale non può aderirsi.

La recezione formale, ritenuta necessaria anche dal giudice amministrativo, non può essere recezione acritica e disinformata: l’amministrazione deve sempre sapere su cosa interviene con i propri provvedimenti, e quale è il loro contenuto dispositivo.

Relegare la consapevolezza che ogni autorità amministrativa deve avere in ordine ai presupposti fattuali e giuridici sottesi all’azione che conduce alla stregua di un mero «stato psicologico» indifferente ai fini della legittimità dell’atto, significa svilire l’importanza del momento cognitivo nello svolgimento dell’agire amministrativo[103].

Nelle argomentazioni di coloro che hanno ritenuto possibile una approvazione acritica dei criteri di programmazione formulati da imprese private appare chiaro (ancorché implicito) il riferimento al dibattito in ordine alla volontà, quale possibile elemento essenziale dei provvedimenti.

È noto che una parte della dottrina giuspubblicistica – tracciando un percorso distinto da quello seguito dai teorici del negozio giuridico – ha ritenuto che la volontà non rappresenti un tratto costitutivo degli atti dell’amministrazione[104]. Coloro che aderiscono a questo filone dottrinale, pur non negando che il provvedimento costituisca sempre una manifestazione di volontà o di giudizio o di rappresentazione[105], sostengono che per gli atti di pubblico potere non abbia importanza il processo psichico che conduce alla loro emanazione, giacché nessuna norma ordinamentale vi attribuisce rilievo. Al contrario, il diritto positivo parrebbe considerare sempre e solo l’atto in sé nella sua consistenza effettuale, sicché «per individuare gli elementi essenziali dell’atto amministrativo occorre considerarlo come entità oggettiva e formale (distaccata ed estraniata dal suo agente) e non come entità psichica (propria dell’agente, anche se imputata all’ente pubblico)»[106].

L’orientamento innanzi richiamato è avversato da coloro i quali ritengono che anche la volontà vada qualificata in termini di elemento essenziale del provvedimento amministrativo, perché anche nel diritto pubblico sarebbe vigente il principio fondamentale secondo il quale un atto può considerarsi riferibile al soggetto che lo ha posto in essere, solo se ed in quanto sia stato da esso consapevolmente voluto[107].

Una tesi intermedia, invece, afferma che il provvedimento è necessariamente un atto volontario – sicché non può venir meno l’intenzione consapevole di adottarlo – ma distingue tra volontà di porre in essere l’atto e quella riferita al suo contenuto. Tra coloro che hanno aderito a quest’ultima tesi vi sono stati, poi, quelli che – riprendendo e lavorando su di una distinzione già enunciata da Mortati[108] – hanno valorizzato il rilievo da attribuire all’elemento volitivo in relazione al contenuto dispositivo ed alla tipologia dei vari provvedimenti[109], e coloro i quali, invece, hanno affermato che la volontà abbia sempre un valore ipostatico ed oggettivato nel procedimento amministrativo, giacché la volontà consacrata nell’atto finale deve intendersi come risultante delle varie volontà di tutti i soggetti (anche privati) che partecipano al procedimento[110].

La eventuale adesione ad uno qualsiasi degli orientamenti innanzi riassunti è, però, del tutto indifferente ai fini della soluzione del problema analizzato in questa sede.

Anche ove si ritenesse che la volontà non integri un elemento costitutivo del provvedimento amministrativo, non potrà certo dubitarsi che l’eventuale inadeguato accertamento (e qualificazione) dei presupposti rilevanti ai fini dell’adozione di un provvedimento[111] comporti la sua illegittimità, in quanto ridonda in violazione di legge o in eccesso di potere[112], nelle figure sintomatiche del difetto di istruttoria, del travisamento dei fatti o dell’errore manifesto[113].

La sussistenza di tali vizi prescinde dall’atteggiamento piscologico dell’agente, sicché non importa stabilire se l’errore sui fatti sia un errore consapevole (e voluto) ovvero inconsapevole: quello che rileva è che l’errore sia provato nella sua consistenza oggettiva ed effettuale.

Lo stesso vale per le altre figure di eccesso di potere: l’illogicità e il difetto di istruttoria vanno dimostrati nella loro concreta sussistenza, senza che rilevi il contegno volitivo dell’organo che ha (in maniera conscia o inconscia, non fa differenza) adottato un provvedimento irragionevole, ovvero abbia omesso i dovuti accertamenti istruttori[114].

Del resto, anche coloro che sminuiscono il rilievo dell’elemento volitivo nello svolgimento delle funzioni pubbliche, comunque non disconoscono l’importanza che la statuizione assunta con il provvedimento non risulti fuorviata da una inesatta rappresentazione della realtà e dal difetto di necessaria consequenzialità tra presupposti (sia fattuali che giuridici) e conclusioni[115].

A ciò si aggiunga che l’amministrazione è certamente tenuta allo svolgimento di una adeguata attività conoscitiva, che consenta all’ente pubblico di maturare una adeguata conoscenza dalla realtà fattuale che sarà incisa delle decisioni che saranno assunte[116]: è, questa, una delle manifestazioni della imparzialità amministrativa, la quale postula la attenta e ponderata comparazione di tutti i fatti rilevanti ai fini del decidere, ed il vaglio di tutti gli interessi intaccati dal provvedimento adottando[117].

Va, poi, considerato che le p.a. non sono solo tenute a conoscere, ma anche a dimostrare di aver acquisito appropriata consapevolezza, attraverso una adeguata motivazione dei provvedimenti adottati[118] che, secondo la regola tracciata dall’art. 3 della l. n. 241/1990, deve essere recata da tutti i provvedimenti amministrativi (inclusi quelli concernenti l’organizzazione amministrativa, lo svolgimento dei pubblici concorsi ed il personale, e con la rilevante eccezione degli atti normativi e di quelli a contenuto generale), e deve indicare i presupposti di fatto e le ragioni giuridiche che hanno determinato la decisione dell’amministrazione, in relazione alle risultanze dell’istruttoria.

Pertanto, non potendovi essere la indebita delega di funzioni o poteri amministrativi, l’eventuale adesione acritica a criteri aliunde stabiliti appare legittima solo nella misura in cui chi li stabilisca sia dotato delle attribuzioni per procedere alla codifica delle regole di svolgimento dei procedimenti automatici, e non ecceda dalle proprie competenze: ma questo non accade quando l’adozione è affidata a tecnici esterni all’amministrazione o, comunque, non investiti di attribuzioni relative al procedimento attivato.

Il che rende necessario che l’amministrazione recepisca espressamente, facendoli propri, dei criteri che mostri anzitutto di comprendere e, quindi, di condividere.

7.La responsabilità dell’immissione dei dati e l’accesso ai file di log.

Ulteriore profilo di grande rilievo ai fini della gestione trasparente e responsabile delle procedure informatizzate è quello inerente alla immissione dei dati utili necessari per lo svolgimento delle valutazioni robotiche[119].

Come si è già avuto modo di accennare, l’esito delle decisioni automatizzate è interamente determinato sia dalle indicazioni acquisite al momento della programmazione (o, per i computer attrezzati con strumenti di self learning, dalle istruzioni autonomamente apprese dal sistema), sia dai dati successivamente offerti all’elaboratore.

Questi ultimi sono, infatti, decisivi ai fini dell’acquisizione degli elementi fattuali sulla base dei quali verrà assunto l’atto informatico.

L’importanza del momento della immissione delle informazioni è stata sottolineata da una serie di disposizioni normative succedutesi nel corso del tempo, mediante le quali si è previsto che i sistemi informatici adoperati dalle pubbliche amministrazioni dovessero lasciare traccia tanto dei dati identificativi di coloro che avessero avuto accesso ad archivi informatici pubblici, quanto delle operazioni da essi effettuate[120].

Quelle esposte non sono preoccupazioni di poco conto: è accaduto non di rado che dipendenti pubblici abbiano illecitamente modificato informazioni contenute in computer per poter procurare a sé o ad altri vantaggi indebiti.

A mo’ d’esempio, si pensi al funzionario addetto al Ced di una delle sedi dell’Inps a cui è stato contestato di aver alterato gli archivi elettronici dell’Istituto, al fine di attribuire ad alcuni beneficiari periodi contributivi non spettanti, o per costituire in loro favore una posizione assicurativa del tutto indebita[121], ovvero si pensi all’operazione illecita compiuta da chi, utilizzando la propria postazione lavorativa di dipendente dell’Agenzia delle entrate, ha operato un non dovuto sgravio di imposta in favore di un contribuente[122].

Non è un caso se la giurisprudenza ha affermato che l’archivio informatico di una p.a. debba essere considerato alla stregua di un registro tenuto da un’amministrazione, con la conseguenza che integra una falsità in atto pubblico la condotta del pubblico ufficiale che, nell’esercizio delle sue funzioni e facendo uso dei supporti tecnici di pertinenza della p.a., confezioni un falso atto informatico destinato a rimanere nella memoria dell’elaboratore[123].

Alla stessa maniera, costituiscono documenti amministrativi anche i file di log che consentano di verificare chi ha avuto accesso ad un sistema[124], quali siano le operazioni da egli compiute e, quindi, a chi debbano essere attribuite determinate responsabilità.

Non appare superfluo sottolineare che il ricorso ai log è servito per provare la responsabilità amministrativa di un pubblico dipendente che, durante l’orario di lavoro, ha adoperato il computer per acquisire informazioni e accedere a siti di carattere non istituzionale e, dunque, non utili ai fini dello svolgimento delle sue mansioni lavorative[125].

Non può, dunque, revocarsi in dubbio il carattere documentale degli archivi informatici di una pubblica amministrazione, sia con specifico riferimento ai file di log[126], sia con riferimento ai dati inseriti nel sistema elettronico e utilizzati dalle amministrazioni per lo svolgimento della propria azione automatizzata[127], giacché tali dati e registri vengono adoperati nel corso dei procedimenti che incidono sulle posizioni dei cittadini.

Si è affermato che le risposte alle interrogazioni fornite dai terminali, che materialmente appaiono sullo schermo, corrispondono, sotto un profilo concettuale, alle pagine dei registri cartacei e dei fogli un tempo utilizzati e conservati dentro le cartelle o i faldoni; pertanto, così come il documento cartaceo è il risultato di un atto di conoscenza o volontà del funzionario o impiegato che materialmente lo ha formato e lo ha inserito nella «pratica», così le informazioni lette sul video sono il risultato di un’operazione di immissione di esse, paragonabile alla scritturazione sul registro o alla compilazione di un documento, a monte del quale, tuttavia, vi è sempre un atto di conoscenza o volontà di un funzionario o impiegato, la cui attività deve essere conoscibile e verificabile attraverso procedure rigorose che permettano solo a soggetti espressamente abilitati di inserire o modificare dati, così da evitare che «la volatilità apparente delle registrazioni informatiche, e soprattutto la loro non apprensione ai sensi comuni della vista e del tatto, [apra] ampi spazi di illegittimità ed arbitrio», laddove «il cittadino ha diritto a conoscere quale sia il funzionario che ha apposto una determinata dicitura sul suo profilo informatico, le ragioni e le norme di legge che sono state applicate»[128].

La adeguata tenuta degli archivi informatici delle pubbliche amministrazioni, e la loro conseguente ostensibilità ai sensi delle norme sull’accesso agli atti, costituiscono chiare articolazioni della trasparenza amministrativa, sicché vi è l’obbligo di garantire idoneo tracciamento di tutte le operazioni svolte dal sistema, e di lasciarne prova successiva[129], giacché l’informatizzazione delle procedure non può portare all’obliterazione della verifica degli atti in possesso della p.a.[130].

8.La motivazione degli atti automatici.

Una delle ulteriori articolazioni della trasparenza informatica è quella che viene in rilievo con riferimento alla motivazione degli atti automatici[131], rispetto ai quali occorre chiedersi se sia o meno necessaria l’esplicitazione delle ragioni sottese alla loro adozione, così come avviene per i provvedimenti adottati secondo modalità tradizionali.

Il tema ha suscitato un risalente dibattito, sia giurisprudenziale che dottrinario.

Tra gli studiosi, non è mancato chi ha ritenuto necessaria la motivazione pure per i provvedimenti robotici, sul presupposto che l’esigenza di comprensione dei presupposti che hanno ispirato la decisione amministrativa viene a maggior ragione in rilievo per gli atti il cui contenuto sia definito da un computer, vista la necessità di controbilanciare – attraverso l’esplicitazione dei percorsi logici seguiti  dalla macchina – la sensazione di oscurità che l’uso degli algoritmi può portare con sé[132].

La (non copiosa) giurisprudenza che si è inizialmente occupata del tema ha, invece, mostrato poca compattezza.

A coloro i quali hanno ritenuto che la meccanizzazione delle funzioni giustificasse l’omissione della motivazione[133], si sono contrapposti coloro che, con un indirizzo intermedio, hanno ritenuto non esigibile la motivazione di ogni singolo atto automatizzato, purché adottato nel rispetto di criteri e direttive di massima previamente stabiliti[134].

Infine, un atteggiamento di chiusura è stato mostrato dalla giurisprudenza secondo cui l’impiego dell’automazione per provvedimenti che richiedano motivazione è certamente necessario, ma sarebbe impedito dalla incapacità dell’elaboratore di assumere scelte discrezionali esplicitandone le ragioni, e questo inibirebbe il ricorso al computer per l’adozione di atti discrezionali[135].

Come si è visto, quest’ultimo orientamento ha trovato seguito presso numerose corti straniere[136], ma anche presso alcuni organi di giustizia italiani.

In particolare il Tar centrale, con una serie di pronunce occasionate da una procedura di mobilità indetta dal Ministero dell’Istruzione e gestita mediante tecniche elettroniche, ha avuto modo di affermare che il ricorso all’automazione non può portare ad una attenuazione delle guarentigie procedimentali riconosciute dalla l. n. 241/1990, tra le quali quella inerente alla predisposizione di una motivazione idonea a illustrare le ragioni della decisione assunta. Tali guarentigie, nell’opinione del Tar Lazio, non possono essere assicurate da un computer, sicché non potrà mai accadere che l’attività robotica arrivi a soppiantare, sostituendola appieno, l’attività cognitiva, acquisitiva, e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica sarebbe in grado di svolgere[137].

Così decidendo, il Tar romano pare offrire un avviso parzialmente differente da quello espresso in precedente sentenza, nella quale aveva affermato che l’ammissibilità dell’elaborazione robotica dell’atto amministrativo non è tanto legata alla natura discrezionale o vincolata della funzione, quanto alla possibilità (che tuttavia è scientifica e non giuridica), di ricostruzione dell’iter logico sulla base del quale l’atto stesso possa essere emanato per mezzo di procedure automatizzate[138].

Quest’ultima appare l’opinione preferibile.

La pronunciata interdisciplinarietà che caratterizza la materia[139] pare suggerire particolare cautela nello svolgimento di affermazioni sulle possibilità di elaborazione del computer e sulle modalità del suo funzionamento: si tratta, piuttosto, di affermazioni che è bene siano svolte da chi ha le necessarie competenze, anzitutto tecniche, per valutare un simile aspetto, che non può essere risolto da giuristi[140].

Vale, ovviamente, anche la regola inversa: i tecnici, per poter soddisfare al meglio le esigenze delle amministrazioni, debbono dialogare con coloro che ben conoscano il mondo delle istituzioni[141], rendendo fecondo il confronto tra portatori di esperienze e saperi differenti[142].

Appare azzardato oggi dire fino a che punto l’elaboratore sarà in grado di «amministrare»[143] e se, come anche sostenuto, potrà farlo solo nel settore dei servizi pubblici[144] e in quello dello svolgimento di attività meramente certificative[145], ovvero anche in quello dell’attività autoritativa, eventualmente discrezionale, oppure nel settore degli acquisti pubblici[146].

Quello che non appare dubbio è che i sistemi di informatica decisionale esprimano enormi potenzialità[147], che vanno approfondite adeguatamente per mezzo di una sinergia strettissima che dovrà essere attuata tra giuristi, informatici, ed esperti di scienza della amministrazione, al riparo dei molti pregiudizi ideologici che oggi caratterizzano la materia[148].

Ed ancorché si sia creato un gruppo, all’interno dell’Agenzia per l’Italia Digitale, che ha anche provveduto alla predisposizione di un libro bianco[149], al momento gli sforzi profusi non appaiono sufficienti, come peraltro dimostra la non particolare attenzione dedicata al tema all’interno del Piano triennale per l’informatizzazione 2019-2022.

Occorrerebbe, invece, procedere con sempre più frequenti indagini e sperimentazioni volte all’approfondimento delle possibilità offerte dall’informatica cognitiva nei vari settori dell’agire amministrativo, come quello relativo al rilascio di titoli edilizi, alle verifiche urbanistiche, alla gestione delle pubbliche gare[150], ed agli altri ambiti nei quali può essere proficuamente adoperata[151].

Quello che, però, rimane certo è che – come più volte messo in luce dalla dottrina[152], ma anche dalla giurisprudenza[153] – l’uso di nuovi mezzi di espletamento delle pubbliche funzioni non può andare a detrimento delle garanzie giuridiche offerte ai cittadini le cui posizioni siano incise dall’agire amministrativo.

E, sino a quando non siano messi a punto strumenti tecnici in grado di offrire certezze in ordine a come il computer abbia assunto le proprie decisioni, è probabilmente opportuno usare giuste cautele nel procedere all’informatizzazione.

Una di queste cautele può consistere nella «parametrizzazione» delle scelte[154], ossia nella predeterminazione di criteri di decisione che azzerino o riducano in maniera consistente la discrezionalità[155], così come si fa con le pubbliche procedure concorsuali, nelle quali la prefissione di regole valutative porta alla previa consumazione del potere discrezionale: sicché non occorre la successiva motivazione di atti, vincolati (totalmente o parzialmente) nella misura in cui trovano nel provvedimento di autolimite la ragione giustificatrice della scelta effettuata con «formazione graduale»[156].

Può apparire opportuno evidenziare che è quella appena indicata una soluzione ipotizzata in Germania[157] dove, a fronte di una disposizione della legge sul procedimento amministrativo che limita fortemente il ricorso all’automazione in presenza di atti discrezionali[158], si ritiene legittimo robotizzare le funzioni quando la discrezionalità sia stata consumata «a monte» dall’amministrazione, con un atto di autovincolo[159].

9.Brevi riflessioni di sintesi.

Le riflessioni sin qui condotte hanno offerto uno spaccato sui problemi che l’uso della automazione amministrativa reca con sé, anche per quanto riguarda l’ambito specifico della trasparenza.

Si tratta di problemi di sicuro impatto su tutto il mondo del diritto pubblico, la cui soluzione difficilmente sarà indifferente ai fini dell’evoluzione di questa branca giuridica.

Il diritto delle amministrazioni è, del resto, profondamente relazionato con il dipanarsi delle scoperte scientifiche, dal quale è condizionato, ma del quale sa anche servirsi per dare soddisfazione a vecchie esigenze che, con l’evoluzione dei sistemi comunicativi, trovano nuove forme di appagamento[160].

Non è una novità che l’evoluzione della tecnica – al pari di quella economica e sociale – conformi quella giuridica: si pensi, ad esempio, al processo di industrializzazione ed alle modificazioni che ha apportato anche in ambito giuspubblicistico[161].

E però, tranne che per alcuni istituti[162], il diritto amministrativo è stato toccato soprattutto indirettamente dall’avanzare delle conoscenze scientifiche, le quali hanno inciso anzitutto sulle strutture sociali e, solo mediatamente, sulle strutture del diritto delle amministrazioni. Per trarsi una esemplificazione può pensarsi al già cennato fenomeno dell’urbanismo: l’urbanizzazione ha portato cambiamenti nelle società e nella economia, sempre meno legate al mondo agricolo; questi cambiamenti hanno quindi portato innovazioni anche nel mondo del diritto pubblico.

L’incisività dell’impatto avuto dalla rivoluzione infotelematica è, invece, particolarmente consistente e, soprattutto, diretto in quanto si riflette direttamente su tutti gli ambiti giuspubblicistici, sicché le modifiche sono di rilievo forse ancora più impattante di quanto accaduto in passato, e trasversale, giacché interessano tutti i vari settori del diritto amministrativo, generale o speciale.

Il che, unitamente alla evidente celerità che caratterizza il descritto processo evolutivo, rende necessariamente provvisorie eventuali soluzioni che, pur plausibili oggi, potrebbero divenire inattuali nel futuro (anche prossimo) per via della obsolescenza dei sistemi informatici sui quali quelle soluzioni sono state immaginate[163].

Alla regola poc’anzi tracciata non si sottrae l’ambito della trasparenza informatica, rispetto al quale, pur a fronte della persistenza delle esigenze da soddisfare (correlate anzitutto alla garanzia dei cittadini ed al rispetto del principio di buona amministrazione), possono variare nel tempo le risposte date[164].

Non rimane, pertanto, che rassegnare delle riflessioni provvisorie, pronti a rivederle e adattarle alle nuove possibilità che le macchine offrano, anche con riferimento al tema oggetto della presente analisi e, in particolare, alla giustificabilità delle decisioni algoritmiche[165].

[1] Cfr. quanto si dirà infra nel par. 7.

[2] A.G. Orofino, Open source e pubblica amministrazione, in G. Cassano (a cura di), Diritto delle nuove tecnologie informatiche e dell’Internet, Iposa, Milano, 2002, 1317; F. Fracchia, Open source e pubblica amministrazione, in M. Bertani (a cura di), Open source, Giuffré, Milano, 2005, 216; F. Macrez, R. Riviere, Les logiciels libres, l’administration et les marchés publics. Des principes juridiques à la pratique (et inversement), in Revue lamy droit de l’immatériel, n. 16, 2006, 57; F. Bravo, Software «open source» per la p.a. tra diritto d’autore, appalti pubblici e diritto dei contratti. la licenza pubblica dell’UE per i programmi a codice sorgente aperto, in Dir. inf., 2008, 865; C. Prebissy-Schnall, Marchés publics et logiciel libre, in Contrats concurrence consommation, 2011, comm. 265; D. Marongiu, Organizzazione e diritto di internet, Giuffré, Milano, 2013, 61; F. Costantino, Lampi. Nuove frontiere delle decisioni amministrative tra open e big data, in Dir. amm., 2017, 719; M. Fernández Salmerón, La reforma del régimen jurídico de las Administraciones Públicas y del procedimiento administrativo en España, in Diritto mercato e tecnología, 2016, n. 2, 207 e spec. 228; E. Mouriesse, L’opacité des algorithmes et la transparence administrative, in Revue française de droit administratif, 2019, 45.

[3] In Foro it., 1979, V, 289.

[4] V. il par. 3.7 del documento. In argomento v. A. Predieri, Gli elaboratori elettronici nell’amministrazione dello Stato, Il Mulino, Bologna, 1971, 29.

[5] A.G. Orofino, L’informatizzazione dell’attività amministrativa nella giurisprudenza e nella prassi, in Giorn. dir. amm., 2004, 1371.

[6] Cfr. F. Pasquale, The Black Box Society, Harvard University Press, Cambridge-London, 2015. In argomento v. anche C. Coglianese, D. Lehr, Transparency and Algorithmic Governance, in Administrative Law Review, vol. 71, 2019, 1, i quali, parlando dei valori democratici, affermano che «today, these values appear to face an emerging threat from technology. Specifically, advances in machine-learning technology—or artificial intelligence—portend a future in which many governmental decisions will no longer be made by people, but by computer-processed algorithms. What such a future will mean for liberty and democracy will depend to a significant degree on the extent to which these algorithms and their functioning can be made transparent to the public».

[7] G. Piperata, Semplificazione e digitalizzazione nelle recenti politiche di riforma della Pubblica Amministrazione italiana, in F. Mastragostino, C. Tubertini, G. Piperata (a cura di), L’amministrazione che cambia. Fonti, regole e percorsi di una nuova stagione di riforme, Bononia University Press, Bologna, 2016, 255; M. Almeida Cerreda, L. Miguez Macho, Breve contextualización del estudio del nuevo régimen jurídico del funcionamiento por medios electrónicos del sector público y de la tramitación informática del procedimiento administrativo común, in M. Almeida Cerreda, L. Miguez Macho (a cura di), La actualización de la Administración electrónica, II ed., Andavira Editora, Santiago de Compostela, 2018, 17.

[8] Sono di questo avviso U. Fantigrossi, Automazione e pubblica amministrazione. Profili giuridici, Il Mulino, Bologna, 1993, 51; A. Masucci, L’atto amministrativo informatico, Jovene, Napoli, 1993, 56; A. Usai, Le prospettive di automazione delle decisioni amministrative in un sistema di teleamministrazione, in Dir. inf., 1993, 163 e spec. 174; M. Mancarella, Algoritmo e atto amministrativo informatico: le basi nel Cad, in Dir. di internet, 2019, 467; I.A. Nicotra, V. Varone, L’algoritmo, intelligente ma non troppo, in Rivista Aic, n. 4, 2019, 86.

[9] U. Fantigrossi, Automazione e pubblica amministrazione, cit., 56 e 111, il quale attribuisce addirittura natura provvedimentale al software.

[10] A. Usai, Le prospettive di automazione, cit., 174.

[11] M. Martini, D. Nink, Wenn Maschinen entscheiden … – vollautomatisierte Verwaltungsverfahren und der Persönlichkeitsschutz, in Neue Zeitschrift für Verwaltungsrecht – Extra, vol. 36, 2017, 1 e spec. 10, ne parlano in termini di «Verwaltungsvorschriften», cioè di circolare idonea a generare un autovincolo amministrativo. In argomento v. anche A. Guckelberger, E-Government: Ein Paradigmenwechsel in Verwaltung und Verwaltungsrecht?, in U. Sacksofsky (a cura di), Gleichheit, Vielfalt, technischer Wandel, De Gruyter, Berlin, 2019, 236 e spec. nota 202.

[12] A. Boix-Palop, Algorithms as Regulations: Considering Algorithms, When Used by the Public Administration for Decision-Making, as Legal Norms in Order to Guarantee the Proper Adoption of Administrative Decisions, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020. Su questi temi v. anche M. Fernández Salmerón, La potestad reglamentaria: el procedimiento de elaboración de los reglamentos, in E. Gamero Casado (a cura), Tratado de Procedimiento Administrativo Común y Régimen Jurídico Básico del Sector Público, Tirant lo Blanch, Valencia, 2017, 2483.

Per una critica alla posizione di Boix-Palop, cfr. A. Huergo Lora, Una aproximación a los algoritmos desde el derecho administrativo, in Id. (a cura di), La regulación de los algoritmos, Aranzadi, Cizur Menor, 2020, 23 e spec. 64, il quale ritiene che «los algoritmos pueden cumplir distintas funciones jurídicas (en Derecho administrativo): a veces son simples medios auxiliares en la aplicación de la norma […] Otras veces son elementos complementarios de la norma habilitados por esta (aunque de momento es algo hipotético). También hay algoritmos que sirven para objetivar decisiones preliminares que son simples actos de tramite (como las de iniciación de un procedimiento administrativo)».

[13] Cfr. Tar Lazio, Roma, sez. III bis, 21 marzo 2017, n. 3742, cit., dove si legge: «Il software assume una rilevanza essenziale nell’ambito del procedimento amministrativo finalizzato all’adozione di un atto a elaborazione informatica e la sua stessa qualificazione giuridica in termini di atto amministrativo informatico è importante a diversi fini e, primo tra tutti, proprio ai fini della verifica dell’ammissibilità dell’accesso di cui agli artt. 22 e ss. della legge n. 241/1990 al relativo programma informatico e, in definitiva, al suo c.d. linguaggio sorgente». La necessità di inquadrare giuridicamente i programmi al fine di verificarne le regole di ostensibilità è sottolineata anche da A. Guckelberger, Dritter Beratungsgegenstand. E-Government, cit., 269: «Deshalb will ich mich auf die Zugänglichkeit der Verwaltungsalgorithmen beschränken. Dafür ist deren Rechtsnatur von ausschlaggebender Bedeutung».

[14] Cons. St., sez. VI, 8 aprile 2019, n. 2270, in www.giustizia-amministrativa.it, dove è scritto: «L’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”». Diversa opinione pare, invece, sostenuta in Cons. St., sez. VI, 13 dicembre 2019, n. 8472, ivi.

[15] Le frasi virgolettate sono prese da Tar Lazio, Roma, sez. III bis, 22 marzo 2017, n. 3769, in www.giustizia-amministrativa.it.

[16] Nota G. Corso, L’attività amministrativa, Giappichelli, Torino, 1999, 134, che, pur essendovi varie norme (anche costituzionali come l’art. 113 Cost.) che fanno riferimento all’atto amministrativo, a differenza di altri Paesi, manca in Italia una definizione normativa di tale categoria giuridica.

[17] Così Tar Lazio, Roma, sez. III bis, 22 marzo 2017, n. 3769, cit.

[18] G. Sartor, I linguaggi (e i sistemi) informatici: un vincolo per il giurista?, in Riv. notar., 1998, 825.

[19] L. Ferrajoli, Principia iuris. Teoria del diritto e della democrazia. Vol. 1. Teoria del diritto, II ed., Laterza, Roma-Bari, 2012, 489; S. Perongini, Teoria e dogmatica del provvedimento amministrativo, Giappichelli, Torino, 2016, 216.

[20] Così P. Virga, Il provvedimento amministrativo, IV ed., Giuffrè, Milano, 1972, 3.

[21] R. Villata, M. Ramajoli, Il provvedimento amministrativo, Giappichelli, Torino, 2006, 230.

[22] Tar Lazio, Roma, sez. II, 13 marzo 2001, n. 1853, in www.giustizia-amministrativa.it.

Mette conto notare che l’art. 15, 1° comma, della Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas, dispone: «La lengua de los procedimientos tramitados por la Administración General del Estado será el castellano. No obstante lo anterior, los interesados que se dirijan a los órganos de la Administración General del Estado con sede en el territorio de una Comunidad Autónoma podrán utilizar también la lengua que sea cooficial en ella». In argomento v. A. Nogueira López, Derecho de los ciudadanos al uso de las lenguas oficiales en el procedimiento, en especial ante la Administración General del Estado, in E. Gamero Casado, Tratado de Procedimiento Administrativo Común y Régimen Jurídico Básico del sector público, cit., 425.

Anche l’art. L. 111-1 del francese Code des relations entre le public et l’administration, dispone: «L’usage de la langue française est prescrit dans les échanges entre le public et l’administration, conformément aux dispositions de la loi n° 94-665 du 4 août 1994 relative à l’emploi de la langue française».

Infine, pure il par. 23 della legge tedesca sul procedimento amministrativo (la Verwaltungsverfahrensgesetz) prevede che «die Amtssprache ist deutsch». In argomento v. V. von Braun, Die Amtssprache ist Deutsch. Fair Communication in Administrative Proceedings, in Review of European Administrative Law, vol. 10, n. 2, 2017, 27.

[23] Così G. Gallone, Public Administration and the Challenge of Contractual Automation. Notes on Smart Contracts, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020.

[24] Secondo la celebre definizione data da G. Zanobini, Corso di diritto amministrativo, vol. I, VIII ed., 1958, Giuffrè, Milano, 243, deve considerarsi atto amministrativo «qualunque dichiarazione di volontà, di desiderio, di conoscenza, di giudizio, compiuta da un soggetto della pubblica amministrazione nell’esercizio di una potestà amministrativa». Lo stesso autore si sofferma sulla necessità che l’atto amministrativo si concreti in una dichiarazione, e quindi esclude dalla nozione di atto amministrativo tutte le attività puramente tecniche o materiali poste in essere da una p.a. La definizione data dallo Zanobini è stata fatta propria da R. Villata, Attività, atti e provvedimenti amministrativi, in AA.VV., Diritto amministrativo, II ed., II, Monduzzi, Bologna, 1998, 1390.

[25] In tal senso v. A.G. Orofino, La patologia dell’atto amministrativo elettronico: sindacato giurisdizionale e strumenti di tutela, in Foro amm. CdS, 2002, 2256; F. Saitta, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, in Dir. econom., 2003, 615; S. Puddu, Contributo ad uno studio sull’anormalità dell’atto amministrativo informatico, Napoli, 2006, 179; I. Martín Delgado, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, in Revista de Administración Pública, n. 180, 2009, 353 e spec. 361. In termini v. anche Cons. St., sez. VI, 13 dicembre 2019, n. 8472, cit., dove si legge: «Il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta delle legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere».

[26] A.G. Orofino, La patologia dell’atto amministrativo elettronico, cit., 2276.

[27] Tar Lazio, Roma, sez. III bis, 22 marzo 2017, n. 3769, cit.

[28] Mette conto ricordare che in diverse occasioni la Consulta ha ritenuto contrastanti con l’art. 24 Cost. disposizioni che abbiano reso eccessivamente oneroso l’esercizio del diritto di azione: A. Police, Commento all’art. 24 Cost., in R. Bifulco, A. Celotto, M. Olivetti (a cura di), Commentario alla Costituzione, vol. I, Utet, Torino, 2006, 501. In argomento v. altresì M. Martini, Algorithmen als Herausforderung für die Rechtsordnung, in Juristen Zeitung, vol. 21, 2017, 1017, il quale osserva: «Eine intransparente und dadurch für Betroffene nicht nachvollziehbare Entscheidungsfindung birgt Gefahren für gesellschaftliche Grundwerte».

[29] V. Frosini, L’informatica e la pubblica amministrazione, in Riv. trim. dir. pubbl., 1983, 484.

[30] A.G. Orofino, R.G. Orofino, L’automazione amministrativa: imputazione e responsabilità, in Giorn. dir. amm., 2005, 1300 e spec. 1311; M.C. Cavallaro, G. Smorto, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in Federalismi, 2019, n. 16, 2.

[31] Cons. St., sez. VI, 13 dicembre 2019, n. 8472, cit.

[32] Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, in www.giustizia-amministrativa.it: «Con riferimento ai codici sorgente, pertanto, la questione che si pone è se gli stessi possano essere qualificati alla stregua di un documento amministrativo o, comunque, di una sua rappresentazione informatica».

[33] Recita l’art. 22, comma 1, lett. d), della legge sul procedimento: «1. Ai fini del presente capo si intende: […] d) per “documento amministrativo”, ogni rappresentazione grafica, fotocinematografica, elettromagnetica o di qualunque altra specie del contenuto di atti, anche interni o non relativi ad uno specifico procedimento, detenuti da una pubblica amministrazione e concernenti attività di pubblico interesse, indipendentemente dalla natura pubblicistica o privatistica della loro disciplina sostanziale».

[34] Tar Lazio, Roma, sez. III bis, 6 giugno 2019, n. 7333, in www.giustizia-amministrativa.it: «Il carattere informatico del file e del relativo algoritmo non fa venire meno la pretesa di parte ricorrente, con la conseguenza che la relativa richiesta deve trovare accoglimento».

[35] Su questi temi v. L. Cluzel-Métayer, The Judicial Review of the Automated Administrative Act, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020. Riferimenti all’ordinamento francese sono anche in S. Tranquilli, Rapporto pubblico-privato nell’adozione e nel controllo della decisione amministrativa “robotica”, in Dir. soc., 2020, 281.

[36] Cfr. l’avviso della Cada n. 20144578 dell’8 gennaio 2015, dove si legge che «le code source d’un logiciel est un ensemble de fichiers informatiques qui contient les instructions devant être exécutées par un micro-processeur. Elle estime que les fichiers informatiques constituant le code source sollicité, produits par la direction générale des finances publiques dans le cadre de sa mission de service public, revêtent le caractère de documents administratifs, au sens de l’article 1er de la loi du 17 juillet 1978». Può essere utile evidenziare che l’art. 1 della n. 78-753 del 17 luglio 1978 è stato successivamente abrogato e la disciplina dell’accessibilità ai documenti informatici è oggi recata dal Crpa, sul quale v. infra.

[37] Cfr. gli avvisi Cada n. 20161990 del 23 giugno 2016, n. 20172598 del 14 settembre 2017, n. 20180276 del 19 aprile 2018, n. 0182093 del 6 settembre 2018, e n. 20182193 del 15 settembre 2018.

[38] Cfr. TA Paris, 5e section, 2e chambre, 10 marzo 2016, M.A., n. 1508951, ed in particolare i parr. 6 ss. di tale decisione, che può essere interessante leggere nella versione originale: «6. Considérant qu’il ne résulte pas des dispositions susrappelées que le législateur ait entendu exclure la possibilité pour un administré d’accéder au code source d’un programme informatique, qui ne figure pas au nombre des documents énumérés dans la liste des documents non communicables ; 7. Considérant, d’une part, que pour refuser la communication par ses services du code source du programme calculant l’impôt sur le revenu des personnes physiques, le ministre des finances et des comptes publics fait valoir que cette communication serait contraire au droit de l’union européenne, et notamment à la directive 2003/98/CE modifiée par la directive 2013/37/CE ; que, notamment le considérant 9 du préambule de la directive 2003/98/CE prévoit que : “ La définition du terme ‘document’ ne couvre pas les programmes informatiques. La présente directive s’appuie sur les règles d’accès en vigueur dans les États membres et ne modifie pas les règles nationales en matière d’accès aux documents ” ; que, toutefois, il ne résulte pas de ces directives, qui portent sur la réutilisation des données et laissent inchangées les dispositions du droit national relatives à l’accès aux documents administratifs, que les programmes informatiques devraient être systématiquement exclus du droit d’accès aux documents administratifs organisé par la loi du 17 juillet 1978 ; 8. Considérant, d’autre part, que pour refuser la communication par ses services du code source du programme calculant l’impôt sur le revenu des personnes physiques, le ministre des finances et des comptes publics fait valoir que le caractère inachevé des logiciels, lesquels sont en perpétuelle évolution, empêche leur communication aux administrés conformément aux dispositions de l’article 2 précité de la loi du 17 juillet 1978 ; que, toutefois, le caractère évolutif d’un programme informatique ne saurait exclure tout droit à communication de ce programme sauf à priver le justiciable d’un droit effectif à la communication des documents administratifs ; que si les programmes informatiques ont vocation à évoluer au gré des mises à jours, chaque version du code source d’un même programme informatique revêt le caractère de document administratif achevé et peut être communiqué dans cet état ; que, par suite, en l’absence de dispositions législatives ou réglementaires interdisant l’accès aux codes sources des programmes informatiques, le ministre des finances et des comptes publics ne pouvait légalement refuser de communiquer le document demandé mentionné au point 4». In argomento v. anche quanto più recentemente affermato dal CE, 12 giugno 2019, Université des Antilles, nn. 427916 et 427919, nonché TA Guadeloupe, 4 febbraio 2019, Union Nationale des Étudiants de France n. 1801094.

[39] W. Werner, Schutz durch das Grundgesetz im Zeitalter der Digitalisierung, in Neue Juristische Online-Zeitschrift, 2019, 1041: «Mit der Verwendung von Algorithmen sind dabei insbesondere folgende Aspekte rechtlich problematisch: die Intransparenz der Speicherung und der Verwendung umfangreicher Datenbestände sowie die Fehleranfälligkeit solcher Programme».

[40] Tar Campania, Napoli, sez. V, 3 marzo 2020, n. 1002, in www.giustizia-amministrativa.it.

[41] Cons. St., sez. VI, 7 novembre 2017, n. 5136, in www.giustizia-amministrativa.it.

[42] Tar Lazio, Roma, sez. II, 6 agosto 2020, n. 9044, in www.giustizia-amministrativa.it.

[43] Tar Lazio, Roma, sez. III bis, 28 maggio 2019, n. 6688, in www.giustizia-amministrativa.it.

[44] Tar Lazio, Roma, sez. III quater, 10 agosto 2015, n. 10771, in www.giustizia-amministrativa.it

[45] Tar Puglia, Bari, sez. I, 27 giugno 2016, n. 806, in www.giustizia-amministrativa.it.

[46] Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit.

[47] Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit.

[48] Si è trascritto da Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit. Nelle parole del Tar appare evidente il riferimento alla idea del funzionario virtuale suggerita da V. Frosini, L’informatica e la pubblica amministrazione, cit., 484,

[49] In tal senso v. sempre Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit.

[50] Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit.

[51] Così Cons. St., sez. VI, 13 dicembre 2019, n. 8472, cit.

[52] B. Barraud, L’algorithmisation de l’administration, in Revue Lamy droit de l’immatériel, n. 150, 2018, 42, il quale fa notare che «un autre problème que l’algorithmisation de l’administration pose est celui de la transparence des algorithmes, c’est-à-dire de la possibilité pour les administrés de savoir quand des algorithmes sont utilisés et de demander des explications quant à leur fonctionnement». Nello stesso senso A. Cerrillo i Martínez, How can we open the black box of public administration? Transparency and accountability in the use of algorithms, in Revista Catalana de Dret Públic, n. 58, 2019, 13 e spec. 18: «Transparency is a principle of public administration and, as such, it should underpin government use of algorithms».

[53] M. Martini, Algorithmen als Herausforderung für die Rechtsordnung, cit., 1018: «Seine in Programm code transformierten Entscheidungsmaßstäbe bleiben für den Nutzer einer Softwareanwendung aber ein Mysterium: Wie sie zu ihren Arbeitsergebnissen gelangt, liegt im Verborgenen. […] Eine intransparente und dadurch für Betroffene nicht nachvollziehbare Entscheidungsfindung birgt Gefahren für gesellschaftliche Grundwerte».

[54] In tal senso P. Cossalter, La trasparenza del software e la sua accessibilità, relazione svolta in occasione della conferenza Intelligenza artificiale e funzioni amministrative. Sindacato e tutela rispetto alle decisioni automatizzate, organizzata dall’Università Lum Jean Monnet il 19 giugno 2020, i cui lavori sono pubblicati su YouTube all’indirizzo: https://www.youtube.com/watch?v=RsPBV3jBSB8&t=21518s.

[55] Recita al L. 311-3-1: «Sous réserve de l’application du 2° de l’article L. 311-5, une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande». Dispone, poi, il successivo art. R. 311-3-1-2: «L’administration communique à la personne faisant l’objet d’une décision individuelle prise sur le fondement d’un traitement algorithmique, à la demande de celle-ci, sous une forme intelligible et sous réserve de ne pas porter atteinte à des secrets protégés par la loi, les informations suivantes : 1° Le degré et le mode de contribution du traitement algorithmique à la prise de décision ; 2° Les données traitées et leurs sources ; 3° Les paramètres de traitement et, le cas échéant, leur pondération, appliqués à la situation de l’intéressé ; 4° Les opérations effectuées par le traitement». In argomento v. anche l’art. L. 312-1-3 del Crpa, a mente del quale: «Sous réserve des secrets protégés en application du 2° de l’article L. 311-5, les administrations mentionnées au premier alinéa de l’article L. 300-2, à l’exception des personnes morales dont le nombre d’agents ou de salariés est inférieur à un seuil fixé par décret, publient en ligne les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles», sicché, secondo quanto previsto dall’art. L. 312-1-3 precitato «les règles de fonctionnement des algorithmes ne sont pas seulement quérables : elles doivent être diffusées spontanément», come osservato da E. Mouriesse, L’opacité des algorithmes cit., 47.

[56] Cons. const., 12 giugno 2018, n. 2018-765 DC, par. 71.

[57] V. il punto IV del par. 2.2 della Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions dell’8 aprile 2019 COM(2019) 168 final, dal titolo «Building Trust in Human-Centric Artificial Intelligence». In argomento v. pure il White Paper on Artificial Intelligence: a European approach to excellence and trust COM(2020) 65 final del 19 febbraio 2020.

[58] Osserva significativamente J.-B. Auby, Contrôle de la puissance publique et gouvernance par algorithme, in D.-U. Galetta, Jacques Ziller (a cura di), Das öffentliche Recht vor den Herausforderungen der Informations- und Kommunikationstechnologien jenseits des Datenschutzes, Nomos, Baden Baden, 2018, 155: «Faut-il être conscient de ce que la compréhension d’un code source d’algorithme est hors de portée d’une grande majorité de citoyens. En d’autres termes, avancer un algorithme comme motivation d’un acte administratif, c’est un peu comme en rédiger la motivation dans une langue étrangère». Nello stesso senso E. Mouriesse, L’opacité des algorithmes cit., 48, la quale condivisibilmente rileva che i listati «sont particulièrement difficiles à déchiffrer pour un non-savant».

[59] S.J. Russell, P. Norvig, Artificial Intelligence : A Modern Approach, Global Edition, III ed., Prentice Hall, Upper Saddle River, 2009, 93; A. Sée, La régulation des algorithmes : un nouveau modèle de globalisation ?, in Revue française de droit administratif, 2019, 830.

[60] M. Finck, Automated Decision-Making and Administrative Law, in corso di pubblicazione in Aa.Vv., Oxford Handbook of Comparative Administrative Law, Oxford University Press, Oxford, 2020.

[61] Cons. const., 12 giugno 2018, n. 2018-765 DC, cit., par. 71: «Ne peuvent être utilisés, comme fondement exclusif d’une décision administrative individuelle, des algorithmes susceptibles de réviser eux-mêmes les règles qu’ils appliquent, sans le contrôle et la validation du responsable du traitement».

[62] Afdeling Bestuursrechtspraak van de Raad van State, 17 maggio 2017, ECLI:NL:RVS:2017:1259.

[63] Critico su tale posizione R. Cavallo Perin, Ragionando come se la digitalizzazione fosse data, in Dir. amm., 2020, 305 e spec. 317.

[64] Rechtbank Den Haag, 5 febbraio 2020, ECLI:NL:RBDHA:2020:865, sulla quale v. il commento di A. Meuwese, Regulating algorithmic decision-making one case at the time: a note on the Dutch ‘SyRI’ judgment, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020.

[65] Così Cass., sez. I, 28 dicembre 2000, n. 16204, in Giust. civ., 2001, I, 928. In termini, più recentemente, v. Id., sez. trib., 17 maggio 2017, n. 12302, in Dvd Juris Data, Milano, dove, giudicando sulla legittimità di un provvedimento impositivo adottato da un’amministrazione comunale, si afferma che «in materia di formazione degli atti amministrativi informatici, le disposizioni di cui all’art. 3 del d.lgs. n. 39 del 1993 sono applicabili a tutti i provvedimenti nei quali sia configurabile una formazione con tecniche informatiche automatizzate, ossia quando il tenore del provvedimento dipende da precisi presupposti di fatto e non sussistono le condizioni per l’esercizio di un potere discrezionale». Sull’uso della automazione per infliggere sanzioni amministrative v. Id., sez. I, 6 marzo 1999, n. 1923, in Cons. Stato, 1999, II, 1299; Id., sez. I, 14 settembre 2006, n. 19780, in Dvd Juris data, Milano; Id., sez. VI, 13 maggio 2015, n. 9815, ivi. In argomento v. quanto si dirà infra nel par. 8 sull’obbligo di motivazione degli atti robotici.

[66] Sul punto rimane un classico il testo di S. Rodotà, Elaboratori elettronici e controllo sociale, Il Mulino, Bologna, 1973. Il tema della minaccia per la riservatezza portata dallo sviluppo della informatica è analizzato anche nel «Rapport Tricot» del 1975, pubblicato nel volume Rapport de la Commission Informatique et libertés, La Documentation Française, Paris, 1975.

[67] Sul trattamento dei numeri di targa ai fini dei controlli di polizia, e sulla necessità che tale trattamento sia effettuato nel rispetto del principio di proporzionalità nell’uso di dati personali e, dunque, nei limiti dello strettamente necessario, si è espressamente pronunciato il giudice costituzionale tedesco: Bundesverfassungsgericht, Beschluss des Ersten Senats, 18 dicembre 2018 – 1 BvR 142/15. Su questi temi W. Werner, Schutz durch das Grundgesetz im Zeitalter der Digitalisierung, in Neue Juristische Online-Zeitschrift, 2019, 1041; T. Rademacher, Artificial Intelligence and Law Enforcement, in T. Wischmeyer, T. Redemacher (a cura di), Regulating Artificial Intelligence, Springer, Cham, 2020, 225 e spec. 233.

[68] Cons. St., sez. VI, 13 dicembre 2019, n. 8472, cit.

[69] In argomento v. G. Finocchiaro, Intelligenza artificiale e protezione dei dati personali, in questa Rivista, 2019, 1670 e spec. 1674, dove si legge che «grandemente sopravvalutato è quanto disposto dal Regolamento con riguardo alle decisioni automatizzate». Condividono perplessità analoghe a quelle qui manifestate S. Wachter, B. Mittelstadt, L. Floridi, Why a Right to Explanation of Automated Decision-Making, cit., 76, che sottolineano come la disposizione comunitaria, più che porre, in negativo, un divieto («a prohibition, meaning that data controllers would be obligated not to engage in automated decision-making prior to showing that a condition in Article 22 is met») prevederebbe in positivo «a right to object to automated decision-making, which will not apply if one of the requirements in Article are met». In termini analoghi M. Martini, DS-GVO Art. 22 Automatisierte Entscheidungen im Einzelfall einschließlich Profiling, in B.P. Paal, D.A. Pauly (a cura di), Datenschutz-Grundverordnung, C.H. Beck, Munich, 2017, 4. Infine sul punto v. J.-B. Auby, Algorithmes et Smart Cities: Données Juridiques, in Revue Générale du Droit, 2018; D-U. Galetta, J.G. Corvalan, Intelligenza Artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi, n. 3, 2019; V. Brigante, Evolving pathways of administrative decisions. Cognitive activity and data, measures and algorithms in the changing administration, Editoriale Scientifica, Napoli, 2019, 154.

Sul versante interno v. l’art. 2 sexies del d.lgs. n. 196/2003, che detta regole peculiari per il trattamento di dati personali effettuato per motivi di rilevante interesse pubblico.

[70] Ctbg, 19 febbraio 2019, risoluzione n. 701/2018, in www.consejodetransparencia.es, dove si legge: «El software ha sido extraordinariamente difícil de clasificar como materia específica de propiedad intelectual debido a que su doble naturaleza plantea problemas particulares para quienes tratan de establecer analogías con las categorías jurídicas existentes. Esta es la razón por la que ha habido intentos de clasificarlo como objeto de derechos de autor, de patentes o de secretos comerciales, e incluso como un derecho sui géneris de software. Puesto que el código fuente se expresa de forma escrita, resulta lógico pensar que el software puede ser protegido por el derecho de autor como obra literaria».

[71] Cons. St., sez. IV, ord. 6 marzo 2017, n. 1013, in www.giustizia-amministrativa.it.

[72] Cfr. l’art. 23 della l. n. 241/1990, nonché Cons. St., a.p., 5 settembre 2005, n. 5, in www.giustizia-amministrativa.it.

[73] Art. 25, comma 2, della l. n. 241/1990.

[74] Che, invece, viene qualificato alla stregua di un controinteressato da Cons. St., sez. VI, 2 gennaio 2020, n. 30, in www.giustizia-amministrativa.it. Va sottolineato che tale qualificazione appare certamente condivisibile quando la domanda venga rivolta direttamente all’amministrazione, già in possesso del sorgente. Viceversa, quando la p.a. non possieda il codice, rimasto nella disponibilità del fornitore, la qualifica di quest’ultimo in termini di controinteressato appare inadeguata a fondare su di lui un obbligo ostensivo giacché, ai sensi di legge, non è il controinteressato a dover riscontrare le istanze di accesso.

[75] Rileva Tar Lazio, Roma, sez. I, 27 aprile 2020, n. 4212, in www.giustizia-amministrativa.it, che il diritto di accesso ai documenti amministrativi è esercitabile non solo nei confronti dell’attività di diritto amministrativo, ma anche di quella di diritto privato posta in essere dai soggetti gestori di pubblici servizi che, pur non costituendo direttamente gestione del servizio stesso, sia collegata a quest’ultima da un nesso di strumentalità.

[76] Critico sulle posizioni del Tar Lazio E. Prosperetti, Accesso al software e al relativo algoritmo nei procedimenti amministrativi e giudiziali. Un’analisi a partire da due pronunce del Tar Lazio, in Dir. inf., 2019, 979.

[77] Su questi temi v. F. Bravo, Access to Source Code of Proprietary Software Used by Public Administrations for Automated Decision-Making. What Proportional Balancing of Interests?, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020.

[78] V. anche l’art. 16, comma 2, del Real Decreto 4/2010, de 8 de enero, por el que se regula el Esquema Nacional de Interoperabilidad en el ámbito de la Administración Electrónica.

[79] Cfr. l’art. 69, comma 1, del d.lgs. n. 82 del 7 marzo 2005, recante il Codice dell’amministrazione digitale.

[80] Cfr. l’art. 69, comma 2, del Cad.

[81] Cfr. le «Linee guida su acquisizione e riuso di software per le pubbliche amministrazioni» pubblicate il 9 maggio 2019 dalla Agenzia per l’Italia digitale.

[82] Cfr. l’art. 68, commi 1 e 1 bis, del Cad.

[83] C. Sarmento e Castro, Direito da Informática, Privacidade e Dados Pessoais, Almedina, Coimbra, 2015, 251, cui adde, Id., O direito à autodeterminação informativa e os novos desafios gerados pelo direito à liberdade e à segurança nos pós 11 de Setembro, in Aa. Vv., Estudos em Homenagem ao Conselheiro José Manuel Cardoso da Costa, vol. II, Almedina, Coimbra, 2005, 65 e spec. 75.

[84] A.G. Orofino, Open source e pubblica amministrazione, cit., 1317; F. Bravo, Software «Open Source» e Pubblica Amministrazione. L’esperienza europea e quella italiana tra diritto d’autore, appalti pubblici e diritto dei contratti. La EUPL, Bologna, 2009, 5; F. Martini, Open source, pubblica amministrazione e libero mercato concorrenziale, in Dir. econ., 2009, 677.

[85] Recita l’art. 16 della legge n° 2016-1321 del 7 ottobre 2016 pour une République numérique: «Les administrations mentionnées au premier alinéa de l’article L. 300-2 du code des relations entre le public et l’administration veillent à préserver la maîtrise, la pérennité et l’indépendance de leurs systèmes d’information. Elles encouragent l’utilisation des logiciels libres et des formats ouverts lors du développement, de l’achat ou de l’utilisation, de tout ou partie, de ces systèmes d’information. Elles encouragent la migration de l’ensemble des composants de ces systèmes d’information vers le protocole IPV6, sous réserve de leur compatibilité, à compter du 1er janvier 2018». In argomento v. anche il decreto n. 2017-638 del 27 aprile 2017 relatif aux licences de réutilisation à titre gratuit des informations publiques et aux modalités de leur homologation, con il quale si sono modificati molti articoli del capitolo III, del Titolo II, del Libro III del Code des relations entre le public et l’administration. Per indicazioni sulle politiche francesi in tema di free software cfr: https://www.numerique.gouv.fr/publications/politique-logiciel-libre.

[86] Maggiori informazioni sono evincibili dalla pagina: https://ec.europa.eu/info/departments/informatics/open-source-software-strategy_en.

[87] Cfr. la pagina web: https://ec.europa.eu/info/node/2820.

[88] A.G. Orofino, R.G. Orofino, L’automazione amministrativa, cit., 1309; D. Keats Citron, Technological Due Process, in Washington University Law Review, vol. 85, issue 6, 2008, 1249 e spec. 1260; G. Marongiu, L’attività amministrativa automatizzata. Profili giuridici, Sant’Arcangelo di Romagna, 2015, 161.

[89] Va evidenziato che, secondo un indirizzo giurisprudenziale minoritario, nel caso di procedimenti algoritmici, non vi è alcuna necessità che il responsabile del procedimento verifichi la correttezza dell’istruttoria, giacché la regola che pone tale onere in capo all’amministrazione «è palesemente riferita al caso di procedimento amministrativo che si snoda secondo cadenze normali e si basa su istruttoria del tipo tradizionale. Essa appare, quindi, inapplicabile al caso in cui […] l’amministrazione ha ritenuto di autovincolare la propria azione predeterminando i criteri ai quali attenersi nell’esame delle domande e scegliendo uno strumento operativo (lettura ottica) che si presenta come l’unico in grado di soddisfare tempestivamente e in maniera imparziale la mole delle domande di agevolazione. Non sembrano quindi predicabili nei riguardi di tale procedura le regole dettate dalla legge n. 241/1990» (si è trascritto da Cons. St., sez VI, 3 novembre 1998, n. 1517, in Foro amm., 1998, 3163). Diversa opinione è stata, invece, espressa dalla giurisprudenza maggioritaria, secondo la quale si è ritenuto doverosa la correzione di errori in cui era incorso il computer (Tar Lazio, sez. III bis, 23 dicembre 2003, n. 12736, in www.giustizia-amministrativa.it; Trga Trento, 15 aprile 2015, n. 149, ivi).

[90] A.G. Orofino, R.G. Orofino, L’automazione amministrativa, cit., 1310; A.G. Orofino, G. Gallone, L’intelligenza artificiale al servizio delle funzioni amministrative, cit., 1745. In giurisprudenza v. Trga Trento, 15 aprile 2015, n. 149, cit., secondo cui le risposte date dal sistema informatico sono oggettivamente imputabili all’amministrazione, come plesso, e dunque alle persone che ne hanno la responsabilità, così che, se lo strumento informatico determina situazioni anomale, vi è anzitutto una responsabilità di chi ne ha predisposto il funzionamento, ma v’è altresì la responsabilità omissiva di colui che, tempestivamente informato, non si è adoperato per svolgere, secondo i principi di legalità e imparzialità, tutte quelle attività volte alla correzione dell’errore.

[91] A.G. Orofino, R.G. Orofino, L’automazione amministrativa, cit., 1308.

[92] Cfr. supra, parr. 3 e 4.

[93] Cfr. supra, par. 4.

[94] Che, secondo A. Huergo Lora, Una aproximación a los algoritmos desde el derecho administrativo, cit., 71, si applica alle sole decisioni integralmente automatizzate, e non anche a quelle nelle quali il computer si sia limitato a svolgere funzioni di ausilio rispetto ad un dipendente pubblico.

[95] Si riporta il testo integrale dell’art. 41, comma 2: «En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente». Più incisivamente, l’art. 45, comma 4, della non più vigente Ley 30/1992, de 26 de noviembre, de Régimen Jurídico de las Administraciones Públicas y del Procedimiento Administrativo Común, disponeva: «Los programas y aplicaciones electrónicos, informáticos y telemáticos que vayan a ser utilizados por las Administraciones Públicas para el ejercicio de sus potestades, habrán de ser previamente aprobados por el órgano competente, quien deberá difundir públicamente sus características».

[96] Cfr. quanto detto nel par. 4.

[97] A. Police, Prevedibilità delle scelte e certezza dell’azione amministrativa, in Dir. amm., 1996, 697.

[98] P.M. Vipiana, L’autolimite della pubblica amministrazione. L’attività amministrativa fra coerenza e flessibilità, Giuffré, Milano, 1990.

[99] A. Huergo Lora, Una aproximación a los algoritmos desde el derecho administrativo, cit., 69.

[100] Come rileva D. Keats Citron, Technological Due Process, cit., 1260, quando le amministrazioni ricorrono all’automazione «private vendors typically build these systems, often with the help of government information technology personnel».

[101] Cons. St., sez. VI, 24 ottobre 1994, n. 1561, in Foro amm., 1994, 2438, che sul punto manifesta una opinione opposta a quella espressa, nella appellata sentenza Tar Lazio, Roma, sez. II, 16 settembre 1992, n. 1809, in Dvd Juris data, Giuffrè, Milano. Nello

[102] Cons. St., Sez. VI, 24 ottobre 1994, n. 1561, cit.; in termini anche Id., sez. VI, 11 luglio 2000, n. 3885, in Foro amm., 2000, 2710; Id., sez. VI, 24 ottobre 2000, n. 5682, in www.giustizia-amministrativa.it.

[103] Ricordano, al contrario, J.A. Kroll, J. Huey, S. Barocas, E.W. Felten, J.R. Reidenberg, D.G. Robinson, H. Yu, Accountable Algorithms, in University of Pennsylvania Law Review, vol. 165, 2017, 633 e spec. 656 che «the first goal in any plan to govern automated decisionmaking should be to enable the people overseeing the process—whether they are government officials, corporate executives, or members of the public—to know how a computer system makes decisions».

[104] Per una attenta sintesi delle varie opinioni espresse sul punto v. S. Perongini, Teoria e dogmatica del provvedimento amministrativo, cit., 192.

[105] In tal senso A.M. Sandulli, Manuale di diritto amministrativo, XV ed., Jovene, Napoli, 1989, 664.

[106] Così A.M. Sandulli, Manuale di diritto amministrativo, cit., 665. Nello stesso senso v. M.R. Spasiano, Commento all’art. 21 septies, in N. Paolantonio, A. Police, A. Zito (a cura di), La pubblica amministrazione e la sua azione, Giappichelli, Torino, 2005, 551; S. Perongini, Teoria e dogmatica, cit., 194.

[107] P. Virga, Il provvedimento amministrativo, IV ed., Giuffrè, Milano, 1972, 164. V. anche G. Zanobini, Corso di diritto amministrativo, cit., 246; G. Miele, Principi di diritto amministrativo, Cedam, Padova, 1966, 136.

[108] C. Mortati, Istituzioni di diritto pubblico, tomo I, IX ed., Cedam, Padova, 1975, 244. Dello stesso autore v. Id., La volontà e la causa nell’’atto amministrativo e nella legge, Officina Tipografica Roberto De Luca, Roma, 1935.

[109] G. Falcon, Lezioni di diritto amministrativo. L’attività, III ed., Cedam, Padova, 2013, 123.

[110] M.S. Giannini, Lezioni di diritto amministrativo, vol. I, Leonardo da Vinci, Città di Castello, 1950, 350: «Dicendo che nei provvedimenti la volontà è sempre una ipostasi, si vuole significare che, nel mondo naturale, a ciò che noi chiamiamo volontà del provvedimento corrisponde una sommatoria dei punti comuni fra le volizioni di più persone fisiche». Nello stesso senso v. Id, Atto amministrativo, in Enc. dir., vol. IV, Giuffré, Milano, 1959, 157 e spec. 174, dove si legge: «La volontà nel provvedimento amministrativo, non è una volontà psicologica, né personale: il provvedimento normalmente passa per più uffici, e quindi è frutto del concorso di un numero piuttosto elevato di persone fisiche. Storicamente, in esso la volontà si presenta come un’astrazione, e, giuridicamente, come un’ipostasi». In termini S. Cassese, Le basi del diritto amministrativo, VI ed., Garzanti, Milano, 2000, 342; B.G. Mattarella, Il provvedimento, in S. Cassese (a cura di), Trattato di diritto amministrativo. Diritto amministrativo generale, vol. I, II ed., Giuffrè, Milano, 2003, e spec. 841. Per una critica a questa tesi v. R. Villata, M. Ramajoli, Il provvedimento amministrativo, Giappichelli, Torino, 2006, 207.

[111] F. Follieri, Logica del sindacato di legittimità sul provvedimento amministrativo. Ragionamento giuridico e modalità di sindacato, Cedam, Padova, 2017, 418 e passim.

[112] Già in S. Romano, Corso di diritto amministrativo. Principi generali, III ed., 1937, Cedam, Padova, 270, si evidenzia che una volizione provvedimentale che sia caratterizzata da una erronea rappresentazione dei presupposti fattuali incorre in eccesso di potere laddove, qualora l’errore ricada sui presupposti giuridici, si ha violazione di legge.

[113] V. S. Perongini, Teoria e dogmatica del provvedimento amministrativo, cit., 408, anche per ulteriori riferimenti bibliografici.

[114] S. Romano, Corso di diritto amministrativo, cit., 270.

[115] A.M. Sandulli, Manuale di diritto amministrativo, cit., 665.

[116] F. Levi, L’attività conoscitiva della pubblica amministrazione, Giappichelli, Torino, 1967, 139 e passim.

[117] U. Allegretti, L’imparzialità amministrativa, Cedam, Padova, 1965; A.M. Sandulli, Manuale, cit., 587. In argomento v. anche P. Lazzara, L’azione amministrativa ed il procedimento in cinquant’anni di giurisprudenza costituzionale, in G. della Cananea, M. Dugato (a cura di), Diritto amministrativo e Corte costituzionale, Esi, Napoli, 2006, 387.

[118] Osserva G. Miele, L’obbligo di motivazione degli atti amministrativi (1941), ora in Id., Scritti giuridici, vol. I, Giuffrè, Milano, 1987, 329, che l’amministrazione non solo deve fare uso legittimo del potere che le è conferito, ma deve «anche renderlo plausibile a coloro cui l’atto s’indirizza». In termini I.M. Marino, Giudice amministrativo, motivazione degli atti e «potere» dell’amministrazione (2003), ora in A. Barone (a cura di), I.M. Marino. Scritti giuridici, vol. II, Esi, Napoli, 2015, 1019. Sulla «amministrazione come immagine del dover amministrare» v. G. Berti, La responsabilità pubblica (Costituzione e Amministrazione), Cedam, Padova, 357.

[119] Cfr. J.A. Kroll, J. Huey, S. Barocas, E.W. Felten, J.R. Reidenberg, D.G. Robinson, H. Yu, Accountable Algorithms, cit., 657: «Transparency has often been suggested as a remedy to accountability issues for computerized systems. However, transparency alone is not sufficient to provide accountability in all cases».

[120] Senza entrare nel dettaglio, ci si può limitare ad evidenziare che a tale profilo erano riservate disposizioni contenute in alcune norme oggi non più vigenti, come l’art. 3, comma 2, del d.lgs. n. 39/1993, l’art. 9, comma 2, del d.P.R. n. 445/2000, e come l’art. 22, comma 2, del Cad nel testo vigente al momento della sua promulgazione.

Al tema sono oggi dedicati gli artt. 40 e 41 del Cad e, soprattutto, il capo III delle regole tecniche adottate con d.P.C. 13 novembre 2014.

[121] L’episodio è narrato nella motivazione in fatto della decisione Trib. Napoli, 2 maggio 2002, pubblicata per esteso nel volume di F. Buffa, Il pubblico impiego privatizzato nella giurisprudenza, Celt, Piacenza, 2004, 949. Simile vicenda è stata stigmatizzata da Cass. pen., sez. V, 19 febbraio 2003, in Cass. pen, 2004, 1265; Cass. pen., 18 aprile 2003, in Cass. pen., 2004, 3226; Cass. pen., sez. V, 12 maggio 2003, in Dvd Juris data, Giuffrè, Milano.

[122] Cfr. C. conti, sez. giur. Sic., 2 marzo 2005, n. 390, in Dir. Internet, 487.

[123] Cass. pen., sez. V, 18 giugno 2001, in Dvd Juris data, Giuffrè, Milano; Cass. pen., sez. V, 12 maggio 2003, cit.; Cass. pen., sez. V, 27 gennaio 2005, n. 11930, in Cass. pen., 2006, 1446.

[124] Sull’acquisizione e la conservazione dei file di log, v. Trib. Chieti, 30 maggio 2006, in Dir. Internet, 2006, 572.

[125] C. conti, sez. giur. Piemonte, 13 novembre 2003, n. 1856, in Dvd Juris data, Milano.

[126] Cons. giust. amm. reg. sic., 8 ottobre 2007, n. 927, in www.giustizia-amministrativa.it: «Il sistema informatico utilizza, anch’esso, come noto, una sorta di firma, costituita dalle così dette “registrazioni di log” che individuano il soggetto che si è inserito nel sistema, il giorno, l’ora ed il contenuto della nuova registrazione, attribuita, tramite la password, ad un determinato funzionario. Tali registrazioni e tali risultanze sono documenti ed atti». In termini Id., 1 giugno 2010, n. 780, ivi; Tar Calabria, Reggio Calabria, sez. I, 20 giugno 2014, n. 272, ivi.

[127] Tar Lazio, Roma, sez. III bis, 30 giugno 2020, n. 7370, cit., dove si distingue tra conoscenza del codice sorgente, ossia del «mero testo di un algoritmo di calcolo di un programma scritto in linguaggio di programmazione che definisce il flusso di esecuzione del programma stesso» e contenuto (dati, documenti, provvedimenti,…) elaborato tramite il programma informatico, la cui «autenticità, integrità, affidabilità, leggibilità, reperibilità» deve essere assicurata dall’amministrazione mediante il sistema di conservazione dei documenti informatici di cui all’art. 44 del codice dell’amministrazione digitale. In argomento v. anche Cons. St., sez. VI, 20 febbraio 2008, n. 590, in www.giustizia-amministrativa.it.

[128] Entrambe le frasi sono trascritte da Cons. giust. amm. reg. sic., 8 ottobre 2007, n. 927, cit.

[129] Cfr. Tar Lazio, Roma, sez. III bis, 20 luglio 2016, n. 8312, in www.giustizia-amministrativa.it, che ritiene indebita la cancellazione delle indicazioni relative ad una domanda di partecipazione che, dopo essere stata accettata dal sistema informatico, è stata successivamente eliminata dallo stesso sistema, all’esito di alcune modifiche operate sulla domanda dalla candidata: giudicando sulla vicenda, il Tar afferma che vi è l’onere degli enti pubblici di conservare i documenti informatici (così come quelli analogici) in modo da consentire la verificabilità successiva delle operazioni compiute dall’elaboratore. In termini Tar Lombardia, Milano, sez. III, 27 giugno 2017, n. 1449, ivi.

[130] Tar Veneto, sez. I, 9 febbraio 2017, n. 144, in www.giustizia-amministrativa.it.

[131] Sulla motivazione v., da ultimo, A. Cassatella, Il dovere di motivavazione nell’attività amministrativa, Cedam, Padova, 2013, cui adde G. Tropea, Motivazione del provvedimento e giudizio sul rapporto: derive e approdi, in Dir. proc. amm., 2017, 1235.

[132] A. Usai, Le prospettive di automazione, cit., 178; D. Marongiu, L’attività amministrativa automatizzata, cit., 124.

[133] Cons. St., sez. IV, 18 ottobre 2002, n. 5758, in Foro amm. C.d.S., 2002, 2384 dove, giudicando su un provvedimento di chiamata alla leva militare, si afferma che «la mancanza di motivazione della cartolina-precetto trova giustificazione nella meccanizzazione del servizio essendo sempre e solo possibile il riscontro tra il contenuto del “precetto” ed i c.d. tabulati d’ufficio, a disposizione degli interessati, presso i Distretti di Leva».

[134] Cons. St., sez. IV, ord. 29 settembre 1998, n. 1537, in Giust. civ., 1999, I, 1215.

[135] Cass., sez. I, 28 dicembre 2000, n. 16204, cit.

[136] Cfr. infra, par. 4.

[137] Così Tar Lazio, Roma, sez. III bis, 10 settembre 2018, n. 9227, in www.giustizia-amministrativa.it. In termini M. Martini, D. Nink, Subsumtionsautomaten ante portas? – Zu den Grenzen der Automatisierung in verwaltungsrechtlichen (Rechtsbehelfs-) Verfahren, in Deutsches Verwaltungsblatt, 2018, 1128: «Um alle rechtlichen und tatsächlichen Aspekte des Sachverhalts adäquat einschätzen und ihre Spezifika zu erkennen, ist juristische Auslegung auf eine sachadäquate Rekonstruktion der sozialen Wirklichkeit angewiesen. Computer-systemen fehlt aber ein Bild der Welt; einen „common sense“ haben sie nicht».

[138] Tar Lazio, Roma, sez. III bis, 21 marzo 2017, n. 3742, cit.

[139] Cfr. B.W. Wirtz, J.C. Weyerer, C. Geyer, Artificial Intelligence and the Public Sector. Applications and Challenges, in International Journal of Public Administration, vol. 42, 2018, 596, che osservano: «Artificial intelligence (AI) is an interdisciplinary research field».

[140] A.G. Orofino, La patologia dell’atto amministrativo elettronico, cit., 2268.

[141] Come osservato da T.J. Barth, E. Arnold, Artificial intelligence and administrative discretion. Implications for public administration, in American Review of Public Administration, vol. 29, 1999, 332 e spec. 349: «The real danger of AI in government is represented by researchers who are divorced from the world of public administration scholars and practitioners and are engaged in discussions and making technological decisions without understanding the implications for governance of the administrative state». Su questi temi v. anche D. Marongiu, L’attività amministrativa automatizzata, cit., 60; J.B. Duclercq, Le droit public à l’ère des algorithms, in Revue du droit public, 2017, 1401; D. Marongiu, Inteligencia artificial y administración pública, in C. García Novoa, D. Santiago Iglesias (a cura di): 4ª Revolución industrial: impacto de la automatización y la inteligencia artificial en la sociedad y la economía digital, Cizur Menor, 2018, 395.

[142] Parla di «interdisciplinarietà o di superdisciplinarietà fecondatrice» A. Predieri, Gli elaboratori elettronici nell’amministrazione dello Stato, Il Mulino, Bologna, 1971, 51.

[143] Per alcune esperienze riferite all’ordinamento statunitense v. C. Coglianese, D. Lehr, Transparency and Algorithmic Governance, cit., 6.

[144] Ritiene che, visto lo stato attuale dell’evoluzione tecnologica, l’utilizzo di programmi intelligenti possa essere più proficuo nello svolgimento di servizi pubblici, che nell’espletamento di attività volta all’adozione di provvedimenti veri e propri, D. Marongiu, Inteligencia artificial y administración pública, cit., 397, cui adde M. Martini, D. Nink, Subsumtionsautomaten ante portas?, cit., 1129.

[145] J. Valero Torrijos, El régimen jurídico de la e-Administración: el uso de medios informáticos y telemáticos en el procedimiento administrativo, II ed., Comares, Granada, 2007, 73.

[146] G. Gallone, Blockchain, procedimenti amministrativi e prevenzione della corruzione, in Dir. econom., n. 3, 2019, 187; G.M. Racca, La modellazione digitale per l’integrità, l’efficienza e l’innovazione nei contratti pubblici, in Ist. federalismo, 2019, 739; G. Gallone, Public Administration and the Challenge of Contractual Automation, cit., passim.

[147] M. Fernández Salmerón, De la reutilización de sentencias al «big data» judicial. Aproximación a la metamorfosis experimentada por los modelos de uso de la información en el marco de la actividad jurisdiccional, in M.F. Gómez Manresa, M. Fernández Salmerón (a cura di), Modernización digital e innovación en la administración de justicia, Aranzadi, Cizur Menor, 2019, 63.

[148] M. Boyd, N. Wilson, Rapid Developments in Artificial Intelligence how might the New Zealand government respond?, in Policy Quarterly, vol. 13, n. 4, 2017, 36 e spec. 42; J-B. Auby, Contrôle de la puissance publique et gouvernance par algorithme, cit., 155.

[149] Reperibile al seguente indirizzo: https://ia.italia.it.

[150] I. Gallego Córcoles, Contratación pública e innovación tecnológica, in Revista española de derecho administrativo, vol. 184, 2017, 193; Id., Contratación pública y catálogos electrónicos: Una oportunidad para la innovación, in M. Fernández Salmerón, R. Martínez Gutiérrez (a cura di), Transparencia, innovación y buen gobierno en la contratación pública, cit., 135.

[151] Per alcune esperienze pratiche v. il risalente, ma comunque interessante, volume P. Mercatali, G. Soda, D. Tiscornia (a cura di), Progetti di intelligenza artificiale per la pubblica amministrazione, Milano, 1996.

[152] J. Valero Torrijos, The Legal Guarantees of Artificial Intelligence in Administrative Activity: reflections and contributions from the viewpoint of Spanish Administrative Law and Good Administration Requirements, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020,

[153] Da ultimo v. Cons. St., sez. VI, 13 dicembre 2019, n. 8472, cit.

[154] D. Marongiu, L’attività amministrativa automatizzata, cit., 69.

[155] P.M. Vipiana, L’autolimite della pubblica amministrazione, cit., passim.

[156] A. Police, Trasparenza e formazione graduale delle decisioni amministrative, cit., 229.

[157] C. Fraenkel-Haeberle, Fully digitalized administrative procedures in the German legal system, in European Review of Digital Administration & Law, vol. 1, issue 1, 2020, E. Buoso, Fully automated administrative acts in the German legal system, ivi.

[158] In tal senso v. quanto previsto dal par. 35.a della Verwaltungsverfahrensgesetz (VwVfG), recante: «Vollständig automatisierter Erlass eines Verwaltungsaktes», il quale espressamente dispone che: «Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden, sofern dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht». In argomento cfr. A. Berger, Der automatisierte Verwaltungsakt. Zu den Anforderungen an eine automatisierte Verwaltungsentscheidung am Beispiel des par. 35a VwVfG, in Neue Zeitschrift für Verwaltungsrecht, 2018, 1260. In precedenza v. anche il volume di R.-M. Polomski, Der automatisierte Verwaltungsakt Die Verwaltung an der Schwelle von der Automation zur Informations- und Kommunikationstechnik, Duncker & Humblot, Berlin, 1993.

[159] M. Martini, D. Nink, Subsumtionsautomaten ante portas?, cit., 1130: «Einen Grenzfall zulässiger Vollautomatisierung i. S. d. § 35a VwVfG markieren ermessenslenkende Verwaltungsvorschriften. Wenn sie den grundsätzlich bestehenden behördlichen Ermessensspielraum im Wege der Selbstbindung (Art. 3 Abs. 1 GG) auf Null verengen, belassen sie einer Software im Ergebnis faktisch keine Wertungsaufgaben mehr».

[160] G. Pascuzzi, Il diritto dell’era digitale. Tecnologie informatiche e regole privatistiche, Il Mulino, Bologna, 2002.

[161] V. Ottaviano, Appunti in tema di amministrazione e cittadino nello Stato democratico (1988), ora in Id., Scritti giuridici, vol. II, Giuffré, Milano, 1993, 53.

[162] Come quelli legati alle misure conoscitive, evidentemente rivoluzionate dalla invenzione della stampa.

[163] C. Coglianese, D. Lehr, Transparency and Algorithmic Governance, cit., 8: «With the advancement of machine-learning techniques and the proliferation of supporting back-end data infrastructures, the role for algorithms in government is likely to expand».

[164] Sui rischi e opportunità di un’amministrazione algoritmica v., anche per ulteriori riferimenti bibliografici, C. Coglianese, D. Lehr, Regulating by Robot: Administrative Decision Making in the Machine-Learning Era, in The Georgetown Law Journal, vol. 105, 2017, 1147.

[165] Osserva S.C. Morse, When Robots Make Legal Mistake, in Oklahoma Law Review, Vol. 72, 2019, 213 e spec. 218 che «the function of explainability—or not—in the development of the law created by robots still deserves further study».