Pubblica amministrazione e AI: questione controversa

Il dibattito giuridico in merito all’Intelligenza Artificiale si concentra in via prioritaria – se non quasi esclusiva – sull’AI Act (Regolamento UE 2024/1689) e sui recenti disposti normativi introdotti dal legislatore nazionale, cui alla legge 25 luglio 2025, n. 132. Pur trattandosi di riferimenti normativi imprescindibili, limitare l’analisi a tali fonti rischia di offrire una visione incompleta del fenomeno. Un ruolo di rilievo, infatti, è svolto dal Nuovo Codice dei Contratti pubblici (D.Lgs. 36/2023), emanato prima delle due discipline citate.

Il Codice affronta in maniera organica il tema della transizione digitale, che applicata alla Pubblica amministrazione pone un’esigenza di particolare attenzione, vista la delicatezza del ruolo e funzioni della “cosa pubblica”. Gli articoli 19 e 30 del Codice costituiscono infatti qualcosa di più di una semplice autorizzazione all’impiego di strumenti tecnologici. Essi delineano un vero e proprio modello di governance algoritmica, individuando le condizioni giuridiche entro le quali le amministrazioni possono ricorrere a processi automatizzati nello svolgimento delle procedure di affidamento.

Per lungo tempo il Legislatore ha affrontato il tema della digitalizzazione della Pa concentrandosi prevalentemente sugli strumenti: documenti informatici, firme elettroniche, interoperabilità delle banche dati, piattaforme digitali, identità digitale (cui al Codice dell’Amministrazione Digitale, il D.Lgs. 82/2005). L’intelligenza artificiale impone, invece, un diverso livello di riflessione: come disciplinare l’utilizzo di sistemi capaci di fornire decisioni destinate ad incidere sul processo decisionale di un ente pubblico.

È proprio sotto questo profilo che il Codice dei contratti pubblici assume una portata che, in un certo senso, trascende il settore degli appalti e assume rilevanza generale. Infatti, gli articoli 19 e 30 non regolano esclusivamente una specifica fase procedimentale, ma introducono principi destinati a rappresentare un paradigma generale per l’impiego dell’intelligenza artificiale nella funzione amministrativa: trasparenza, tracciabilità, conoscibilità del funzionamento degli algoritmi, controllo umano, il principio di non discriminazione, la sicurezza informatica e la responsabilità dell’amministrazione.

E tale impostazione trova oggi una significativa conferma nell’art. 14 della legge n. 132/2025, la quale stabilisce alcuni principi di fondamentale rilevanza. Ad esempio, che l’AI viene implementata ed utilizzata al fine di incrementare l’efficienza dell’azione amministrativa e migliorare efficienze e qualità dei servizi offerti oppure che le Pa devono assicurare la conoscibilità del funzionamento dei sistemi automatizzati e la tracciabilità del loro utilizzo. Ma soprattutto che l’intelligenza artificiale opera esclusivamente quale strumento di supporto all’attività provvedimentale (articolo 14, comma 2) e deve essere utilizzata nel rispetto dell’autonomia e del potere decisionale del singolo individuo, che resta l’unico soggetto responsabile delle decisioni derivate dall’utilizzo dell’automazione.

Pertanto, l’AI non sostituisce mai l’essere umano (o l’amministrazione), ma ne modifica, piuttosto, le modalità di esercizio dei poteri decisionali. La stessa logica ispira l’AI Act, fondato sull’idea che l’affidabilità dei sistemi di intelligenza artificiale dipenda non solo dalle loro prestazioni tecnologiche, ma anche dall’adozione di misure tecniche, organizzative e documentali idonee a garantire trasparenza, supervisione umana, gestione del rischio e tutela dei diritti fondamentali.

Sotto questo profilo emerge un’interessante convergenza tra la disciplina europea e quella nazionale. Mentre l’AI Act definisce un quadro generale applicabile ai sistemi di intelligenza artificiale, il Codice dei contratti pubblici individuava già, per il settore degli appalti, le concrete modalità attraverso cui tali principi avrebbero dovuto tradursi nel quotidiano agere amministrativo.

Ne deriva che il D.lgs. n. 36/2023 costituisce, di fatto, una delle prime applicazioni legislative del principio di human oversight nell’ordinamento italiano, anticipando una parte significativa delle logiche successivamente sviluppate dal legislatore europeo (prima) e con la Legge 132/2025 poi.

La questione centrale, pertanto, non è stabilire se le amministrazioni possano utilizzare sistemi di intelligenza artificiale nelle procedure di affidamento, interrogativo al quale il legislatore ha già risposto positivamente, ma piuttosto nell’individuare le condizioni che rendono legittimo tale utilizzo e nel comprendere come muti il contenuto degli obblighi gravanti sulle stazioni appaltanti quando una parte dell’attività amministrativa viene affidata a processi automatizzati.

Per il rispetto di tali principi, è previsto al comma 2 dell’art. 30 del Nuovo Codice dei Contratti, che le Amministrazioni debbano fornire “la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprendere le logiche di funzionamento”. Ciò però potrebbe evidenziare qualche criticità, in quanto se fornire il cosiddetto codice sorgente, e cioé l’infrastruttura software che gestisce il sistema, non pare ledere alcun diritto di privativa, non altrettanto può dirsi per le logiche di funzionamento, cioè su come operano i LLM (Large Language Model), che invece potrebbero essere oggetto di proprietà intellettuale.

Assume infine grande rilevanza il tema relativo al contenzioso amministrativo. Infatti, gli obblighi previsti dall’art. 30 del D.Lgs 36/2023, in particolare quelli relativi alla conoscibilità delle logiche di funzionamento del sistema (e alla disponibilità del codice sorgente), assumono peso decisivo in ossequio al rispetto dei principi di trasparenza e correttezza dell’azione amministrativa, nonché a tutela del diritto di difesa degli interessati.

In assenza di un adeguato livello di trasparenza, è infatti chiaro come l’operatore economico difficilmente potrebbe accertare le ragioni a fondamento della decisione amministrativa automatizzata o contestarne eventuali errori/malfunzionamenti, con evidenti ricadute sull’effettiva sindacabilità dell’azione amministrativa.

La giurisprudenza amministrativa si è già espressa in questa direzione. Il Consiglio di Stato, con la sentenza n. 2270/2019, ha affermato che le decisioni automatizzate non possono essere sottratte al controllo umano e che deve essere garantita la trasparenza delle logiche decisionali. Successivamente il Tar Lazio, con la sentenza n. 13692/2020, ha riconosciuto il diritto degli interessati a conoscere il software utilizzato, affermando l’esistenza di un interesse concreto all’accesso al codice sorgente.

Nel medesimo solco si collocano le più recenti pronunce del Consiglio di Stato. La sentenza n. 4857/2025 ha evidenziato come l’art. 30 del Codice dei contratti pubblici manifesti una chiara preferenza per gli algoritmi open source e, comunque, assicuri la disponibilità del codice sorgente, prevedendo che la motivazione del provvedimento richiami il modello matematico e il codice impiegati, con possibilità di accesso anche ai relativi dataset.

La successiva sentenza n. 4520/2026 ha ribadito che l’indisponibilità del codice sorgente impedisce la verifica della regolarità della procedura e un effettivo scrutinio giurisdizionale. Richiamando il principio della vicinanza della prova, il Consiglio di Stato ha inoltre affermato che spetta all’amministrazione dimostrare l’infondatezza delle contestazioni formulate dagli interessati. Nel caso de quo, il Consiglio di Stato, alla luce dell’indisponibilità del codice sorgente e dell’impossibilità di ricostruire ex post la regolarità della procedura concorsuale, ha annullato i provvedimenti adottati dalla Pa.

Nonostante i primi importanti chiarimenti forniti dalla giurisprudenza, quella del contenzioso permane una questione destinata ad assumere crescente rilievo nel contesto della digitalizzazione. Occorrerà quindi individuare il corretto punto di equilibrio tra il principio di trasparenza e la tutela della proprietà intellettuale delle soluzioni di AI, soprattutto nei casi in cui vengano impiegati modelli particolarmente complessi. È verosimile che proprio su questo terreno si svilupperanno alcune delle più rilevanti questioni interpretative dei prossimi anni, chiamando la giurisprudenza a definire quale grado di conoscibilità sia effettivamente necessario affinché il controllo sull’azione amministrativa rimanga pieno ed effettivo.