Intelligenza artificiale e appalti. La prima volta di “chat gpt” in giudizio

Si all’intelligenza artificiale, ma l’ultima parola deve essere dell’umano

In principio fu, nel novembre 2022, “Chat GPT” (Generative Pre-Trained Transformer” ovvero “trasformatore generativo pre-addestrato”), primo programma ad uso massivo di intelligenza artificiale.

L’UE ha adottato il Regolamento (Ue) 2024/1689 del Parlamento Europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (“Ai-Act”).

Il Regolamento mira a garantire che l’intelligenza artificiale sia sviluppata e utilizzata in modo sicuro, responsabile ed etico, in linea con i valori dell’Unione europea.
Stabilisce quattro categorie di rischio per i sistemi di intelligenza artificiale, a seconda del loro potenziale impatto sui cittadini. I sistemi di intelligenza artificiale ad alto rischio, come quelli utilizzati nei settori medico o dei trasporti, saranno soggetti a requisiti più rigorosi.

In base all’articolo 3 dell’AI-Act che riporta tutte le Definizioni chiave del Regolamento , il “Sistema di IA” è un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali.

Si fa riferimento, in particolare, ai sistemi di IA generativa che si basano su tali modelli, ad esempio, ChatGPT, dovrebbero rispettare i requisiti di trasparenza (dichiarando che il contenuto è stato generato dall’IA), aiutando anche a distinguere le cosiddette immagini deep-fake e da quelle reali, e fornire salvaguardie per evitare la generazione di contenuti illegali. Dovrebbero inoltre essere pubblicate le sintesi dettagliate dei dati protetti dal diritto d’autore utilizzati per l’addestramento.

Il Regolamento stabilisce:

. regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di IA nell’Unione;

. divieti di talune pratiche di IA;

. requisiti specifici per i sistemi di IA ad alto rischio (art.6 e Capo III) e obblighi per gli operatori di tali sistemi;

. regole di trasparenza armonizzate per determinati sistemi di IA;

. regole armonizzate per l’immissione sul mercato di modelli di IA per finalità generali (Capo V);

. regole in materia di monitoraggio del mercato, vigilanza del mercato, governance ed esecuzione;

. misure a sostegno dell’innovazione, con particolare attenzione alle PMI, comprese le start-up.

In ambito nazionale, con riferimento agli appalti pubblici, l’IA è richiamata dall’art. 19 e dall’art. 30 del d.lgs. 31 marzo 2023, n. 36 (codice dei contratti pubblici).

Art. 19 c. 7 – “Ove possibile e in relazione al tipo di procedura di affidamento, le stazioni appaltanti e gli enti concedenti ricorrono a procedure automatizzate nella valutazione delle offerte ai sensi dell’articolo 30”.

Art. 30  – “Uso di procedure automatizzate nel ciclo di vita dei contratti pubblici”. Viene previsto quanto segue:

“1. Per migliorare l’efficienza le stazioni appaltanti e gli enti concedenti provvedono, ove possibile, ad automatizzare le proprie attività ricorrendo a soluzioni tecnologiche, ivi incluse l’intelligenza artificiale e le tecnologie di registri distribuiti, nel rispetto delle specifiche disposizioni in materia.

2. Nell’acquisto o sviluppo delle soluzioni di cui al comma 1 le stazioni appaltanti e gli enti concedenti:

a) assicurano la disponibilità del codice sorgente, della relativa documentazione, nonché di ogni altro elemento utile a comprenderne le logiche di funzionamento;

b) introducono negli atti di indizione delle gare clausole volte ad assicurare le prestazioni di assistenza e manutenzione necessarie alla correzione degli errori e degli effetti indesiderati derivanti dall’automazione.

3. Le decisioni assunte mediante automazione rispettano i principi di:

a) conoscibilità e comprensibilità, per cui ogni operatore economico ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e, in tal caso, a ricevere informazioni significative sulla logica utilizzata;

b) non esclusività della decisione algoritmica, per cui comunque esiste nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata;

c) non discriminazione algoritmica, per cui il titolare mette in atto misure tecniche e organizzative adeguate al fine di impedire effetti discriminatori nei confronti degli operatori economici”.

Il terzo comma codifica quindi quattro principi del diritto delle nuove tecnologie. Si tratta dei principi di conoscibilità, comprensibilità, non esclusività e non discriminazione.

Nella relazione illustrativa al Codice si legge quanto segue:

Art. 30  – I commi da 1 a 3 rivestono particolare rilievo in quanto si tratta di una disciplina di grande novità per l’ordinamento italiano perché, per la prima volta, sebbene nel solo settore dei contratti pubblici, sono individuati a livello normativo i principi da rispettare in caso di utilizzo di procedure automatizzate.  L’introduzione della disposizione si è resa necessaria in ragione del criterio di delega di cui alla lettera t) che ammette, per le stazioni appaltanti, la possibilità di ricorrere anche ad automatismi nella valutazione delle offerte. Si tratta di una disposizione volta a disciplinare il futuro (prossimo), in quanto, allo stato, nell’ambito delle procedure di gara sono utilizzati per lo più algoritmi non di apprendimento, utilizzati per il confronto automatico di alcuni parametri caratterizzanti le offerte e conoscibili. Tuttavia, non si può escludere che, a breve, la disponibilità di grandi quantità di dati possa consentire l’addestramento di algoritmi di apprendimento da applicare alle procedure di gara più complesse; da qui l’utilità dell’inserimento di una disciplina che richiami i principi destinati a governare tale utilizzo, anche alla luce dei principi affermati sia in ambito europeo che dalla giurisprudenza amministrativa. Inoltre, deve considerarsi che dopo la modifica dell’art. 3-bis, nell’ambito della legge 7 agosto 1990, n. 241, che ha previsto la regola generale dell’utilizzo di strumenti informatici e telematici da parte delle pubbliche amministrazioni,  per conseguire maggiore efficienza nella loro attività, nei rapporti interni, tra le diverse amministrazioni e tra queste e i privati, la disposizione introdotta con  l’articolo 30 rappresenta un tassello importante che si aggiunge al tema dell’utilizzo degli algoritmi e dei sistemi di intelligenza artificiale nell’ambito di tutta l’attività amministrativa. Sono recepiti non soltanto i principi, che si sono da tempo affermati in ambito europeo sul tema dell’utilizzo di soluzioni di intelligenza artificiale  ma anche – come accennato poco sopra – quelli enunciati dai giudici amministrativi, secondo cui le stazioni appaltanti, in sede di acquisto o sviluppo delle soluzioni tecnologiche, si assicurano la disponibilità del codice sorgente e di ogni altro elemento utile a comprenderne le logiche di funzionamento; che la decisione assunta all’esito di un processo automatizzato deve considerarsi imputabile alla stazione appaltante. Sono altresì recepiti i principi per cui il processo decisionale non deve essere lasciato interamente alla macchina, dovendo assicurarsi il contributo umano per controllare, validare ovvero smentire la decisione automatica e per cui la decisione algoritmica non comporti discriminazioni di sorta.

Algoritmi “tradizionali” e algoritmi di machine learning.

Con sentenza n. 7891/2021, il Consiglio di Stato ha inteso tipizzare la nozione di algoritmo.

Richiamando la sentenza del TAR Lombardia n. 843/2021, il C. di S. ha puntualizzato che, nel caso trattato,  “la legge di gara richiede unicamente la presenza di un algoritmo di trattamento (senza altro specificare)” ha definito il concetto di algoritmo, affermando che “con esso ci si richiama, semplicemente, a una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato (come risolvere un problema oppure eseguire un calcolo (….)”. Ha aggiunto, il primo giudice, al fine di meglio circoscrivere il concetto, che “non deve confondersi la nozione di “algoritmo” con quella di “intelligenza artificiale”, riconducibile invece allo studio di “agenti intelligenti”, vale a dire allo studio di sistemi che percepiscono ciò che li circonda e intraprendono azioni che massimizzano la probabilità di ottenere con successo gli obiettivi prefissati….. sono tali, ad esempio, quelli che interagiscono con l’ambiente circostante o con le persone, che apprendono dall’esperienza (machine learning), che elaborano il linguaggio naturale oppure che riconoscono volti e movimenti”.

Nel caso dell’intelligenza artificiale l’algoritmo contempla meccanismi di machine learnig e crea un sistema che non si limita solo ad applicare le regole sofware e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico.

La prima volta di “CHAT GPT” in giudizio

La recente sentenza TAR Lazio – Sezione Seconda – del 3 marzo 2025 n. 4546 si pronuncia sull’impiego dell’IA nella nelle procedure di appalto.

Riguarda l’aggiudicazione del lotto n. 2 della gara indetta da Consip s.p.a. per la stipula di un accordo quadro ai sensi dell’art. 59, comma 4, lett. a), del d.lgs. n. 36/2023, avente ad oggetto i servizi di pulizia e sanificazione per gli Enti del Servizio Sanitario Nazionale, lotto n. 2 (CIG A03C4F606E), relativo agli immobili ubicati nella Regione Umbria.

Relativamente alla controversia di che trattasi, questa appare utilizzata nella fase elaborativa delle offerte, nei contenuti prestazionali proposti, nelle valutazioni di merito sui contenuti di offerta.

Se ne ricavano i seguenti principi, che paiono coerenti con il quadro normativo sopra richiamato.

L’utilizzo dell’IA nei contenuti prestazionali dell’appalto – in quanto previsto nell’offerta tecnica – può dare luogo a punteggio in quanto “i sistemi di IA non sono di per sé inaffidabili, potendo anzi essere validamente utilizzati come supporto matematico e statistico per rafforzare l’efficienza dei servizi offerti.”

Pertanto, l’(eventuale) inaffidabilità dei sistemi di “IA” proposti nell’offerta deve essere dimostrata dal ricorrente – che deve comprovare l’illogicità del giudizio espresso dalla commissione, trattandosi di valutazioni discrezionali.

La commissione di gara, specularmente, deve valutare i contenuti di offerta, al di là dell’apporto alla medesima di elaborazioni prodotte dall’intelligenza artificiale.

A loro volta, censure proposte in giudizio costruite solo sulla base di “interrogazioni” di Chat GPT vanno considerate “prive di qualunque fondamento logico e giuridico”.

Aree di possibile impiego dell’IA negli appalti

Ecco alcune aree in cui l’IA può avere, dal lato della domanda, applicazione negli appalti:

Analisi predittiva: L’IA può essere utilizzata per analizzare i dati storici degli appalti pubblici e fare previsioni sul comportamento futuro del mercato, fornendo indicazioni per la migliore configurazione della gara, per la fissazione della base d’asta, ecc.

Rating dei potenziali fornitori, a seguito di elaborazioni dei dati presenti nelle banche dati di settore

Innovazione tecnologica nei contratti: Il Codice dei contratti pubblici promuove l’innovazione e la sostenibilità nelle gare d’appalto. Con l’avanzamento dell’IA, le amministrazioni possono includere nel bando d’appalto criteri che incoraggiano l’adozione di soluzioni innovative, come l’utilizzo di sistemi di IA per l’automazione di processi, la gestione dei contratti o il monitoraggio delle performance dei fornitori

Automatizzazione dei processi di valutazione: L’IA può analizzare automaticamente le offerte ricevute in un processo di gara, valutandole in base a parametri predefiniti.

Criteri di aggiudicazione: Il Codice prevede l’uso del criterio dell'”offerta economicamente più vantaggiosa”, che non si limita al prezzo, ma considera anche la qualità. L’IA potrebbe essere impiegata per supportare la valutazione della qualità delle offerte, attraverso modelli predittivi e analisi avanzate dei dati.

Valutazione dell’offerta anomala/remuneratività dell’offerta, sulla base dei dati di mercato

Gestione dei contratti: verifiche di conformità, controlli sull’andamento dell’esecuzione e controllo dell’andamento dell’equilibrio del contratto, sulla base dei dati economici

Gestione delle frodi: L’uso dell’intelligenza artificiale nella rilevazione di frodi potrebbe essere utile per monitorare l’integrità dei processi d’appalto. Algoritmi di machine learning possono esaminare pattern sospetti nelle offerte o nelle transazioni finanziarie, contribuendo a rilevare attività fraudolente.

Ottimizzazione delle risorse e gestione dei contratti: L’intelligenza artificiale può essere utilizzata per ottimizzare l’allocazione delle risorse durante l’esecuzione di un contratto di appalto, monitorando in tempo reale i progressi e i costi, consentendo una gestione più efficiente.

Compliance e conformità: L’IA può anche essere utilizzata per verificare la conformità alle normative, automatizzando la verifica dei documenti richiesti nelle gare d’appalto, come certificazioni o dichiarazioni legali.