Algoritmi e intelligenza artificiale: interviene il Consiglio di Stato

Articolo header

Chiamato a dirimere una controversia relativa ad una gara d’appalto per la fornitura di apparecchiature elettromedicali, il massimo giudice amministrativo si è espresso sulla delicata distinzione tra algoritmo e sistema di intelligenza artificiale, offrendo un’interpretazione idonea a destare alcune perplessità.


Articolo a cura del Gruppo Intelligenza Artificiale del Comitato Scientifico di ASSO DPO

Con la sentenza n. 7891 del 4-25 novembre 2021 la terza sezione del Consiglio di Stato è intervenuta in un procedimento connesso ad una gara nazionale per la fornitura di pacemaker e defibrillatori di “alta fascia” per gli enti sanitari lombardi. 

Oggetto della controversia è nello specifico da individuarsi nell’attribuzione del punteggio alle offerte tecniche presentate da due dei concorrenti. Il bando di gara predisposto dalla stazione appaltante prevedeva infatti, tra i criteri di valutazione dell’offerta, che fosse premiata con il punteggio massimo la presenza di un algoritmo di prevenzione e trattamento delle tachiaritmie atriali, mentre un punteggio minore sarebbe stato attribuito nel caso di presenza “del solo algoritmo di prevenzione o del solo algoritmo di trattamento".

Non essendosi aggiudicata il bando, una delle società partecipanti alla gara si era dunque rivolta al TAR lombardo, contestando il punteggio ricevuto proprio con riferimento al requisito della presenza dell’algoritmo. 

La ricorrente sosteneva in particolare che la Commissione di gara fosse caduta in un errore di valutazione nella misura in cui non aveva assegnato al prodotto dalla stessa offerto il punteggio massimo, nonostante questo prevedesse effettivamente il ricorso ad un algoritmo di trattamento, seppur attivabile previo collegamento, da parte di un operatore umano, a strumentazione esterna, denominato NIPS (“Non-Invasive Program Stimulation”).

La stessa Commissione aveva invece premiato il prodotto offerto dall’aggiudicataria, dotato di un algoritmo “automatico”, ovverosia in grado di determinare l’attivazione automatica del dispositivo in presenza di determinate circostanze.  

Il giudice di prime cure aveva accolto le doglianze: essendosi il bando di gara limitato a richiedere la mera presenza di un algoritmo di trattamento delle tachiaritmie atriali, senza ulteriori specifiche, entrambi i prodotti avrebbero dovuto ricevere il medesimo punteggio. A detta del giudice amministrativo, infatti, l’automatismo che caratterizzava l’algoritmo implementato dall’impresa aggiudicatrice era piuttosto idoneo a qualificarlo come sistema di intelligenza artificiale, requisito non rilevante ai fini dell’attribuzione del punteggio.

La sentenza

Il Consiglio di Stato ha completamente ribaltato la sentenza di primo grado, e - ciò che è più curioso - ha fondato la decisione proprio sull’interpretazione del concetto di “algoritmo”.

Se da un lato infatti il Collegio non ha contestato la definizione tradizionale di algoritmo fornita dal TAR

“Una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato”.

dall’altro ne ha proposto un’interpretazione evolutiva. A detta del Consiglio, infatti, nel momento in cui viene “applicata a sistemi tecnologici”, la nozione di algoritmo risulta “ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano”. 

Ma vi è di più: i giudici di secondo grado hanno anche colto l’occasione per tornare sul concetto di intelligenza artificiale, specificando che esso risulta applicabile unicamente a quegli algoritmi che contemplano “meccanismi di machine learning”, creando un sistema che “elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”. La qualificazione operata dal TAR dell’algoritmo implementato nei prodotti dell’aggiudicataria era pertanto errata.

Sulla base delle considerazioni sopra svolte, i giudici hanno dunque statuito che la stazione appaltante non era assolutamente tenuta a menzionare il concetto di intelligenza artificiale nel proprio bando: considerato il contesto, la semplice presenza del termine algoritmo tra i requisiti tecnici andava letta nel senso che i dispositivi oggetto di offerta dovessero essere in grado di garantire un efficiente grado di automazione

Il Collegio ha poi affermato che, non contribuendo l’algoritmo NIPS a ridurre l’intervento umano nel processo di prevenzione e trattamento delle tachiaritmie atriali, la Commissione di gara non lo aveva correttamente considerato ai fini dell’attribuzione del punteggio.

Alcune considerazioni

Il provvedimento in esame rappresenta in maniera emblematica le difficoltà connesse al recepimento in ambito giuridico di concetti legati al mondo digitale ed informatico, in assenza di chiare linee guida o definizioni da parte del legislatore. Difficoltà che sempre più affliggono gli interpreti della legge, spesso sforniti dei mezzi necessari per inquadrare correttamente fenomeni e temi di grande attualità ed enorme rilevanza, qual è quello dell’intelligenza artificiale.

Distinto è il senso di incertezza che permane dopo aver letto le interpretazioni offerte dai giudici amministrativi dei concetti di algoritmo, algoritmo operante all’interno di un sistema tecnologico e di intelligenza artificiale. Soprattutto nel momento in cui pensiamo che, tecnicamente parlando, un sistema di IA spesso prevede il funzionamento di molteplici algoritmi, ma può essere a sua volta visto come un unico algoritmo complesso.

In tal senso v. European Parliamentary Research Service, “The impact of the General Data Protection Regulation (GDPR) on artificial intelligence”, 2020.

La nozione di algoritmo - che risale, lo ricordiamo, ad un’epoca in cui gli elaboratori erano ben al di là da venire - di per sé stessa non implica infatti in alcun modo il concetto di automatizzazione, intesa come assenza dell’intervento umano, tipica piuttosto del concetto di “processo decisionale automatizzato”, che dal 2018 trova peraltro una sua disciplina proprio nel Regolamento (UE) 2016/679. Essa piuttosto indica una qualsiasi sequenza di istruzioni definite in modo univoco per eseguire un compito, in particolare - ma non esclusivamente - attraverso calcoli matematici. Le considerazioni della Corte in tema di algoritmo operante all’interno di un sistema tecnologico rischiano pertanto di risultare fuorvianti e poco coerenti rispetto alla realtà dei fatti.

Allo stesso modo, lascia perplessi l’equiparazione tra sistema di intelligenza artificiale e algoritmi di machine learning. Gli algoritmi di IA possono infatti prevedere il coinvolgimento di diversi tipi di ragionamento epistemico o pratico, così come diversi modalità di apprendimento, inclusa l’applicazione di regole, che i giudici amministrativi non sembrano ritenere sufficiente per acquisire l’agognato status di IA. 

L’interpretazione della Corte appare ancor più riduttiva alla luce della definizione di "sistema di intelligenza artificiale

“Un software sviluppato con una o più delle tecniche e degli approcci elencati nell'allegato I, che può, per una determinata serie di obiettivi definiti dall'uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono” (Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull'Intelligenza Artificiale (legge sull'Intelligenza Artificiale) e modifica alcuni atti legislativi dell'Unione, art. 3, n. 1).

sviluppata a livello europeo e contenuta nella bozza di Regolamento sull’Intelligenza Artificiale del 21 aprile 2021, che include anche software basati su “approcci statistici, stima bayesiana, metodi di ricerca e ottimizzazione”.

Conclusioni

La sentenza in commento lascia forse più interrogativi che risposte e per le motivazioni sopra esposte non si ritiene determinante ai fini dell’inquadramento, in ambito giuridico, dei concetti di algoritmo e sistema di intelligenza artificiale. 

Ciononostante, essa rappresenta una valida testimonianza di come il processo di digitalizzazione e informatizzazione proceda sempre più spedito e determini ricadute sempre più evidenti sulla nostra società.

Altre News