Il fornitore non è sempre responsabile del trattamento

Epifanie giudiziarie dell’amministrazione per software

Androidi, pecore elettriche e controllo umano.

Il meccanismo attraverso il quale si concretizza la decisione robotizzata (software o algoritmo) deve essere conoscibile sia in sé sia per essere soggetto al sindacato del giudice amministrativo. Più in generale, il principio di conoscibilità si applica direttamente al cittadino, che ha diritto di conoscere l’esistenza di processi decisionali automatizzati che lo riguardano e di conoscerne i meccanismi e principi che li regolano (art. 42 Carta Eur. Dir. Fond.). Ai sensi dell’art. 22 Reg. 679/2016 (Reg. Gen. Prot. Dati), poi, il cittadino ha diritto ad un procedimento non esclusivamente robotizzato quando l’esito produca effetti giuridici significativi per la sua persona (principio HITL). L’algoritmo, infine, pur conoscibile e non costituente l’unica motivazione, non può comunque giungere ad una decisione discriminatoria, potendo presentare i vizi tipici dell’atto amministrativo. Applicando tali principi, sono state annullate assegnazioni di cattedre scolastiche effettuate da algoritmo non conosciuto, non contem-plante alcun intervento umano e producente effetti discriminatori e iniqui per i soggetti meglio classificati.

La fattispecie decisa dal Consiglio di Stato nelle quattro sentenze indicate era, in sé, piuttosto semplice: nelle assunzioni a cattedra scolastica, gli aventi diritto avevano riscontrato assegnazioni di sede inique ed incongrue rispetto alle preferenze indicate. Chi, cioè, aveva indicato certe preferenze si era visto senza motivo (ovvero pur in presenza di posti liberi ed assegnabili nelle sedi preferite) destinato altrove.

Il punto è che la decisione (e l’intera serie procedimentale che l’aveva preceduta, a quanto pare) era stata deliberata da un software o algoritmo a) non conosciuto e verificabile dagli interessati, b) né innervato da alcun intervento umano, c) né logico, congruo e coerente nel suo funzionamento, ovvero viziato da parzialità e illogicità. Di qui il ricorso avverso, sostanzialmente, una decisione viziata sin dal procedimento a causa dell’origine del software (perché non prevedeva i requisiti b e c) e della conseguente impossibilità di controllo procedimentale e giurisdizionale, e pertanto viziata e illegittima anche nella sua conclusione. L’interesse delle sentenze è proprio nei principi che dettano e che costituiranno il punto di riferimento della giurisprudenza che inevitabilmente (in epoca di digitalizzazione) sarà chiamata a pronunciarsi. Preso atto di un punto di non ritorno, che è quello del codice dell’amministrazione digitale (d. lgs. 82/2005) che ha dettato le regole della moderna amministrazione della cosa pubblica in applicazione del principio di rango costituzionale del buon andamento (e della derivata economia ed economicità – art. 97 Cost.), il Consiglio di Stato lo salda alle regole comunitarie per poi, di fatto, ritornare ai principi della Costituzione italiana. Per decidere la questione, infatti, i Giudici amministrativi non esitano a richiamare direttamente tre testi eurounitari: anzitutto la Carta europea dei diritti fondamentali, che all’art. 41 stabilisce il right to a good administration, declinato nel senso che ogni cittadino ha diritto a conoscere i meccanismi amministrativi che decidono su suoi diritti o interessi (legittimi, secondo la nostra tradizione, e non). L’art. 22 del Reg. 679/2016 sulla protezione dati, poi, ha ulteriormente precisato il principio, nel senso che il procedimento che riguarda diritti o interessi del cittadino deve prevedere la regola HITL (human-in.the-loop) cioè la presenza di un contributo umano in un qualche punto della sequenza procedimentale. Infine, la c.d. Carta Robotica del 2017 (spec. nn. 49 e 56) , che giunge al punto finale e decisivo. L’uso del software o algoritmo non esime chi lo predispone dall’imputabilità, non essendo questa pensabile se riferita ad un robot o macchina completamente autonoma: ‘occorre garantire la riferibilità della decisione finale all’autorità ed all’organo competente in base alla legge attributiva del potere’ (così plasticamente e testualmente, nelle tre decisioni di dicembre 2019). E qui, per così dire, si torna sotto il tetto rassicurante e ben conosciuto della Costituzione italiana: il principio di responsabilità, secondo la legge attributiva del potere, insieme a quello della trasparenza amministrativa e della buona amministrazione (in primis economicità e imparzialità), cioè tre principi fondanti del nostro diritto amministrativo, che derivano dalla nostra Carta costituzionale. Tenere sempre a portata di mano la nostra Costituzione, oltre ai testi eurounitari e (ormai) a quelli di cibernetica: questo il condivisibile insegnamento del Consiglio di Stato.

Consiglio di Stato, Sez. VI, 8 aprile 2019, n. 2270
Consiglio di Stato, Sez. VI, 13 dicembre 2019 n. 8472, 8473 e 8474 

Pierluigi Giammaria – p.giammaria@lascalaw.com

© RIPRODUZIONE RISERVATA

Print Friendly

Condividi su

Potrebbe interessarti anche
La mediazione è obbligatoria anche per il fideiussore?

«Costituisce condotta anticoncorrenziale rilevante ai fini dell’illecito antitrust la mancata com...

Diritto Amministrativo

Il fornitore non è sempre responsabile del trattamento

“Nell’interpretazione e ricostruzione degli atti di gara (nella specie, del Capitolato e della S...

Diritto Amministrativo

L'indennità di occupazione è percepita dal Custode giudiziario

Sono compatibili con il diritto eurounitario le disposizioni di cui all'art. 1 del decreto-legge 24 ...

Diritto Amministrativo

X