Cesare Parodi
Procuratore della Repubblica di Alessandria
5. Tecnologia, potere e garanzie
Un ulteriore profilo di criticità è individuato nella natura del potere tecnologico, descritto come “prevalentemente ‘privato’”.[14] L’emergere di grandi attori tecnologici comporta una trasformazione dei centri di decisione, con implicazioni rilevanti sul piano della legittimazione e del controllo democratico. Non è indifferente che strumenti capaci di orientare scelte pubbliche, influenzare l’accesso ai servizi, modulare la visibilità delle informazioni e incidere indirettamente sulle libertà individuali siano progettati, addestrati e gestiti in ambienti sottratti, almeno in larga misura, alle tradizionali forme di responsabilità pubblica. La questione non riguarda soltanto la proprietà delle infrastrutture, ma il governo dei criteri che presiedono alla raccolta dei dati, alla selezione degli obiettivi e alla gerarchizzazione dei rischi.
In questa prospettiva, assumono particolare rilievo le disposizioni del Regolamento (UE) 2016/679, in particolare l’art. 22, che riconosce all’interessato il diritto di non essere sottoposto a decisioni fondate unicamente su trattamenti automatizzati.[15] Tale previsione, pur non esaurendo i problemi posti dall’IA, esprime un principio di straordinaria importanza sistematica: la persona non può essere integralmente assorbita da un procedimento che la classifichi e la definisca senza intervento umano significativo. È un principio che dialoga in modo profondo con la prospettiva dell’enciclica, là dove questa richiama la necessità di impedire che il potere tecnico produca nuove forme di dominio opaco.
La centralità di Magnifica Humanitas nel dibattito sull’IA deriva anche dalla capacità di ricondurre il tema della regolazione a un problema di assetto del potere. Troppo spesso l’attenzione si concentra sulla funzionalità degli strumenti e assai meno sulla distribuzione del potere conoscitivo ed economico che li sostiene. L’enciclica ricorda invece che ogni tecnologia di larga scala incide sulla struttura della convivenza: crea dipendenze, accentua intermediazioni, ridefinisce sfere di autonomia e vulnerabilità. Il diritto è allora chiamato a esercitare una funzione ordinante che non si limiti alla protezione individuale ex post, ma operi anche sul terreno preventivo della trasparenza, della tracciabilità, della verificabilità e della responsabilità degli attori coinvolti.[16]
6. La questione di fondo: il criterio della “umanizzazione”
Alla luce di tali considerazioni, la domanda formulata nell’enciclica — “L’IA rende la vita umana […] più umana?” — può essere assunta come criterio guida per la valutazione giuridica dell’innovazione tecnologica.[17] Si tratta di una domanda solo apparentemente semplice. In realtà essa possiede una forza metodologica notevole, perché impone di spostare il baricentro della valutazione dal mezzo al fine, dalla prestazione all’esperienza umana che la tecnologia produce. Il riferimento alla “umanizzazione” non è un richiamo sentimentale, ma il tentativo di formulare un parametro normativo capace di unificare il discorso giuridico, politico ed etico: una innovazione è giuridicamente degna di promozione se accresce la libertà concreta della persona, ne protegge la dignità, ne amplia la capacità relazionale e non la riduce a semplice terminale di procedure eterodirette.
Essa consente di orientare il giudizio non sulla base della sola efficienza, ma in funzione della promozione della dignità e dei diritti fondamentali. Il criterio dell’umanizzazione può così operare come clausola di orientamento per il legislatore, per l’interprete e per l’amministrazione. Per il legislatore, esso suggerisce che la disciplina dell’IA non debba limitarsi a incentivare l’innovazione, ma debba incorporare soglie di tutela effettiva della persona. Per l’interprete, richiede di valutare gli strumenti tecnologici alla luce dei principi supremi dell’ordinamento e non soltanto della loro utilità pratica. Per l’amministrazione e per gli apparati giudiziari, esige che l’adozione di soluzioni automatizzate sia sempre accompagnata da forme adeguate di controllo umano, documentazione delle scelte e verificabilità delle conseguenze.
È in questa capacità di offrire un criterio ordinante, insieme semplice e radicale, che l’enciclica assume un ruolo centrale nella discussione sull’IA. Là dove molte analisi si limitano alla catalogazione dei rischi, Magnifica Humanitas propone un principio di giudizio complessivo. Per il giurista, esso si traduce nell’esigenza di verificare, in ogni concreto contesto applicativo, se la tecnologia serva la persona o se, al contrario, tenda a riplasmare la persona secondo le esigenze della tecnologia. In questa alternativa si gioca non solo la qualità delle norme future, ma la fisionomia stessa dello Stato di diritto nell’epoca digitale.[18]
7. Conclusioni sistematiche
La riflessione conduce, infine, a una conclusione di carattere sistematico. L’enciclica afferma che “il progresso tecnico […] senza progresso morale si rivolge contro l’uomo”.[19] Trasposta nel linguaggio giuridico, tale affermazione segnala il rischio che l’innovazione, se non adeguatamente governata, conduca a una regressione delle garanzie. Il diritto è chiamato non a limitarsi alla registrazione del cambiamento tecnologico, ma a esercitare una funzione di orientamento e di governo. Ciò comporta, in primo luogo, il rifiuto di ogni determinismo tecnologico: nessuna innovazione, per il solo fatto di essere possibile o conveniente, è per ciò stesso giuridicamente accettabile.
La prospettiva dell’enciclica sollecita altresì un recupero della dimensione prudenziale del diritto. In materia di IA, la prudenza non coincide con la diffidenza pregiudiziale verso il nuovo, ma con la consapevolezza che l’introduzione di sistemi capaci di incidere sulle libertà individuali e sulla formazione delle decisioni pubbliche richiede un surplus di motivazione, di controllo e di responsabilità istituzionale. In altri termini, più cresce il potere della tecnica, più deve intensificarsi la capacità del diritto di orientarlo entro fini costituzionalmente legittimi.
È proprio questa saldatura tra responsabilità, limite e tutela della persona a rendere Magnifica Humanitas un testo destinato a restare nel confronto pubblico sull’intelligenza artificiale. La sua centralità non dipende dalla novità lessicale né da una pretesa di tecnicismo, ma dalla forza con cui richiama l’essenziale: che l’uomo non può essere trattato come variabile dipendente di un sistema che egli stesso ha creato. Da qui discende, sul piano sistematico, la necessità di una cultura giuridica dell’IA capace di difendere non soltanto singoli diritti, ma l’architettura stessa delle garanzie che rende possibile una convivenza libera e democratica.[20]
8. Il ruolo della magistratura nella trasformazione tecnologica
La riflessione dell’enciclica consente di individuare implicazioni specifiche anche per il ruolo della magistratura, intesa quale garante ultimo della legalità costituzionale e della tutela dei diritti fondamentali. In tale prospettiva, il giudice è chiamato a svolgere una funzione che non può essere ridotta a mera gestione efficiente dei procedimenti. L’introduzione di strumenti algoritmici nei processi decisionali non esime il magistrato dall’obbligo di verificare la coerenza costituzionale delle decisioni e la loro riconducibilità a un percorso razionale comprensibile e controllabile. Quanto più sofisticati diventano gli strumenti di ausilio, tanto più decisivo diventa il presidio umano sulla motivazione, sulla ricostruzione del fatto e sulla giustificazione della scelta interpretativa.[21]
La centralità della motivazione, già affermata dalla giurisprudenza di legittimità, assume pertanto una valenza ancora più accentuata nei contesti caratterizzati dall’uso di tecnologie avanzate. Motivare, in una realtà segnata dall’automazione, non significa soltanto spiegare la decisione; significa anche rendere trasparente il rapporto tra eventuale supporto tecnico e giudizio finale, indicando se e come uno strumento algoritmico abbia inciso sul percorso decisionale. Il giudice, in altri termini, deve mantenere una piena padronanza del processo decisionale, verificando che gli strumenti tecnici utilizzati non introducano elementi di opacità incompatibili con il diritto al contraddittorio e con il diritto di difesa.
Ne deriva che, in presenza di sistemi sempre più sofisticati, il ruolo della magistratura non si riduce, ma si rafforza: essa è chiamata a presidiare il confine tra decisione e automazione, tra responsabilità e delega, tra efficienza e giustizia. In questo senso, il messaggio dell’enciclica si rivolge con particolare intensità proprio ai giuristi e ai magistrati. Laddove la cultura tecnologica tende a suggerire che tutto ciò che è calcolabile possa essere anche giudicabile dalla macchina, la giurisdizione è tenuta a ricordare che il diritto vive di interpretazione, di proporzione, di responsabilità personale e di ascolto della concretezza del caso. La magistratura, se vorrà essere all’altezza della trasformazione in atto, dovrà certamente acquisire competenze nuove; ma dovrà soprattutto custodire con maggiore consapevolezza il nucleo irriducibilmente umano della decisione giuridica. È qui che la lezione di Magnifica Humanitas rivela tutta la propria fecondità: non nel rifiuto della tecnica, ma nell’affermazione che nessuna tecnica può sostituire il dovere umano di rispondere dell’altro.[22]
NOTE
14. Magnifica Humanitas, cit., § 5.
15. Regolamento (UE) 2016/679 (GDPR), art. 22.
16. In prospettiva sistematica, trasparenza, tracciabilità e supervisione umana rappresentano condizioni minime per un uso giuridicamente sostenibile dell’IA.
17. Magnifica Humanitas, cit., § 129.
18. Il criterio della “umanizzazione” può essere letto come sintesi assiologica del principio di dignità e della funzione servente della tecnica rispetto alla persona.
19. Magnifica Humanitas, cit., § 94.
20. La funzione ordinante del diritto rispetto all’innovazione emerge con particolare evidenza nei settori in cui la tecnica incide su libertà, uguaglianza e accesso alla giustizia.
21. Cass., Sez. Un., 27 ottobre 2016, n. 22232, in tema di motivazione come garanzia del controllo razionale della decisione.
22. Sul piano della cultura istituzionale, la sfida non consiste soltanto nell’adottare nuovi strumenti, ma nel preservare l’umanità del giudizio entro un contesto tecnologicamente mutato.
