Pasquale Cardone, avvocato a Torino, propone una sintesi ragionata del libro di Shoshana Zuboff, edito in Italia da LUISS, che reca come sottotitolo Il futuro dell’umanità nell’era dei nuovi poteri. Il problema non sono le nuove tecnologie, ma il loro uso spregiudicato, in violazione della privacy e in funzione condizionante dei comportamenti, non soltanto dei consumatori.
1. Shoshana Zuboff è laureata in filosofia e ha un dottorato di ricerca in psicologia. Insegna alla Harvard Business School dove è stata tra le prime donne ad avere una cattedra di ruolo. Nel corso della sua carriera ha studiato l’ascesa, l’affermazione e le trasformazioni dell’era digitale, osservandone le conseguenze economiche e sociali in lavori spesso considerati profetici. Ha scritto anche molto di intelligenza artificiale o, come sarebbe preferibile dire, “intelligenza aumentata”.
Il Capitalismo della Sorveglianza parte da una domanda che nel 1981 un giovane manager di una cartiera fece all’Autrice: lavoreremo tutti per una macchina intelligente o sarà quella macchina ad essere usata da persone intelligenti? La domanda diede vita al primo libro scritto dall’Autrice, “In the Age of the Smart Machine: the future of work and power”. In quella sede, l’Autrice si preoccupò di analizzare e comprendere il mondo digitale che sempre più stava prendendo il sopravvento, ridefinendo qualunque cosa prima di aver la possibilità di riflettere e decidere.
Ma il Capitalismo della sorveglianza è qualcosa che va un gradino oltre. Da molti è considerato l’opera definitiva sull’era che stiamo vivendo. Sia sufficiente, a tal proposito, leggere i commenti riportati in copertina dei vari autori che lo hanno recensito. È un saggio che certamente fa riflettere in maniera approfondita sull’era digitale.
2. Ecco il tema, appunto. Il capitalismo, tradizionalmente inteso come pratica di accumulo delle ricchezze, si fonde oggi con la pratica della sorveglianza, che consente il monitoraggio costante e continuo, ancorché capillare, dei comportamenti umani, in tutte le loro declinazioni, dalle pratiche meramente commerciali, ai comportamenti civici, al fisco, grazie alla possibilità che il mercato globale dei rapporti economico sociali ha di utilizzare soluzioni tecnologiche avanzate e incredibilmente penetranti e invasive.
Per comprendere appieno l’essenza di tale nuova forma di capitalismo pare utile riprendere le prime pagine del libro – di cui riporto integralmente il testo, – nelle quali la Zuboff illustra le differenze tra il progetto AWARE Home da una parte e il termostato NEST, realizzato da una azienda di proprietà della Alphabet, la holding di Google, dall’altra. Nel mettere a confronto le due tecnologie sopra richiamate occorre porre l’attenzione alle rispettive date di nascita. Tra le due invenzioni intercorrono quasi 20 anni.
“Nel 2000, un gruppo di scienziati e ingegneri informatici del Georgia Tech collaborò su un progetto chiamato Aware Home, la “casa consapevole”. L’obiettivo era creare un laboratorio vivente per studiare l’uso dell’informatizzazione in ogni luogo.
Immaginarono una simbiosi uomo casa, nella quale molti processi animati e inanimati sarebbero stati catturati da una complessa rete di sensori consapevoli del contesto incorporati nell’abitazione e da appositi computer indossati dai suoi occupanti.
Il progetto mirava a una collaborazione automatizzata wireless tra la piattaforma che ospitava le informazioni personali ottenute dai computer indossati e una seconda piattaforma che ospitava le informazioni ambientali ricavate dai sensori.
Il sistema Aware Home era pensato come un semplice circuito chiuso con due soli nodi, interamente controllato dagli occupanti della casa. E visto che quest’ultima avrebbe “monitorato costantemente la posizione e l’attività degli occupanti, tracciandone anche le condizioni mediche”, il team stabilì che fosse doveroso “garantire agli occupanti la conoscenza e il controllo della distribuzione di tali informazioni”. Tutto il materiale raccolto sarebbe stato archiviato nei computer indossati dagli occupanti, “per assicurare la privacy delle informazioni”.
Altra storia. Il termostato NEST.
Fa molte cose immaginate da Aware Home: raccoglie dati sul suo uso e sul suo ambiente, e utilizza calcoli e sensori per “imparare” i comportamenti di chi vive in casa. Le app di Nest, inoltre, possono raccogliere dati da altri prodotti interconnessi, come auto, forni, tracker per il fitness e letti. Tali sistemi possono, ad esempio, accendere le luci se scorgono un movimento anomalo, segnalare delle registrazioni audio video, mandare notifiche ai padroni di casa o altre persone.
In seguito alla fusione con Google, il termostato NEST sarà incorporato nelle intelligenze artificiali di Google, compreso il suo “assistente” digitale. Come Aware Home, il termostato e i suoi fratelli raccolgono un numero immenso di nuove conoscenze, e di conseguenza nuovo potere. Ma per conto di chi?
Pensate per il wi-fi e la condivisione in rete, le banche dati intricate e personalizzate di questo termostato vengono caricate sui server di Google. Ogni termostato prevede una privacy policy, un “consenso sui termini del servizio” e un “consenso dell’utente finale”, che rivelano conseguenze opprimenti in termini di privacy e di sicurezza, per le quali le informazioni personali e i dati sensibili vengono condivisi con altri smart device, con persone sconosciute e parti terze allo scopo di effettuare analisi predittive poi vendute a soggetti non specificati.
NEST si assume ben poche responsabilità per la sicurezza delle informazioni che raccoglie, nessuna per come le altre compagnie del suo ecosistema possono usare quei dati.
Una analisi dettagliata delle policy di Nest, effettuata da due studiosi della University of London, ha concluso che chi avesse intenzione di entrare nell’ecosistema Nest di app e device interconnessi, ognuno con i suoi termini d’accordo immancabilmente gravosi e spudorati, per acquistare un singolo termostato dovrebbe analizzare circa mille cosiddetti “contratti”.
Se il cliente si rifiutasse di acconsentire alle norme stilate da NEST, secondo i termini del servizio la funzionalità e la sicurezza del termostato sarebbero pesantemente compromesse, e non sarebbero più supportate dagli aggiornamenti necessari per rendere il prodotto affidabile e sicuro. Le conseguenze sarebbero di vario genere: tubi congelati, guasti agli allarmi antifumo, vulnerabilità del sistema informatico, ed altri.”
3. L’Autrice a questo punto afferma in maniera netta che “nel 2018 i presupposti dai quali partiva Aware Home si sono volatilizzati”. Il cambio di prospettiva rispetto al 2000, soprattutto in relazione al trattamento dei dati personali e, di conseguenza, alla tutela di diritti fondamentali di libertà e dignità delle persone, è evidente.
A cosa era dovuto questo mutamento? E dove sono finiti i presupposti dai quali partiva il progetto del 2000? Aware Home, alla stregua di molti progetti visionari, immaginava un futuro digitale in grado di aiutare i singoli individui a vivere una vita più efficiente.
Il digitale veniva interpretato come strumento atto a migliorare le condizioni di vita delle persone, all’interno di una visione che presumeva il ruolo primario della privacy dell’individuo che, nel momento in cui avesse deciso di digitalizzare la propria vita, avrebbe detenuto i diritti esclusivi sulla conoscenza ricavata da simili dati e sul suo possibile uso.
Oggi, al contrario, il diritto alla privacy, alla conoscenza e all’ uso dei dati personali e delle informazioni più in generale è spesso violato da un mercato aggressivo che ritiene di poter gestire unilateralmente le esperienze delle persone e le conoscenze da esse ricavate. Quali dunque le implicazioni di questo cambiamento epocale?
L’Autrice si preoccupa di dare una risposta a tale domanda non solo limitandola al perimetro di coloro che siano coinvolti nel presente, ma rivolgendo l’attenzione in maniera preponderante alle generazioni future, non trascurando di riflettere sull’impatto che un tale sistema possa avere sulle nostre democrazie.
Riflette sul futuro stesso dell’essere umano che vivrà totalmente immerso in un mondo digitale. Ritiene che il sogno digitale si stia facendo in realtà sempre più oscuro, trasformandosi in quel progetto famelico e totalmente nuovo che l’Autrice chiama appunto capitalismo della sorveglianza, che si appropria dell’esperienza umana usandola come materia prima da trasformare in dati sui comportamenti.
Non si tratta più solamente di utilizzare alcuni di questi dati per migliorare prodotti o servizi; alcuni imprenditori hanno compreso che il vero novum è trasformare il resto – partendo dai dati c.d. di scarto – in un surplus comportamentale privato, sottoposto a un processo di lavorazione avanzato noto come “intelligenza artificiale”, che opera secondo logiche predittive in grado di prevedere cosa faremo, anche nel lungo periodo.
4. Ciò che parte da presupposti meramente commerciali, seppur aggressivi, assume man mano una diversa forma, fino ad arrivare alla manipolazione dei comportamenti e alla possibilità del controllo capillare dei medesimi. Questa, di fatto, l’essenza del capitalismo della sorveglianza, il quale non si limita al solo accumulo di capitale, ma va oltre, creando un sistema che grazie alle tecnologie sofisticate, in mano ad una oligarchia di player privati (Google in primis, ma anche Facebook e pochi altri) del settore delle tecnologie avanzate e alla capacità di immagazzinamento, elaborazione e trasformazione dei dati, gestisce i nostri desideri, modificando e indirizzando i nostri comportamenti.
Come si è arrivati a tanto? Secondo l’Autrice uno dei momenti rilevanti per l’ascesa del capitalismo della sorveglianza è integrato dall’essere “fenomeno senza precedenti”.
Ciò che è senza precedenti è irriconoscibile, mentre gli esseri umani tendono a valutare le cose secondo le conoscenze pregresse, concentrandosi su categorie familiari, trasformando ciò che è senza precedenti in un’estensione del passato. Così facendo, non colgono i caratteri della novità che intanto continua nel suo percorso di aggiornamento.
In questo caso, le persone non sono state in grado di comprendere la nuova logica dell’accumulazione; pertanto, sono cadute nel meccanismo senza rendersene conto. Assuefatti e addirittura inebetiti dai “giochini” che apparentemente facilitano loro la vita, per cui sono addirittura grate. L’Autrice si premura poi di specificare che il capitalismo della sorveglianza non è di per sé una tecnologia. Non dobbiamo incorrere nell’errore di confondere la tecnologia con la logica che la permea, trasformandola in azione, dando vitaad una forma di mercato impensabile al di fuori del contesto digitale, ma non coincide con il digitale.
L’azione economica determina gli obiettivi, mentre la tecnologia offre i mezzi appropriati. Questa nuova forma di capitalismo – altro momento essenziale della narrazione – opera sfruttando un’asimmetria senza precedenti della conoscenza e del potere, utilizzando la logica dell’esproprio, noncurante delle ricadute negative sui diritti delle persone.
5. Un particolare importante emerge con chiarezza: Zuboff non parla propriamente di diritto. Tuttavia, si preoccupa di mettere in luce la circostanza per cui i Big del capitalismo della sorveglianza non hanno avuto ostacoli da parte del diritto, che non ha mai assunto, o potuto assumere, complici alcune politiche governative, il ruolo di baluardo a difesa dei diritti delle persone, o meglio dei consumatori, in posizione di sudditanza rispetto alle grosse aziende del mercato.
Non a caso Zuboff menziona il “non-contratto”, ovvero, quel momento essenziale dei mezzi di modifica del comportamento, necessario per l’esistenza del capitalismo della sorveglianza, che consiste – a differenza del contratto, inteso come incontro delle volontà delle parti – in “un’esecuzione unilaterale che rende superflue le relazioni contrattuali, che sostituisce di fatto la società con azioni imposte dalle macchine e determinate da imperativi economici”.
In siffatto mercato non sono previste alternative e, grazie alla digitalizzazione, fatta di app, software e processi automatizzati, non solo il “mercato “conosce sempre più in dettaglio i nostri comportamenti, ma addirittura li forma, in una nuova logica che si pone quale reale obiettivo l’automazione delle persone, ignorando l’umanità e la democrazia. Questa asimmetria consegna a pochi player strutturati una moltitudine di dati relativi ai nostri comportamenti, alle nostre abitudini, alle nostre scelte e tanto altro, per cui sono in grado di conoscere tutto di noi.
Al contrario, noi non sappiamo nulla di loro, o comunque sappiamo solo quel che vogliono farci sapere, secondo un criterio strumentale che ci deve coinvolgere nella giusta misura affinché noi siamo costantemente indotti a cedere costantemente dati e più in generale informazioni – anche personalissime – che ci riguardano. Su tali dati i player, riuniti in una sorta di oligarchia di fatto, guadagnano montagne di denaro, accaparrandosi il diritto di invadere la privacy, in un mercato che ha visto la totale assenza, almeno per parecchio tempo, di leggi in grado di fermarli o quantomeno rallentarli.
6. È stato costruito il c.d. mercato dei comportamenti futuri e dei prodotti predittivi, che vanno addirittura a modificare i nostri comportamenti. Il tutto, attraverso la disponibilità di tecnologie sempre più avanzate – IoT ovvero internet delle cose, algoritmi, machine e deep learning, e altro ancora -, che si sviluppano a velocità impressionanti nell’ottica di sfruttare in maniera sempre più invasiva la matassa di dati che noi consegniamo spesso volontariamente – senza una reale consapevolezza in ordine alle potenziali conseguenze – al mercato globale.
In questo scenario, l’Autrice avverte che il nuovo ordine economico sfrutta, da un lato, l’esperienza umana sotto forma di dati come materia prima per pratiche commerciali poco trasparenti e, dall’altro, il movimento di potere che impone il proprio dominio sulla società sfidando la democrazia e mettendo a repentaglio la nostra libertà.
Di fatto, il sistema porta sempre più ad avere e gestire una concentrazione di dati, conoscenze come mai prima e capacità di sorvegliare, con seri rischi per la nostra privacy e la nostra stessa individualità, e, non ultimo, per la tenuta democratica della società e dell’ordinamento. Il libro non si scaglia contro la tecnologia che viene appunto descritta come strumento per realizzare le finalità; sono queste ultime che però potrebbero non essere meramente legate ad operazioni commerciali, anche le più spinte.
Vi è di più. Zuboff non nega la comunione di interessi tra i primi capitalisti della sorveglianza – Google in particolare – e le agenzie di servizi segreti. La prassi della sorveglianza capillare è stata sdoganata dopo gli avvenimenti tragici dell’11 settembre 2001; da quel momento i Governi, soprattutto quello americano, hanno sentito l’esigenza di procedere a forme di controllo invasive e di attivare pratiche che poco prima stavano per essere fronteggiate con apposite leggi. Tali pratiche divennero improvvisamente “necessità strategiche”, in un contesto che non poteva lasciare spazio a mollezze come la democrazia, che perde tempo con il giusto processo, i mandati, le leggi (come avrebbe affermato l’ex direttore della NSA, McConnell).
7. Se così è, il popolo dovrebbe preoccuparsi del suo futuro digitale, cercando di comprendere quale vuole che sia la sua nuova “casa”. Proprio il popolo potrebbe avere un ruolo fondamentale per ricondurre le cose nell’alveo dell’equilibrio e della giustizia, nella consapevolezza di quale distopia potrebbe prender vita qualora non si ponesse un freno legale, sociale e costituzionale alla “polis della sorveglianza.”
Ci addentriamo in analisi che destano preoccupazioni su quello che potrà essere il futuro, in quanto iniziamo a realizzare con coscienza che il livello tecnologico è andato oltre ogni soglia del prevedibile, secondo meccanismi di accelerazione che con consentono la metabolizzazione dei processi. Siamo già in quel futuro.
Pasquale Cardone
