Siamo abituati a pensare all’intelligenza artificiale come a una macchina con sembianze umanoidi: parlante e interagente. Da Isaac Asimov all’ultimo Ian McEwan, robot e androidi ci affascinano e seducono come un umano altro, algido ed efficiente, affidabile e controllabile, perturbante. E tuttavia, la storia recente dello sviluppo delle tecnologie elettronico-informatiche, strettamente collegato alla rete Internet, dimostra che l’intelligenza artificiale si sostanzia oggi negli algoritmi, nei loro modelli matematici e nel lavoro invisibile di sviluppatori che li preparano ad analizzare i dati che noi stessi continuamente produciamo e mettiamo in circolo attraverso i mille dispositivi della vita quotidiana connessi alla Rete.
Il mondo, insomma, sta cambiando vorticosamente sotto i nostri stessi occhi: la presenza totalizzante di questa intelligenza artificiale mette sotto assedio la nostra convinzione di poter scegliere autonomamente e riduce la nostra partecipazione pubblica, facendo calare la fiducia interpersonale e quella nelle Istituzioni. Non a caso, nel 2016, due cataclismi politici – da molti considerati imprevedibili – si sono abbattuti sulle relazioni internazionali: il referendum sulla Brexit e l’elezione di Donald Trump. Certo, è anche l’effetto di medio periodo della grande Crisi finanziaria del 2008. Eppure, a leggere il poderoso Il capitalismo della sorveglianza di Shoshana Zuboff (1951) se ne ricava, netta, l’impressione che a metterci lo zampino decisivo siano state le aziende che saccheggiano proprio i dati da noi prodotti ogni volta che siamo connessi in qualche modo a Internet. Chi ricorda il caso di Cambridge Analytica?
Per Shoshana Zuboff, il “capitalismo della sorveglianza” è un processo di sfruttamento-estrazione-predizione alla base della produzione capitalistica contemporanea. Già nel suo In the Age of the Smart Machine. The Future of Work and Power del 1988 (uscito in italiano in edizione ridotta nel 1991 con il titolo L’organizzazione interattiva per Ipsoa) la studiosa della Harvard Business School analizzava e anticipava gli effetti che i cosiddetti metadati (cioè informazioni estratte da accumuli di dati) avrebbero avuto nello sviluppo produttivo della “Terza modernità”. Al centro del ciclo di produzione della fase attuale ci sono i nostri corpi, le nostre emozioni, le nostre esistenze tutte, trasformate in ciò che Zuboff chiama “surplus comportamentale”: ovvero tutta quella materia relativa ai nostri comportamenti che si ricava e che letteralmente straripa da tutto ciò che facciamo in Rete e che viene poi incessantemente rielaborata da intelligenze artificiali, appunto, addestrate per prevedere e plasmare i nostri comportamenti futuri, che si tratti di acquisti o di relazioni.
Dunque, i protagonisti di questa sorta di allucinante totalitarismo dei nostri giorni – o “potere strumentalizzante” “contro la libertà” e l’autonomia, come scrive Zuboff – siamo noi, che cediamo volontariamente informazioni spesso privatissime (aggirando la lettura di astruse e lunghissime autorizzazioni sulla privacy, un vero “non-contratto” dice l’autrice), che siamo a tutti gli effetti una materia prima. Siamo la miniera e i minatori, al servizio di profitti altrui e processi astratti e incomprensibili, distanti e invisibili. Il nostro essere soggetti di bisogno – di servizi e prodotti, come l’uso gratuito di social network e servizi di comunicazione di Google, per esempio – ci spinge a venderci e cedere il nostro stesso modo di stare al mondo: nell’intimità come in pubblico, dentro la casella email di lavoro come in chat segretissime. Siamo noi stessi ad addestrare gli algoritmi che ci avvolgono, ci ammansiscono e ci svuotano.
Il mondo presente e futuro descritto da Zuboff, con uno sguardo a metà tra l’apocalittico e la volontà etico-politica e filosofica di non lasciarsi andare alla narrazione dominante, è un mondo in cui le macchine e Internet tendono a scomparire – come promesso dall’ex amministratore delegato di Google Eric Schmidt nel 2015, nel corso di quello che è il governo neoliberista del mondo: il World Economic Forum –: Internet è e sarà sempre di più ubiquo, ovunque, permeerà le nostre esistenze in ogni aspetto e le macchine, nelle forme di microdispositivi, si adatteranno sempre di più all’umano, controllandolo e modificandolo attraverso le capacità di previsione comportamentale. Una tecnologia che dilaga, filtra, colonizza e plasma i nostri desideri nei luoghi e nei momenti: “vuole la nostra circolazione sanguigna” scrive Zuboff, “il nostro letto, le chiacchiere che ci scambiamo a colazione, il passaggio che ci porta al lavoro, la nostra corsetta, il nostro frigorifero, il nostro parcheggio, il nostro salotto”.
Nel capitolo sette, significativamente intitolato “Il business della realtà”, Zuboff si sofferma sul mondo delle assicurazioni automobilistiche come luogo di esaltazione dello sfruttamento, dell’estrazione e dell’esproprio di dati comportamentali a fini economici: come guidiamo, a che velocità, come freniamo e come ci muoviamo nel traffico vengono scandagliati ed elaborati da specifici algoritmi per poi essere trasformati in dati e previsioni che si riflettono nei premi assicurativi e nelle polizze. Smartphone e dispositivi in dotazione alle auto tracciano profili raffinatissimi in tempo reale di noi alla guida. Google Maps e Earth e applicazioni simili rappresentano quella rete stringente che imbriglia il mondo: senza alcuna cura della nostra libertà profonda, cioè il diritto alla riservatezza: poter attraversare la vita nel ‘silenzio’ dell’anonimato.
Nulla sfugge al capitalismo della sorveglianza o, meglio, ogni progetto rientra sotto il suo controllo e persegue i suoi scopi: prendete per esempio il noto aspirapolvere Roomba della iRobot, capace di mappare e vendere, secondo Zuboff, le piantine dell’abitazioni che pulisce, grazie a un gran numero di telecamere e sensori. Così, mentre l’aspirapolvere gira per casa trasmettendo i dati e un letto smart come Sleep Number rielabora e invia i dati sul nostro sonno, noi, con lo smartphone o un tablet in mano, siamo davanti a una smart tv che, mentre trasmette programmi on demand (scelti da noi con spreco di preferenze trasformate in dati), letteralmente ci filma, registra le nostre conversazioni, le nostre espressioni facciali connesse alle nostre emozioni. La nostra quotidianità, sostiene Zuboff, “è destinata a divenire il luogo dove esploderà un nuovo mercato”.
In questo inquietante scenario arrivano anche gli/le assistenti digitali, ovvero le forme di dialogo diretto – in voce – che l’intelligenza artificiale stabilisce con gli/le utenti per garantire il massimo della personalizzazione: ovvero la raccolta dei bisogni e significati profondi che emergono dalle nostre esperienze sociali che gli algoritmi segmentano e individualizzano al fine di trasformarli in prodotti per il Mercato, assecondando, come scrive Zuboff, la “nostra fame interminabile di riconoscimento, apprezzamento e soprattutto supporto”. Se, come si diceva all’inizio, l’interazione con le macchine con sembianze umane continua a essere una fantasia piuttosto stereotipata, è pur vero che la possibilità di interagire con esse tramite voce (o comandi vocali) ci fa vivere un’esperienza realistica, suadente, umana, troppo (dis)umana.
E tuttavia, Shoshana Zuboff mostra uno spiccato senso del racconto: lo srotolarsi lento ma inesorabile di dati, fatti e personaggi e un certo gusto per la cultura umanistica che ne informa la struttura profonda – non sono un caso le epigrafi che puntellano i capitoli del volume, tratte da W.H. Auden, Leonard Cohen o Susan Sontag – restituiscono a questa lettura un senso meno tragico.
Per Il capitalismo della sorveglianza sono stati fatti paragoni affrettati e scomodi con Il capitale di Karl Marx. Di certo, alla fine di una lettura che cattura e stupisce, si può dire che Shoshana Zuboff ha scritto un libro che resterà a lungo, segnando scenari teorici e storiografici a venire, regalandoci anche inquietanti pagine di cronaca non solo su come i signori degli algoritmi corrompono i politici e i loro entourage, ma come penetrano nelle agenzie che dovrebbero controllare e sovraintendere alle loro attività, così come nelle commissioni dei parlamenti di tutto l’Occidente. Si tratta, insomma, di una lettura indispensabile per comprendere il presente e la memoria del futuro.
QUI la recensione di Fabio Malagnini
