Media

Controllo sociale, la pericolosa affinità Cina-Big Tech

Giuliano da Empoli: stessa concezione dell’umanità, quella di individui che possono essere misurati in tutto. E chi controlla i dati, può cercare di determinare i comportamenti

Media

Il Festival del Libro di Nizza (Francia) ha avuto come tema una parola cara ai francesi, “Liberte’(s)”, e la prestigiosa presenza di Giuliano da Empoli in qualità di presidente. Abbiamo avuto l’occasione di intervistarlo a margine della presentazione del libro “Il Mago del Cremlino” e di conversare non tanto sul libro (peraltro molto interessante in quanto correlato all’attuale situazione in Ucraina), ma della sua visione sulla similitudine dell’approccio al controllo degli individui tra Cina e… Big Tech.

Inoltre, visto che era reduce da un incontro con Sam Altman, non abbiamo mancato di parlare della strana posizione del ceo di OpenAI sulla questione della “regolamentazione” dell’Intelligenza Artificiale. 

Chi volesse ascoltare integralmente l’intervista, incluse le parti relative al libro e alla difficoltà dei rapporti tra Italia e Francia, troverà il podcast sul sito di Radio Nizza o in fondo a questo articolo.

Giuliano da Empoli è scrittore, presidente del think tank Volta, presidente del comitato scientifico dell’associazione Civita. In passato è stato consigliere del ministro dei beni culturali durante il Governo Renzi. Scrive regolarmente per Corriere della Sera, la Repubblica, Il Sole24Ore e il Riformista.

La vecchia Guerra Fredda

MARCO HUGO BARSOTTI: Nella presentazione di poco fa ha fatto un’osservazione che non avevo mai sentito: che l’approccio al controllo sociale della Cina e quello della Silicon Valley in qualche modo coincidono…

GIULIANO DA EMPOLI: Vero, ho accostato l’approccio cinese al controllo sociale con quello delle grandi aziende tecnologiche della Silicon Valley. Ma facciamo un passo indietro. La Guerra Fredda originale, quella tra il blocco occidentale e il blocco sovietico comunista, vedeva affrontarsi due concezioni dell’umanità e dell’essere umano.

Quella occidentale era l’idea dell’uomo, dell’individuo libero di esercitare le proprie preferenze, le proprie scelte e di seguire i propri gusti. Il che in qualche modo, senza quasi senza saperlo, produceva l’interesse collettivo, il benessere e lo sviluppo.

E poi invece c’era la concezione dell’uomo nuovo sovietico socialista: interamente dedito al benessere collettivo e che in qual che modo necessitava di valori nuovi che imponevano una  riformulazione o riformattazione dei valori umani.

Cina-Big Tech

Ebbene, oggi se si guarda la concezione del Partito Comunista Cinese e quella delle grandi aziende della Silicon Valley si scopre come in fondo abbiano la stessa concezione dell’umanità: quella di individui che possono essere misurati in tutte le loro preferenze, in tutti i loro comportamenti, in tutti i loro movimenti le loro aspirazioni.

Tutto può essere misurato e trasformato in un’enorme quantità di numeri (e di vettori con la IA, ndr) i quali poi possono essere analizzati per studiare le correlazioni. 

MHB: Però difficile pensare che in Silicon Valley siano fan del sistema comunista… 

GDE: Chiaramente nel caso cinese l’obiettivo è un controllo politico totalitario sulla popolazione, mentre nel caso della Silicon Valley l’obiettivo è di natura economica. Ma guardi che la concezione è un po’ la stessa, anche perché chi dispone di questi dati … 

MHB: Ah, certo, come nel caso di Cambridge Analytica: non necessariamente il social network stesso… 

GDE: Esattamente, chi dispone di questi dati può raggiungere determinati obiettivi e cercare di generare determinati comportamenti. Da questo punto di vista dobbiamo stare veramente molto attenti. 

L’ipocrisia di Sam Altman 

MHB: Lei ha avuto modo di conoscere Sam Altman di persona. Sam, che era reduce da una strana testimonianza al Senato Usa, dove con volto preoccupato chiedeva ai politici di regolamentare, forse di rallentare gli sviluppi della IA. Questo mentre contemporaneamente la sua stessa azienda continuava a sfornare novità basate su modelli di IA sempre più avanzati. Qualcosa non quadra, o sbaglio? 

GDE: Ho avuto esattamente la stessa impressione. Trovo che sia una forma di vera ipocrisia che neppure gli uomini politici – diciamo – più cinici praticano su questa scala. Lui dice “Impeditemi di fare quello che sto facendo. Regolate la nostra industria altrimenti rischiamo di andare incontro a enormi catastrofi”

È paradossale e a mio avviso non è neppure la verità. Molto diversa dalla linea storica di Google, che era più o meno “voi politici non ci capite nulla, meglio che ne restiate fuori”.  

Penso che Microsoft (che possiede una quota importante di OpenAI, ndr) sia stata furba: chiede regolamentazioni sapendo che in realtà non arriveranno e così creano una posizione oligopolistica. Perché se vengono create leggi sulla base dei consigli di OpenAI queste taglieranno fuori la concorrenza. 

E poi però mi dico: non voglio entrare nella filosofia dell’uomo, uno che tra l’altro ha creato OpenAI come no profit per poi trasformarla in un’azienda normale che vuole fare profitti. 

Uno che cerca – a mio parere – di fare sia il magnate della tecnologia che il buono del settore. Uno che non vuole essere mischiato con gli altri, che magari pensa abbiano un’immagine pessima. Trovo umiliante che noi come società ci troviamo nella situazione di interrogarci sulle intenzioni e sui caratteri di questi personaggi. Dovremmo riuscire a mettere in piedi dei sistemi in cui questi personaggi devono attenersi ad una serie di regole e protocolli chiari, senza costringerci ad analizzare le loro intenzioni.

Anche se, guardandolo da un altro angolo, potrebbero pure esserci elementi genuini nel suo discorso. Forse possiamo interpretarlo come “io sono dentro una spirale nella quale per essere competitivo rispetto agli altri devo fare delle cose che se ci fosse un quadro regolamentare potrei fare diversamente, in modo più responsabile”.

Chi deve regolamentare?

MHB: Quindi dobbiamo spingere i politici a regolamentare il settore? 

GDE: Forse in qualche modo l’Europa sta cercando di fare qualcosa (con il recente AI Act ndr). Francamente ritengo che quello che pensa Altman debba essere marginale: ci dovrebbero essere ben altri soggetti ad occuparsi di questi temi. Lo ripeto: chi regola non può essere lo stesso soggetto di chi crea questa tecnologia. 

Anche se… se guardo il panorama politico oggi mi pare che la maggior parte dei responsabili, quando lo incontra, ha più che altra voglia di prendersi un selfie con lui, questo è il massimo al quale si arriva: temo che la sfida che abbiamo davanti sia abbastanza grande.