L'Utopia di un totalitarismo informatico

Globalizzazione - Scienza - Intelligenza artificiale

 

In un totalitarismo informatico?




Nell'accelerazione avvenuta negli ultimi anni di una globalizzazione informatica, si è aperto un dibattito tanto sulle conseguenze ultime che sulle possibili manipolazioni che la crescente tracciabilità comporta, tutte circostanze che vengono a riflettersi anche sul mondo giuridico.

In quest'ultimo decennio siamo entrati in quello che Sadin definisce come "l'era della misurabilità della vita", la raccolta sempre più ampia e precisa dei dati riferita a ciascun utilizzatore del sistema, l'inserimento di sensori in ogni strumento di vita quotidiano (domotica), fa sì che si rafforzi una visione del mondo fondata sulla necessità di colmare l'insufficienza umana con l'Intelligenza Artificiale.

Questo permette di trasportare la capacità critica dalle scienze umanistiche al campo ideologico della rete, riducendo il tutto a valutazioni di sola misurazione socio-ingegneristiche, la politica tende ad abdicare alla forza della rete, sperando di trovare in essa le soluzioni per problemi di cui il mondo informatico stesso ne è stato in parte fonte.

Vi è in essa una ideologia salvifica che viene bene ad intrecciarsi con le considerazioni proprie dell'economia comportamentale, dobbiamo considerare che vi sono attualmente tre condizioni basilari nella strutturazione industriale: la formazione di banche dati comportamentali, il sempre crescente peso della gestione algoritmica nei rapporti sociali e la personalizzazione delle applicazioni con il conseguente passaggio da un'utopia culturale e relazionale ad una squisitamente economica (50, E. Sadin, La siliconizzazione del mondo, Einaudi, 2018).

Si crea un legame continuo e diretto non solo tra gli internanti ma bensì tra tutti gli utenti e il vertice del sistema informatico, circostanza che permette di agire sulle coscienze, imponendo una visione unitaria del mondo in termini prevalentemente economici.

La capacità crescente dell'Intelligenza Artificiale di " interpretare" il contesto e l'agire, fa crescere a sua volta la potenziale sua " autonomia decisionale", a cui si affianca un forte potere di "suggestione" nel formulare soluzioni accettabili, si ha un progressivo "indirizzamento delle decisioni umane" (E. Sadin) secondo modelli di informatica cognitiva, abdicando per tale via al problematico rapporto tra libertà individuale e regolamentazione collettiva.

La "gestione automatizzata del mondo" tende a rendere superata la capacità critica a livello individuale, considerati arcaici gli stessi sistemi informatici di analisi giuridica in termine ristretto di filtro. Ormai si procede all'indirizzamento morbido dell'agire umano secondo decisioni illuminate, il tutto rifacendosi ai principi e alle analisi dell'economia comportamentale, vi è per tale via la " disintegrazione delle responsabilità" (Sadin) quali conseguenze di una serie di impercettibili processi di governamentabilità.

La stessa emotività diventa oggetto di analisi informatica e come tale viene progressivamente governata dalle leggi della tecnologia, come del resto il tempo che diventa un tempo reale ed eternamente attuale in cui vi è un permanente dominio sulle cose.

La possibilità di ridurre tempo e spazio fanno sì che, unendosi alla crescente elaborazione sulla tracciabilità dei dati in tempo reale, si avveri la teoria della "spinta gentile" ultima frontiera dell'economia comportamentale, questo tuttavia non esclude la sempre ricorrente tentazione di imporre autoritativamente eventuali tipologie di consumo.

Il diritto viene a sfumare nell'estendersi del mondo digitale, nel crescere dello spazio e nella rapidità di un tempo sempre presente, come la privacy che incipiente nelle dimensioni minori si perde nell'immensità della globalizzazione e nella rapidità della sua rotazione.

Il tecno liberismo trasferisce nel privato parti crescenti del settore pubblico proprie dello Stato sociale, come del resto riduce progressivamente gli spazi del privato in favore del mercato, in una identificazione tra individuo, cittadino e consumatore (Morozov).

Nella "sharing economy" la codificazione di diritti/doveri derivante dal rapporto personale viene sostituita dalla reputazione, la piattaforma tecnologica risulta qualcosa di immateriale che mette semplicemente in contatto potenziali clienti del cui agire non ne risponde, sarà direttamente il mercato a punire gli inaffidabili in quanto "nella battaglia tra giustizia e innovazione, è sempre quest'ultima a vincere" (19, E. Morozoi, Silicon Valley: I signori del silicio, Codice ed., 2017).

I dati personali possono diventare merce di scambio non solo tra singoli e società commerciali, ma anche tra pubblico e privato nella fornitura di servizi a costi zero, basti pensare al caso Boston.

Il concetto stesso di proprietà, così come inteso normalmente, viene contestato in nome di una maggiore efficienza derivante dalle enormi possibilità di una condivisione commerciale propria di una società dei servizi, globale e perennemente interconnessa, dove vi è uno sfruttamento continuo e capillare del bene, a prescindere da qualsiasi risvolto psicologico, questo tuttavia viene a riproporre per alcuni, quali Posner e Weyl , nuove forme di regolamentazione di cui garanti dovranno porsi gli stessi Stati.

Secondo l'economia comportamentale i nostri comportamenti, le nostre decisioni economiche, sono per lo più irrazionali, ne deriva la necessità di una crescente informazione personalizzata, di cui tuttavia si rischia l'irrigidimento per il fenomeno del problem closure (chiusura del problema), ossia l'inquadramento precedente di un problema diventa causa dell'inquadramento di un successivo problema.

La possibilità della rilevabilità e tracciabilità ha indotto a teorizzare in termini politici una "regolamentazione algoritmica" della quotidianità, quale nuova tipologia di governance che venga a sostituire mediante un continuo feedback la semplice "regolamentazione giuridica".

Si ha quindi quale beneficio una reazione in tempo reale rispetto alla rigidità della regolamentazione classica, oltre che un risparmio sui costi derivanti sui necessari successivi controlli, si ha una inversione nella relazione causa/effetti in cui, come osserva Agamben, invece di governare le cause si cerca di governare più semplicemente gli effetti, in una crescente verifica e controllo.

O'Reilly predice una riduzione della quantità regolamentativa in funzione di una crescente supervisione sugli esiti desiderati, si ha quindi un cambiamento di prospettiva dello Stato, il quale tende tra l'altro a liberarsi del peso del Welfare, spostandone il peso sul privato e riprogrammandosi in termini di controllo, mediante un quotidiano feedback agevolato da sensori e app, dove i database sono inter-operativi e i dati ricavati analizzabili ed economicamente vendibili sul mercato.  Vi è in questo tuttavia una forte asimmetria, se i singoli diventano sempre più "visibili" e quindi anche economicamente controllabili, i controllori e utilizzatori del sistema acquistano da parte loro una iper-invisibilità, con la conseguente riduzione di una capacità di controllo democratico, passando dalla politica alle semplici transazioni commerciali.

La regolamentazione perde la propria funzione rispetto ad un sistema dominato dalla crescente sharing economy, la quale permette tra l'altro lo spostamento della responsabilità sui singoli, riducendo la presenza del welfare e favorendo al contempo le politiche di austerity.

La regolamentazione avviene all'interno del sistema stesso mediante l'introduzione di sempre nuovi software, evitando le costose e sempre successive procedure giuridiche di regolamentazione, che tra l'altro soffrono di costosi e continui blocchi ed eterni contenziosi, si acquista quindi una ulteriore efficienza dovuta alla fluidità del sistema, continuamente ricalibrato e potenziato.

Si è pensato di sostituire leggi e regolamenti con i principi della "spinta gentile" propri della economia comportamentale, ma non vi è mai stata né una volontà né tanto meno vi è la possibilità di superare integralmente il sistema di divieti ed obblighi, necessari al funzionamento ordinato delle relazioni sociali.

Come osserva Thaler, una cosa è abrogare integralmente il sistema regolamentare, un'altra cosa è influenzare le scelte per un migliore benessere lasciando comunque la decisione ultima al singolo.

In una società a complessità crescente il principio dell'economia classica delle scelte razionali risulta una pia illusione, rimanendo il diritto di scegliere crescono gli errori per incompetenza, è necessario facilitare la scelta delle decisioni migliori.

Vari ostacoli si frappongono tra la necessità ed una scelta razionale, in particolare: l'inerzia, l'avversione alla perdita e la distorsione nella percezione del tempo nel rapporto presente/futuro, a questo sono da aggiungersi le distorsioni derivanti dal sistema normativo.

Non dobbiamo comunque dimenticare che "Le imprese e i governi mossi da cattive intenzioni possono usare i risultati delle scienze comportamentali a loro proprio vantaggio, a spese delle persone che sono state spinte ad agire contro il proprio interesse". (411, R.H. Thaber, Misbehaving, Einaudi, 2018), a cui possiamo aggiungere in una mancanza di equilibrio tra pubblico e privato.

Principio fondamentale della Scuola di Chicago è la "sovranità del consumatore", secondo cui questi sceglierà sempre razionalmente, rendendo superato qualsiasi limite esterno imposto alla razionalità.

L'economia comportamentale smonta questo presupposto teorico, dimostrando le distorsioni cognitive nel valutare ed attribuire il valore, così come nel considerare i costi di transazione.

In mancanza di costi o quando questi sono bassi le risorse andranno dove il loro uso crea un maggiore valore (Teorema di Coase), il sistema giuridico quindi non finirà per decidere quali attività economiche potranno realizzarsi, bensì solo sulla distribuzione dei pagamenti.

Anche la stessa misurazione può dare luogo a sopravvalutazioni, circostanza che coinvolge anche gli apparati amministrativi nelle distorsioni valutative ed errori sistematici, fattore che induce alla prudenza tanto nell'imporre regolativamente che nell'accompagnare secondo il modello della "spinta gentile".

Vi è pertanto la necessità di sottoporre a test le idee prima di spingerle e di non sottovalutare le percentuali modeste, se si rapporta alle dimensioni delle poste in gioco, né il valore monetario può essere l'unico elemento motivante essendo differente percentualmente da persona a persona.

Si pensa che di fronte a decisioni di particolare valore prevale la razionalità, una tesi più volte smentita dai fatti ma anche da recenti studi ( Foottball e Giochi televisivi, 331 ­ 364, R.H. Thaler, cit.), gli aspetti comportamentali continueranno ad esistere e saranno causa, nel loro sommarsi, delle ricorrenti crisi.

La mano invisibile del mercato, secondo l'economia classica, appare solo in termini macro, quando l'insieme dei comportamenti, che nel loro sommarsi hanno provocato la crisi, verranno corretti dalla razionalità della valutazione critica.

Nella capacità del pensiero critico intervengono dei Bias cognitivi che possono essere descritti e divisi per categorie:


Errori di attribuzione ( Fundamental attribution error) , tendenza di attribuire  il comportamento di una persona alle sue caratteristiche piuttosto che alla  situazione in cui agisce;

Favoritismo di gruppo ( in ­ group Bias) , tendenza a favorire le persone del  proprio gruppo anziché esterne, indipendentemente dalle caratteristiche  oggettive del soggetto;

Correlazione illusoria (Illusory Correlation), tendenza ad associare due cose  anche se tra loro non i è relazione;

Effetto "senno del poi" ( Hindsight Bias) , tendenza delle persone a credere  che avrebbero potuto prevedere un evento dopo che è accaduto.


Effetto dotazione ( Endowment Effect), tendenza a dare alle cose possedute  un valore superiore a quello che si avrebbe dato se non le si possedeva, ne  risulta che si paga un prezzo superiore per il mantenimento di un bene  piuttosto che comprarlo a prezzo minore da un estraneo.


Fallacia della Congiunzione ( Conjunction Bias) , per l'accadimento di un  evento si ritiene necessario il realizzarsi contemporaneamente di due o più  circostanze, incompatibilità delle euristiche con la logica ( Kahneman);

Fallacia del Giocatore ( Ganbler's Fallacy) , il credere che eventi passati  possano influire su eventi futuri nell'ambito di molti giochi d'azzardo.


Fallacia della mano calda ( Hot-Hand Fallacy) , il credere che avere avuto  successo casualmente in un evento si possa replicare in futuro;

Effetto Alone ( Halo Effect) , tendenza a dare una valutazione basandosi su  poche indizi estendendo la valutazione sull'intero ambito o persona;  Effetto Mera Esposizione ( Mere Exposure Effect) , tendenza ad essere attratti  da cose o persone già viste piuttosto che altre sconosciute.

Quanto sopra risiede in un pensiero intuitivo di natura euristica ( frame) che permette di interpretare rapidamente le nuove informazioni risparmiando tempo e sforzi, esso non fruisce del pensiero razionale.

Bateson ha dimostrato che non vi è comunicazione, verbale o non verbale, senza un messaggio meta comunicativo che spieghi quale frame interpretativo da impiegare, si deve considerare che costruire e distribuire conoscenza o ignoranza implica una relazione di potere non solo in termini politici ma anche economici.

L'ignoranza può avvenire o come stato nativo, o come disattenzione, infine come stratagemma strategico creato e mantenuto da terzi (Proctor), in questo ultimo caso può assumere la forma della :

- Distorsione;

- Incompletezza;

- Confusione;

- Inaccuratezza;

- Incertezza;

- Assenza;

questo avviene più facilmente con il sostegno degli esperti, in particolare dei centri di ricerca, e dei giornalisti che ne diffondono il pensiero.

Stocking e Holstein parlano di quattro categorie di giornalisti;

- Disseminatori, prendono le distanze dalle valutazioni di verità riportando  solo le opinioni degli esperti, politici, imprenditori, lasciando la  responsabilità della valutazione ai lettori e quindi della scelta tra le varie  valutazioni;

- Investigativi, che confrontano le asserzioni, rifacendosi a ricerche  indipendenti;

- Populisti, enfatizzano le opinioni dei non esperti, usano asserzioni neutre  per fornire credibilità agli studi scientifici manipolati;  - Contrastanti, scettici verso qualsiasi asserzione, anche se scientificamente  approvata, in tal modo facilitano la disinformazione.

(Sergio Benedetto Sabetta)

LaPrevidenza.it, 15/12/2023