Home → Italia/Mondo → L’INTELLLIGENZA ARTIFICIALE E LA DITTATURA DELL’ALGORITMO. L’USO CHE SE NE FA FAVORISCE I NUOVI FASCISMI? SECONDO ALCUNI STUDIOSI SI’

CHIUSI – La cosiddetta Intelligenza Artificiale è la nuova frontiera dell’era informatica e della comunicazione digitale. Gli algoritmi che regolano tutto, che determinano scelte commerciali e sostituiscono l’uomo nella gestione di sistemi complessi. A Chiusi ha sede un’azienda che opera nell’informatica da decenni e adesso è un’azienda leader a livello nazionale proprio nel settore dell’Intelligenza Artificiale. Un vanto per la città, un’eccellenza dell’economia locale, una realtà che da local diventa global e proietta anche questo territorio dal grande passato, ma con un futuro incerto, verso orizzonti innovativi, al passo coi tempi. Fa piacere avere in loco realtà di questo genere.

Sull’Intelligenza Artificiale però non tutti la pensano allo stesso modo e non tutti pensano che sia una innovazione positiva. Anzi, al contrario c’è chi sostiene che l’I.A (A.I. in inglese) sia spesso “al servizio di progetti autoritari che accrescono le disuguaglianze e mettono a rischio la democrazia”. Chi lo dice è Dan Mc Quillan, che non è l’ultimo arrivato, ma un docente al Goldsmith College di Londra, in una conversazione con il giornalista italiano Fabio Chiusi riportata da L’Espresso del 17 ottobre scorso. Un articolo che abbiamo letto con curiosità e che ci ha fatto sobbalzare sulla sedia.

La conversazione  parte dal libro di Mc Quillan “Resisting Ai” (Bristol University Press), nel quale l’autore scrive che serve «un approccio antifascista all’intelligenza artificiale… Non perché l’Ia sia di per sé fascista, ma in quanto motore di dinamiche congruenti, e in modo strutturale, con politiche fasciste. Lungi dall’essere una mera tecnologia, l’Ia è infatti un “apparato” che somma tecnica, istituzioni e ideologia. E se ne comprendiamo le “operazioni di base”, e le situiamo nell’attuale momento storico, è impossibile ignorare che il cambiamento di paradigma sociale portato dall’Ia «non farà che amplificare politiche di austerity e sviluppi autoritari».

Secondo Mc Quillan che è stato anche Direttore delle comunicazioni digitali di Amnesty International, il problema non nasce, come in molti altri casi, dalle distorsioni degli algoritmi social. “Il legame tra fascismo (fascismi) e IA avviene prima, all’incrocio tra le crescenti richieste di efficienza e risparmi nella gestione della cosa pubblica e l’ideologia che fa dell’intelligenza artificiale la panacea, infallibile e oggettiva, di ogni male”. È il cosiddetto “soluzionismo”, spiega, ovvero la ricerca ossessiva dell’ottimizzazione (parola molto in voga) che riduce problemi sociali complessi – la pandemia, la questione energetica, l’emergenza climatica – a questioni tecnologiche, risolvibili tramite Intelligenza Artificiale. Tutto diventa appunto materia di “ottimizzazione” statistica. E, in fondo, questo è l’Ia secondo McQuillan: non “intelligenza”, ma elaborate soluzioni statistiche informate da una visione «astrattamente utilitarista» che finisce per nascondere, riprodurre e amplificare ingiustizie e storture sociali, automatizzandole.

Le stesse premesse di quei metodi statistici a base dell’IA, scrive Mc Quillan, “si sono accompagnate storicamente a progetti discriminatori, congruenti con i desideri di reazione e mantenimento di uno status quo imbevuto di razzismo e supremazia bianca del ceto dominante. Così, applicando le più avanzate forme di apprendimento automatico a ogni cosa, le persone diventano numeri da gestire come variabili in una lunga equazione contenente i loro diritti sociali, la loro affidabilità creditizia, il rischio che le espressioni del loro volto celino intenzioni criminali, ecc. (…)”

Tutto ciò finisce per colpire di più chi ha già di meno, gli emarginati, le minoranze. “Perché l’IA non si limita a “rappresentare” il mondo, ma “produce” un nuovo ordine materiale e sociale. “E il nuovo ordine algoritmico è in realtà una nuova forma di “apartheid”, solo più inesorabile, fredda, disumana” dice ancora Mc Quillan.

Noi, imbevuti del pregiudizio che la macchina sia neutrale, pensiamo siano discriminazioni innocue, astratte e imparziali; anzi, crediamo lo siano necessariamente più di quelle umane. E invece McQuillan ribadisce che “l’Ia è inseparabile dal contesto storico e materiale in cui viene utilizzata. E se il contesto parla di un ritorno dell’estremismo di destra e dei nazionalismi sulla scena internazionale, ecco il potenziale dell’Ia dispiegarsi al servizio di progetti estremisti e nazionalisti”. E qui fa degli esempi: “Quel migrante mente o dice la verità, quando sostiene di scappare da un paese in guerra? Un progetto finanziato dall’Unione Europea voleva fosse una macchina “intelligente” a stabilirlo. Ma lo stesso si può dire del riconoscimento facciale usato dalle forze di polizia (sbaglia in modo sproporzionato con le persone di colore degli strumenti di polizia predittiva (si concentrano proprio nelle aree più povere, dove certi reati vengono commessi da certe categorie di persone)”.

Che fare, allora? McQuillan si dice “abolizionista”, cioè se fosse per lui la abolirebbe l’IA. Ma poi precisa: “il nodo non è abolire l’IA tutta, ma mettere in discussione le fondamenta ideologiche e pratiche che ne informano l’attuale configurazione”.

E siccome al momento l’IA è “riduzionista, individualista, razzista, pronta a servire qualunque progetto autoritario”, il docente britannico propone una rivoluzione in cui le parole d’ordine diventano “solidarietà”, “mutualità”, “relazione”; un approccio antifascista, e  insieme femminista e anti-colonialista. Bisogna insomma chiedersi – dice – «quale sia il ruolo della computazione avanzata» in una società democratica contemporanea. E riposizionarla.

Ci sono anche applicazioni dell’Intelligenza Artificiale come per esempio nel campo della ricerca e scoperta scientifica, che risentono meno dei problemi fin qui esposti… Quindi non tutta è da buttare. Però non bisogna lasciarsi fregare, questo in sintesi l’assunto dello studioso inglese.

Dopo “Il capitalismo della sorveglianza”, il libro di Shoshana Zubof , business analyst di Harvard, la quale sostiene che Big Tech sia determinata a mercificare, controllare e cooptare ogni esperienza umana per trasformarla in dato comportamentale grezzo da utilizzare per accrescere ancora di più i propri profitti e il proprio potere e che il capitalismo si stia organizzando attraverso sistemi che consentono di monitorare, analizzare e modificare costantemente il comportamento umano per il profitto dei giganti della tecnologia, anche la riflessione di McQuillan sull’Intelligenza Artificiale e l’uso che ne viene fatto squarcia il velo di ipocrisia che circonda la società globalizzata e soprattutto, come il libro della Zubof (una vera e propria “Bibbia” sulla società attuale imperniata sui social e sulla connessione in rete) mette in discussione i dogmi e le ubriacature di un liberismo che ha poco di liberale e molto di cui diffidare e avere paura. Anche Goebbels cominciò col teorizzare certe cose…

Dan Mc Quillan ha scoperto l’acqua calda.Non lo dico io ma lo dice ben 40 anni prima, anzi ben mezzo secolo prima uno come Paul Sweezy nel suo ”The Monopoly Capital” e nella sua ”La Controrvoluzione Globale”. Ci sarebbe da tracciare una linea di continuità fra le asserzioni delle due opere con quella alla quale si è arrivati oggi con Dan Mc Quillan certamente con aspetti diversi di conquiste della tecnologia al servizio della produzione, ma altamente non essenziali rispetto alle due citate opere di Paul Sweezy.E vedremmo che tali conseguenze sono quelle che si attendevano nelle asserzioni delle due opere sovracitate poichè Dan Mc Qullan non fà altro che estendere alla attuale modernità del sistema le prerogative del Prof. marxista americano,valorizzando come conseguenza ancorpiù le sue originarie idee.Mi sembra molto strano che negli studi universitari a quel livello si possa cadere dalle nuvole come fà l’autore non tenendo presente che le formulazioni dello stesso non sono altro che la continuazione più che evidente- ma che in gran parte era già annunciata poichè il succo era già contenuto nelle teorie esposte nei due libri sovracitati.-anche senza scendere nella specificità nelle due opere citate.Dico questo perchè anche andando addietro nel tempo di quasi mezzo secolo- e non è uno scherzo tale lasso di tempo per qualsiasi indagine che concerna la materie economica del ciclo e dello sviluppo- per ottemperare e confrontare in macroeconomia le modellistiche post-kneynesiane,che tali basi già tracciate siano le introduzioni a quanto da Sweezy espresso nelle sue opere.La continuazione post-keynesiana della teoria del ciclo e dello sviluppo di Schumpeter arriva a determinare ciò che Mc Quillon ha deciso di scoprire ossia in pratica che il modello di Harrod-Domar possa essere relativizzato alle circostanze che si trova a descrivere in qualsiasi momento e qundi anche nel momento di massima espansione dell’economia ma anche nel momento della sua massima recessione e che il risultato finale dipende da quali forze agiscano all’interno del sistema.Non credo personalmente che in un sistema dove si applichi la massima tecnologia possibile per adattarla agli usi ed agli scopi il risultato possa essere grossomodo il medesimo ma in ogni caso questo dipende dall’uso che se ne faccia.E cosi l’alta tecnologia applicata alle decisioni che una volta avrebbe potuto liberare l’uomo dal bisogno non fà altro che essere riconvertita agli scopi pretamente essenziali del sistema che sono quelli della riproduzione delle stesse forze che operano nell’interno di esso e che consistono e assumono in loro ogni finalità del sistema. Sinceramente non ne scorgo l’eclatanza che gli sia stata data.Ma non credo ci si posssa stupire in un periodo come questo dove capi di stato ricevono gli emissari dei governi d’Europa mentre solo mezz’ora prima si guardava solamente a mettere in salvo la gente dal peggio che possa capitare(queste le notizie che arrivano a noi).Siamo al punto che qualsiasi cosa venga detta sia accompagnata da interpretazioni e non da fatti che ne inficiano 5 minuti dopo il loro valore.E’ la nuova frontiera di come si possa comandare cambiando sempre lo scopo in vista del quale ci sarebbe da chiedersi se sia vero che l’uso che se ne faccia delle regole nei casi contingenti sia il punto di partenza della verifica del modello preso in esame. E che forse era stato messo in dubbio che la tecnologia applicata all’interno di questo sistema ne riproducesse le storture? Credo che possa essere un processo automatico quello in cui le negatività diano origine alla colorazione negativa di una gran parte del sistema e che quindi ” la carica del fascismo” aumenti in misura direttamente proporzionale alla pressione degli interventi guidati poichè dicamo che le nuove ” App” siano studiate appositamente per gli scopi di aumentare le restrizioni, in base a queste eliminare la forza lavoro, e far controllare il mondo da un sistema disumanizzato dal quale non ci sia uscita poichè produce compressione,acriticità progressiva e nuove leggi che guidano le istituzioni che alla fine queste ultime si riducono poichè non c’è più necessità che operino in un mondo dove il contingente esiste senza più una guida umana. Nonè forse questa la finalità del Capitale Monopolistico e della Controrivoluzione Globale ? Beh, in fondo questo non è chè un vecchio fascismo con metodi nuovi ma con i vecchi fini.A questo titolo sarebbe opportuna la lettura di una delle ultime critiche a Sweezy fatti da Anna Maria Bertani negli anni ’70 ma sempre attuale, forse concepita appositamente contro le teorie deviazioniste della nuova destra dal titolo ”Keynes nel marxismo di Sweezy”.Un bel libro veramente, che spiega tante cose da un punto di vista non unilaterale, tale da rappresentare materia attuale più di mezzo secolo dopo.

Forse mette insieme un po’ troppe cose, McQuillan, e finisce per perdere di vista il quadro complessivo. Nella strategia del capitalismo di ricerca e consolidamento del profitto ed estrazione del plusvalore, l’AI è solo un tassello – per quanto molto grande -. Invece, sembra che McQuillan la configuri come la “stanza dei bottoni”. In realtà, la struttura del capitalismo contemporaneo è una struttura acentrata, paragonabile a una rete neurale. Questo toglie identificabilità certa e garantisce la persistenza del sistema, direi la sua “invulnerabilità”. L’analisi di McQuillan mi ricorda alcune categorie interpretative degli althusseriani: la surdétèrmination,ad es. Sembravano molto esplicative e non spiegavano un bel niente. Occorre riflettere sull’AI come fenomeno pervasivo, certamente, e come strumento (tra gli altri) di dominio e anche sulle sue implicazioni etiche e politiche. Ma trattarla come LO strumento è certamente errato. Oggi abbiamo applicazioni AI che producono arte di buona qualità; grazie all’AI abbiamo una migliore conoscenza di come funziona la nostra mente; mediante strumenti (relativamente) accessibili possiamo produrre anche sul pc di casa una serie di risultati strabilianti (ad es., accoppiando un linguaggio di scripting comePython e metodi GAN – generative adversarial networks – o GPT oppure facendo ricorso a metodi bayesiani o a SVM, ecc.). Insomma, non c’è solo l’AI degli algoritmi d’identificazione cui fa ricorso la polizia – si veda https://www.wired.it/attualita/tech/2019/01/26/ocasio-cortez-ha-ragione-algoritmi-sono-razzisti/ -,ma anche una Open AI che ha meriti. Poi l’informatica restituisce ciò che hai messo dentro la scatola. Ma è così in generale: dipende dal materiale che metti davanti al ventilatore se gli altri si sporcheranno o profumeranno. Il problema è capire come arrivare ad essere quelli che mettono il materiale davanti al ventilatore. ?

X Enzo Sorbera. Sarebbe anche entusiasmante in un certoqualmodo capire CHI SIA che metta il materiale davanti al ventilatore e di quale materiale si parli.A questo punto occorrerebbe vedere e valutare le basi di partenza per l’avvicinamento al ventilatore e dove si vada a riposizionare la materia messa davanti e dove si spalmi e che effetto produca. Bene, se le cose stanno così come dici, mi chiedo quale sia la novità dell’intuizione di Mc Quillan perchè in effetti non sono riuscito a comprenderla nella sua essenza quando dice che l’ IA possa essere il futuro.Mi sembra che siamo molto sul generico poichè a tali affermazioni se ne potrebbero fare anche altre tutte al contrario. Futuro per chi ? Per una nazione, per i singoli, per una civiltà tecnologica in continua evoluzione che possa sovraintendere l’avvenire del genere umano per un futuro radioso oppure cupo e fascistoide ? Credo che fin’ora se si facessero i conti ben bene sul passato del mondo negli ultmi tre secoli. la bilancia penderebbe dalla parte negativa se non altro perchè il pianeta e con esso gli uomini ,è agli sgoccioli dilaniato da guerre, fame, migrazioni e miseria ed incertezza ma parallelamente ancora vedo che ci si pone il problema di chi metta chi e cosa davanti al ventilatore…ma come ? Chi è chi ? Sbaglio od ogni sistema tende alla perpetuazione di se stesso e ad eliminare le contraddizioni che ne facciano diminuire l’efficacia ? Chi se ne avvale di tale efficacia se non colui che mette il materiale davanti al ventilatore ? C’era bisogno di Harrod -Domar per svelare che il ventlatore lo comanda lo stesso che pone il materiale davanti al ventilatore attendendo che si possa spalmare su coloro che ne sono i riceventi ? Sarò io che non l’ho compreso a fondo ma se la costrizione di classe da parte dei più equivalga semprepiù alla parola fascismo, il fascismo moderno è sempre meno l’olio di ricino ed il manganello ma è e sarà la costrizione a sottostare a questo tipo di sviluppo che vediamo che ci circonda e che ci informa che chi sopravvive è la specie più forte e dotata,ma che di certo anche questa soccomberà sotto la ragione di altri.Può anche darsi che ci estinguiamo per nostro conto e mentre ci accapigliamo per far proliferare le nostre idee Sagunto viene espugnata….del resto la via della seta partiva dall’interno della Cina, passava per il Singkiang ed attraversando il Takla Makan e per Samarcanda ed Alma Ata arrivava alle sponde del Caspio, del Mar Nero e raggiungeva l’Europa:Si pensa davvero che un paese del mondo in decadenza come l’occidente con i suoi valori e disvalori,reo fra l’altro di aver sfruttao e compresso gran parte del mondo e succhiato le sue risorse possa essere tenuto in considerazione da una civiltà che abbia 4000 anni più di noi, portante in grembo 1 miliardo e 400 milioni di persone pragmatiche ,con voglia innata e naturale di lavorare e produrre, con una concezione della famiglia lontana dalle nostre e valorialmente autoctona, contro i 600 mlioni di europei ? Auguri ! Cosa ne possa conseguire da tutto questo ? O guerra oppure accettazione dell’esistente ed ecco allora una urgente spiegazione sul perchè certi valori in casa nostra vadano ridiscussi.Ma evidentemente c’è anche a chi tale visione sembra che non aggradi molto… e questi fanno parte di sicuro della schiera di coloro che pongono il materiale davanti al ventilatore le cui pale non saranno fermate di certo da Harrod Domar ma da qualcun altro che oggi non ha un nome che vada tanto di moda e che disegnò quella famosa ”caduta tendenziale del saggio di profitto” e che oggi riposa all’ Highgate Cemetery di Londra.

Non puoi fermarti al ventilatore: nel mio discorso sull’ acentrato è chiaramente una contraddizione. L’ho inserito come un’assurdità: il problema principale è la fine dell’aspetto conflittuale tra interessi contrastanti (operai e capitale. Il nascondersi di questa contraddizione è dovuta alla dislocazione, certo, delle forme di sfruttamento e di accumulazione,ma mostra anche il limite di una lettura solo sindacale delle contraddizioni. E’ evidente un deficit della politica: parliamo solo di mercati e di principi regolativi “neutri”, dovuti alla struttura “anonima” del nesso capitale/lavoro. Una specie di teologia senza angeli né demoni. Ma è la forma attuale dello sviluppo capitalistico. Siamo incapaci di critica dell’economia politica: appiattiti sul modello liberista, non riusciamo a vedere il Diritto (ah, Pašukanis, where are you?!!!) ma solo i meccanismi di riequilibrio del mercato. Sulla nebbia del neoliberismo, il prof. Letta, docente di Sciences Pos, sbaglia le semplici equazioni del meccanismo elettorale e pretende di indicarci la via. Ma siamo noi, volgare peuple,a dover fare conti con questi calcoli sbagliati. E i conti non tornano…

X Enzo Sorbera.Appunto perchè i conti non tornano mi sembra che ci sia il bisogno di vedere ed affrontare il tema rendendo i contenuti valoriali anche alla luce attuale dei tempi in cui viviamo. Mah, che sia un limite di una lettura solo sindacale delle contraddizioni non mi trova molto d’accordo perchè ritengo sia l’essenza il conflitto capitale/lavoro e le forme che ne sono derivate sono da tale ”cespite conflittuale” dipendenti tutte quante.Il luogo d’origine quello è. Quando poi tu mi parli che viviamo un deficit della politica sono d’accordo ma è un deficit proprio perchè quei meccanismi li viviamo come ”neutri” quando non sono affatto neutri ma non sono altro che i principi sviluppati e posti a difesa di quel ventilatore di cui tu parlavi,quindi quale neutralità hanno ?.Sono invece produttivi e come lo sono…lo sono perchè eliminano tutte quelle contraddizioni che sarebbero utili a frapporsi al sistema dominante,quindi fanno l’utilità di chi ha acceso il ventilatore. Lasciamo stare i modelli; qui non parliamo di modelli ma di esame del diritto borghese all’interno della teoria marxista come giustamente ti appelli tu ricordando Pasukanis ma il disquisire su questo porta lontano, in una terra inesplorata, perchè ad ogni richiamo di direzione-ce ne sono tantissimi-si potrebbe partire dall’Antidhuring per arrivare alla critica dell’Economia Politica e ad Hegel.Ci perderemmo per la strada credo, almeno io sicuramente, proprio perchè intervengono nelle questioni molteplici fattori che a seconda del loro peso caratterizzano l’efficacia dell’applicazione ed inficiano un risultato che non è mai stato univoco. Perciò è meglio rimanere in terren battuti e se ci rimaniamo vedremo che il ”ventilatore provocatorio” che hai acceso tu facca terra bruciata di tutte le teorie alla Letta che non riesco a capire cosa avesse potuto insegnare agli studenti a Parigi e da quali visioni e teorie fosse animato.L’hanno richiamato a Roma ed in un giorno il suo partito senza nulla discutere l’ha proclamato segretario, quasi quasi emulando bettino craxi quando fu fatto segretario del PSI non per votazione ma per acclamazione. Poi da Forza Italia viene il grido che gli vorrebbe rendere onore…Forse ci sono teste sopra di lui- parlo di Letta – atte a vedere meglio la sfera di cristallo di come la potesse vedere lui stesso segretario ma dai fatti che ne sono venuti fuori da quella storia io credo che anche da quei momenti sia partita la base per la solenne sconfitta che hanno avuto. Ed è nelle cose che chi ha prodotto la debacle del proprio partito o ne è stato l’architrave (certo non solo il suo partito ) ha per conseguenza orientato la base delle classi subalterne a votare per la Meloni al governo. In quella che anni fa era la ” Stalingrado d’Italia” alis Sesto San Giovanni oggi il prodotto messo davanti al ventilatore si è sparso per quell’area investendo tutta l’italia….Ed allora se non capiamo quali siano gli interessi di chi abbia acceso il ventilatore e li consideriamo ”neutri” ecco una delle ragioni, naturalmente non la sola, che ci dimostra che quel rapporto d contraddizione chiamato capitale/lavoro ha prodotto la spalmatura sociale per la quale si salvaguardino gli interessi di chi accende il ventilatore. Harrod-Domar di fronte alla folla dei suoi sciocchi contestatori, dalla gioia potrebbe anche ricorrere alla masturbazione…..” il lavoro come fattore della produzione” sinceramente un po’ meno, probabilmente ”il capitale” si unirebbe ad Harrod-Domar, aspettando il vertice del ciclo e la sua ricaduta per poi ripartire col ventilatore che gira al contrario….fin’ora però ha girato quasi sempre in un verso solo.Quindi ” la neutralità” è l’illusione e la bugia consapevole del liberalismo interessato.

Concordo,però stiamo andando fuori argomento. Il succo di tutto il discorso sull’intelligenza artificiale è che è una rivoluzione epocale,è una svolta che stiamo vivendo e saremo gli ultimi a viverla: dopo, nessuno sarà in grado di ricordare com’era prima. Le generazioni future non sapranno mai com’era una realtà esclusivamente analogica, offline, predigitale. Secondo me, è un privilegio che abbiamo: occupiamo un posto speciale in questa storia. E però,paghiamo un prezzo, per questo posto, ed è un prezzo di incertezze e preoccupazioni ma anche di “guardia alta”. Qui sta il nodo delle discussioni: l’incertezza porta a ricondurre nel quadro concettuale noto quello che non sappiamo ben distinguere. Ma cercare di capire è già un modo di appropriarsi dell’ignoto. Navigar sul mare aperto, questo dobbiamo fare e stiamo facendo.