Rovesciare il potere di chi produce gli algoritmi, ma sempre di più il potere della tecno-archia -

Una conversazione con Lelio Demichelis, sociologo, docente universitario, autore di Tecno-archia, o la nave dei folli (Derive Approdi editrice)

Alberto Deambrogio: Professore, nel tuo lavoro analizzi spesso come la tecnologia non sia mai neutrale, ma risponda alle logiche del biocapitalismo. Di fronte all’avvento dell’intelligenza artificiale, assistiamo oggi a una “sacralizzazione” dell’algoritmo che sembra sottrarlo alla critica politica. In che modo l’IA sta ridefinendo il concetto stesso di sfruttamento e come si può decostruire questa narrazione tecno-ottimista che presenta l’automazione come un destino inevitabile e privo di alternative?

Lelio Demichelis: Non è solo l’algoritmo, ma è la tecno-scienza – e non lo dico solo io – a essere sacralizzata e ad essere da tre secoli il nostro nuovo Dio. Permette all’uomo di credersi come Dio e di creare il mondo a sua immagine e somiglianza, mentre è in realtà l’uomo ad essere plasmato da questo nuovo Dio, è la tecnica a fare l’uomo a sua immagine e somiglianza secondo la propria razionalità basata solo sul numero e sul calcolo e la calcolabilità di ogni cosa, con gli uomini ridotti a numeri anch’essi (questo è il Big Data, a questo servono i Data Center). Il credo di questa che avevo chiamato religione tecno-capitalista è: la scienza scopre, l’industria applica, l’uomo si adegua – che era poi il motto positivista dell’Esposizione Universale di Chicago del 1933. La sacralizzazione della cosiddetta intelligenza artificiale è quindi solo l’ultima forma e norma comportamentale (dopo positivismo, liberalismo, anche marxismo, neoliberalismo, fascismo/nazismo, populismo/sovranismo) di addomesticamento e di adeguamento (appunto) degli uomini e della società alle esigenze del capitale ma soprattutto del sistema tecnico. È l’uomo ridotto a macchina, indotto a delegare tutto sé stesso alla macchina e ad eseguire automatismi non più solo macchinici (a funzionare come una macchina, ai tempi della macchina, secondo le procedure e i dispositivi della macchina, oggi digitale/algoritmica), ma ora anche esplicitamente cognitivi, quelli appunto indotti dalla intelligenza artificiale. È sfruttamento capitalistico e industrializzato del lavoro (di produzione e di consumo e di generazione di dati), del tempo libero, della vita intera dell’uomo come oggi anche della conoscenza e del sapere, ma è soprattutto sfruttamento tecnico (concetto e processo che dovremmo cominciare ad usare) dell’uomo attraverso la sua nullificazione (è nichilismo) come soggetto capace di pensiero e di immaginazione. È sfruttamento della biosfera, dalle terre rare alla richiesta di sempre maggiore energia (l’i.a. è energivora, cioè anti-ecologica più di ogni altra industria). È biocapitalismo ma è soprattutto biotecnica, come l’avevo definita in un saggio del 2008. Ma l’i.a. non è che una macchina calcolatrice, funziona sulla base di correlazioni statistiche, ci dà risultati apparentemente sempre diversi (che quindi crediamo personalizzati e appunto intelligenti), ma sempre replica lo status quo con cui è stata nutrita rubando informazioni, conoscenze, dati personali; e – peggio ancora – sta diventando sempre più autonoma dai suoi programmatori (il codice di Claude, l’i.a. di Anthropic è scritto dal codice stesso per l’80%, prevedendo di arrivare al 100% entro due anni, ovvero è causa sui, è auto-referenziale, si auto-replica e si auto-riproduce avendo come fine/telos il proprio accrescimento e nulla più), pur restando sempre una macchina calcolatrice, ma del pensiero. E non solo l’i.a. distruggerà ancora di più l’ambiente e milioni di posti di lavoro – e anche quel lavoro cognitivo e intelligente e creativo e artistico promesso dal tecno-capitalismo negli anni Novanta sarà fatto sempre più dalla i.a. (ovvero, mai credere alle promesse e alle favole per bambini della tecnica e dei capitalisti) – ma (e questo è decisamente peggio per chi come me è sociologo o filosofo sociale) ci toglie la capacità e la volontà (già ne avevamo poca) di pensare/approfondire/criticare/immaginare, genera appunto automatismi cognitivi (o cognitive surrender, cioè la resa cognitiva dell’uomo). Automatismi cognitivi che ci portano a credere esatta e quindi vera la risposta dell’algoritmo, a prescindere dalle sue possibili allucinazioni e della sua correttezza epistemica. E più le sue risposte sono convincenti, addirittura empatiche, più rinunciamo ad ogni verifica e accresciamo il nostro automatismo cognitivo.

È taylorismo cognitivo come lo definisco, perché come Taylor espropriava i lavoratori di allora delle loro conoscenze e della loro esperienza di lavoro per tradurle in tabelle e schemi scientifici e uniformi da applicare all’intera fabbrica, giusti perché scientifici cioè basati sul calcolo, lo stesso fa l’i.a.: ci espropria di conoscenza (e della volontà di acquisire conoscenza e sapere) per tradurla in schemi algoritmici. Introdurre l’i.a. a scuola – invece del pensiero critico – serve a questo, ad addomesticarci all’uso della i.a., rendendola normale e familiare e ricercata sempre di più. Non opponendoci – ma anzi… – direi che è una auto-alienazione e un auto-nichilismo felice, finalmente non si deve più faticare a pensare, basta chiedere a ChatGPT e simili e avere istantaneamente una risposta. Il povero Kant, con il suo sapere aude! si sta rivoltando nella tomba… – come spiazzati siamo tutti noi che crediamo invece in una Ragione illuministica e nella uscita dell’uomo dalla minorità data dal cercare sempre qualcuno che pensi per lui (ieri il prete o il sovrano, secondo Kant; poi un Duce, ma anche il marketing o un manager, oggi pensa per noi l’i.a.).

Non solo, la i.a. serve ad aumentare la nostra produttività (parola elegante per non dire sfruttamento) e la nostra efficienza capitalistica e tecnica, ovvero perché perdere tempo a pensare o a leggere un intero documento o una email, se l’i.a. la può semplificare/riassumere, evitandoci di perdere tempo? Si replica cioè sempre la regola ferrea del sistema tecnico e capitalistico, evitare che gli uomini pensino, pensare è un tempo morto, pensare è inefficiente, intralcia il funzionamento della macchina/sistema di macchine – lo diceva Ford per la sua catena di montaggio, lo diceva appunto Taylor con il suo taylorismo oggi diventato digitale (Bellucci) e oggi anche cognitivo. Sfruttamento capitalistico ma soprattutto tecnico, sempre di più. Perché il sempre di più è nella essenza e tendenza del capitalismo ma anche del sistema tecnico.

Se ne può uscire?

Teoricamente sì, ma occorre recuperare la volontà e poi la capacità di farlo, di uscire da questo sfruttamento/auto-sfruttamento, da questa crescente e ormai totalitaria auto-alienazione dell’uomo da se stesso, ridottosi appunto a numero e solo a numero. Condizione che accettiamo, che non vediamo perché il sistema si offre come intelligente, così come Taylor chiamava scientifica la sua organizzazione del lavoro, e quindi non poteva essere contestata (si sarebbe caduti nel peccato della irrazionalità). Ma questa è solo propaganda, in realtà il sistema tecnico e capitalistico ci vuole sempre più stupidi, ci vuole – tranne quei pochi che non saranno sostituiti da automatismi macchinici e cognitivi – come macchine e funzionanti come macchine. Non solo: il taylorismo è il principio politico della modernità (richiamando Anders) ed esso si basa su suddivisione e frammentazione e individualizzazione (primo movimento) non più solo del lavoro ma del sapere, della scienza coi suoi specialismi, del tempo, dello spazio, delle immagini, dello stesso individuo e della lotta di classe ridotta a proteste parziali e autoreferenziali, così impedendo di vedere l’insieme, come nella fabbrica, ma soprattutto permettendo che ogni parte, pezzo, frammento (secondo movimento) possa essere meglio e più facilmente integrato/sussunto nel sistema, capitalistico ma soprattutto tecnico. E se gli uomini sono imprevedibili e irrazionali, la tendenza della tecnica è quella di sostituire sempre più le macchine agli umani, di automatizzare e di semplificare ora anche il pensiero traducendo tutto in numeri per essere calcolato e calcolabile e quindi meglio organizzabile e meglio sorvegliabile, meglio pianificabile e soprattutto meglio integrabile. E integrare è il fine di ogni totalitarismo. Punto. E che la tecnica – intesa come razionalità strumentale e calcolante e industriale (che chiamo così sviluppandola dalla prima Scuola di Francoforte) e la tecnologia come sua applicazione non siano neutre/neutrali è cosa risaputa da tempo, lo hanno scritto filosofi e sociologi di varia tendenza, esplicitamente o implicitamente e penso a Martin Heidegger, a F.G. Jünger (fratello del più famoso Ernst), a Jacques Ellul e a Günther Anders (il migliore dei filosofi della tecnica), arrivando ad Hans Jonas, a Emanuele Severino e Umberto Galimberti e ora a Papa Leone nella sua Enciclica – per citarne solo alcuni.

Io sostengo che questa razionalità moderna, strumentale e calcolante, nata dalla rivoluzione scientifica e poi industriale, il cui fondamento è appunto il numero – in realtà assolutamente irrazionale, vedi la crisi climatica e ambientale che produce – è diventata una Tecno-archía, un potere assoluto, dogmatico e totalitario ben peggio di quelli politici del Novecento. Ma attenzione, non-neutra non significa che tutto dipende dall’uso che se ne può fare e da chi la usa (i tecno-oligarchi, i tecno-fascisti), buono o cattivo. Significa che la tecnica come razionalità auto-referenziale e causa sui cerca solo il proprio accrescimento, il potere e la potenza per sé, cioè è di parte, la parte di se stessa. Rendendo impossibile – perché subito bollato di irrazionalità, a prescindere – ogni uso, ogni immaginazione, ogni idea, ogni politica che sia in conflitto con la sua razionalità (e il folle Peter Thiel definisce gli ambientalisti e gli umanisti come l’Anticristo, come il male assoluto che vuole limitare la libertà sua e della tecno-scienza). E capitalismo e sistema tecnico si basano sì sulla stessa razionalità appunto calcolante e sul sempre di più, ma sono per me le due parti distinte, anche se reciprocamente funzionali, che compongono il potere archico della modernità, la Tecno-archía appunto, che pre-determina la capacità di capitalismo e sistema tecnico di riprodursi illimitatamente e ontologicamente (cioè producendo il modus vivendi unidimensionale, tecno-archico di ciascuno). Ma il sistema tecnico potrebbe esistere anche senza capitalismo e non risponde solo alle logiche del biocapitalismo (anzi, Severino diceva che la tecnica è più forte anche del capitalismo) – e l’intelligenza artificiale (come il telaio meccanico o la macchina a vapore) non l’ha inventata il capitalismo, ma è figlia della razionalità calcolante, di nuovo della Tecno-archía, del calcolo, dei numeri. Il capitalismo l’ha solo messa a profitto. E conseguentemente, senza che ce ne accorgiamo, si sta producendo una società totalitaria automatizzata e amministrata dalle macchine (come temeva sempre la prima Scuola di Francoforte). O un mondo sempre più vicino alla distopia narrata da Zamjàtin in Noi (1922), cioè prima di Huxley e di Orwell, distopia dove gli uomini non hanno un nome ma sono un numero, dove tutto è calcolo razionale (anche la felicità, anche il sesso) e la fantasia è abolita.

Ancora e sempre sfruttamento di uomini e biosfera, una coazione a ripetere…

Certo, il capitalismo e il sistema tecnico – in quanto parti operazionali della Tecno-archía, della razionalità strumentale/calcolante-industriale – sono due regimi di sfruttamento compulsivo di uomini e biosfera (sempre di più) e noi ci adeguiamo senza più reagire e anche la lotta di classe è scomparsa, la tecnica avendo dissolto anche la classe e una sua possibile coscienza antagonista. Quindi, dovrebbe essere evidente che non basta immaginare un uso diverso della tecnica o uscire dal solo capitalismo (ammesso che qualcuno si dica ancora anti-capitalista, come tutti invece dovremmo essere e definirci), se non si esce dalla razionalità strumentale/calcolante-industriale che malgoverna il mondo da tre secoli a questa parte, cioè occorre, come sostengo nel mio libro, deporre la Tecno-archía. Ma per questo occorre essere consapevoli del fatto che non esistono più macchine singole e autonome, come invece ancora crediamo, come crediamo di governare le macchine: le macchine di oggi non sono le macchine pre-rivoluzione scientifica/industriale, ma tutte le macchine convergono, integrandosi tra loro, in una mega-macchina (i pc e la rete sono l’esempio più evidente del totalitarismo degli apparati di cui scriveva Anders) e gli uomini con esse. Sempre Anders diceva che nella società tecnica “si deve fare tutto ciò che tecnicamente si può fare”; io dico che la tecnica, come anticipato prima, si accresce causa sui cioè si auto-riproduce e si auto-accresce infinitamente – appunto sulla base del calcolo e siccome i numeri sono infiniti, infinite sono anche le possibilità offerte dal calcolo… E quindi infinita è la capacità di sfruttamento, dell’uomo e della biosfera da parte della Tecno-archía. E certo, il pensiero è anche calcolo, ma la modernità lo ha ridotto a solo calcolo, che non è pensiero né può esserlo. Perché ciò che appare esatto matematicamente non necessariamente è anche giusto ed etico (in termini di giustizia sociale e ambientale, ad esempio).

E così torniamo all’intelligenza artificiale…

Se l’i.a. è (come è) l’ultima tappa della costruzione di un totalitarismo tecnico – oltre che capitalistico – se è un totalitarismo, come scrivevano già anche Anders e Marcuse – allora occorre attivare una nuova Resistenza. Ovvero, come ho immaginato nel mio Tecno-archía, o la Nave dei folli (del 2025), così come ci fu “una Resistenza al nazi-fascismo in nome della libertà e della demo-crazia, usando tutte le armi di allora, forse, forse è ancora possibile immaginare una capacità umana di resistenza e soprattutto di sovversione […] della Tecno-archía – posto che sovvertire illibertà, ingiustizia, eteronomia, sfruttamento, ecocidio dovrebbe essere un principio e un imperativo umano e politico di indubitabile e universale potenza etica e morale”. Per questo occorre però prima riconoscere la razionalità moderna come totalitaria – come Tecno-archía – e immaginare una alternativa prima di tutto culturale; e capire che la tecnica (e non solo il capitale) non è più un fattore di liberazione/emancipazione o di benessere, né ci porterà al socialismo/comunismo. Se non lo facciamo, se non la riconosciamo come potere totalizzante/totalitario, “allora siamo complici e non solo vittime” del sistema – come scriveva Goffredo Fofi.

A.D.: L’intervento di Papa Leone con la Magnifica Humanitas ha colmato un vuoto politico enorme, ponendo l’etica al centro dello sviluppo tecnologico. Perché, a tuo avviso, la sinistra e i sindacati tradizionali sono rimasti sostanzialmente assenti o subalterni su questo fronte? Si tratta di un’incapacità culturale di comprendere i nuovi mezzi di produzione o di una vera e propria rassegnazione ideologica di fronte alla razionalità strumentale del mercato?

L.D.: Che sia un Papa a proporre una riflessione critica sulla i.a. è cosa buona e giusta. Un doveroso grazie a Leone XIV, da un laico non credente quale sono. Inquietante – se non drammatico (perché significa non avere consapevolezza dei processi in atto – ed è una ormai cronica incapacità culturale e insieme una rassegnazione/adeguamento alla razionalità strumentale) – è il silenzio delle sinistre, dei marxismi, anche delle sinistre radicali e, anche Landini infine ha detto qualcosa, del sindacato. Sulle quali l’Enciclica è scivolata via come acqua, o non è stata vista dai rispettivi radar (perché spenti). Certo, vi sono lodevoli eccezioni, penso di nuovo alla prima Scuola di Francoforte, ad Anders, a Raniero Panzieri, a Claudio Napoleoni, a Stiegler, alla Scuola critica del digitale del CRS; ma penso anche al Berlinguer dell’austerità ecologista e umanistica immaginata nel Convegno del 1977 (tutta diversa ovviamente dall’austerità poi imposta dal neoliberalismo qualche decennio dopo), le cui conclusioni sono state però velocemente rimosse dal Pci di allora (e dal Pd e dalle sinistre di oggi), tutto preso dal mantra ideologico marxista dello sviluppo delle forze produttive e dal mito del Progresso, perché anche il marxismo è industrialista, produttivista, positivista (per cui, società uguale industria), taylorista… come il capitalismo. Ovvero, come ho scritto altrove, “i marxismi e le sinistre di varia tendenza e storia [ma in realtà il problema riguarda tutti noi, di sinistra o meno, ma tutti feticisti della tecnica e del mito del Progresso] sembrano avere un grosso problema con le macchine e con la tecnica: si ostinano a non voler vedere (cosa diversa dal non vedere, grave in sé) la potenza (la pluspotenza della sua volontà di potenza, ma anche il suo potere normativo e di normalizzazione sociale) della tecnica. E da due secoli le sinistre si illudono che la tecnica sia fondamentale per la liberazione del proletariato ma è una ingenuità epistemica smentita ogni giorno dalla realtà (che però appunto non si vuole vedere, così rafforzando inconsapevolmente la potenza del capitale e del sistema tecnico). O che trionferà il general intellect […]. Questo non voler vedere il potere e la pluspotenza della tecnica (e cioè non solo del capitalismo) è la trappola in cui sono caduti i marxismi (rivoluzionari o riformisti che fossero). E le cosiddette sinistre di oggi hanno accettato senza reagire, se non favorito, non solo il neoliberalismo ma anche l’oligopolio/oligarchia delle Silicon Valley del mondo, pellegrinando gioiosamente verso di esse; come ieri hanno creduto che la rete (la tecnica) fosse libera e democratica in sé, o che grazie alle nuove tecnologie si sarebbe arrivati davvero al lavoro cognitivo e immateriale, a lavorare meno e ad avere più tempo libero, quando tutto questo non poteva esserlo proprio per l’essenza della tecnica, che ha prodotto (non poteva non produrre) l’esatto contrario di quanto propagandisticamente promesso”. Eppure, a sinistra qualcuno immagina ancora una ricomposizione di classe a partire dalle infrastrutture digitali, che è qualcosa di impossibile per la contraddizione che non lo consente, sì che non si può usare, per ricomporre la classe, la stessa infrastruttura (oggi digitale) che l’ha scomposta, frammentata, dispersa, individualizzata, diffusa.

E invece dovrebbe essere ormai evidente che la Tecno-archía è in conflitto (un conflitto irrisolvibile, se non appunto destituendola come ontologia e teleologia della modernità) con la libertà dell’uomo– e soprattutto con la sua libertà cognitiva,ricordando che quanto più si è integrati in qualcosa che non si controlla, come appunto i sistemi tecnici/infrastrutture digitali e oggi l’i.a., meno si è liberi e ricordando ancora che la tecnica odia l’imprevedibilità, l’errore umano, i tempi morti, l’eccentricità, la creatività e l’immaginazione – proprio ciò che invece rende libero e uomo, un uomo; che è in conflitto con la democrazia – sì che se la tecnica obbedisce a leggi proprie, allora sta producendo (causa sui) la morte della democrazia, perché democrazia significa libertà di scelta e se non c’è questa libertà anche sull’innovazione tecnica – che invece si impone come un dato di fatto, a prescindere dai capitalisti – allora non si è neppure solo in un deficit di democrazia, ma appunto in un sistema archico, totalitario; e che è in conflitto soprattutto con la biosfera, come la crisi ambientale dimostra.

Di più: sembra del tutto impossibile dare un’etica alla i.a., alla (ir)razionalità tecnica (ci aveva provato Hans Jonas, con il suo principio responsabilità), sì che se questa è calcolo, è impossibile, per la contraddizione che non lo consente, dare un’etica a dei numeri. E nel caso fosse comunque possibile, quale etica, decisa da chi e come – se la tecnica si accresce causa sui? Se non si esce preliminarmente, come sostengo, dall’egemonia/dominio del numero e del calcolo – dalla Tecno-archía – non si potrà mai immaginare un Progresso diverso (lo invocava anche Papa Francesco).

A.D.: Aprire un dibattito autentico e radicale su questi temi all’interno della sinistra sembra quasi impossibile: chi solleva dubbi viene spesso liquidato come “luddista”. Come si spezza questo tabù culturale per ricostruire un pensiero critico che non sia semplice rincorsa della modernità capitalista? Quali parole d’ordine o categorie interpretative dovrebbero adottare la politica e il sindacato per rimettere l’uomo, e non l’efficienza algoritmica, al centro del futuro?

L.D.: È possibile immaginare una sinistra capace di un pensiero critico sulla tecnica, se è ormai incapace di fare un pensiero critico persino sul capitalismo – accettato come immodificabile, come il migliore dei mondi possibili, abbandonando non solo l’idea di rivoluzione ma anche quella di un riformismo radicale (altrimenti non è riformismo)? E perché ha rimosso dal suo vocabolario la parola rivoluzione – per la paura di dirsi rivoluzionari? – facendosi però complice (nel senso di Fofi) della rivoluzione incessante imposta invece dal capitalismo e soprattutto dalla tecnica a uomini e società? Non dovrebbe essere doveroso – un autentico imperativo categorico – dirsi anti-capitalisti e cercare una uscita radicale dal capitalismo (e dalla Tecno-archía , aggiungo), nel momento in cui esso raggiunge il massimo di irrazionalità, di depravazione, di cinismo, di nichilismo, di ecocidio compulsivo, di isteria bellicista, di totalitarismo – è il peggiore capitalismo di sempre – abbandonando ogni idea di un nuovo compromesso tra capitale e lavoro? E non è una illusione pensare di contrattare gli algoritmi, se prima non si mette in discussione la (ir)razionalità strumentale/calcolante-industriale che governa il sistema? Se non si rovescia (appunto con una rivoluzione che deve essere prima di tutto culturale, ma tutta diversa da quella di Mao) il potere non solo di chi produce gli algoritmi ma sempre più il potere stesso degli algoritmi, cioè il potere della Tecno–archía? Siamo ancora capaci di dire: NON ACCETTO questo sistema e voglio cambiarlo tagliandone le radici, rifiutando la morfina che la Tecno-archía ci somministra ogni giorno a dosaggi crescenti per nascondere i disastri che produce sempre di più?

Se la modernità è diventata un potere archico, allora dalla Tecno-archía del numero e del calcolo si deve uscire, in nome della libertà, della democrazia, della biosfera, della responsabilità; ma questo è possibile – lo ribadisco perché ne sono convintissimo – solo se prima si riconosce ( si vede) la Tecno-archía e quindi attivando un pensiero destituente che deponga, rottamandola definitivamente, la Tecno-archía, ma che sia insieme un pensiero istituente che generi demo-crazia e auto-nomia (e non più eteronomia tecnica e capitalistica) e responsabilità verso la biosfera e le future generazioni; basandosi su un sapere aude! umano e non macchinico. Come fece il demos dell’antica Grecia quando, prendendo consapevolezza del proprio potere, depose l’oligarchia. Pensare che questo potere destituente/istituente lo possano attivare le sinistre istituzionalizzate mi sembra ingenuo (hanno paura persino di tassare i ricchi). Pensare che si possa farlo partendo dal basso o dal locale, senza però una grande idea (non una ideologia chiusa in se stessa, ma una grande idea aperta), mi sembra altrettanto ingenuo perché non avrebbe la forza di deporre la Tecno-archía ormai globale e il suo potere di veridizione oggi incorporato nella intelligenza artificiale. Non ho parole d’ordine da suggerire – se non appunto NON ACCETTO, oppure INDIGNATEVI! Io ho proposto una interpretazione dei processi in atto – la critica alla modernità non è cosa nuova, ma assolutamente nuovo è considerarla un potere archico. Tesi da discutere e su cui riflettere. Su cui invito a riflettere (soprattutto) le sinistre. Se ne avessero voglia.