Con l’avanzare delle AI, non è più possibile dimostrare cosa sia reale
L’algoritmo mi bombarda da giorni con tre tipi di contenuti: dissing tra paninari, che credo sia la versione post-moderna degli epistolari tra Pasolini e Camus, tips per curare il mal di schiena, che si concludono sistematicamente con un nulla di fatto, come quelli su “come togliersi una Big Babol dai capelli”, e video speculazioni sulle sorti di Netanyahu.
Se ve lo foste perso, il (pen)ultimo video che ritrae il Primo Ministro dello Stato ebraico presenterebbe evidenti segnali di generazione AI: dita che appaiono e poi scompaiono, strani cambiamenti dentali e altri “segni” di generazione artificiale sarebbero alla base di supposizioni e speculazioni su una sua possibile dipartita. Premesso che in politica i deepfake sono probabilmente di uso molto più comune e precedente di quanto crediamo, e che potrebbero semplicemente essere utilizzati per comunicare in situazioni di massima allerta, i canali ufficiali di Bibi decidono di smentire con un nuovo video, stavolta in una caffetteria. Anche qui, tra fede all’anulare che compare e scompare, strani movimenti delle mani e il riflesso dello schermo di una cassa automatica che rivelerebbe la data “2024”, le speculazioni non solo non diminuiscono, ma si rafforzano.
Il vero tema non sono le condizioni del Darth Vader del Medio Oriente (Asia occidentale, per dirla in modo meno eurocentrico) ma quanto, considerato l’attuale stato di avanzamento delle AI e della loro capacità di simulare in modo sempre più verosimile la realtà, sia di fatto possibile e impossibile nello stesso momento dimostrare qualsiasi cosa. Bibi è in questo momento vivo e morto insieme, il Netanyahu di Schrödinger. E non sarà certo un’apparizione nella TV pubblica, o qualsiasi altra tipologia di video, magari in versione capibara che parla napoletano, a poter porre fine al dubbio. Se in una prima fase l’AI ha reso possibile “simulare” ogni tipo di realtà, in questa seconda fase pone paradossalmente la questione opposta: se ogni realtà è simulabile in modo verosimile, nessuna rappresentazione della realtà sarà più potenzialmente credibile, con una scollatura ormai irreparabile, e destinata a peggiorare, tra realtà e rappresentazione, tra evento e testimonianza. In un futuro forse nemmeno troppo remoto, tra visori, impianti biomeccanici e chissà cos’altro, non rimarrà forse nemmeno più l’ultimo filtro affidabile con cui leggere la realtà, i nostri sensi, che potrebbero anch’essi essere mediati dalla tecnologia, portandoci a vivere in una sorta di Matrix, senza nemmeno il piacere di essere Keanu Reeves.
Arrivati a questo punto del ragionamento, mentre leggevo The King in Yellow di Chambers, alternandolo con TikTok di un simpatico signore napoletano che fa panini alla piastra perché la mia soglia di attenzione è ormai compromessa, mi si accende un’ulteriore lampadina. La reputazione è una forma di capitale che produce effetti reali, accesso al credito, stabilità relazionale, legittimazione politica, ed esiste solo se il rapporto tra rappresentazione e realtà è presente. Lo scandalo funziona esattamente su queste premesse, un video compromettente, o meglio, un Pandoro, è sufficiente a incrinare la credibilità pubblica di un soggetto, erodendone il capitale “reputazionale”, con conseguenze economiche e politiche. Il caso degli “Epstein files” è forse l’ultimo che vivremo a cavallo tra queste due epoche e, infatti, mostra già evidenti criticità. Non è casuale che siano stati diffusi non in un contesto giuridico, ma in una mega-release in stile “Falsissimo”, lasciando la loro analisi, tra l’altro parziale, al pubblico e svuotandola di ogni potenziale concreto. Il presupposto ontologico di questo meccanismo è chiaro, la rappresentazione, documenti, immagini, testimonianze, mantiene ancora un rapporto, per quanto fragile, con il reale. Presto potrebbe non essere più così.
L’avvento di sistemi di intelligenza artificiale generativa e deepfake introduce infatti una rottura di questo presupposto, perché rende tecnicamente possibile una simulazione indistinguibile dalla realtà. In un contesto in cui ogni prova può essere prodotta artificialmente, la distinzione tra vero e falso perde potere, e così il “ricatto” della reputazione. E qui arriviamo al libro, dove nel primo racconto appare il personaggio del Repairer of Reputations. Chambers immagina un mondo in cui identità e reputazione sono già manipolabili come costruzioni narrative autonome, sganciate da un fondamento stabile. L’AI non fa che rendere tecnica e accessibile questa condizione. Se la reputazione è capitale solo finché è ancorata a un regime di verità condiviso, allora la sua totale simulabilità la annulla, non può più essere distrutta in modo definitivo, perché ogni accusa è reversibile o contestabile come artificio. Anche di fronte a migliaia di video, audio, foto e documenti che mostrano le élite mondiali banchettare con la cosa più terribile immaginabile, la carbonara con la cipolla, non potremmo più smuovere le loro posizioni di potere. Con un doppio risultato, da un lato la reputazione perde efficacia come capitale, dall’altro, proprio per questo, le élite possono diventare strutturalmente immuni allo scandalo, in un sistema in cui la perdita di reputazione non costituisce più una minaccia reale ai sistemi di potere.
E forse è l’ultima cosa di cui avevamo bisogno.
