(per il mensile MESE) Quando la verità diventa una storia sbagliata: i libri digitalizzati da Anthropic

Quando la verità diventa una storia sbagliata: i libri digitalizzati da Anthropic 

Il problema dell'informazione non consiste più soltanto nel distinguere ciò che è vero da ciò che è falso, distinzione che naturalmente continua a essere fondamentale ma che, da sola, non sembra più sufficiente a descrivere la natura della confusione nella quale siamo immersi, perché una parte sempre più consistente di ciò che oggi chiamiamo cattiva informazione non nasce infatti dalla fabbricazione deliberata di un evento inesistente, dalla falsificazione di un documento o dall'invenzione di una circostanza che non si è mai verificata, ma da qualcosa di molto più sottile, e proprio per questo molto più difficile da riconoscere, vale a dire dalla trasformazione di una sequenza di fatti autentici in una storia che, pur essendo costruita quasi interamente con elementi veri, finisce per produrre nel lettore una rappresentazione complessiva falsa, o almeno profondamente deformata, di ciò che è realmente accaduto, attraverso l'eliminazione del contesto, la selezione delle informazioni più emotivamente efficaci, la trasformazione di un caso particolare in una regola generale, la confusione tra una possibilità e una certezza, tra una correlazione e una causa, tra una dichiarazione e un fatto, tra una sentenza e la sua interpretazione, fino a quel punto estremo nel quale non è più necessario mentire perché è sufficiente raccontare la verità in un ordine tale da farle significare qualcosa che, considerata nella sua interezza, non significa affatto.

È precisamente questo che rende interessante, molto più di quanto potrebbe sembrare a prima vista, la vicenda di Anthropic e dei milioni di libri acquistati, digitalizzati e successivamente smaltiti, una vicenda che ha attraversato la rete con una rapidità proporzionale alla sua straordinaria capacità di produrre indignazione e che, proprio per questa ragione, costituisce quasi un esperimento naturale attraverso il quale osservare il funzionamento della cattiva informazione contemporanea, perché da una parte abbiamo una società impegnata nello sviluppo di modelli di intelligenza artificiale che, per costruire enormi archivi digitali destinati all'addestramento dei propri sistemi, ha effettivamente acquistato grandi quantità di libri cartacei e ha utilizzato procedure industriali di scansione che potevano comportare la separazione delle pagine dalla rilegatura e la successiva eliminazione della copia fisica, mentre dall'altra abbiamo una vicenda giudiziaria nella quale il problema non era semplicemente stabilire se «distruggere libri» fosse lecito, come se ci trovassimo davanti a una questione elementare di diritto, ma riguardava circostanze molto più precise, relative all'acquisizione, alla digitalizzazione e all'utilizzazione di copie di opere protette, e abbiamo infine un ulteriore elemento, ancora diverso, relativo all'utilizzazione di materiale proveniente da raccolte pirata, sicché quella che avrebbe potuto essere raccontata come una vicenda complessa nella quale diverse condotte, diverse fonti e diverse questioni giuridiche dovevano essere tenute separate viene rapidamente trasformata in una frase assai più semplice, assai più memorabile e, proprio per questo, assai più pericolosa: una grande azienda tecnologica compra milioni di libri, li distrugge per addestrare l'intelligenza artificiale e un giudice stabilisce che può farlo.

La frase funziona talmente bene che quasi ci dispiace doverla complicare.

Contiene infatti tutto ciò che una narrazione contemporanea sembra richiedere: un protagonista identificabile, un antagonista potente, un oggetto simbolicamente sacro, il libro, una tecnologia inquietante, l'intelligenza artificiale, un gesto visivamente scandaloso, la distruzione, e infine un'autorità, il tribunale, che sembra sancire la vittoria del più forte, permettendo alla storia di concludersi con una morale immediata e facilmente condivisibile. Non importa più, a quel punto, che il tribunale non abbia dichiarato che la distruzione dei libri è in quanto tale lecita, che la questione giuridica fosse molto più circoscritta, che la provenienza dei testi costituisse un elemento essenziale e che alcune pratiche fossero state contestate proprio perché riconducibili a materiale acquisito illecitamente; la narrazione ha ormai trovato la propria forma, e una volta che una notizia ha trovato una forma narrativa capace di produrre indignazione, la precisione diventa quasi un elemento di disturbo, perché ogni precisazione introduce una condizione, ogni condizione introduce un'eccezione, ogni eccezione indebolisce il giudizio e ogni indebolimento del giudizio diminuisce la forza comunicativa della storia.

È qui che dovremmo cominciare a preoccuparci.

Perché la cattiva informazione non è sempre quella nella quale qualcuno inventa una cosa che non è mai accaduta; talvolta è quella nella quale nessuno inventa nulla e tuttavia il risultato finale è una convinzione che non corrisponde alla realtà, e forse questa forma di deformazione è persino più pericolosa della menzogna esplicita, proprio perché resiste meglio alla verifica superficiale: se qualcuno ci dice che un evento non è mai accaduto e noi scopriamo che invece è accaduto, possiamo correggere l'errore; se invece qualcuno ci presenta una successione di fatti autentici, selezionandoli e collegandoli in modo da condurci verso una conclusione che quei fatti non giustificano, la verifica diventa infinitamente più difficile, perché ogni singolo elemento della storia sembra confermare ciò che ci è stato raccontato e noi finiamo per confondere la verità dei frammenti con la verità dell'insieme.

È una distinzione fondamentale, eppure raramente viene insegnata quando parliamo di educazione all'informazione.

Siamo abituati a chiederci: «Questa notizia è vera?», ma molto meno spesso ci chiediamo: «Questa notizia mi permette davvero di capire ciò che è accaduto?». Le due domande non sono equivalenti. Una notizia può essere vera nel senso più elementare del termine e contemporaneamente essere insufficiente, distorta, sproporzionata o persino ingannevole nella rappresentazione dell'evento al quale si riferisce. Può dire che un fatto è accaduto senza spiegare quanto sia eccezionale o quanto sia frequente; può riportare una cifra corretta senza indicare rispetto a quale popolazione sia stata calcolata; può citare una frase autentica senza dire a quale domanda rispondesse; può riferire correttamente una decisione giudiziaria senza spiegare che cosa quella decisione non abbia deciso; può mostrare un'immagine vera accompagnandola a una didascalia che ne altera il significato; può raccontare un episodio reale suggerendo implicitamente che esso costituisca la prova di un fenomeno generale.

In tutti questi casi la menzogna non si trova necessariamente dentro la singola proposizione. Si trova nella relazione fra le proposizioni.

Ed è proprio questo che rende la cattiva informazione contemporanea tanto difficile da combattere, perché il controllo dei fatti, per quanto indispensabile, non è più sufficiente se non siamo contemporaneamente capaci di controllare la struttura narrativa nella quale quei fatti sono stati inseriti.

La vicenda Anthropic è esemplare proprio per questo motivo. Se ci limitiamo a verificare le singole affermazioni, possiamo scoprire che l'azienda ha effettivamente acquistato libri, che ha effettivamente digitalizzato grandi quantità di materiale, che alcuni volumi sono stati fisicamente smembrati nel processo di scansione, che le copie fisiche sono state successivamente eliminate, che il tribunale ha affrontato la questione del fair use e che, nello stesso grande quadro giudiziario, sono emersi anche problemi relativi all'uso di opere provenienti da fonti pirata. Tutto vero. Ma da questi fatti non discende automaticamente la frase secondo cui «un giudice ha autorizzato Anthropic a distruggere milioni di libri». Il passaggio fra le due cose è un'interpretazione, e proprio quel passaggio, che spesso viene lasciato invisibile, è il luogo nel quale nasce il fraintendimento.

La cattiva informazione comincia spesso quando smettiamo di distinguere tra ciò che una fonte dice e ciò che noi deduciamo da ciò che dice.

È un errore apparentemente banale, ma diventa devastante quando viene moltiplicato milioni di volte, perché ogni persona che riceve una notizia non si limita a conservarla: la interpreta, la riassume, la racconta a qualcun altro, la commenta, la condivide, la riduce a una frase e spesso la incorpora in un discorso precedente nel quale quella frase acquista un significato ancora diverso. Così una notizia già semplificata diventa il materiale grezzo di una seconda semplificazione, che a sua volta diventa la fonte di una terza, fino a quando il rapporto con l'evento originario si perde quasi completamente e rimane soltanto una formula, una specie di fossile informativo che conserva la forma generale della notizia ma non più le condizioni che le conferivano significato.

A quel punto correggere l'informazione diventa molto difficile, perché la correzione deve essere necessariamente più complessa dell'errore.

La menzogna dice: «È successo questo».

La realtà risponde: «È successo questo, ma bisogna aggiungere che...».

E quel «ma bisogna aggiungere che» è precisamente ciò che Internet tende a non avere il tempo di ascoltare.

Perché viviamo dentro un sistema nel quale l'attenzione è diventata una risorsa economica e nel quale la velocità di circolazione di un contenuto rappresenta spesso un valore superiore alla sua accuratezza, almeno nel momento immediato della sua diffusione. Un titolo deve catturare, un'immagine deve colpire, l'incipit deve promettere una rivelazione, il contenuto deve poter essere riassunto e il giudizio deve poter essere formulato rapidamente. Una storia che richieda venti minuti di lettura, tre fonti differenti e una certa familiarità con il diritto d'autore è strutturalmente svantaggiata rispetto a una storia che può essere compresa in dieci secondi.

Non perché sia meno vera. Perché è più difficile da consumare.

Questa è una delle contraddizioni più profonde della nostra epoca: abbiamo costruito il più grande sistema di circolazione delle informazioni mai esistito e, contemporaneamente, abbiamo creato condizioni nelle quali la complessità ha sempre meno possibilità di circolare.

L'informazione è diventata abbondante. Il contesto è diventato raro. E senza contesto l'informazione può trasformarsi in qualcosa di molto simile al suo contrario.

Michel Foucault aveva mostrato che il sapere non è mai semplicemente un accumulo di enunciati, ma è organizzato attraverso sistemi che stabiliscono quali discorsi possono emergere, quali vengono conservati, quali vengono esclusi e secondo quali regole una determinata affermazione può essere riconosciuta come vera, e se questa intuizione viene applicata alla nostra società digitale dobbiamo renderci conto che il problema non consiste soltanto nella quantità sterminata di informazioni disponibili, ma nel sistema invisibile attraverso il quale alcune informazioni diventano visibili mentre altre rimangono sullo sfondo, alcune vengono ripetute migliaia di volte mentre altre vengono incontrate una sola volta, alcune vengono trasformate in titoli e altre rimangono sepolte nelle pagine interne di un documento, sicché la nostra esperienza della realtà dipende sempre più non soltanto da ciò che esiste, ma dalla particolare gerarchia di ciò che ci viene mostrato.

Il potere dell'informazione contemporanea è dunque anche un potere di montaggio. Non occorre cancellare un fatto per renderlo irrilevante. Può essere sufficiente collocarlo accanto ad altri fatti.

Questa consapevolezza ci porta inevitabilmente a Borges, perché la Biblioteca di Babele non rappresenta soltanto l'idea vertiginosa di una biblioteca infinita nella quale sono contenuti tutti i libri possibili, ma costituisce anche una straordinaria metafora della condizione informativa contemporanea, nella quale il problema non è più quello di trovare qualcosa da sapere, ma quello di stabilire quale fra le infinite cose che possiamo incontrare meriti di essere considerata significativa, attendibile, pertinente, e soprattutto quale relazione debba essere stabilita fra un frammento e l'altro affinché dal loro accostamento emerga qualcosa che possiamo ancora chiamare conoscenza.

Borges aveva immaginato un universo nel quale tutto era scritto e nel quale, proprio per questo, trovare il libro giusto diventava quasi impossibile.

Noi abbiamo costruito qualcosa di sorprendentemente simile.

Soltanto che la nostra Biblioteca di Babele non è fatta di corridoi esagonali e scaffali interminabili, ma di motori di ricerca, archivi digitali, piattaforme sociali, banche dati, giornali online, video, podcast, commenti, forum, documenti, immagini e sistemi di intelligenza artificiale, e dentro questo immenso archivio non dobbiamo più affrontare soltanto il problema di trovare un'informazione, ma quello molto più difficile di stabilire quale versione di quell'informazione sia stata prodotta dalla fonte originaria, quale sia una sintesi, quale una interpretazione, quale una manipolazione, quale una ripetizione e quale, infine, sia soltanto il risultato di un errore che è stato replicato così tante volte da acquistare l'apparenza di un dato consolidato.

È qui che l'abbondanza dell'informazione produce una conseguenza paradossale: più materiale abbiamo a disposizione, più diventa difficile controllare il significato di ciascun frammento.

Umberto Eco aveva dedicato una parte importante della propria riflessione proprio alla biblioteca come luogo nel quale il sapere non coincide con l'accumulo dei libri, perché una biblioteca veramente significativa non è semplicemente quella che possiede tutto, ma quella che permette al lettore di orientarsi fra ciò che sa e ciò che non sa, fra ciò che cerca e ciò che non sapeva di dover cercare, fra ciò che crede vero e ciò che la presenza stessa di altri libri gli impone di mettere in discussione. In questo senso la biblioteca tradizionale possedeva una virtù che il sistema digitale rischia di perdere: rendeva visibile la materialità della conoscenza. I libri avevano un dorso, un autore, un editore, una data, una collocazione, un numero di pagine; erano oggetti che potevano essere confrontati, aperti, richiusi, annotati, messi accanto ad altri libri, e soprattutto potevano essere nuovamente consultati nel loro contesto.

Il frammento digitale, invece, tende naturalmente a separarsi dal proprio contenitore.

Una frase può circolare senza il libro. Una fotografia può circolare senza l'articolo. Un numero può circolare senza lo studio. Una sentenza può circolare senza la sentenza. Una dichiarazione può circolare senza la domanda alla quale rispondeva.

È una trasformazione enorme, perché significa che l'unità fondamentale della nostra esperienza informativa non è più necessariamente il documento, ma il frammento. E il frammento, per sua natura, è vulnerabile al fraintendimento.

Jacques Derrida, riflettendo sull'archivio, aveva messo in evidenza un elemento che oggi appare quasi profetico: ogni archivio è contemporaneamente conservazione e potere, memoria e selezione, protezione e controllo, perché conservare significa necessariamente stabilire che cosa meriti di essere conservato e secondo quale ordine debba essere recuperato, e dunque l'archivio non è mai un deposito neutrale nel quale il passato riposa tranquillamente in attesa di essere ritrovato, ma una struttura che determina le condizioni attraverso le quali il passato può tornare a essere presente.

Questo vale oggi anche per l'archivio digitale. Anzi, forse vale più che mai.

Perché quando una grande quantità di testi viene digitalizzata, non viene semplicemente trasferita da un supporto a un altro. Viene inserita in un sistema che può indicizzarla, collegarla, classificarla, trasformarla, sintetizzarla e infine utilizzarla per generare nuovi contenuti. Il passaggio dalla biblioteca al database e dal database al modello linguistico introduce una trasformazione ancora più radicale: il documento non è più soltanto qualcosa che può essere consultato, ma qualcosa che può essere assorbito da un sistema capace di produrre nuove rappresentazioni del sapere.

E qui il caso Anthropic acquista un significato ulteriore.

Il libro fisico, nella vicenda, sembra quasi essere il residuo di una fase precedente della civiltà. Viene acquistato perché contiene qualcosa che serve, ma ciò che serve non è più l'oggetto in quanto tale: è il contenuto convertibile in dati. Una volta trasferito quel contenuto, l'oggetto perde il proprio valore funzionale per l'operazione specifica. È una trasformazione che Benjamin avrebbe probabilmente riconosciuto come una nuova e radicale fase della riproducibilità tecnica, perché qui non abbiamo più soltanto la riproduzione di un'opera, ma la sua trasformazione in materiale computazionale destinato a essere utilizzato per produrre altre forme di linguaggio.

Il libro, in altre parole, non viene soltanto riprodotto. Viene metabolizzato.

E tuttavia proprio questa trasformazione ci costringe a porci una domanda che riguarda ancora una volta l'informazione: che cosa succede quando il contenuto di un libro sopravvive alla distruzione dell'oggetto, ma la sua sopravvivenza avviene dentro un sistema che non ci restituisce necessariamente il libro, bensì frammenti, correlazioni, probabilità, sintesi e nuove formulazioni?

Non è una domanda soltanto tecnologica. È una domanda culturale.

Perché un libro non è semplicemente la somma delle sue frasi. È anche l'ordine nel quale quelle frasi compaiono, la relazione fra una pagina e quella successiva, la struttura dell'argomentazione, le ripetizioni, le omissioni, le note, la copertina, l'edizione, la traduzione, la prefazione, il momento storico nel quale è stato scritto e persino il modo nel quale il lettore vi entra.

Quando estraiamo il contenuto da questa rete di relazioni, otteniamo certamente informazione, ma non necessariamente otteniamo la stessa cosa che chiamiamo cultura.

Ed è qui che la cattiva informazione e l'intelligenza artificiale finiscono per incontrarsi in maniera inquietante.

Perché un sistema capace di riassumere milioni di documenti può certamente rendere più accessibile una quantità enorme di sapere, ma la sintesi, per quanto accurata, comporta sempre una perdita di contesto, e quella perdita diventa particolarmente delicata quando il lettore non ha più accesso diretto all'originale o non sente più il bisogno di consultarlo, perché a quel punto la rappresentazione sintetica può diventare, nella sua esperienza, l'unica realtà disponibile.

Se un algoritmo ci dice che un autore sosteneva una determinata tesi, potremmo non leggere mai il libro nel quale quella tesi era formulata. Se un sistema ci riassume una sentenza, potremmo non consultare mai la sentenza. Se un motore di ricerca ci offre dieci risultati, potremmo non chiederci che cosa sia rimasto fuori dall'elenco.

Se una piattaforma ci mostra cento persone che sostengono la stessa cosa, potremmo dimenticare che quelle cento persone potrebbero essere state selezionate proprio perché sostenevano la stessa cosa.

Il problema non è quindi soltanto l'errore.

È l'illusione della completezza. E forse non esiste illusione più pericolosa di quella che ci fa credere di avere visto tutto.

La storia delle biblioteche ci insegna, del resto, che nessuna biblioteca ha mai contenuto veramente tutto. La Biblioteca di Alessandria è diventata il simbolo della biblioteca universale proprio perché intorno alla sua storia si è costruito il mito di una concentrazione quasi assoluta del sapere, ma la sua stessa esistenza storica ci ricorda che ogni progetto di totalità è inevitabilmente parziale, perché i libri si perdono, i testi vengono esclusi, le lingue vengono dimenticate, gli archivi vengono distrutti, i cataloghi scompaiono e intere tradizioni culturali possono diventare invisibili non perché qualcuno abbia deliberatamente deciso di cancellarle, ma perché nessuno le ha più copiate, conservate o cercate.

Il digitale ha promesso di correggere questa fragilità. In parte lo ha fatto. Ma ha introdotto una fragilità diversa.

Se il libro antico poteva essere distrutto dal fuoco, il documento digitale può essere reso invisibile dall'assenza di indicizzazione, dalla chiusura di una piattaforma, dalla modifica di un algoritmo, dalla perdita di un dominio, dall'obsolescenza di un formato o semplicemente dal fatto che nessuno sappia più dove cercarlo.

La conservazione non equivale all'accessibilità. L'esistenza non equivale alla visibilità. E la visibilità non equivale alla comprensione.

Sono tre livelli diversi che l'ambiente digitale tende continuamente a confondere.

Lo stesso vale per le notizie.

Il fatto che una notizia sia online non significa che sia facilmente verificabile; il fatto che sia stata ripresa da cento siti non significa che esistano cento fonti indipendenti; il fatto che venga visualizzata milioni di volte non significa che sia importante; il fatto che venga citata da un'intelligenza artificiale non significa che sia vera; il fatto che compaia per prima in un motore di ricerca non significa che sia la fonte più autorevole.

Eppure continuiamo a vivere come se la visibilità fosse una forma di verità. Questo è uno dei grandi equivoci della nostra epoca. Abbiamo sostituito progressivamente il concetto di autorevolezza con quello di presenza.

Se qualcosa compare, esiste. Se compare molte volte, deve essere importante. Se compare ovunque, deve essere vero. Ma la ripetizione non è una prova. È soltanto una moltiplicazione.

E un errore moltiplicato mille volte rimane un errore, anche se dopo un certo numero di ripetizioni diventa praticamente indistinguibile, nella memoria collettiva, da un fatto.

È proprio questo che rende così delicato il rapporto fra intelligenza artificiale e informazione. I modelli linguistici vengono costruiti anche attraverso l'elaborazione di enormi quantità di testi prodotti dagli esseri umani, e dunque possono ereditare non soltanto il patrimonio di conoscenza contenuto in quei testi, ma anche le loro contraddizioni, i loro errori, le loro semplificazioni e le loro distorsioni; se poi i contenuti generati dalle macchine cominciano a essere immessi a loro volta nello spazio informativo e utilizzati come materiale per sistemi successivi, rischiamo di entrare in un circuito nel quale una rappresentazione semplificata della realtà viene continuamente riprodotta, sintetizzata e ulteriormente semplificata, fino a quando la distanza fra il fatto originario e la sua rappresentazione diventa praticamente impossibile da ricostruire.

Potremmo così trovarci davanti a una situazione paradossale nella quale disponiamo di più testi che mai nella storia dell'umanità e, contemporaneamente, abbiamo sempre meno certezza sulla genealogia delle informazioni che utilizziamo.

Da dove viene questa frase?

Chi l'ha scritta per primo?

Qual era il suo contesto?

È una citazione o una parafrasi?

La fonte originale esiste ancora?

Quella statistica è stata interpretata correttamente?

Quella fotografia appartiene davvero a quell'evento?

Quel titolo descrive davvero la sentenza?

Quella conclusione è contenuta nel documento o è stata ricavata da qualcuno?

Sono domande elementari, ma potrebbero diventare nei prossimi anni domande decisive.

Perché il futuro della cattiva informazione non sarà necessariamente quello nel quale non sapremo più distinguere una fotografia autentica da una fotografia generata artificialmente, oppure una voce reale da una voce sintetica, anche se naturalmente questi problemi saranno importanti; potrebbe essere qualcosa di più sottile, cioè una situazione nella quale tutto sarà sufficientemente plausibile da non costringerci più a dubitare, e nella quale il problema non sarà riconoscere il falso evidente, ma riconoscere l'errore contenuto dentro una narrazione composta quasi interamente da elementi veri.

La vera sfida, allora, non sarà soltanto verificare i fatti. Sarà verificare il significato. Ed è una cosa molto più difficile.

Perché per verificare un fatto basta talvolta una fonte. Per verificare un significato bisogna ricostruire una relazione.

Bisogna sapere che cosa è venuto prima, che cosa è venuto dopo, quali condizioni erano presenti, quali alternative esistevano, che cosa è stato escluso, chi parla, da quale posizione parla, a quale domanda risponde e quale interesse può avere nel raccontare l'evento in un determinato modo.

In altre parole, bisogna tornare a leggere. E forse è questa la parte più paradossale dell'intera vicenda.

Mentre le macchine imparano a leggere milioni di libri, noi rischiamo di perdere l'abitudine alla lettura lunga, quella nella quale una frase non viene consumata isolatamente ma viene compresa attraverso ciò che la precede e ciò che la segue, quella nella quale l'autore può impiegare pagine per arrivare a una conclusione e nella quale il lettore accetta di attraversare quelle pagine proprio perché sa che il significato non si trova necessariamente nella frase più memorabile, ma nell'architettura complessiva del discorso.

Forse è per questo che la storia dei libri digitalizzati da Anthropic, al di là delle sue implicazioni giuridiche e tecnologiche, dovrebbe indurci a riflettere anche sul valore del libro come dispositivo di contesto.

Un libro obbliga alla sequenza. La rete favorisce il frammento. Un libro ci costringe a rimanere dentro un discorso abbastanza a lungo da comprenderne la logica. Il frammento ci permette di estrarre immediatamente ciò che ci serve. Un libro conserva la distanza fra una frase e il suo significato.  Il flusso digitale tende a cancellarla.

Naturalmente sarebbe assurdo trasformare il libro cartaceo in una reliquia e Internet in un mostro, perché anche i libri hanno prodotto propaganda, censura, falsificazioni, fanatismi e ideologie, e anche le biblioteche tradizionali sono state luoghi di esclusione e di potere, ma proprio questa consapevolezza rende ancora più importante capire che nessun mezzo è di per sé garante della verità: ciò che cambia è il modo nel quale ciascun mezzo organizza la nostra attenzione, e il problema contemporaneo nasce dal fatto che il sistema digitale ha portato la velocità di circolazione dell'informazione a un livello nel quale il tempo necessario per verificare un'affermazione è spesso infinitamente superiore al tempo necessario per diffonderla.

La correzione arriva dopo. La convinzione arriva prima.

E quando la convinzione si è già formata, la correzione deve combattere non soltanto un errore, ma una storia.

Questo spiega perché le rettifiche funzionino così male. Dire che «non è esattamente così» non cancella ciò che abbiamo già immaginato. Una volta che abbiamo visualizzato milioni di libri distrutti da un'azienda di intelligenza artificiale, quella scena rimane nella nostra mente anche dopo che ci viene spiegato che la questione giuridica era diversa, che i volumi erano stati acquistati, che la procedura di scansione aveva caratteristiche specifiche e che il tribunale non aveva affatto pronunciato una generale autorizzazione alla distruzione dei libri.

L'immagine ha già vinto. Il contesto arriva troppo tardi.

Questa dinamica non riguarda soltanto l'AI. Riguarda la politica, la cronaca, la scienza, la guerra, la medicina, l'economia, la cultura, praticamente ogni ambito nel quale un evento complesso viene trasformato in una narrazione destinata a un pubblico enorme e impaziente. È sufficiente isolare una dichiarazione politica dal discorso nel quale è stata pronunciata per trasformare una posizione articolata in uno slogan; è sufficiente mostrare un'immagine autentica senza indicarne la data per farla diventare la prova di un evento diverso; è sufficiente presentare un caso estremo senza indicarne la frequenza per trasformare un'eccezione in una regola; è sufficiente citare una ricerca senza spiegare i suoi limiti per trasformare un risultato preliminare in una certezza scientifica.

In tutti questi casi il problema non è necessariamente la falsità del materiale. È la falsità della cornice. E una cornice può essere molto più potente del quadro che contiene.

Per questo la cattiva informazione dovrebbe essere considerata non soltanto un problema di contenuti, ma un problema di montaggio della realtà, perché ogni volta che raccontiamo un evento decidiamo implicitamente che cosa mettere in primo piano, che cosa lasciare sullo sfondo, che cosa spiegare, che cosa dare per scontato e che cosa omettere, e queste decisioni, anche quando vengono prese senza malizia, producono inevitabilmente una rappresentazione del mondo.

Il giornalismo serio dovrebbe avere precisamente il compito di rendere visibili queste scelte.

Non soltanto dire che cosa è successo, ma spiegare come sappiamo che è successo. Non soltanto citare una fonte, ma permettere al lettore di comprenderne il peso. Non soltanto riportare una sentenza, ma distinguere ciò che il giudice ha stabilito da ciò che noi interpretiamo. Non soltanto mostrare un dato, ma fornire il denominatore, il periodo, la metodologia e il margine di incertezza. Non soltanto correggere un errore, ma spiegare perché l'errore fosse plausibile. 

Perché il lettore non ha bisogno soltanto di informazioni. Ha bisogno degli strumenti per non essere ingannato dalle informazioni.

Questa differenza diventerà probabilmente ancora più importante con la diffusione dell'intelligenza artificiale, perché le macchine possono produrre testi straordinariamente fluidi, coerenti e convincenti anche quando la loro ricostruzione contiene errori, e la fluidità del linguaggio tende naturalmente a essere interpretata come competenza, mentre una frase ben costruita ci appare psicologicamente più affidabile di una frase esitante, piena di condizioni e di precisazioni, anche quando è esattamente il contrario.

È qui che dobbiamo recuperare una virtù intellettuale che la comunicazione contemporanea considera spesso poco spettacolare: il dubbio.

Non il dubbio come incapacità di decidere, ma il dubbio come forma di precisione.

Dire «non lo sappiamo ancora» è informazione. Dire «questa è una possibile interpretazione, ma non l'unica» è informazione. Dire «il tribunale ha stabilito questo, ma non quest'altro» è informazione. Dire «il dato è reale, ma non dimostra ciò che il titolo suggerisce» è informazione.

La cattiva informazione prospera invece nel momento in cui tutte queste distinzioni vengono percepite come inutili complicazioni.

È allora che una frase sostituisce una pagina, un titolo sostituisce un documento, una fotografia sostituisce un contesto e una convinzione sostituisce la verifica.

E forse dovremmo tornare ancora una volta a Borges, perché la sua biblioteca infinita contiene una lezione che oggi appare più attuale che mai: il problema non consiste nel fatto che non esistano abbastanza informazioni, ma nel fatto che l'esistenza di infinite informazioni non ci garantisce affatto la possibilità di trovare la verità, perché tra il possesso di un numero enorme di testi e la capacità di comprenderli esiste un abisso che nessuna tecnologia può cancellare semplicemente aumentando la velocità di accesso.

La Biblioteca di Babele è infinita. Ma il bibliotecario è ancora umano. E il suo problema rimane quello di orientarsi.

Forse la nostra epoca sta costruendo una biblioteca ancora più grande, nella quale le macchine potranno leggere ciò che nessun essere umano potrebbe leggere, collegare documenti che nessuno avrebbe mai potuto mettere in relazione, sintetizzare quantità di conoscenza impensabili e offrirci risposte in pochi secondi, ma proprio per questo dovremo essere ancora più capaci di porre domande sulle risposte, perché una macchina che riduce il tempo necessario per ottenere un'informazione non riduce automaticamente il tempo necessario per comprendere se quell'informazione sia corretta, pertinente o adeguatamente contestualizzata.

La velocità della risposta non è la velocità della conoscenza. E forse questa sarà una delle grandi illusioni da cui dovremo imparare a difenderci.

Anthropic, allora, può essere considerata responsabile o irresponsabile per le proprie pratiche, può essere giudicata severamente o favorevolmente a seconda dei diversi aspetti della vicenda, e le questioni relative al diritto d'autore, alla digitalizzazione e all'utilizzazione di materiale pirata meritano naturalmente un'analisi seria e specifica; ma il modo nel quale quella storia è stata trasformata in una formula virale ci riguarda tutti molto più direttamente, perché dimostra che la cattiva informazione non è soltanto qualcosa che gli altri producono e noi subiamo, ma qualcosa alla cui costruzione partecipiamo ogni volta che condividiamo una frase senza leggerne la fonte, ogni volta che giudichiamo una sentenza dal titolo che la riassume, ogni volta che confondiamo la ripetizione con la conferma, ogni volta che consideriamo superfluo il dettaglio che complica la nostra opinione e ogni volta che preferiamo una storia nella quale tutto è immediatamente comprensibile a una realtà nella quale le cose, come quasi sempre accade, sono molto più ambigue.

Il problema più grave non è dunque che qualcuno possa raccontarci una bugia. È che qualcuno possa raccontarci una verità mutilata e che noi, proprio perché riconosciamo nei suoi frammenti qualcosa di autentico, non ci accorgiamo di essere stati condotti verso una conclusione falsa.

Questa è forse la forma più moderna della propaganda: non imporre una falsità contro i fatti, ma organizzare i fatti in modo tale che la falsità emerga naturalmente nella mente di chi li riceve.

E quando questo processo viene moltiplicato dagli algoritmi, dalle piattaforme e dalla velocità con cui ogni contenuto può essere replicato, il fraintendimento smette di essere un incidente individuale e diventa un fenomeno collettivo, perché milioni di persone possono arrivare contemporaneamente alla stessa conclusione sbagliata senza che nessuno abbia mai pronunciato esplicitamente quella conclusione come una menzogna.

È questo, forse, ciò che dovremmo temere più delle notizie false.

Non la falsità evidente, ma la verità deformata. Non il documento inventato, ma il documento autentico utilizzato per dimostrare qualcosa che non dimostra. Non la fotografia falsa, ma quella vera collocata nel posto sbagliato. Non la citazione inventata, ma quella autentica privata della frase che la precedeva e di quella che la seguiva. Non la sentenza inesistente, ma quella reale trasformata in una frase che il giudice non ha mai pronunciato. Non il libro distrutto, infine, ma il libro letto soltanto attraverso una sintesi che ci convince di averlo conosciuto.

Perché è possibile che il futuro della cattiva informazione non sia caratterizzato da un mondo nel quale non sapremo più che cosa è vero, ma da un mondo molto più insidioso nel quale sapremo moltissime cose vere senza essere più capaci di stabilire quale relazione abbiano fra loro, e nel quale la quantità sterminata dei dati disponibili finirà per produrre non una maggiore comprensione, ma una crescente vulnerabilità al montaggio, alla selezione, alla semplificazione e al fraintendimento.

Il destino dei libri e il destino dell'informazione sono legati da una contraddizione comune: possiamo conservare il testo e perderne il significato, possiamo conservare il documento e perderne il contesto, possiamo conservare la memoria e perdere la capacità di interpretarla.

Ed è forse per questo che la vera domanda sollevata dalla vicenda Anthropic non è soltanto chi possiederà domani la grande biblioteca digitale nella quale verranno raccolti i libri dell'umanità, né chi avrà il diritto di utilizzarli per costruire le intelligenze artificiali del futuro, ma chi avrà il potere di stabilire come quei libri verranno rappresentati, riassunti, collegati e restituiti a noi, perché una biblioteca non è fatta soltanto dei testi che contiene, ma anche dei percorsi attraverso i quali permette di raggiungerli, e una memoria non è davvero libera se possiamo accedere a milioni di documenti ma siamo costretti ad affidarci a un sistema che decide quali frammenti mostrarci e quale relazione suggerirci fra essi.

Forse, allora, la biblioteca del futuro non sarà soltanto una biblioteca di libri. Sarà una biblioteca di interpretazioni.

E qui la questione diventa terribilmente umana, perché nessuna tecnologia potrà mai eliminare il problema dell'interpretazione senza eliminare contemporaneamente la possibilità stessa della conoscenza: ogni volta che comprendiamo qualcosa, scegliamo una prospettiva, stabilimo relazioni, attribuiamo significati, distinguiamo l'essenziale dall'accessorio, e dunque ogni conoscenza comporta necessariamente un margine di responsabilità.

La tecnologia può aiutarci a leggere. Può aiutarci a cercare. Può aiutarci a confrontare. Può perfino aiutarci a dubitare. Ma non può liberarci dalla responsabilità di comprendere.

E forse questa è la lezione più importante che possiamo ricavare da una vicenda apparentemente lontana, fatta di aziende tecnologiche, tribunali, copyright e milioni di libri trasformati in dati: il vero pericolo non è che le macchine leggano troppi libri, ma che noi smettiamo di leggere abbastanza per accorgerci quando una storia che ci viene raccontata non coincide più con ciò che quei libri, quei documenti, quelle sentenze e quei fatti dicono realmente.

Perché una volta che il contesto è scomparso, tutto può essere frainteso. E quando tutto può essere frainteso, anche la verità, paradossalmente, può diventare una forma di cattiva informazione.

Non perché abbia smesso di essere vera, ma perché abbiamo smesso di sapere che cosa significa.