Aprire la “black box” dell’algoritmo per democratizzare la tecnologia

“E che genere di realtà possiede la verità se essa è priva di potere nell’ambito pubblico, il quale, più di ogni altra sfera nella vita umana, garantisce la realtà dell’esistenza agli uomini che nascono e muoiono, cioè a degli esseri i quali sanno che sono apparsi dal non-essere e che dopo un po’ scompariranno di nuovo in esso?”
(Hannah Arendt, Verità e politica, 2019, p. 30)

Far diventare reale la verità è la ragion d’essere della democrazia e insieme la sua fatica di Sisifo. Cos’è che rende una forma di vita, un diritto tradito o un’opportunità negata una realtà degna di attenzione e di deliberazione? Cos’è che converte un fatto in evento discorsivo, che trasforma l’accadere ordinario in campo gravitazionale di discorsi, posizionamenti politici e processi decisionali?

L’Öffentlichkeit (Habermas, 2006), ciò che costituisce il fatto pubblico, non è un criterio finito e nemmeno una somma di criteri. È un processo continuo e inesorabile di acquisizione e accumulazione di visibilità che si dispiega con irregolarità nello spazio pubblico. E di quest’ultimo replica architetture e strutture, barriere che lo ostacolano e canali che lo orientano.

**Hannah Arendt, Verità e politica, 2019, leggi la scheda del libro**

Democrazia in crisi informativa

Da parecchio tempo ormai ci siamo resi conto che l’infrastruttura algoritmica che filtra, amplifica e coagula i processi dell’opinione pubblica contemporanea favorisce la polarizzazione, la frammentazione, l’individualizzazione e i disordini informativi. Le numerose iniziative che mirano a potenziare gli strumenti di moderazione dei contenuti pubblicati sui social, a intensificare gli sforzi di fact-checking e i programmi di media literacy, non hanno sortito gli effetti sperati.

Secondo una recente ricerca dell’Eurobarometro, il 49% dei cittadini europei ritiene che la sfida più grave per le democrazie europee consista nella crescente sfiducia nei confronti delle istituzioni e dei processi democratici, il 42% la attribuisce al rischio di manipolazione e disinformazione mentre per il 32% il problema è la mancanza di trasparenza nei contenuti prodotti con l’intelligenza artificiale.

Non è forse un caso che, in questo regime comunicativo della post-affidabilità (Boccia Artieri, 2025), il giornalismo tradizionale stia gradualmente perdendo terreno a favore di una schiera frammentata e competitiva di influencer. Nello spazio di patti fiduciari di tipo personalistico, si fanno strada narrazioni politiche partigiane, spesso rese ancora più subdole da una rivendicata estraneità alla politica istituzionale.

**Secondo uno studio UE, mancanza di trasparenza e senso di sfiducia sono le sensazioni prevalenti tra i cittadini**

Intelligenza artificiale e contaminazioni possibili

Se, da un lato, diventa prioritario guardare con sempre maggiore interesse alla contaminazione possibile con i codici vernacolari che emergono dalla comunicazione grassroots delle piattaforme, dall’altro non si può dimenticare di guardare alla luna che tutti questi segnali sembrano indicare.

Tra le molteplici cause all’origine di tale dilagante sfiducia ci sono indubbiamente la mancata democratizzazione e la strutturale opacità delle forme, delle condizioni e delle conseguenze di quella mediazione tecnologica a cui l’Öffentlichkeit è attualmente sottoposta. In un recente position paper – The Era of Answer Engines – sull’impatto dell’intelligenza artificiale generativa sui servizi di ricerca online, Ofcom, il regolatore dei media in UK, ha messo in guardia dal rischio che la decontestualizzazione del contenuto dalle fonti crei tra gli utenti un gap di attribuzione che mina la capacità di valutare criticamente la provenienza delle informazioni.

Parallelamente, i pubblici che oggi prendono forma nelle piattaforme di social media sono sempre più dipendenti da cluster di interesse creati dai sistemi di raccomandazione sulla base di criteri di prossimità statistica intuibili ma mai condivisi pubblicamente.

Il paradosso è che tali pubblici, pur essendo hub decisivi dell’opinione pubblica globale, non controllano le condizioni della loro stessa emergenza e non sono in grado di contestarne gli eventuali automatismi.

**In Europa, il 67% delle persone teme che l’IA possa manipolare le elezioni**

“Aprire la black box”

Il risultato è una erosione inesorabile dell’agency epistemica dei cittadini, ovvero della capacità di esercitare una supervisione consapevole e sistematica delle modalità di elaborazione sia delle proprie conoscenze sia di quella dimensione collettiva verso cui si esercita la propria immaginazione politica.

Qualsiasi cura alla crisi della sfera pubblica contemporanea non può non contemplare un processo di democratizzazione della tecnologia da cui l’esperienza civica e politica oggi dipende.

Si tratta di aprire la black box, di sottoporla agli stessi principi di accountability e sovranità popolare su cui il governo democratico si fonda, per poter infine conoscere e determinare quelle logiche materiali e simboliche che attualmente sovrintendono all’incessante trasformazione della realtà.

Articolo tratto dal N. 62 di