Possiamo ancora salvare l’agorà digitale dalla dittatura dell’algoritmo

Questo è un articolo del nuovo numero di Linkiesta Magazine, con gli articoli di World Review del New York Times. Si può comprare già adesso, qui sullo store, con spese di spedizione incluse. E dal 25 novembre anche in edicola a Milano e Roma e negli aeroporti e nelle stazioni di tutta Italia.

La democrazia prospera grazie al dibattito. È infatti attraverso il dibattito che gli individui entrano in connessione fra loro, condividono idee, valori e sogni e possono raggiungere un consenso sulla direzione che la società dovrebbe prendere. L’essere in disaccordo e l’essere d’accordo sono entrambi elementi vitali di questo processo, così come la disponibilità ad accettare il risultato di un voto. E tutto questo non è possibile senza discussione – un principio che era già stato riconosciuto dai primi pensatori della democrazia, come Socrate e Aristotele.

Anche la piattaforma in cui avviene il dibattito ha un impatto significativo sulla qualità della discussione e sui suoi esiti. Nell’antica Atene, l’agorà e la collina della Pnice fornivano lo spazio fisico in cui si tenevano i dibattiti pubblici. In epoca moderna, il “foro” in cui si discute si è trasferito nei municipi e nei giornali. La verifica dei fatti, la dichiarazione di interessi, l’indipendenza editoriale e il dovere di rendere conto del proprio operato sono alcuni degli elementi che sono stati via via introdotti per migliorare la qualità delle discussioni.

In seguito, l’infosfera è stata rivoluzionata dalla televisione, che ha consentito un accesso più ampio alla discussione politica e ha modificato in modo sostanziale il processo decisionale democratico informato. L’impatto del dibattito televisivo tra John F. Kennedy e Richard Nixon in occasione delle elezioni presidenziali statunitensi del 1960 mostrò il grande peso che potevano avere le immagini nelle competizioni elettorali.

Poi, negli ultimi anni, sono stati i social media ad assumere il ruolo di agorà del Ventunesimo secolo. Gli effetti che derivano da questa novità sono stati ben documentati negli studi di Eli Pariser e di Siva Vaidhyanathan, così come in molti altri lavori. L’influenza dei social media sul panorama politico è profonda e non è priva di complicazioni.

La tecnologia continua a evolversi e, per prepararsi alle sfide future che tutto ciò potrebbe comportare, è opportuno riflettere sull’impatto dei social media sul discorso democratico. Inizialmente, le piattaforme dei social media sono state sviluppate per mettere in contatto gli individui attraverso una rete personale e informale.

Il ruolo iniziale dei social media come spazio per il divertimento e per nuove forme di interazione ha oscurato i rischi che ne potevano derivare, come la diffusione della radicalizzazione, l’aumento delle divisioni e il rafforzamento dei pregiudizi. Questi rischi sono stati ulteriormente accresciuti dai meccanismi di monetizzazione delle piattaforme social, che premiano l’engagement attraverso gli algoritmi.

Ci siamo resi conto troppo tardi del potenziale manipolativo dei social media nel plasmare la percezione pubblica. I governi democratici e la società civile hanno ripetutamente fallito nell’individuare le interferenze che alcune forze ostili possono introdurre nel processo democratico attraverso i social media. Di conseguenza, la nostra risposta a queste minacce è stata lenta ed è ancora in evoluzione.

I social media hanno contribuito in modo determinante alla creazione di camere dell’eco, in parte anche attraverso la gerarchizzazione algoritmica delle informazioni. Questo fenomeno fa inaridire i flussi di informazioni e riduce le possibilità di dialogo all’interno delle comunità, rendendo complicato il raggiungimento di un possibile consenso nei dibattiti politici.

Inoltre, sono emersi nuovi strumenti, come i troll virtuali e le reti robotiche, che sfruttano i pregiudizi cognitivi e favoriscono la diffusione di contenuti già popolari con l’obiettivo di influenzare la formazione delle opinioni. La tendenza degli algoritmi a promuovere opinioni divisive ha trasformato il dibattito politico, che ora si basa sempre meno su discussioni razionali e sempre più su contrapposizioni emotive. Questo ha reso più difficile promuovere una conversazione inclusiva che offra pari opportunità di partecipazione a tutti i cittadini.

Con l’avvento dell’Intelligenza Artificiale Generativa, ci troviamo di fronte a un’altra ondata di profondi cambiamenti nell’infosfera. La capacità dell’IA di comprendere, utilizzare e produrre un linguaggio quasi indistinguibile da quello umano introduce nuovi pericoli. I deepfakes – contenuti mediatici artificiali che sembrano autentici – complicano ulteriormente il discorso pubblico, rendendo difficile discernere i fatti reali dalla finzione.

L’Intelligenza Artificiale sfida la nozione stessa di realtà, cambiando il nostro rapporto con il mondo che ci circonda, già messo a dura prova dall’avvento dei social media. La nostra capacità di rilevare i contenuti generati dall’IA rimane limitata, e i sistemi di rilevamento hanno mostrato risultati insoddisfacenti, soprattutto per quanto riguarda la voce e il testo.

Recenti ricerche indicano che alcuni soggetti, su incarico di Stati come la Russia, utilizzano l’IA per creare falsi media digitali, saturando lo spazio dell’informazione con false narrazioni. L’integrazione dell’IA generativa nei sistemi robotici esistenti migliora l’efficienza e le capacità di targeting, rendendo la messaggistica automatizzata più sfumata e ancora più verosimile.

Nonostante tutto questo, c’è comunque speranza. Le ricerche del Centro di eccellenza per le comunicazioni strategiche della Nato mostrano come anche i soggetti malintenzionati facciano fatica a tenere il passo con i rapidi progressi tecnologici. Questo ci offre una finestra di opportunità per sviluppare e applicare strategie finalizzate a salvaguardare i processi democratici. Per ripristinare la correttezza del dibattito democratico, dovremmo concentrarci su diverse aree chiave.

In primo luogo, è fondamentale l’istruzione. Sebbene la promozione di un approccio critico al consumo di informazioni sia essenziale, non può essere una panacea. In secondo luogo, per rafforzare la resilienza della società, sarebbe opportuno stimolare iniziative non governative che contrastino le influenze ostili. L’esempio degli “elfi” lituani – fact-checkers volontari che combattono contro i troll di Internet – offre una lezione preziosa sul modo in cui una comunità può proteggere il dibattito democratico.

Dobbiamo tornare al principio “un cittadino, una voce”. Perché ciò avvenga, è necessario limitare l’uso di personaggi falsi e reti robotiche nelle interazioni online, garantendo che le persone si relazionino con altri esseri umani reali o che, almeno, siano pienamente consapevoli – attraverso meccanismi di disclosure – di interagire con account automatizzati o robotici. Affrontare gli aspetti tecnologici di questo problema è cruciale, poiché abbiamo troppo trascurato il ruolo ricoperto dall’elaborazione dei dati nel mondo moderno.

L’Intelligenza Artificiale, come qualsiasi altra tecnologia, non dovrebbe essere percepita solo come una forza negativa né come uno strumento esclusivo di soggetti malintenzionati. Abbiamo già visto come l’IA possa avere un ruolo importante nella creazione di un ecosistema che consenta un autentico dibattito democratico. È dunque fondamentale utilizzare le nuove capacità dell’IA per prevenire manipolazioni che mirano a deformare la discussione.

L’IA si è dimostrata molto efficiente nell’individuare tecniche di manipolazione. Al momento, gli strumenti per sfruttare l’IA a questo scopo non sono molto diffusi, ma in futuro potrebbe essere sviluppata una tecnologia più accessibile che permetta ai cittadini di rilevare eventuali manipolazioni intenzionali del dibattito.

Le aziende che valutano come monetizzare l’IA dovrebbero fare tesoro delle lezioni apprese dall’evoluzione dei social media. Dovrebbero considerare come incentivare lo sviluppo di modelli capaci di promuovere strumenti e sistemi che favoriscano un dibattito democratico di qualità, sostenuto dai valori della libertà di parola, della partecipazione, della trasparenza e della responsabilità.

Per la democrazia, i social media e l’IA generativa rappresentano sia un pericolo sia un’opportunità. Non ha senso incolpare la tecnologia per i nostri problemi. Nel corso della storia, l’evoluzione tecnologica ha cambiato il dibattito democratico ponendolo di fronte a sfide sempre nuove.

Imparando dalle esperienze passate e affrontando in modo costruttivo i pericoli che si presentano, possiamo creare un dibattito democratico più inclusivo e resistente agli urti esterni. Per farlo, dobbiamo comprendere la portata del cambiamento e il suo impatto sull’agorà pubblica, impegnandoci a plasmare la tecnologia attraverso l’introduzione di buone pratiche e regolamentazioni.

© 2024 THE NEW YORK TIMES COMPANY AND JANIS SARTS

Questo è un articolo del nuovo numero di Linkiesta Magazine, con gli articoli di World Review del New York Times. Si può comprare già adesso, qui sullo store, con spese di spedizione incluse. E dal 25 novembre anche in edicola a Milano e Roma e negli aeroporti e nelle stazioni di tutta Italia.