Il potere degli algoritmi su individui e società

Condividi:

Un interessante articolo di Massimo Airoldi pubblicato su Che fare 

Massimo Airoldi

Da circa un decennio la parola “algoritmi” ha cominciato ad apparire sempre più frequentemente nei saggi degli scienziati sociali più critici riguardo all’evoluzione dei social media e del web 2.0. Gli algoritmi sono definibili come insiemi di regole e procedure matematiche volte a trasformare un dato input in uno specifico output.

Sebbene risalgano anticamente a Euclide e agli studi del matematico persiano al-Khwārizmī, da cui prendono il nome, la loro massiccia applicazione pratica si deve allo sviluppo dei computer e della società dell’informazione. Alla base degli algoritmi utilizzati da siti e piattaforme commerciali vi è l’idea che, elaborando matematicamente in tempo reale le informazioni disseminate dagli utenti durante le loro attività online (pagine cliccate, like su Facebook, parole chiave ricercate su Google, etc.), sia possibile offrire a ciascun visitatore, in automatico, servizi, informazioni e suggerimenti personalizzati.

Nella pratica, il lavoro invisibile e costante degli algoritmi online ha come prodotto finale i video che ci vengono presentati nell’homepage di YouTube, i post in evidenza sui social network, i pop-up pubblicitari nei siti che visitiamo, l’ordine con cui vengono elencati i compleanni dei nostri contatti su Facebook e, in generale, gran parte di ciò che ci circonda nella nostra esistenza digitale. Ad essere attentamente calcolato non è solo l’”ora”, il presente, ma anche ciò che “potrebbe interessarci” immediatamente dopo: gli accessori per l’aspirapolvere appena acquistata su Amazon, un altro brano blues su Spotify, una nuova serie tv su Netflix.

Il potere esercitato dagli algoritmi su individui e società è stato affrontato criticamente da una molteplicità di contributi teorici. Ad esempio, Richard Rogers parla di “algorithmic authority” riferendosi a motori di ricerca come Google e Bing, intesi come “macchine socio-epistemologiche” che, sulla base di definizioni arbitrarie e commercialmente guidate di popolarità e rilevanza, determinano la visibilità (o non visibilità) di notizie, argomenti e fonti di informazione. Aneesh, studiando i sistemi online che consentono a lavoratori stanziati in India di lavorare a distanza per aziende statunitensi, conia il termine “algocracy” per definire le forme di organizzazione del lavoro mediate dal codice software.

Cheney-Lippold sostiene invece che le pratiche di categorizzazione e di profilazione degli utenti attuate dagli algoritmi online rappresentino una nuova frontiera del biopotere foucaultiano, capace di produrre “identità algoritmiche” assegnate a individui “liberi ma costantemente condizionati”.

L’ubiquità degli algoritmi trasforma la nostra esperienza online in un involucro cucito su misura dei nostri click, dei nostri interessi e di quelli di coloro cui è stato assegnato il nostro stesso profilo utente. L’esercizio del potere algoritmico non si dispiega solo nell’output – ciò che entra effettivamente a far parte dello specifico vissuto digitale degli utenti – ma soprattutto in ciò che ne resta fuori, non rispondendo ai criteri prefissati dal codice: i post dei contatti Facebook con cui interagiamo raramente; le pagine web posizionate in fondo al ranking di Google in quanto considerate “non rilevanti” dall’algoritmo; i video che non sono visualizzati l’uno in seguito all’altro da un numero sufficiente di visitatori.

Questa sorta di “agenda setting” automatizzata e applicata alla quasi totalità della nostra vita digitale, risponde a regole differenti rispetto a quelle a cui ci hanno abituati i media tradizionali: essa non è costruita in base al messaggio veicolato dai contenuti, ma secondo le regole “generative” dell’algoritmo (per riprendere il sociologo Scott Lash), in un processo dinamico e adattabile nel tempo. Il meccanismo è sostanzialmente quello della “produzione della predizione” tipico dei mercati finanziari. McKelvey e colleghi lo riassumono circa così dalle pagine dello European Journal of Cultural Studies: “fabbricare le realtà di domani analizzando i desideri di oggi”.

L’obiettivo manifesto dei siti Internet che impiegano algoritmi è dare ai consumatori digitali quello che vogliono – o, meglio, l’approssimazione probabilistica dei loro desideri – in modo da massimizzarne la soddisfazione e incrementare i profitti.

Lo spettro è quello dell’inconscio tecnologico evocato da David Beer: la produzione automatizzata della vita quotidiana da parte di tecnologie potenti e al contempo inconoscibili. Beer affronta anche la questione del controllo, concludendo che il potere degli algoritmi online sugli individui non sia solo epistemologico ma ontologico: essi non solo “mediano” il nostro sapere, ma vanno a costituire la realtà stessa – in particolare con l’assottigliarsi del confine tra “virtuale” e “reale”, tra vita “online” e “offline”. Giovanni Boccia Artieri va anche oltre, affermando che “la forma dell’algoritmo diventa il contenuto culturale”: non è solo l’algoritmo a plasmare noi e la nostra cultura, ma siamo anche noi ad adattarci all’algoritmo per sfruttarlo strategicamente – ad esempio come nel caso del SEO copywriting. Sulla stessa linea è anche il concetto di “algorithmic culture” introdotto dal sociologo Ted Striphas: l’idea che la cultura antropologicamente intesa si stia rapidamente trasformando nello stimolo automatizzato risultante dall’elaborazione algoritmica di dati digitali.

Resistere agli algoritmi o lasciarci trasportare – un po’ rassegnati – dalla loro bolla trasparente? Il problema non è tanto il codice ma chi ci sta dietro. Gli algoritmi veicolano gli specifici assunti, obiettivi e punti di vista dei loro creatori e finanziatori – due su tutti: la massimizzazione del profitto e la riducibilità della complessità umana a un numero limitato di categorie relativamente stabili. La cultura algoritmica risultante, pertanto, è una cultura “normalizzata”, epurata da quelli che in gergo statistico sono gli outlier, gli elementi atipici e difficilmente prevedibili. La pratica del potere algoritmico è insita nella sua opacità. Un’opacità che riguarda sia l’incessante lavoro computazionale di raccolta ed elaborazione di dati personali, totalmente invisibile all’utente, sia la formulazione matematica della maggior parte degli algoritmi online – tenuta gelosamente segreta dalle aziende proprietarie e soggetta a continui cambiamenti nel tempo.

È proprio questa asimmetria informativa – la quale richiama la metafora foucaultiana del “panopticon” – a vanificare gran parte dei tentativi di resistenza “dal basso” contro le logiche degli algoritmi. L’esempio, di nuovo, è quello dei siti che utilizzano servizi di SEO, i quali promettono di migliorare il posizionamento delle pagine web sui motori di ricerca: essi sono deliberatamente penalizzati dagli aggiornamenti frenetici del “motore” di Google, il quale punta viceversa a premiare quei contenuti che rispettano determinati standard qualitativi. Il fatto è che, come ricorda ancora Boccia Artieri, quegli stessi standard, nonostante l’impatto su scala globale, sono il prodotto delle decisioni a porte chiuse di un’azienda privata. È nei confronti dell’oligopolio dei “Big Data Rich” – Google e Facebook in primis – che accademici, operatori culturali e cittadini dovrebbero far sentire la loro voce. Perché la “comodità” di una cultura suggerita automaticamente, selezionata per te e già pronta per essere digerita puzza più di totalitarismo che di Silicon Valley.


Estratto e riadattato da:
Airoldi, M. (2015) “You might also be interested in: recommender algorithms and social imaginary, the case of YouTube”, IM@GO, 6: 132-150. Articolo scaricabile liberamente qui

Condividi:
Sommario

“algoritmi” ha cominciato ad apparire frequentemente nei saggi degli scienziati sociali più critici riguardo all’evoluzione dei social media e del web 2.0.

  • Questo articolo è stato interessante (0 no - 5 si)?
User Rating: 0 ( 0 Votes )

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.