In un futuro ormai prossimo, un bel giorno un qualsiasi signor Rossi si rende conto che il suo punteggio sociale è sceso ormai ai minimi per una serie di scelte e comportamenti sbagliati e che ormai rischia la penalizzazione da parte del potente Algoritmo centrale di pianificazione dell’armonia comune.

Una soluzione è rivolgersi a uno storyteller sociale, la nuova figura professionale deputata a ripulire un passato torbido attraverso una serie di azioni di rinarrazione della propria vita e delle proprie azioni. La tecnica utilizzata è quella di “ingannare” attraverso la disseminazione di dati creati ad hoc l’Algoritmo centrale e migliorare in questo modo il proprio punteggio.

Dopo poco tempo, grazie al lavoro del suo consulente, Rossi riesce a far passare una nuova narrazione di sé e a risalire la china. Certo, il consulente ha dovuto ricorrere a numerose Fakes abilmente create con l’intelligenza artificiale e ad altri trucchetti che nel gergo chiamano “Black hat social scoring SEO”, ma ne è valsa la pena.

Ora che Rossi è rientrato in fascia di punteggio sociale A può nuovamente tornare a guidare la macchina, prendere l’aereo, uscire la sera e utilizzare la sua carta di credito, oltre che usufruire dei numerosi benefit sociali del governo.

E pensare che era finito nei guai semplicemente per un errore. Una delle numerose reti neurali artificiali che compongono l’Algoritmo centrale aveva concluso che era alcolizzato per via della sua elevata frequentazione dei bar durante l’orario dell’aperitivo, anche se beveva solamente cocktail analcolici a base di carciofo e aloe vera consigliati dalla sua nutrizionista.

Il social scoring, o punteggio sociale

Ma cos’è il social scoring, o punteggio sociale, che tanta pena darà in futuro al sig. Rossi? Si tratta di un sistema che valuta il comportamento dei cittadini attraverso parametri online e offline assegnando un punteggio in base ai loro comportamenti individuali.

Il social scoring funziona in modo simile alla patente a punti. Se un cittadino non raggiunge e mantiene un livello minimo di punteggio di “buon comportamento”, scattano le penalizzazioni e si viene via via esclusi dal credito bancario, dal diritto di circolare e così via, fino ad arrivare, nei casi più gravi, alla carcerazione o alla perdita dei diritti civili e politici. È la strada presa dalla Cina, dove questo tipo di sistema è ormai ampliamente adottato. Oggi, c’è chi lo propone anche per l’Italia.

Tecnologie come l’intelligenza artificiale possono rendere questo sistema particolarmente potente, intrusivo e pericoloso. I timori di una società stile grande fratello diventano ancora più forti se combiniamo il social scoring con le possibilità manipolatorie che apre l’applicazione di neuroscienze, storytelling e psicologia della persuasione.

Punteggio sociale, narrazioni e storytelling

Le storie hanno sempre avuto il misterioso potere di plasmare le nostre opinioni e influenzare il modo in cui percepiamo il mondo. Le nuove tecnologie e le nuove scoperte però lo potrebbero accrescere a livelli mai prima raggiunti, creando un mondo dove forse basterà semplicemente manipolare in modo soft le persone e il loro sistema di credenze con delle narrazioni personalizzate sulla base di una profilazione costante e continua basata sulla raccolta dei dati di tutto ciò che fanno.

Le grandi quantità di informazioni che si potranno raccogliere con le nuove tecnologie permetteranno infatti una profilazione particolarmente efficace di ognuno di noi. Le interazioni online, i post sui social media e i comportamenti possono essere interpretati attraverso una lente narrativa, contribuendo a costruire il profilo di un individuo.

Se a questo profilo diamo un punteggio, scopriamo che a queste narrazioni digitali possono essere utilizzate per formare un quadro completo di chi siamo, influenzando le opportunità che ci vengono concesse o negate nella società. Ma per fortuna, l’unione europea ha posto severi limiti all’utilizzo del social scoring da parte delle autorità pubbliche.

Impatto sulle Relazioni Interpersonali

Il social scoring potrebbe alterare anche il modo in cui ci raccontiamo e le dinamiche delle relazioni personali. Le persone potrebbero iniziare a modellare le proprie storie online e offline in modo strategico, cercando di migliorare il proprio punteggio sociale.

Ciò porterebbe a una distorsione continua della realtà e dei rapporti, con individui che presentano versioni ipocritamente idealizzate di sé stessi per ottenerne dei vantaggi.

La stessa redenzione diventerebbe un nuovo e lucroso business, con piattaforme dove ripulire il proprio profilo, ad esempio chiedendo pubblicamente scusa e impegnandosi a tenere comportamenti retti e che piacciano alla morale comune. Anzi, la funzionalità redenzione e percorso di espiazione per chi infrange la regole potrebbe entrare a far parte di tutte le applicazioni social e tutte le community digitali.

Il risultato finale è che in un mondo dove tutto viene mediato da queste nuove realtà algoritmiche si finirebbe fatalmente in un conformismo perbenista totale e opprimente e a una notevole falsità dei rapporti umani.

Più che una dittatura alla Orwell, forse il vero pericolo è quello di una società così autocontrollante e controllata da soffocare sul nascere qualsiasi scatto di personalità, originalità, trasgressione e fantasia in nome del perbenismo algoritmico.

La speranza è che tanti signor Rossi continuino a sbagliare, riscattando nella deviazione dalla normalità algoritmica la loro e la nostra umanità anche se ciò costasse ricorrere al lavaggio un po’ furbesco, ma forse moralmente accettabile, del loro profilo.

Ti è piaciuto questo articolo? Iscriviti alla newsletter per ricevere contenuti simili. Oppure, leggi il mio ultimo libro, Neuroscienze della narrazione.

Immagine di Freepik