Lo scienziato matto s’interessa al cane in gabbia

di Jaron Lanier

Probabilmente hai sentito le sofferte confessioni dei fondatori degli imperi dei social media, che preferisco chiamare «imperi della modificazione comportamentale». Ecco che cos’ha detto Sean Parker, il primo presidente di Facebook:

C’era bisogno di dare una piccola dose di dopamina ogni tanto, per esempio se qualcuno metteva un like alla tua foto o al tuo post […]. È un loop di feedback e validazione sociale […] esattamente quello che un hacker come me cerca, perché si sta sfruttando una vulnerabilità della psicologia umana […]. E noi, gli inventori, i creatori di questa cosa – cioè io, Mark [Zuckerberg], e Kevin Systrom su Instagram, insomma tutti noi – lo comprendevamo pienamente. E l’abbiamo fatto lo stesso […]. Questo cambia letteralmente il proprio rapporto con la società, degli uni con gli altri […]. Probabilmente ha qualche strana interferenza anche con la produttività. Dio solo sa come sta trasformando il cervello dei nostri figli.

Questo invece è quello che dice Chamath Palihapitiya, ex vicepresidente per la crescita degli utenti su Facebook:

I circoli viziosi di feedback a breve termine alimentati dalla dopamina che
abbiamo creato stanno distruggendo il funzionamento della società. […] Non c’è un discorso civile, nessuna cooperazione; è solo disinformazione, mistificazione. E non è un problema americano, non si parla delle inserzioni dei russi. Questo è un problema globale. […] Mi sento terribilmente in colpa. Penso che tutti in fondo lo sapessimo, ma abbiamo simulato un approccio diverso, come se non ci fossero conseguenze negative e intenzionali. Ma nei profondi recessi della nostra mente, io credo, sapevamo che poteva uscirne qualcosa di brutto […]. Adesso siamo in una situazione terribile, secondo me, che sta minando le fondamenta dei comportamenti delle persone e tra le persone. E non ho una soluzione adeguata. La mia soluzione è non usare più questi strumenti. Io non lo faccio da anni.

Meglio tardi che mai. Diversi critici, tra i quali anch’io, avevano già lanciato i primi avvertimenti tempo fa, ma sentirlo dire dalle persone che hanno creato tutto ciò è un bel passo avanti.

Per anni ho dovuto sopportare pesanti rimproveri da parte degli amici della Silicon Valley, ero visto come un traditore perché criticavo quello che stavamo facendo. Ultimamente ho il problema opposto. Sostengo l’idea che i lavoratori della Silicon Valley siano per lo più gente onesta e chiedo di non maltrattarci, e in cambio mi becco solo tante lavate di capo. Difficile sapere se sono stato troppo duro o troppo morbido con la mia comunità. Ma la questione cruciale ora è capire se le critiche hanno importanza. È innegabile che una tecnologia malefica ci sta danneggiando, ma noi – e dico anche a te –, saremo in grado di resistere e riportare il mondo su una strada migliore?

Aziende come Facebook, Google e Twitter stanno finalmente cercando di porre rimedio, per quanto in modo frammentario, ad alcuni dei gravi problemi che hanno creato. È perché sono sotto pressione o perché sanno che è la cosa giusta da fare? Probabilmente entrambe le cose. Le aziende stanno cambiando le loro policy, assumono persone in carne e ossa per monitorare quello che succede, richiedono data scientist per elaborare algoritmi in grado di evitare gli errori più grossi. Il vecchio motto di Facebook era «Muoviti velocemente e rompi le cose»,3 ma adesso stanno pensando a un motto migliore, raccolgono i pezzi di un mondo in frantumi e li rincollano.

Questo libro sostiene che le aziende, da sole, non possono rincollare il mondo. Ora che tanti membri della Silicon Valley stanno facendo pubblica ammenda, saresti portato a pensare che ti basta aspettare che risolviamo il problema. Ma non funziona così. Se non sei parte della soluzione, non ci sarà alcuna soluzione. Questa Ragione, la prima, introdurrà alcuni concettichiave alla base della progettazione di network in grado di manipolare e creare dipendenza. La consapevolezza è il primo passo verso la libertà.

Questo è un estratto da Dieci ragioni per cancellare subito i tuoi account social

Jaron Lanier è un informatico, giornalista e saggista statunitense, pioniere della realtà virtuale, che vive e lavora nella Silicon Valley. Delle sue opere, tradotte in tutto il mondo, il Saggiatore ha pubblicato La dignità ai tempi di Internet (2014), Dieci ragioni per cancellare subito i tuoi account social (2018) e L'alba del nuovo tutto (2019).