La difesa del «è una tua scelta» non regge più per Meta e Snap

Se una slot machine fosse progettata per essere difficile da mollare, daremmo la colpa al giocatore che non la molla? Per anni le aziende dei social media hanno risposto a una versione di questa domanda con una scrollata di spalle: dipende dagli utenti e dai genitori. Un'aula di tribunale a Los Angeles sta ora mettendo alla prova se quella scrollata di spalle funziona ancora.

Come riporta Reuters, due querelanti adolescenti, che sostengono che i social media abbiano causato loro gravi problemi di salute mentale, portano Meta e Snap in giudizio mercoledì. Valor Econômico lo descrive come l'ultima verifica delle accuse avanzate in migliaia di cause negli Stati Uniti. Meta e YouTube hanno già perso a marzo, quando una giuria californiana li ha ritenuti responsabili su tutti i capi in un caso sulla salute mentale di una giovane donna. Stavolta, secondo Settlement Insight, YouTube e TikTok hanno trovato un accordo, lasciando Meta e Snap sole al tavolo della difesa.

La notizia è la teoria giuridica, non gli adolescenti

La rivoluzione silenziosa qui non è emotiva, è architettonica. Il New York Times ha descritto questi casi come la prova di una nuova strategia legale: sostenere che i prodotti stessi abbiano causato danni personali attraverso un design che crea dipendenza. Questo cambio di prospettiva conta enormemente. «Questo ragazzo ha usato troppo Instagram?» è una domanda sulla forza di volontà. «Il prodotto è stato progettato per rendere difficile smettere?» è una domanda di ingegneria, e le aziende sono molto brave a rispondere alle domande di ingegneria, che è esattamente il loro problema. Scommetteremmo che abbiano un bel po' di test A/B, dashboard e memo interni che una giuria vorrebbe vedere.

Crediamo che sia per questo che la difesa della scelta personale stia finendo la strada. Funziona quando il prodotto è neutro, come un libro o una linea telefonica. Diventa molto più difficile da sostenere quando il prodotto è un feed che, secondo i querelanti, è stato calibrato per massimizzare il tempo che un adolescente ci passa. Nessuno sostiene che un cliente del casinò mancasse semplicemente di disciplina ignorando il disegno della moquette, gli orologi assenti e i drink gratis.

La condotta delle aziende lavora per i querelanti

Pensa a ciò che è emerso fuori dall'aula. The Verge riporta, citando documenti giudiziari depositati di recente, che nel marzo 2023 Meta discusse una «strategia Whisper» per «mettere gli accademici contro» lo psicologo sociale Jonathan Haidt, che descrive come un critico chiave. Dobbiamo essere prudenti: The Verge dice che l'azienda valutò la campagna, e nulla di ciò che abbiamo visto mostra che sia stata attuata. Eppure, quanto a immagine, è difficile fare peggio. Un'azienda sicura che il proprio prodotto sia innocuo di solito non ragiona su come screditare in silenzio chi dice il contrario.

Poi ci sono i soldi. Ad agosto il LA Times ha riportato che Meta ha accettato un accordo da 17 miliardi di dollari con 47 stati, chiudendo un processo storico ed evitando la prevista comparizione di Mark Zuckerberg. Gli accordi non sono ammissioni di colpa, e non faremo finta del contrario. Ma le aziende di solito non staccano assegni di questa portata, né si accordano prima della giuria come hanno fatto qui TikTok e YouTube, perché si sentono invincibili.

Nota anche come Meta e Snap stanno combattendo questa causa. Secondo il Daily Journal, hanno chiesto al giudice di applicare standard più severi di altri stati per dimostrare il danno psicologico e il nesso causale, citando le leggi del Mississippi e dell'Illinois, dove risiedono i querelanti. È una mossa legale legittima e, a nostro avviso, anche un indizio: lo scontro riguarda sempre più quanto sia difficile provare il danno, non se i prodotti siano stati progettati per agganciare le persone.

Dove saremmo cauti e cosa osservare

Niente di tutto questo significa che la vittoria dei querelanti sia garantita. Il nesso causale nella salute mentale è davvero intricato, e una giuria non è uno studio sottoposto a revisione paritaria. Settlement Insight osserva che la prima giuria ha riconosciuto 6 milioni di dollari, un segnale più che un verdetto sulla scienza. Si può ragionevolmente credere che i social media facciano male ad alcuni ragazzi senza credere che la storia di ogni adolescente in difficoltà cominci da un feed.

Ma questa sfumatura va contro l'inquadramento preferito dalle aziende, non a suo favore. Se il danno varia da utente a utente, la domanda di design responsabile è ovvia: perché le impostazioni predefinite di scorrimento infinito, notifiche e raccomandazioni algoritmiche presumono che l'utente più vulnerabile possa gestirle? Mettere il peso sull'autocontrollo di un adolescente e poi sulla vigilanza di un genitore significa chiedere alle persone meno potenti del sistema di riparare ciò che hanno costruito le più potenti.

Il nostro verdetto: questo processo conta perché sposta la conversazione dal carattere dell'utente al progetto del prodotto. Qualunque cosa decida questa giuria, l'idea che un feed sia solo lo specchio della scelta personale ha già perso, crediamo, gran parte della sua credibilità. La risposta sensata per tutti noi è smettere di chiederci se i teenager abbiano abbastanza forza di volontà e iniziare a chiederci, per ogni app, che cosa sia stata costruita per far fare loro.