Basta guardare alcuni video su un determinato argomento perché TikTok inizi a proporne altri simili, in una sequenza potenzialmente infinita. Quando i contenuti riguardano tristezza, isolamento, problemi alimentari o insicurezze legate al proprio corpo, questo meccanismo può trasformarsi in un rischio per la salute mentale, soprattutto per adolescenti e persone vulnerabili. È il cosiddetto rabbit hole effect, letteralmente “effetto tana del coniglio”, il fenomeno per cui gli utenti vengono progressivamente indirizzati verso contenuti sempre più simili, fino a ritrovarsi immersi in un flusso dal quale diventa difficile uscire.
La scorsa settimana la Commissione europea ha comunicato di aver riscontrato, in via preliminare, una violazione del Digital Services Act (DSA) da parte di TikTok, proprio a causa del funzionamento del suo sistema di raccomandazione personalizzata, conosciuto come For You, la sezione “Per te” dell’applicazione. L’indagine riguarda il modo in cui l’algoritmo seleziona e propone i video, utilizzando informazioni come il tempo di visualizzazione, le interazioni e le preferenze degli utenti.
Secondo la Commissione, quando una persona guarda ripetutamente contenuti relativi a dimagrimento, immagine corporea, tristezza o isolamento, il sistema può interpretare questi comportamenti come segnali di interesse e continuare a proporre video dello stesso genere. L’esposizione prolungata e ripetitiva può contribuire ad aggravare situazioni di disagio, aumentando il rischio di ansia, insoddisfazione per il proprio corpo e peggioramento di disturbi già esistenti. Il problema individuato dalle autorità europee riguarda quindi la sequenza dei contenuti suggeriti dall’algoritmo, oltre alla natura dei singoli video.
Un contenuto, considerato isolatamente, può essere perfettamente legittimo. La sua ripetizione continua, all’interno di un sistema che tende a rafforzare gli interessi rilevati, può invece produrre effetti diversi, soprattutto nei confronti degli utenti più vulnerabili. La Commissione ritiene che TikTok abbia valutato in maniera insufficiente questi rischi e adottato misure di protezione inadeguate.
Tra gli strumenti già disponibili sulla piattaforma figura il pulsante “Non mi interessa”, attraverso il quale gli utenti possono chiedere di ricevere meno contenuti di un determinato tipo. Secondo le conclusioni preliminari dell’indagine, però, questa funzione potrebbe essere insufficiente a modificare realmente le raccomandazioni, perché il sistema continua ad attribuire un peso rilevante ai comportamenti osservati, come il tempo trascorso a guardare un video. In altre parole, il tempo di visualizzazione può influenzare le raccomandazioni anche quando l’utente esprime esplicitamente la volontà di vedere meno contenuti simili.
Bruxelles ritiene quindi necessario intervenire sul funzionamento del sistema For You. Tra le possibili modifiche indicate figurano una maggiore importanza attribuita alle preferenze espresse direttamente dagli utenti, l’eliminazione del tempo di visualizzazione come segnale per le raccomandazioni, strumenti di controllo più accessibili e verifiche periodiche sull’efficacia dell’algoritmo.
TikTok ha respinto le contestazioni della Commissione, definendole inaccurate e sostenendo di aver introdotto strumenti per proteggere gli utenti e consentire loro di controllare la propria esperienza sulla piattaforma.
Le conclusioni europee sono ancora preliminari. L’azienda potrà esaminare gli atti dell’indagine e presentare le proprie osservazioni prima di un’eventuale decisione definitiva. Se la violazione venisse confermata, la Commissione potrebbe imporre modifiche al servizio e una sanzione fino al 6% del fatturato annuo mondiale dell’azienda. Al momento non è stata applicata alcuna multa nell’ambito di questa contestazione. Il procedimento rappresenta un passaggio importante nella regolamentazione delle piattaforme digitali: per la Commissione europea, la responsabilità dei social network riguarda anche il modo in cui gli algoritmi selezionano, ripetono e distribuiscono i contenuti.
Al centro dell’indagine c’è una questione sempre più rilevante per milioni di utenti: quanto controllo abbiamo realmente su ciò che vediamo e quanto, invece, viene deciso dai sistemi che organizzano la nostra attenzione?
