New York accusa TikTok di ingannare gli adolescenti con strumenti di sicurezza falsi
Pubblicato il October 9, 2026
Lo Stato di New York ha intentato una causa in cui si sostiene che TikTok abbia condotto esperimenti coinvolgendo migliaia di utenti, tra cui minori, offrendo una versione "placebo" non funzionante di una funzione di sicurezza progettata per aggiornare le raccomandazioni dei contenuti. La denuncia afferma che, mentre i partecipanti credevano di aver attivato lo strumento per filtrare i contenuti dannosi, i loro feed rimanevano invariati, a differenza di quelli dei gruppi di controllo che hanno ricevuto la versione effettiva e funzionante della funzione.
Punti chiave
- La causa intentata da New York sostiene che TikTok abbia fornito una funzione di sicurezza placebo a adolescenti e bambini in un esperimento che ha coinvolto migliaia di utenti.
- Lo strumento controverso, denominato "Algo Refresh", avrebbe dovuto permettere agli utenti di resettare le proprie raccomandazioni e smettere di vedere contenuti indesiderati.
- I partecipanti all'esperimento credevano di aver attivato la funzione, ma i loro feed non sono cambiati, mentre gli utenti non coinvolti nell'esperimento che avevano accesso allo strumento reale hanno visto aggiornamenti immediati.
- Lo Stato accusa TikTok di aver progettato la propria piattaforma per incoraggiare un uso dipendente tra i bambini e di averli ingannati riguardo alle opzioni di sicurezza.
- Bloomberg ha segnalato un incidente separato a giugno in cui TikTok ha bloccato una funzione di sicurezza a 15 milioni di utenti negli Stati Uniti, inclusa una teenager che successivamente si è tolta la vita.
- TikTok ha risposto a Reuters affermando che l'azienda testa regolarmente nuovi prodotti e funzionalità per comprenderne il funzionamento nel mondo reale.
L'esperimento placebo presunto
Secondo quanto riportato negli atti legali di New York, TikTok ha condotto esperimenti con migliaia di utenti, inclusi specificamente adolescenti e bambini che avevano aderito alle funzioni di sicurezza. Una di queste funzioni è stata identificata come "Algo Refresh", uno strumento destinato a dare agli utenti il controllo sul proprio feed di contenuti permettendo loro di resettare le raccomandazioni ed evitare materiale potenzialmente dannoso o indesiderato.
Il nucleo dell'accusa risiede nel fatto che TikTok abbia fornito una versione simulata di questa funzione al gruppo sperimentale. Gli utenti di questo cohort credevano di aver attivato con successo Algo Refresh. Tuttavia, a differenza degli utenti che non facevano parte dell'esperimento e avevano accesso alla versione pienamente funzionante dello strumento, i feed di quelli nel gruppo placebo non sono cambiati. Questa discrepanza suggerisce che il meccanismo di sicurezza non stava effettivamente elaborando o modificando i contenuti per questi utenti vulnerabili, nonostante la loro convinzione che fosse attivo.
La causa intentata da New York fa parte di un più ampio sforzo legale che coinvolge oltre due dozzine di Stati. Questi casi accusano collettivamente la piattaforma social di aver progettato la propria architettura per incoraggiare modelli di utilizzo dipendente tra i bambini e di aver ingannato gli utenti riguardo all'efficacia e alla disponibilità delle sue funzioni di sicurezza. Lo Stato sostiene che queste pratiche sfruttino i giovani utenti offrendo l'illusione di controllo senza fornire una protezione reale.
Blocco degli strumenti di sicurezza critici
Oltre all’esperimento placebo, la causa descrive altri casi in cui TikTok avrebbe manipolato l’accesso alle funzionalità di sicurezza. Le segnalazioni di giugno indicavano che uno specifico esperimento ha comportato il blocco di una funzione di sicurezza per 15 milioni di utenti negli Stati Uniti. La gravità di questa accusa è stata sottolineata dalla menzione di un adolescente presente in questo gruppo, che in seguito si è tolto la vita, evidenziando le potenziali conseguenze reali di tali disegni sperimentali.
Queste affermazioni contribuiscono all’aumento dello scrutinio su come le principali aziende tecnologiche conducono test A/B ed esperimenti sugli utenti. L’argomentazione avanzata da New York è che l’utilizzo di minori in questi test, specialmente quando implica il blocco o la simulazione di strumenti di sicurezza, oltrepassa i confini etici e legali. Negando agli utenti la funzionalità effettiva a cui credevano di avere accesso, TikTok avrebbe compromesso la loro capacità di gestire in modo sicuro la propria esperienza online.
Reazione del settore e contesto
In risposta alle accuse, TikTok ha fornito a Reuters una dichiarazione che difende le sue pratiche di testing. L’azienda ha spiegato che apporta continuamente miglioramenti alla sua piattaforma, il che richiede test regolari di nuovi prodotti e funzionalità. Secondo TikTok, questo processo è standard per convalidare l’esperienza utente e comprendere come funzionano i nuovi strumenti in scenari reali, analogamente alle pratiche adottate dalla maggior parte delle altre aziende tecnologiche.
TikTok non ha immediatamente risposto ad ulteriori richieste di commento riguardo ai dettagli specifici della causa intentata da New York o al rapporto di Bloomberg sulla funzionalità di sicurezza bloccata. Il caso rimane un punto significativo di contesa nel dibattito in corso sulla sicurezza digitale, le leggi sulla protezione dei minori e la responsabilità aziendale nel design dei social media. Man mano che sempre più stati si uniscono alla sfida legale, le implicazioni per il modo in cui le piattaforme tecnologiche conducono la ricerca sugli utenti e implementano le funzionalità di sicurezza potrebbero essere sostanziali.