Nova York acusa o TikTok de enganar adolescentes com ferramentas de segurança falsas
Publicado em October 9, 2026
O Estado de Nova York entrou com uma ação judicial alegando que a TikTok realizou experimentos envolvendo milhares de usuários, incluindo menores de idade, ao oferecer uma versão "placebo" não funcional de um recurso de segurança projetado para atualizar as recomendações de conteúdo. A queixa afirma que, embora os participantes acreditassem ter ativado a ferramenta para filtrar conteúdo prejudicial, seus feeds permaneceram inalterados, ao contrário dos grupos de controle que receberam o recurso real e funcional.
Principais Pontos
- A ação judicial de Nova York alega que a TikTok forneceu um recurso de segurança placebo a adolescentes e crianças em um experimento envolvendo milhares de usuários.
- A ferramenta em disputa, chamada "Algo Refresh", deveria permitir que os usuários redefinissem suas recomendações e parassem de ver conteúdo indesejado.
- Os participantes do experimento acreditavam ter ativado o recurso, mas seus feeds não mudaram, enquanto os usuários fora do experimento, com acesso à versão real da ferramenta, viram atualizações imediatas.
- O estado acusa a TikTok de projetar sua plataforma para incentivar o uso viciante entre crianças e de enganar os usuários sobre as opções de segurança.
- A Bloomberg relatou um incidente separado em junho, no qual a TikTok withhold (retido) um recurso de segurança de 15 milhões de usuários nos EUA, incluindo um adolescente que posteriormente cometeu suicídio.
- A TikTok respondeu à Reuters afirmando que a empresa testa regularmente novos produtos e recursos para entender como funcionam no mundo real.
O suposto experimento placebo
De acordo com relatórios citados na petição judicial de Nova York, a TikTok realizou experimentos com milhares de usuários, especificamente incluindo adolescentes e crianças que haviam optado por recursos de segurança. Um desses recursos foi identificado como "Algo Refresh", uma ferramenta destinada a dar aos usuários controle sobre seu feed de conteúdo, permitindo que redefinissem as recomendações e evitasse material potencialmente prejudicial ou indesejado.
O cerne da alegação é que a TikTok forneceu uma versão simulada desse recurso ao grupo experimental. Os usuários dessa coorte acreditavam ter ativado com sucesso o Algo Refresh. No entanto, ao contrário dos usuários que não faziam parte do experimento e tinham acesso à versão totalmente funcional da ferramenta, os feeds daqueles no grupo placebo não mudaram. Essa discrepância sugere que o mecanismo de segurança não estava realmente processando ou alterando o conteúdo para esses usuários vulneráveis, apesar de sua crença de que estava ativo.
A ação judicial de Nova York faz parte de um esforço legal mais amplo envolvendo mais de duas dezenas de estados. Esses casos acusam coletivamente a plataforma de redes sociais de projetar sua arquitetura para incentivar padrões de uso viciante entre crianças e de enganar os usuários sobre a eficácia e disponibilidade de seus recursos de segurança. O estado argumenta que essas práticas exploram os jovens usuários ao oferecer a ilusão de controle sem entregar proteção real.
Retenção de ferramentas de segurança críticas
Além do experimento placebo, a ação judicial detalha outros casos em que o TikTok supostamente manipulou o acesso a recursos de segurança. Relatórios de junho indicaram que um experimento específico envolveu a retenção de um recurso de segurança para 15 milhões de usuários nos EUA. A gravidade dessa alegação foi reforçada pela menção a um adolescente dentro desse grupo que mais tarde morreu por suicídio, destacando as possíveis consequências reais de tais desenhos experimentais.
Essas alegações contribuem para o crescente escrutínio sobre como as grandes empresas de tecnologia conduzem testes A/B e experimentos com usuários. O argumento apresentado por Nova York é que o uso de menores nesses testes, especialmente quando envolve a retenção ou simulação de ferramentas de segurança, ultrapassa os limites éticos e legais. Ao negar aos usuários a funcionalidade real da qual foram levados a crer que dispunham, o TikTok supostamente comprometeu sua capacidade de gerenciar sua experiência online com segurança.
Resposta da Indústria e Contexto
Em resposta às alegações, o TikTok forneceu uma declaração à Reuters defendendo suas práticas de teste. A empresa explicou que está constantemente fazendo melhorias em sua plataforma, o que exige testes regulares de novos produtos e recursos. De acordo com o TikTok, esse processo é padrão para validar experiências do usuário e entender como as novas ferramentas funcionam em cenários do mundo real, semelhante às práticas adotadas pela maioria das outras empresas de tecnologia.
O TikTok não retornou imediatamente a outros pedidos de comentário sobre os detalhes específicos da ação judicial de Nova York ou do relatório da Bloomberg sobre o recurso de segurança retido. O caso permanece um ponto significativo de controvérsia no debate em andamento sobre segurança digital, leis de proteção à infância e responsabilidade corporativa no design de redes sociais. À medida que mais estados se juntam ao desafio legal, as implicações para a forma como as plataformas de tecnologia conduzem pesquisas com usuários e implementam recursos de segurança podem ser substanciais.