Нью-Йорк обвиняет TikTok в обмане подростков с помощью фейковых инструментов безопасности
Опубликовано 9 октября, 2026 года
Государство Нью-Йорк подало иск, утверждая, что TikTok проводил эксперименты с участием тысяч пользователей, включая несовершеннолетних, предлагая им нефункциональную «плацебо»-версию инструмента безопасности, предназначенного для обновления рекомендаций контента. В иске говорится, что, хотя участники полагали, что активировали инструмент для фильтрации вредоносного контента, их ленты оставались неизменными, в отличие от контрольной группы, которая получила работающую версию функции.
Ключевые моменты
- Иск Нью-Йорка утверждает, что TikTok предоставил плацебо-инструмент безопасности подросткам и детям в рамках эксперимента с участием тысяч пользователей.
- Спорный инструмент, называемый «Algo Refresh», должен был позволять пользователям сбрасывать рекомендации и перестать видеть нежелательный контент.
- Участники эксперимента полагали, что активировали функцию, но их ленты не изменились, тогда как пользователи, не участвовавшие в эксперименте и имеющие доступ к реальному инструменту, увидели немедленные обновления.
- Государство обвиняет TikTok в проектировании платформы таким образом, чтобы стимулировать аддиктивное поведение среди детей, и введении их в заблуждение относительно опций безопасности.
- Bloomberg сообщил о отдельном инциденте в июне, когда TikTok скрыл инструмент безопасности от 15 миллионов пользователей в США, включая подростка, который впоследствии покончил с собой.
- TikTok ответил Reuters, заявив, что компания регулярно тестирует новые продукты и функции, чтобы понять, как они работают в реальных условиях.
Предположительный эксперимент с плацебо
Согласно сообщениям, приведенным в юридических документах Нью-Йорка, TikTok проводил эксперименты с тысячами пользователей, в частности с подростками и детьми, которые согласились на использование функций безопасности. Одна из таких функций была идентифицирована как «Algo Refresh» — инструмент, предназначенный для предоставления пользователям контроля над лентой контента путем сброса рекомендаций и предотвращения показа потенциально вредного или нежелательного материала.
Суть обвинения заключается в том, что TikTok предоставил экспериментальной группе симулированную версию этого инструмента. Пользователи из этой группы полагали, что успешно активировали Algo Refresh. Однако, в отличие от пользователей, не участвовавших в эксперименте и имеющих доступ к полностью функционирующей версии инструмента, ленты тех, кто находился в группе плацебо, не изменились. Это расхождение предполагает, что механизм безопасности на самом деле не обрабатывал и не изменял контент для этих уязвимых пользователей, несмотря на их убежденность в том, что он активен.
Иск Нью-Йорка является частью более широких юридических усилий, включающих более двух десятков штатов. Эти дела коллективно обвиняют социальную сеть в проектировании своей архитектуры таким образом, чтобы стимулировать аддиктивное поведение среди детей, и во введении пользователей в заблуждение относительно эффективности и доступности ее функций безопасности. Государство утверждает, что такие практики эксплуатируют молодых пользователей, предлагая иллюзию контроля без предоставления реальной защиты.
Сокрытие критически важных инструментов безопасности
Помимо эксперимента с плацебо, иск описывает другие случаи, когда TikTok, по утверждениям истцов, манипулировал доступом к функциям безопасности. Сообщения от июня указывали на то, что один из конкретных экспериментов заключался в лишении 15 миллионов пользователей США доступа к определенной функции защиты. Серьезность этих обвинений подчеркивается упоминанием подростка из этой группы, который впоследствии покончил с собой, что демонстрирует потенциальные реальные последствия подобных экспериментальных дизайнов.
Эти утверждения усиливают растущее внимание к тому, как крупные технологические компании проводят A/B-тестирование и пользовательские эксперименты. Позиция Нью-Йорка заключается в том, что использование несовершеннолетних в таких тестах, особенно когда речь идет о сокрытии или имитации инструментов безопасности, пересекает этические и правовые границы. Лишая пользователей реальной функциональности, к которой они привыкли, TikTok, согласно иску, подорвал их способность безопасно управлять своим онлайн-опытом.
Реакция индустрии и контекст
В ответ на эти обвинения TikTok предоставил Reuters заявление, защищающее свою практику тестирования. Компания объяснила, что постоянно вносит улучшения на свою платформу, что требует регулярного тестирования новых продуктов и функций. По словам TikTok, этот процесс является стандартным для проверки пользовательского опыта и понимания того, как новые инструменты работают в реальных условиях, аналогично практикам, используемым большинством других технологических компаний.
TikTok пока не ответил на дополнительные запросы о комментариях касательно конкретных деталей иска Нью-Йорка или сообщения Bloomberg о скрытой функции безопасности. Дело остается значимым пунктом разногласий в продолжающейся дискуссии о цифровой безопасности, законах о защите детей и корпоративной ответственности в дизайне социальных сетей. По мере того как все больше штатов присоединяются к юридическим разбирательствам, последствия для того, как технологические платформы проводят пользовательские исследования и внедряют функции безопасности, могут оказаться существенными.