В 2021 году TikTok изменил алгоритм рекомендаций, чтобы пользователи реже оказывались в замкнутой ленте из однотипного вредного контента. Однако более безопасную версию получили не все. Как следует из конфиденциального внутреннего документа, изученного Bloomberg Businessweek, старый вариант алгоритма сохранили для контрольной группы, составлявшей 10% американской аудитории сервиса. По тогдашним данным компании, речь могла идти примерно о 15 миллионах человек.
Эксперимент должен был показать, влияет ли защитное изменение на вовлеченность и ежедневную аудиторию. В контрольную группу случайным образом попал 16-летний Чейз Наска. В феврале 2022 года подросток погиб в результате самоубийства. Позднее специалисты TikTok восстановили историю его просмотров и пришли к выводу, что аккаунт оказался в так называемом пузыре фильтров – рекомендательная система многократно показывала материалы о подавленности, одиночестве и суицидальных переживаниях.
Как работал эксперимент с алгоритмом
Рекомендательная лента TikTok обучается на множестве сигналов: длительности просмотра, повторных просмотрах, поисковых запросах, отметках "нравится" и других действиях. Чем больше внимания получает определенная тема, тем выше вероятность, что система предложит похожие ролики. Такой механизм быстро подстраивает ленту под интересы человека, но способен сузить ее до повторяющегося эмоционального потока.
Чтобы проверить эффект обновления, компания использовала A/B-тестирование. Основной группе включили алгоритмическую корректировку, призванную уменьшить повторение потенциально вредных рекомендаций. Контрольная группа продолжила пользоваться прежней версией. Внутренний отчет прямо указывает, что защитные стратегии для аккаунта Чейза не действовали "по замыслу" эксперимента.
Авторы документа объясняли решение необходимостью найти баланс между безопасностью и возможностью измерить влияние на ключевые показатели. Среди них была ежедневная активная аудитория – важная метрика для любой социальной платформы. Именно это обстоятельство делает историю не только рассказом об одной трагедии, но и вопросом о допустимых границах продуктовых экспериментов.
Что обнаружили специалисты TikTok
Внутренний обзор был подготовлен в марте 2023 года командами безопасности и алгоритмов TikTok после запроса Bloomberg. Документ объемом 14 страниц содержал реконструкцию поведения аккаунта в последние недели перед гибелью подростка и был разослан сотрудникам нескольких подразделений компании.
Специалисты проанализировали 7563 ролика, показанных Чейзу за две недели. Около 73% материалов объединяли темы психологических трудностей, одиночества, расставаний и историй людей, столкнувшихся с суицидальными переживаниями. Большинство этих публикаций формально не нарушало правила платформы. Еще почти 10%, по внутренней оценке, противоречили запрету на продвижение или нормализацию саморазрушительного поведения.
Эта разница важна. Модерация отдельного ролика отвечает на вопрос, нарушает ли публикация правила сама по себе. Рекомендательная безопасность должна учитывать совокупный эффект: десятки допустимых по отдельности видео могут образовать тяжелую однообразную ленту. Именно разнообразие рекомендаций должно было снизить риск такого "туннеля".
Что предложили изменить после трагедии
Авторы обзора рекомендовали уменьшить контрольную группу до менее чем 1% и сократить время пребывания одного пользователя в эксперименте с шести или двенадцати месяцев до семи дней. При этом в документе отмечалось, что даже после такого сокращения без защиты могли остаться не менее 1,8 миллиона американских пользователей.
TikTok сообщил Bloomberg, что эксперимент 2022 года был обычным тестом, необходимым для проверки эффективности изменений безопасности. Компания также заявила, что впоследствии усовершенствовала подход к подобным испытаниям, но издание не получило подробного описания новых процедур.
Представитель платформы подчеркнул, что TikTok серьезно относится к безопасности и благополучию пользователей, особенно подростков, инвестирует в системы обнаружения опасного контента и работу специализированных команд. Компания выражала соболезнования семьям, пережившим трагические потери.
Почему контрольная группа вызывает вопросы
A/B-тесты – стандартный инструмент разработки: они помогают понять, действительно ли новая функция работает. Но эксперимент с обычным дизайном кнопки и испытание защитного механизма несут разный уровень риска. Если компания уже предполагает, что изменение снижает вероятность вредной ленты, отказ от него для миллионов людей требует особенно строгой оценки последствий, ограничений по времени и независимого надзора.
В академических исследованиях с участием людей действуют процедуры этической проверки и правила прекращения эксперимента при появлении серьезной опасности. Технологические платформы проводят продуктовые тесты в ином правовом и организационном режиме, хотя масштаб таких испытаний может исчисляться миллионами пользователей, которые не знают, в какую версию сервиса попали.
Расследование не доказывает простой причинно-следственной связи между одним приложением и гибелью конкретного человека. Суицидальное поведение имеет множество факторов, и делать однозначный медицинский вывод по истории просмотров нельзя. Однако внутренний документ показывает, что сама компания зафиксировала опасную концентрацию рекомендаций и отсутствие защитного изменения у конкретного аккаунта.
Регуляторы усиливают давление на платформу
История появилась на фоне растущего внимания к защите несовершеннолетних. В июле 2026 года Европейская комиссия предварительно пришла к выводу, что настройки аккаунтов детей в TikTok могут не соответствовать требованиям Закона о цифровых услугах. Британский регулятор Ofcom также начал расследование эффективности возрастных проверок и защиты детей от материалов о самоповреждении, сексуального контента и других опасных публикаций.
В США социальные платформы сталкиваются с тысячами исков, в которых семьи и власти обвиняют компании в создании вызывающих зависимость продуктов и недостаточной защите молодых пользователей. Сами сервисы отвергают многие обвинения, указывая на возрастные ограничения, родительские инструменты, лимиты экранного времени и автоматическую модерацию.
Что могут сделать родители и пользователи
Даже сильные настройки не заменяют живого разговора. Стоит обращать внимание на резкие изменения настроения, нарушение сна, уход от общения и навязчивое возвращение к тревожным темам. Полезно вместе просмотреть настройки ленты и конфиденциальности, использовать семейное сопряжение, ограничить ночные уведомления и делать регулярные перерывы. Но превращать контроль телефона в наказание или скрытую слежку не следует: доверие помогает подростку раньше рассказать о тяжелом состоянии.
Если лента стала однообразно мрачной, можно перестать досматривать такие ролики, удалить историю поиска, воспользоваться функцией обновления рекомендаций, заблокировать отдельные темы и сделать паузу в использовании приложения. При признаках непосредственной опасности алгоритмические настройки уже недостаточны – нужна помощь взрослого и специалиста. В экстренной ситуации следует звонить по номеру 112.
Главный вывод расследования касается ответственности разработчиков. Пользователь не видит архитектуру эксперимента и не может самостоятельно оценить, какие защитные изменения для него отключены. Поэтому безопасность должна быть встроена в продукт по умолчанию, а испытания механизмов, связанных с психическим здоровьем, требуют большей прозрачности и гораздо более осторожных границ.