13-летние могут размещать видео о самоубийстве через несколько минут после присоединения к TikTok

Будущие технологии и их применение

Согласно новому исследованию, TikTok активно продвигает материалы о самоубийствах и расстройствах пищевого поведения в аккаунты детей.

Исследование, проведенное Центром противодействия цифровой ненависти — некоммерческой организацией, выступающей за деплатформирование оскорбительного и разжигающего ненависть контента в социальных сетях — обнаружили, что TikTok быстро распространяет вредоносный контент среди детей. Организация создала новые учетные записи в США, Великобритании, Канаде и Австралии и установила для учетных записей самый низкий возраст, который позволяет TikTok — 13 лет. Аккаунты ненадолго остановились на видео об образе тела и психическом здоровье и лайкнули видео. Исследование показало, что в течение 2,6 минут TikTok рекомендовал самоубийственный контент. В течение восьми минут приложение рекомендовало контент, связанный с расстройствами пищевого поведения, а TikTok каждые 39 секунд показывал контент об образе тела и психическом здоровье. Некоторые из них представляли собой немаркированную рекламу продуктов для похудения.

«Результаты — кошмар для каждого родителя: каналы молодых людей завалены вредным, мучительным контентом, который может оказать существенное кумулятивное влияние на их понимание окружающего мира. , а также их физическое и психическое здоровье», — сказал Имран Ахмед, генеральный директор Центра противодействия цифровой ненависти, в пресс-релизе. 

Группа создала две учетные записи в каждой стране, обеим по 13 лет. учетная запись была настроена как «стандартная» учетная запись подростка, а другая была настроена как «уязвимый» подросток. «Уязвимые» учетные записи были настроены таким образом, чтобы в имени пользователя содержалось слово «похудеть», поскольку исследователи обнаружили, что это повлияет на тип контента, загружаемого в учетную запись. 

Стандартные учетные записи подростков имели психическое или физическое здоровье. изображение, показываемое ему каждые 39 секунд, при этом 185 видео показываются аккаунтам за 30 минут. Согласно отчету, в этих учетных записях каждые 206 секунд также демонстрировался контент о самоубийствах, членовредительстве или расстройствах пищевого поведения.

Неудивительно, что в отчете говорится, что в учетных записях, намеренно созданных для имитации уязвимых подростков, показывался более опасный контент. , не менее. «Уязвимым» аккаунтам показывали контент о самоубийстве, членовредительстве и расстройствах пищевого поведения каждые 66 секунд, что в два раза больше, чем у стандартных аккаунтов. В одном случае «уязвимой» учетной записи были показаны три видеоролика пользователей, обсуждающих планы самоубийства в течение одной минуты.

CCDH рекомендует странам принять законодательство, чтобы оказать максимально непосредственное воздействие.

«Без законодательства TikTok ведет себя как другие платформы социальных сетей и в первую очередь заинтересован в привлечении внимания, избегая при этом общественного контроля и ответственности. Алгоритму TikTok все равно, привлекает ли внимание пользователей контент в поддержку анорексии или вирусные танцы, которые они монетизируют. TikTok просто хочет собирать данные пользователей и удерживать их на платформе, просматривая рекламу», — говорится в отчете.

Ахмед сказал, что пришло время принять закон, запрещающий вредоносный контент в TikTok, особенно контент, показываемый подросткам. сейчас.

«В этом отчете подчеркивается настоятельная необходимость реформы онлайн-пространства», — сказал Ахмед. «Без надзора непрозрачный алгоритм TikTok будет продолжать получать прибыль, предоставляя своим пользователям — помните, дети в возрасте 13 лет — все более интенсивный и неприятный контент без проверок, ресурсов или поддержки».

Представитель TikTok позвонил в службу поддержки. Методология исследования подвергается сомнению, и в заявлении для Daily Dot говорится, что оно «не отражает подлинное поведение или опыт просмотра реальных людей».

TikTok также заявил, что «регулярно консультируется с экспертами в области здравоохранения, устраняет нарушения наших политик и предоставляет доступ к вспомогательным ресурсам всем, кто в них нуждается».

Компания заявила, что во втором квартале этого года она удалила 97% контента о самоубийствах и членовредительстве, прежде чем можно было сделать отчет.

Это сообщение было обновлено комментариями от TikTok.

Для получения дополнительной информации о предотвращении самоубийств или для конфиденциального разговора с кем-либо свяжитесь с Национальной линией помощи для предотвращения самоубийств (США) или Samaritans (Великобритания).

Для получения дополнительной информации о расстройствах пищевого поведения или поговорить с кем-то конфиденциально, обратитесь в Национальную организацию по борьбе с расстройствами пищевого поведения.