Bloomberg: TikTok деактивував функцію безпеки для 15 мільйонів користувачів в рамках експерименту, в результаті якого один з них вчинив самогубство.

Катерина Левицька Авторка новин видання "Межа". В медіа з 2015 року, пишу про софт, IT-бізнес та кіно.

У 2021 році TikTok активував нову функцію безпеки для 15 мільйонів користувачів в рамках експерименту з алгоритмами. Серед учасників був 16-річний Чейз Наск, який згодом вчинив самогубство. За інформацією Bloomberg, приблизно 73% останніх відео, які додаток рекомендував хлопцеві, містили теми, пов'язані з депресією, психічним здоров'ям і почуттям самотності, а ще 10% – пропонували контент, що стосується суїциду та самопошкодження.

Експеримент TikTok полягав у тому, що нова функція безпеки, покликана зменшити кількість повторюваного шкідливого контенту, була вимкнена для контрольної групи, що складала понад 10% американських користувачів (близько 15 мільйонів людей на той момент). Серед них був і 16-річний Чейз Наск. Журналісти ознайомилися з внутрішнім конфіденційним документом TikTok, в якому йдеться про те, що акаунт хлопця потрапив у так звану "фільтраційну бульбашку", де йому постійно пропонували матеріали, пов'язані з темою суїциду.

Є конкретні цифри: з понад 7500 роликів, які Чейз переглянув протягом двох тижнів перед смертю, 73% містили теми депресії, психічного здоров'я, самотності або втрати стосунків, ще 10% - порушували правила платформи щодо контенту про самогубство та самопошкодження.

У відповіді на запит Bloomberg представник TikTok зазначив, що компанія "щиро прагне забезпечити безпеку та добробут своїх користувачів" і "сильно стурбована втратами, які зазнали родини".

Для забезпечення безпеки нашої громади, ми активно вкладаємо ресурси у захисні заходи, зокрема у технології виявлення шкідливого контенту та команди модераторів, які оперативно видаляють матеріали, що суперечать нашим нормам.

Документ, про який йде мова, містить детальний аналіз акаунта та переглядів Чейза, підготовлений співробітниками команд безпеки та алгоритмів TikTok. Він має позначку "привілейований і конфіденційний" й наразі залишається закритим за рішенням суду.

4 травня 2023 року, у відповідь на запитання, що надійшли від членів Конгресу США, компанія оголосила, що "не вважає, що активність на її платформі стала причиною самогубств серед користувачів". Це сталося через 15 місяців після трагедії, пов'язаної із смертю Чейза, та через два місяці після того, як компанія розпочала розслідування його облікового запису.

Зазвичай TikTok не проводить аналіз історії переглядів окремих користувачів, але в разі Чейза було зроблено виключення після запитів від Bloomberg Businessweek про вплив платформи на підліткову аудиторію. На той момент видання опублікувало статтю про 16-річного футболіста, який, будучи талановитим, не мав попередніх проблем із психічним здоров'ям, але трагічно загинув у лютому 2022 року, стрибнувши під поїзд у Байпорті, штат Нью-Йорк.

Передсмертної записки Чейз не залишив, тож спантеличена мати почала аналізувати його акаунти в соцмережах: виявилось, що TikTok регулярно рекомендував йому відео про самогубство. За п'ять днів до смерті Чейз подивився відео, на якому людина робить селфі перед зустрічним поїздом із підписом "пішов на швидку прогулянку, щоб прояснити голову", а за день - провів у соцмережі п'ять годин у пошуках дописів про самогубство та потяги.

Ознайомтесь також: Чотири родини з США подали позов проти Meta, TikTok, Snap та Google, звинувативши їх у смерті дітей через неналежну поведінку.

У звіті йдеться про те, що акаунт підлітка був обраний випадковим чином для проведення backtest-експерименту — це розповсюджена методика аналізу даних, яку часто називають A/B-тестуванням. Вона передбачає створення двох груп користувачів для оцінки впливу змін і "підтвердження покращень". Експеримент розпочався 25 січня 2022 року, і приблизно в цей же час шкільний товариш Чейза помітив зміни в контенті відео, які той почав публікувати.

Позов, поданий батьками Чейза проти TikTok через недбалість, був відхилений суддею минулого року, оскільки компанія послалася на захист, передбачений розділом 230 Закону про пристойність у комунікаціях США. В даний час триває апеляційний процес, а родина Наски не надала коментарів на запити журналістів.

Протягом останніх чотирьох років було подано понад 4000 позовів проти соціальних медіа платформ, які звинувачують ці компанії у завданні шкоди психічному здоров'ю підлітків. Багато з цих справ об'єдналися в один великий судовий процес. Водночас лише одна з них дійшла до реального судового розгляду: у березні присяжні в Каліфорнії визнали Google та Meta відповідальними за те, що вони свідомо залучали молодь через функції, що можуть спричинити залежність. Позивачка, яка подала позов у 17 років, отримала $6 млн як компенсацію.

TikTok та Snap досягли угоди перед початком судового розгляду, в той час як Google і Meta оголосили про намір оскаржити ухвалене рішення. У процесі підготовки до суду всі компанії надали більше 6 мільйонів внутрішніх документів, серед яких також був аналіз акаунта Чейза.

У звіті TikTok було вказано, що для "попередження майбутніх інцидентів" доцільно зменшити розмір контрольної групи до менш ніж 1% від загальної кількості користувачів та скоротити період тестування для одних і тих самих учасників "з півроку або року до 7 днів" у рамках аналогічних експериментів з алгоритмами.