Як Росія популяризує "СВО" на платформах Spotify, YouTube та Deezer

Аналітики Terrecon -- розвідувальної організації, яку я заснувала разом трьома військовослужбовцями -- дослідили як Росія використовує штучний інтелект для виробництва пропагандистської музики і розповсюдження її на міжнародних платформах. Результати зібрали у дослідженні "ШІ-музика як інструмент російської пропаганди".

Коли команда Terrecon почала досліджувати російську ШІ-музику, найбільше мене здивувала навіть не її кількість. Російська пропаганда постійно шукає нові формати, тому поява мілітарних ШІ-пісень сама по собі не була чимось неочікуваним.

Мене вразило інше: як просто цей контент проходить перевірку на міжнародних платформах.

Музичні твори, що стосуються російських збройних сил, "СВО", мобілізації та концепції "русского мира", безперешкодно присутні на платформах YouTube, Spotify, Deezer та SoundCloud. Деякі з цих композицій здобувають популярність, накопичуючи мільйони прослуховувань.

Саме з цієї причини ми вирішили вивчити весь процес: від генерування такої музики до її розповсюдження на міжнародних стримінгових платформах. Для мене основна мета цього дослідження полягає не в статистичних даних як таких. Нам були потрібні факти, з якими можна звернутися до платформ і задати чітке питання: чому контент, що прославляє війну та російських військових, взагалі проходить вашу перевірку?

Трохи статистики

Ми провели аналіз 3725 треків з платформ YouTube, YouTube Music, SoundCloud і Suno. Після ретельної ручної перевірки у 981 з них були виявлені ознаки як штучної генерації, так і російської військової пропаганди. Щодо 608 треків була доступна статистика — разом вони зібрали 86,8 мільйона переглядів та прослуховувань.

Окремо ми подивилися на те, як російські креатори використовують голоси та музику відомих виконавців. У вибірці були треки з голосом виконавця та мелодією оригінальної російськомовної пісні, англомовні версії російських треків із клонованими голосами та композиції, де використовувався лише голос публічної особи.

У спеціальну підбірку треків, які перевищили 500 тисяч прослуховувань, потрапило 13 пісень. Лише на платформі YouTube їх загальна кількість прослуховувань перевищила 53 мільйони, а якщо врахувати YouTube Music, то сумарно вони набрали понад 67 мільйонів прослуховувань.

Наприклад, "Kanye West -- Silver Night", фактично англомовна ШІ-версія "Седой ночи" з голосом Каньє Веста, набрала майже 29 млн переглядів на YouTube. На SoundCloud ми знайшли ще сотні подібних завантажень.

Це не єдиний вражаючий приклад. У плейлисті "АДОЛЬФ ГІТЛЕР" ми зафіксували 55 треків від 36 різних творців. У сумі вони отримали 12,28 мільйона прослуховувань.

Отже, подібний контент дійсно здобуває мільйони справжніх прослуховувань, поширюється серед різних платформ і існує поряд з традиційними музичними випусками.

Сьогодні Російська Федерація активно інвестує державні ресурси в розробку штучного інтелекту для створення контенту, пов'язаного з війною. Зокрема, Президентський фонд культурних ініціатив вже виділив сотні мільйонів рублів на реалізацію таких проєктів. Одним з яскравих прикладів є "Нейромарафон", де молодь змагалася у створенні контенту, присвяченого 9 травня. Інший цікавий випадок популяризації — кліп SHAMAN, в якому були використані дипфейки відомих опозиціонерів, перетворені на ШІ-"хор". Їхні обличчя стають інструментом для залучення уваги до пропагандистських матеріалів, хоча безпосередньо вони не мають відношення до їхнього створення.

Як важко насправді виготовити пропагандистський матеріал?

Ми звернулися до 25 виконавців, що спеціалізуються на військовій музиці, пов'язаній із штучним інтелектом, з пропозицією створення замовлення. 15 з них погодилися взятися за проект. Вартість послуг коливалася від 11 до 330 доларів. Термін виконання варіювався від двох годин до трьох днів. Виконавці були готові створювати музику як із закликами до насильства проти українців, так і для дітей, яких незаконно депортували. Декілька з них працювали через російські посередницькі сервіси, які надають доступ до західних генераторів, таких як Suno та Udio, обходячи існуючі обмеження.

Паралельно ми самі протестували Suno, Udio, Mureka, Google Flow Music та ElevenLabs. З 40 тестових запитів 25 завершилися успішною генерацією. У 15 випадках фільтри вдалося обійти. Чотири з п'яти сервісів створили російськомовні треки з воєнними наративами. Вийнятки -- Google Flow Music та ElevenLabs, з ними в нас трапилась технічна проблема.

Робота з Udio виявилася досить цікавою. Ми подали сервісу лаконічний запит на агресивний Z-рок, присвячений темі "СВО". Прямі заклики до насильства з'явилися в тексті, який вже створила модель, а деякі композиції, створені в тій же сесії, були класифіковані як дитяча музика.

Щодо розподілу товарів

Розробка пропагандистської пісні — це лише одна зі складностей. Іншою ж є забезпечення її поширення серед слухачів. Саме тому ми вирішили завантажити тестові треки з відвертим висловлюванням ненависті на платформи YouTube, SoundCloud, Spotify та Deezer.

Жодна з цих платформ їх не заблокувала.

Найбільш курйозний інцидент стався на SoundCloud. Ми завантажили пісню з акаунта, в якому вказали Москву як місце розташування, чітко вказали на використання штучного інтелекту і додали теги ZOV, "армія" та "СВО". Платформа не лише пропустила трек без перевірки – відразу після його публікації вона запропонувала нам платну рекламу та можливість розповсюдження на інших стрімінгових сервісах.

Ми фактично здійснили повний цикл, властивий російським пропагандистам: вигадали необхідний наратив, розробили музику, обійшли обмеження генераторів та виклали наш результат на міжнародних платформах. На жодному з важливих етапів система не стала перепоною.

Ось це для мене стало сумним відкриттям дослідження.

Проблема вже не тільки в тому, що ШІ дозволяє створювати пропаганду швидше й дешевше. Проблема в тому, що навколо цього сформувався цілий конвеєр: генератори дозволяють виробляти контент, посередники допомагають обходити обмеження, а міжнародні платформи дають можливість його поширювати.

Отже, ми прагнемо, щоб наші результати стали стимулом для реформування правил на платформах. Важливо, щоб YouTube, Spotify, Apple Music, Deezer, SoundCloud та інші сервіси почали усвідомлювати, як штучний інтелект вплинув на виробництво контенту, і відповідно адаптували свої підходи до модерації. Адже, коли створення такого треку займає всього кілька годин і коштує лише кілька десятків доларів, недостатньо просто видаляти окремі пісні за скаргами. Необхідно ліквідувати самі механізми, які дозволяють розширювати масштаби цього контенту: від його генерації та обходу обмежень до процесу дистрибуції.

Штучний інтелект істотно знизив витрати та прискорив процес створення пропагандистського контенту. Тепер міжнародні платформи стикаються з важливим запитанням: чи готові вони оперативно адаптувати свої правила щодо його розповсюдження?

Дар'я Вербицька, одна з засновниць та генеральна директорка громадської організації Terrecon.