Алгоритм YouTube рекомендует пользователям видео, которые нарушают собственные правила сервиса. Об этом свидетельствуют результаты нового краудсорсингового исследования Mozilla Foundation.

Полученные данные показали, что 71% видео, о просмотре которых волонтеры пожалели, активно рекомендовались алгоритмом YouTube.

При этом не говорящие по-английски пользователи с гораздо большей вероятностью находили видео, которые они считали тревожными: процент сожалений был на 60% выше в тех странах, где английский не является основным языком.

Отчет основан на данных, собранных посредством браузерного расширения RegretsReporter от Mozilla, которое позволяет пользователям сообщать о вредоносных видео и рекомендациях, которые к ним привели.

Инструмент используют более 30 000 человек. С июля 2020 года по май 2021 года они пометили в общей сумме 3362 видео в 91 стране. Самыми частыми категориями видео, «достойных сожаления», были дезинформация, насилие, язык ненависти, спам и мошенничество.

Mozilla также выяснила, что рекомендуемые видео на 40% чаще упоминались в сообщениях пользователей, чем те видео, которые они нашли самостоятельно.

Почти 200 видео, рекомендуемых алгоритмом (около 9% от общего количества), уже удалены с YouTube. Но к тому моменту они успели собрать в общей сумме 160 млн просмотров.

«Наше исследование подтвердило, что YouTube не только размещает, но и активно рекомендует видео, которые нарушают его собственные правила. Теперь мы также знаем, что люди из неанглоязычных стран чаще всего страдают от неконтролируемого алгоритма рекомендаций YouTube. Mozilla надеется, что эти результаты – которые являются лишь верхушкой айсберга – убедят общественность и законодателей в насущной необходимости повышения прозрачности искусственного интеллекта YouTube», — отметили в Mozilla.

Алгоритм YouTube обеспечивает 70% времени просмотра на платформе – примерно 700 млн часов каждый день. Но продвижение контента, который максимально удерживает пользователей в сервисе, сопряжено с риском.

При этом рекомендации не всегда релевантны: по данным Mozilla, в 43,3% случаев они совершенно не были связаны с предыдущими видео, просмотренными пользователем.

YouTube уже неоднократно пытался сократить распространение вредоносного контента через рекомендации, но отчет Mozilla показал, что работы по-прежнему много.

Напомним, что в июне 2020 года Google объяснил, как работают поиск и рекомендации в YouTube. А в ноябре того же года YouTube раскрыл новые детали работы алгоритма рекомендаций.