Китайская платформа социальных сетей TikTok внедряет автоматизированную модерацию контента в США и Канады. По словам компании, сейчас она собирается внедрить автоматизированный метод обнаружения и удаления «недопустимого содержания» в двух крупнейших североамериканских странах. Они утверждают, что автоматизированная система была протестирована на других рынках и имеет 95-процентный уровень точности.
Руководитель отдела безопасности США TikTok Эрик Хан заявляет, что в существующей системе правила модерации контента применяются американской командой. Все, что обозначено обществом, проверяется человеком для дальнейших действий. Хотя этот процесс эффективен, он достаточно трудоемкий. Чтобы сделать этот процесс эффективным, дочернее предприятие ByteDance планирует вооружить алгоритмы полномочиями на удаление содержимого сразу после его загрузки. Ожидается, что система заработает в ближайшие несколько недель.
По словам компании, это машинное удаление будет зарезервировано для категорий, где система имеет наивысшую степень точности. Это включает «незначительную безопасность, наготу и сексуальные действия для взрослых, насильственное и графическое содержание, а также незаконную деятельность и товары, которые регулируются».
Для областей, где важен контекст и нюансы, ByteDance надеется на дальнейшее совершенствование своей технологии для лучшего суждения. К этому времени TikTokers должны будут полагаться на существующий механизм апелляции, чтобы требовать вмешательства человека. Кроме эффективности, компания надеется, что этот шаг лишит команду безопасности от просмотра страдающих видео TikTok.
Слідкуйте за свіжими новинами на нашій офіційній сторінці в Facebook, каналі в Telegram та в Twitter. Не забувайте підписуватися на Нас в Google News.