Специалисты MTS AI разработали нейросетевого помощника, который автоматически обнаруживает в видеороликах широкий спектр нежелательного контента. Ранее проверка выполнялась сотрудниками полностью вручную. Однако, поскольку пользователи загружают все больше видео, модерация становится крайне трудоемкой задачей, поэтому NUUM решили подключить к работе нейросети.
ИИ-помощник работает как полноценный модератор и выполняет задачи по первичной проверке коротких видео на платформе. При этом нейросеть справляется с модерацией в три раза быстрее сотрудников: ИИ-помощник проверяет до 6000 видео в день, тогда другие как работники только 2000. По итогам руководители отдела получают файл с тайм-кодом, категорией нарушения и ссылкой на конкретный кадр.
Система, созданная MTS AI, распознает запрещённый контент с точностью более 90%. Таким образом можно отсеять большую часть видео, на котором нет запрещенных объектов, и обратить внимание сотрудников на кадры с подозрительным содержанием. При этом искусственный интеллект только фиксирует нарушение, но не блокирует видео – финальное решение остается за модераторами платформы. Добиться высокой точности детекции удалось благодаря обучению на датасете, который состоял из 700 тысяч изображений запрещенного контента.
Для ИИ-модератора используется технология параллельной обработки видео. Файлы разбиваются на кадры, которые затем группируются и распределяются между несколькими потоками для распознавания объектов. Все потоки обрабатываются параллельно для эффективного использования ресурсов. После все результаты группируются для дальнейшего использования.
«Современные нейросети способны распознавать опасный контент не только в фильмах и сериалах, но и в записях стримов. Также в перспективе они могут мониторить трансляции в режиме реального времени, а также голосовой контент. Мы работаем над тем, чтобы нашим коллегам были доступны эффективные способы модерации контента и постоянно совершенствуем алгоритмы и датасеты», – пояснил руководитель проекта в MTS AI Семен Галушкин.
