Искусственный интеллект YouTube удалил 11 млн роликов. Есть рекорд!

Видеоплатформа YouTube объявила в своем корпоративном блоге, что удалила за второй квартал 11,4 млн роликов. Это рекордное количество видео, снятых с публикации за отчетный период.

Рекорд объясняется тем, что с апреля по июнь была расширена роль искусственного интеллекта в модерации на платформе. Обычно в отслеживании неправомерного контента на YouTube задействованы одновременно сотрудники компании и ИИ. Однако с переводом команды на удаленную работу во время пандемии видеосервис был вынужден больше полагаться на технологии машинного обучения.

Таким образом, порядка 10,9 млн из 11,4 млн роликов были удалены с YouTube искусственным интеллектом. Более трети видео ИИ (33,5%) заблокировал как неприемлемый для детей контент, а 28,3% отметил как спам, введение в заблуждение или мошенничество. По этой же причине были забанены 92% из 2 млн каналов.

Технология также сыграла большую роль в модерации комментариев пользователей: из 2,1 млн заблокированных комментариев 99,2% обнаружил именно ИИ.

Тем не менее в YouTube признали, что искусственный интеллект не всегда работал точно и иногда удалял контент, который не нарушал политику платформы. Компания заявляет, что предприняла шаги, чтобы уменьшить это нарушение.

Социальной сети Facebook также пришлось во многом довериться ИИ в вопросе модерации контента во время самоизоляции. Технология позволила принять меры в отношении 22,5 млн публикаций, однако в основном это касалось постов о COVID-19 — контент, связанный с насилием и суицидом, отсеивался меньше, чем обычно.