СМИ узнали об автоматической блокировке экстремистских видео в Facebook

Несколько крупных сайтов, предназначенных для просмотра видеороликов, внедрили автоматическую систему блокировки экстремистского контента. Об этом Reuters рассказали два информированных источника.

Среди таких сайтов — видеохостинг YouTube и социальная сеть Facebook. Такой шаг позволяет блокировать ролики «Исламского государства» (террористическая организация, запрещена в России) или другие аналогичные материалы.

Технология, как уточняет агентство, изначально была разработана для выявления и удаления контента, который охраняется на сайтах авторским правом. ​Она помогает искать хеш-код файла — уникальный цифровой отпечаток, которым интернет-компании автоматически отмечают видеоролики. Это позволяет быстро удалять все материалы с определенным хешем.

Технология позволит отслеживать попытки сделать репост видео, содержание которого уже признано экстремистским, однако не будет автоматически блокировать видео, которые не были замечены раньше.

Компании не подтвердили агентству, что они используют такой метод распознавания запрещенных материалов. Однако многие люди, знакомые с технологией, заявили, что видео уже может быть проверено по базе данных запрещенного контента для выявления появлений новых роликов.

Источники Reuters на рассказали, каким образом видео в базе данных изначально было охарактеризовано как экстремистское. Компании, по мнению агентства, не обсуждают этот вопрос публично, поскольку опасаются, что террористы могут научиться манипулировать их системой.

По словам одного собеседника агентства, Facebook разослал опрос среди других компаний, запрашивая их мнение о различных вариантах сотрудничества в отрасли по данному вопросу. В пресс-службе компании отказались комментировать этот вопрос. В Twitter агентству заявили, что компания все еще оценивает предложение проекта противодействия экстремизму и «еще не определила свою позицию».

В контент лист
0

Рекомендуемые материалы

Какие навыки обеспечивают успешную коллаборацию с ИИ и как их встроить в корпоративную практику
Влад Завадский
Какие навыки обеспечивают успешную коллаборацию с ИИ и как их встроить в корпоративную практику

Компании повсеместно внедряют ИИ в бизнес-процессы, и на первый взгляд картина выглядит радужно: отчеты сдаются быстрее, квартальные показатели растут, начальники довольны. Но если присмотреться, обнаруживается серьезный кадровый риск. На одной и той же позиции, с одной и той же моделью один специалист за год вырастает в стратегического профессионала, а другой — полностью теряет способность мыслить самостоятельно. Как системно добиваться первого и избегать второго? Влад Завадский, исследователь эффективности внедрения инноваций в бизнес, ИИ-стратег и методолог, архитектор систем экспертных продаж, автор подхода «Экологичные продажи», объясняет, какие навыки на самом деле обеспечивают успешную коллаборацию с искусственным интеллектом и как для этого необходимо перестроить корпоративную практику.