Компания вводит крутые меры для своего сервиса Facebook Live после инцидента, когда убийца, расстрелявший мусульман в мечети новозеландского города Крайстчерч, разместил на платформе шокирующую прямую трансляцию происшествия. В Facebook Live отныне будет действовать правило «одного страйка» для нарушителей правил сервиса.

«С этого момента каждый, кто серьёзно нарушит наши правила, будет заблокирован в сервисе Facebook Live на определённый период — например, на 30 дней. Для этого достаточно одной жалобы. К примеру, если кто-то размещает трансляцию с обращением террористической группы, он будет немедленно заблокирован вне зависимости от контекста» — заявил Гай Роузен, вице-президент репутационного отдела Facebook.

Введут и дополнительные ограничения, такие как запрет на размещение рекламных объявлений в Facebook. Аккаунты, которые попадают под определение «личностей и организаций, представляющих опасность» (новое ограничение в правилах Facebook, которое в начале месяца применили против нескольких деятелей правого политического крыла), также будут блокироваться — впрочем, в компании пока не определились с количеством жалоб, после которых вводится пожизненный запрет на использование Facebook Live.

Facebook усиленно применяет технологии искусственного интеллекта для выявления и удаления опасного контента, но эффективность этих мер пока мала.

Помимо того, что алгоритмы платформы распознают не все языки (и поэтому не справились с блокировкой разжигателей межэтнического конфликта в Мьянме прошлой осенью), система оказалась практически бессильной в случае с терактом в Новой Зеландии.

Саму прямую трансляцию нападения заблокировали лишь 12 минут спустя после её окончания, а затем Facebook не смог заблокировать 20% многочисленных копий видеоролика, которые позже выложили пользователи. TechCrunch обнаружил несколько копий жуткой записи даже спустя более 12 часов после атаки на мечеть, несмотря на то что Facebook удалял их как автоматически, так и вручную, и пытался убедить общественность, что делает это эффективно.

Косвенно признав свои ошибки, компания заявила, что инвестирует $7,5 млн в новые исследования с привлечением выдающихся профессоров из трёх университетов, направленные на улучшение системы распознавания файлов изображений и видеоконтента».

Первыми партнёрами в этой инициативе стали Мэрилендский, Корнеллский и Калифорнийский университеты — их специалисты помогают разрабатывать технологии распознавания фальсифицированных изображений и видео. Также учёные изучают возможность разделить тех, кто размещает нежелательный контент намеренно и неосознанно. В Facebook планируют привлечь и других партнёров, а заодно улучшить механизмы блокировки порнографических материалов.

«Несмотря на то, что мы уже внедрили ряд технологий распознавания, мы понимаем, что в данной области необходимы дополнительные улучшения» — заключил Роузен.

Заявление Роузена было размещено в блоге Facebook на следующий день после совещания лидеров нескольких государств, в том числе премьер-министра Новой Зеландии Джасинды Ардерн. Политики призвали информационно-технологические компании выступить с публичным обещанием усилить меры в борьбе с вредным контентом.

По информации представителей французского Министерства экономики, этот призыв не предлагает конкретных рекомендаций, но предполагает, что пора разобраться с чётким определением критериев недопустимости относительно контента, пропагандирующего насилие и экстремизм. Министр по цифровой экономике Франции Седрик О подчеркнул: «После новозеландского теракта, ужаснувшего мир, нам необходимо срочно сфокусироваться на этой проблеме».

ИСТОЧНИК: TC