Журналисты выявили, что реклама с опасными ключевыми словами проходила модерацию Instagram* и приносила платформе выручку.
Instagram* показывал в Индии платные объявления, которые вели пользователей в Telegram-каналы с материалами о сексуализированном насилии над детьми (CSAM). Об этом сообщает Futurism со ссылкой на расследование BBC.
В изученных журналистами рекламных публикациях использовались запросы вроде «rape video» и «child video». Ссылки из объявлений направляли в закрытые Telegram-каналы, где запрещенные материалы, по данным расследования, предлагали приобрести примерно за один доллар. Реклама спокойно проходила модерацию Instagram* и приносила платформе выручку.
После публикации Министерство электроники и информационных технологий Индии потребовало от Meta* немедленно отключить всю рекламу и контент, связанный с распространением CSAM. Ведомство также запросило у компании подробное объяснение ситуации.
В Meta* заявили BBC, что удалили несколько обнаруженных объявлений и заблокировали связанные с ними аккаунты за нарушение правил. Представитель компании признал, что ни одна система проверки не способна выявить все нарушения. По его словам, после публикации рекламные материалы продолжают автоматически анализироваться, а пользователи могут отправлять жалобы на подозрительные объявления.
Расследование вышло на фоне планов Meta* сократить зависимость от сторонних модераторов и активнее применять ИИ для проверки контента. Однако новый случай показывает, что автоматизированная модерация может пропускать особенно опасные публикации.
