Meta внедряет новые ИИ-инструменты для борьбы с контентом о детской эксплуатации

По данным TechCrunch, компания Meta объявила в среду о том, что в первом полугодии 2026 года она приняла меры против 33,2 миллиона материалов, связанных с детской сексуальной эксплуатацией, на Facebook и Instagram. В то же время компания запускает новые инструменты искусственного интеллекта для поиска рекламы и аккаунтов, которые могут использоваться для тайной направленности пользователей на незаконный контент о детской эксплуатации. Более 97% контента, с которым Meta приняла меры, было обнаружено её системами до того, как пользователи сообщили о них. В Индии Meta также действовала против 5,3 миллиона материалов, связанных с детской сексуальной эксплуатацией, в тот же период, при этом более 98% было выявлено до сообщений от пользователей. Компания отметила, что её последние инструменты ИИ нацелены на людей, использующих рекламу, которая выглядит безобидной, чтобы перенаправить пользователей на незаконный контент за пределами платформ Meta. Meta представила новую систему больших языковых моделей (LLM) для обнаружения так называемого «указания». Это относится к рекламе, которая может выглядеть нормально, но подозревается в направлении пользователей на незаконный контент или другую опасную активность в интернете. Компания утверждает, что это тактика, которую она недавно заметила у злоумышленников, которые продолжают менять свои методы, чтобы избежать обнаружения. Хотя сама реклама может не содержать незаконного материала, она всё равно может служить воротами к сайтам, размещающим материалы о детской сексуальной эксплуатации. В связи с этим Meta заявила, что теперь она обращает внимание на то, куда реклама направляет пользователей, а не только на то, что она содержит. Компания может использовать эту информацию для блокировки сайтов или других направлений, которые нарушают её правила, и для принятия мер против аккаунтов, стоящих за ними. Meta также использует дополнительные сканирования на основе ИИ для поиска контента о детской эксплуатации, который могли пропустить предыдущие системы. Компания сообщила, что будет продолжать добавлять новые сигналы по мере того, как она узнает больше о том, как работают эти сети. Другим новым инструментом является «агент ИИ для тестирования», который проверяет собственные меры безопасности Meta. Он ищет уязвимости, которые злоумышленники могут использовать для обхода защит компании. Meta заявила, что это может помочь ей выявлять новые методы злоупотреблений до того, как они станут более распространенными. Кроме того, компания улучшает свои системы для выявления людей, которые возвращаются на её платформы с новыми аккаунтами после удаления предыдущих. Эти новые меры принимаются в условиях продолжающегося давления на Meta в отношении безопасности детей на её платформах. Компания сталкивается с исками и критикой со стороны законодателей по поводу рисков, которые её социальные медиа могут представлять для молодых пользователей. В августе Meta достигла соглашения о выплате до 18 миллиардов долларов для урегулирования иска по вопросам безопасности детей, касающегося 29 штатов США, что решает проблемы, связанные с защитой детей в интернете. В этом году Meta внедрила несколько функций безопасности для детей, включая родительский контроль для Meta AI, учетные записи для подростков в WhatsApp и уведомления для родителей, когда дети ищут в Instagram контент о самоповреждении. В сентябре WhatsApp добавил больше контроля для родителей. Теперь они могут ограничивать, как подростки используют Каналы, контролировать, кто может видеть их обновления статуса, и решать, кто может добавлять их детей в группы. Родители также могут выбирать получать уведомления о определенной активности в группах. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.