Компания Meta внедряет новые инструменты искусственного интеллекта для обнаружения рекламы, которая тайно ведет к материалам, содержащим сцены сексуального насилия над детьми.

По данным компании, более 97% контента, в отношении которого Meta приняла меры, было обнаружено ее системами до того, как пользователи сообщили о нем. В Индии за тот же период Meta отреагировала на 5,3 миллиона единиц контента, связанного с сексуальной эксплуатацией детей, причем более 98% из них были обнаружены до того, как пользователи сообщили о них.

Компания Meta заявила, что ее новейшие инструменты на основе искусственного интеллекта направлены на борьбу с теми, кто использует рекламу, выглядящую безобидной, для перенаправления пользователей на нелегальный контент за пределами платформ Meta.

Компания внедрила новую систему больших языковых моделей (LLM) для обнаружения так называемых «указателей». Речь идёт о рекламе, которая может выглядеть нормально, но предположительно ведёт пользователей к незаконному контенту или другой вредоносной деятельности в интернете. Meta утверждает, что в последнее время злоумышленники всё чаще используют эту тактику, постоянно меняя свои методы, чтобы избежать обнаружения. Хотя сама реклама может и не содержать незаконных материалов, она всё равно может служить шлюзом на сайты, размещающие материалы с детской сексуальной эксплуатацией.

В связи с этим компания Meta заявила, что теперь отслеживает не только содержание рекламы, но и то, куда она перенаправляет пользователей. Компания может использовать эту информацию для блокировки веб-сайтов или других ресурсов, нарушающих ее правила, и принятия мер против учетных записей, стоящих за ними.

Meta также использует дополнительные сканирования на основе искусственного интеллекта для обнаружения контента, связанного с эксплуатацией детей, который мог быть пропущен более ранними системами. Компания заявила, что продолжит добавлять новые сигналы по мере того, как будет узнавать больше о том, как работают эти сети.

Еще один новый инструмент — это «агент искусственного интеллекта для проверки мер безопасности Meta». Он ищет уязвимости, которые злоумышленники могут использовать для обхода защиты компании. В Meta заявили, что это может помочь им выявлять новые методы злоупотреблений до того, как они станут более распространенными.

Кроме того, компания совершенствует свои системы поиска пользователей, которые возвращаются на ее платформы с новыми учетными записями после удаления предыдущих аккаунтов.

Новые меры принимаются на фоне продолжающегося давления на Meta по поводу безопасности детей на своих платформах. Компания сталкивалась с судебными исками и критикой со стороны законодателей из-за рисков, которые ее социальные сети могут представлять для юных пользователей. В августе Meta достигла соглашения о выплате до 18 миллиардов долларов для урегулирования иска о безопасности детей, поданного в 29 штатах США, что позволило решить проблемы, связанные с защитой детей в интернете.

В этом году Meta представила несколько функций для обеспечения безопасности детей, включая родительский контроль для Meta AI , учетные записи подростков в WhatsApp и оповещения для родителей, когда дети ищут в Instagram контент, связанный с членовредительством.

В сентябре WhatsApp добавил больше возможностей для родителей. Они могут ограничивать использование подростками каналов, контролировать, кто может видеть их обновления статуса, и решать, кто может добавлять их детей в группы. Родители также могут получать уведомления о действиях в определенных группах.