Roblox рассказывает об инструментах на базе искусственного интеллекта для обеспечения безопасности детей, о которых следует знать родителям

Если ваш ребёнок играет в Roblox, скорее всего, многие из его друзей тоже играют. По данным Roblox, во втором квартале 2026 года среднее количество ежедневных активных пользователей составляло 123 миллиона. Почти три четверти пользователей, прошедших проверку возраста, — это лица младше 18 лет. При таком охвате один из самых серьёзных рисков, с которым может столкнуться ребёнок, может начаться с разговора, кажущегося совершенно безобидным. Кто-то спрашивает, какие игры ему нравятся. Позже этот человек хочет узнать, где ещё ребёнок общается. В конце концов он предлагает перенести разговор в другое приложение. Такая последовательность событий должна показаться знакомой родителям, которые следили за случаями онлайн-груминга.

В начале этого года мы освещали тревожный случай, связанный с безопасностью детей в Roblox с участием двух девочек в возрасте 12 и 14 лет. По словам следователей, мужчина из штата Небраска сначала связался с ними через Roblox, а затем общение перешло в Snapchat. Власти квалифицировали этот случай как онлайн-груминг. Теперь Roblox раскрывает некоторые детали использования искусственного интеллекта, который компания применяет для выявления поведения, способного привести к опасным ситуациям.

19 августа компания Roblox объявила о предоставлении обновленных версий трёх моделей безопасности в сообщество Robust Open Online Safety Tools (ROOST). Компания также публикует новый набор данных для оценки, чтобы другие платформы могли тестировать свои собственные системы безопасности. Для родителей технические детали имеют меньшее значение, чем то, что именно пытаются выявить эти инструменты. Они сосредоточены на попытках получения личной информации, признаках возможной угрозы безопасности ребёнка и ненадлежащем поведении в голосовом чате. Ниже рассказывается, как работают эти новые инструменты безопасности на базе искусственного интеллекта, что они могут означать для вашего ребёнка и что вы можете сделать прямо сейчас, чтобы обеспечить своим детям большую безопасность в Интернете.

Новинка! Бесплатный онлайн-урок от CyberGuy: «Защитите свои деньги от самых серьёзных современных угроз»

Присоединяйтесь к нам в субботу, 29 августа, в 10:00 по восточному времени на бесплатный онлайн-урок CyberGuy LIVE, в ходе которого будут рассмотрены пять простых шагов, которые помогут вам защититься от мошенничества с использованием ИИ, фишинга, кражи личных данных и финансовых атак. Курт «CyberGuy» Кнутссон расскажет, как настроить банковские оповещения, усилить защиту логинов ваших учетных записей, защитить свой номер телефона, заблокировать доступ к кредитной истории и обезопасить свои пенсионные сбережения от несанкционированных переводов. Технический опыт не требуется. Вы также получите наш чек-лист по финансовой защите, а каждый зарегистрировавшийся участник по завершении мероприятия получит ссылку на запись занятия.

Забронируйте своё бесплатное место уже сегодня на сайте CyberGuyLive.com.

Почему Roblox делится своим ИИ для обеспечения безопасности детей

Roblox уже использует версии этих систем искусственного интеллекта на своей собственной платформе. Теперь другие компании могут изучить их и, возможно, адаптировать для своих собственных сервисов. В 2025 году Roblox присоединился к ROOST в качестве одного из учредителей наряду с Google, OpenAI, Discord и другими компаниями. ROOST стремится сделать технологии онлайн-безопасности с открытым исходным кодом доступными для организаций, у которых может не хватать ресурсов для самостоятельной разработки сложных систем.

Подумайте, в скольких местах дети общаются в сети сегодня. Разговор может начаться внутри игры. Затем он может переместиться в мессенджер или на другую социальную платформу с иными механизмами защиты. Ни одна компания не контролирует весь этот путь.

Обмен технологиями обеспечения безопасности может предоставить большему числу сервисов доступ к инструментам, разработанным с учётом схожих признаков опасности. Однако другой компании всё равно придётся внедрить эту технологию и адаптировать её к своей платформе. Поэтому я рассматриваю это как обнадёживающее развитие событий, но родителям не следует воспринимать это как повод для ослабления бдительности.

ИИ Roblox выявляет попытки выманить детей с платформы

Одно из наиболее интересных обновлений для семей связано с классификатором PII от Roblox. Аббревиатура PII означает «лично идентифицируемая информация». К ней могут относиться номер телефона, адрес электронной почты, имя пользователя в социальных сетях или иная информация, которая может помочь кому-либо идентифицировать ребёнка или связаться с ним.

Классификатор также отслеживает попытки перенаправить игроков на другие платформы. Это важно, поскольку злоумышленник может попытаться перенести беседу за пределы той платформы, на которой она началась.

В более ранних версиях фильтров часто осуществлялся поиск по очевидным словам или шаблонам. Версия 2.0 Roblox, напротив, анализирует контекст всего разговора. Например, кто-то может намеренно неправильно написать название другого приложения. Контактная информация может быть разбита на несколько сообщений. Другие могут использовать зашифрованный язык, рассчитывая, что фильтр его пропустит. Обновленный ИИ оценивает все эти сообщения в совокупности.

Компания Roblox сообщает, что в версии 2.0 поддержка языков была расширена с 17 до 189. Компания также отмечает, что показатель F1 — распространённый метод оценки точности классификатора — улучшился с 63,41 до 90,52. Для родителей вывод гораздо проще. Система стремится понять, в каком направлении развивается беседа, а не оценивать каждое сообщение в отдельности.

Почему переход ребёнка в другое приложение может стать тревожным сигналом

Именно эта часть объявления привлекла моё внимание. Просьба указать другой логин или предложение перейти в другое приложение могут показаться безобидными. Дети постоянно переключаются между платформами. Однако перенос разговора может также ослабить меры защиты, обеспечивающие его безопасность.

Именно это сделало дело из Небраски, о котором мы ранее рассказывали, столь тревожным. По словам властей, первоначальный контакт произошёл в Roblox, после чего общение продолжилось в Snapchat.

Родителям следует обязательно обсудить этот вопрос с детьми дома. Если кто-то, кого ваш ребёнок знает только в сети, начнёт спрашивать другой логин, номер телефона или предложит перейти на частный канал общения, ваш ребёнок должен знать, что нужно рассказать об этом вам.

ИИ выявляет угрозы безопасности детей до того, как сообщения приобретают откровенный характер

Система Roblox Sentinel решает ещё более сложную задачу. Потенциальный груминг может развиваться постепенно. Кто-то может завоевать доверие до того, как общение станет явно неуместным. Это означает, что ранние сообщения могут выглядеть вполне обычными, если рассматривать их отдельно.

Sentinel анализирует закономерности в ходе переписки. По заявлению Roblox, система выявляет ранние признаки потенциальной угрозы безопасности детей, что позволяет проверять подозрительные взаимодействия до того, как они перерастут в более серьёзные инциденты. Затем специалисты-рецензенты могут определить приоритетность переписок, требующих принятия мер.

Компания Roblox сообщает, что за 12-месячный период, завершившийся 7 августа 2026 года, почти 70 % выявленных ею случаев угрозы безопасности детей были обнаружены благодаря системе раннего выявления Sentinel.

Система Roblox Sentinel обновляется

Компания Roblox также выпускает версию 2 системы Sentinel. Внесенные изменения в основном ориентированы на разработчиков и специалистов по безопасности, которые будут использовать эту технологию. Новая версия предоставляет им больше возможностей для оценки подозрительного поведения и определения настроек, наиболее подходящих для их платформы.

По заявлению Roblox, версия 2 также может предоставлять более подробную информацию о том, почему тому или иному событию присвоена определённая оценка. Это поможет специалистам понять, что именно обнаруживает система, вместо того чтобы получать лишь предупреждение без достаточного контекста.

Компания отмечает, что благодаря обновлению тестирование и настройка системы стали значительно быстрее. Однако для родителей более важным моментом является то, что Roblox стремится к тому, чтобы другие платформы внедряли эту технологию в свои собственные системы безопасности.

Голосовой чат получает дополнительный уровень модерации с помощью ИИ

Текстовые сообщения — лишь одна из составляющих общей картины. Дети также могут общаться через голосовой чат, что создаёт иные сложности для модерации. Классификатор безопасности голосового общения Roblox в режиме реального времени анализирует речь на предмет нарушений правил. При обнаружении нарушения система Roblox может отобразить предупреждение с объяснением, какое именно правило, возможно, было нарушено.

Повторные нарушения могут привести к временной блокировке доступа к голосовому чату на срок до пяти минут. Более серьёзные нарушения могут повлечь за собой более суровые последствия. По данным Roblox, с момента, когда компания впервые сделала свой классификатор безопасности голосового общения открытым исходным кодом в 2024 году, он был загружен более 72 000 раз. Версия 3 теперь поддерживает 30 языков и охватывает восемь категорий нарушений. Roblox сообщает о показателе полноты обнаружения (recall) на уровне 61 % для всех этих языков при строгом уровне ложных срабатываний (false-positive rate) в 1 %. Эта цифра также напоминает о том, что модерация с помощью ИИ может упускать некоторые моменты. Даже самая совершенная модель обеспечения безопасности не способна выявить каждый опасный разговор.

Независимые исследования показывают, почему родителям по-прежнему необходимо участвовать в этом процессе

В этой истории есть ещё одна сторона, о которой стоит знать. Независимые исследователи недавно проанализировали систему модерации чата Roblox и обнаружили примеры небезопасных сообщений, которые прошли через существующие меры защиты платформы. В ходе их исследования было проанализировано более 2 миллионов сообщений в чате и выявлены примеры, связанные с грумингом, сексуализацией несовершеннолетних, издевательствами, насилием и передачей конфиденциальной информации, которые ускользнули от внимания модераторов.

Это исследование демонстрирует, почему родителям не следует полагаться на то, что автоматическая модерация обеспечивает полную защиту. Злоумышленники изучают принципы работы фильтров. Затем они меняют формулировки или поведение, пытаясь обойти их. Это делает последний шаг Roblox особенно актуальным, поскольку компания совершенствует эти модели безопасности и делится ими с другими платформами, чтобы технология могла постоянно адаптироваться.

Как шаг Roblox по открытию исходного кода может повлиять за пределами самой платформы

В конечном итоге это может стать более значимой новостью. Большинство родителей никогда не скачают классификатор на базе ИИ и не посетят репозиторий GitHub. Однако технология, представленная сегодня, со временем может повлиять на приложения, которыми пользуются их дети. У небольших платформ может не хватить инженерных команд или средств, необходимых для создания с нуля передовых систем защиты детей.

Инструменты с открытым исходным кодом могут стать отправной точкой для таких компаний. Исследователи также смогут тестировать модели и выявлять их слабые места. Разработчики смогут адаптировать их для различных сервисов. Между тем отзывы от других организаций помогут усовершенствовать исходные инструменты. Компания ROOST заявляет, что её «Сообщество моделей» (Model Community) призвано объединять разработчиков и специалистов по безопасности вокруг открытых моделей ИИ, предназначенных для обеспечения безопасности. Такой подход, основанный на сотрудничестве, обладает огромным потенциалом.

Roblox продолжает внедрять новые системы безопасности на базе ИИ

Это не первая крупная инициатива Roblox в области безопасности на базе ИИ. Ранее в этом году CyberGuy сообщил о системе Roblox, которая в режиме реального времени анализирует комбинации текста, аватаров и 3D-среды. Представители Roblox сообщили нам, что эта технология помогает ежедневно закрывать около 5 000 игровых серверов, нарушающих правила. Идея заключалась в том, чтобы выявлять опасные комбинации, которые более старые системы модерации могли упустить при отдельной проверке отдельных элементов. Вы можете ознакомиться с нашим полным отчётомо том, как Roblox меняет подход к онлайн-безопасности с помощью ИИ.

Кроме того, Roblox расширяет меры защиты для младших пользователей с учётом их возраста. Эти меры устанавливают различные ограничения на чат, игры и другие функции в зависимости от возраста пользователя. Все эти шаги направлены на одну и ту же цель: своевременное выявление рисков и ограничение круга лиц, с которыми могут взаимодействовать младшие пользователи. Сложность заключается в том, чтобы обеспечить стабильную работу этих систем в условиях огромных масштабов платформы Roblox.

Что родители могут сделать прямо сейчас для защиты детей в Roblox

Эти инструменты искусственного интеллекта работают «за кулисами». Родители могут обеспечить дополнительный уровень защиты, установив дома чёткие правила поведения.

1) Рассматривайте просьбы перейти в другое приложение как тревожный сигнал

Скажите ребёнку, чтобы он обращался к вам, если кто-то, с кем он знаком только в сети, захочет продолжить общение где-то в другом месте. Речь может идти о другом игровом сервисе, социальной платформе или приложении для личных сообщений. Возможно, этому найдётся вполне безобидное объяснение. Тем не менее, важно знать, когда кто-то пытается перенести разговор в другое место.

2) Установите чёткие правила в отношении личной информации

Дети должны с осторожностью относиться к передаче информации, по которой их можно идентифицировать или определить местонахождение. К ней относятся номер телефона, название школы и домашний адрес. Имена пользователей в социальных сетях также могут дать незнакомцам дополнительную возможность связаться с ними. Напомните ребёнку, что человек, с которым он познакомился в игре, остаётся онлайн-незнакомцем до тех пор, пока ваша семья не убедится в обратном.

3) Ознакомьтесь с функциями родительского контроля в Roblox

Roblox расширил возможности защиты учетных записей в зависимости от возраста и функции родительского контроля. Учетные записи Roblox Kids предназначены для детей в возрасте от 5 до 8 лет, а Roblox Select — для детей в возрасте от 9 до 15 лет. Доступность чата и настройки родительского контроля варьируются в зависимости от возрастной группы. Ранее мы подробно рассмотрели учётные записи Roblox для детей и подростков, основанные на возрасте и рассказали, что родителям следует знать об этих изменениях. Потратьте несколько минут на то, чтобы вместе с ребенком ознакомиться с настройками, а не полагаться на то, что настройки по умолчанию соответствуют вашим пожеланиям.

4) Обращайте внимание на голосовой чат

Родители, естественно, уделяют особое внимание текстовым сообщениям, поскольку они оставляют видимый след, который можно проанализировать. Однако голосовые разговоры также заслуживают внимания. Спросите у ребёнка, с кем он общается во время игр. Убедитесь, что он понимает: он может выйти из любого разговора, если почувствует себя некомфортно.

5) Покажите ребёнку, как пожаловаться на кого-либо или заблокировать пользователя

Roblox позволяет пользователям сообщать о других пользователях и ненадлежащем поведении прямо в рамках игрового опыта. Пользователи также могут заблокировать другой аккаунт. Родители могут получить доступ к средствам контроля общения через привязанные родительские настройки. Покажите своему ребёнку, где находятся эти средства управления, до того как возникнет проблема. Таким образом, ему не придётся разбираться в этом, когда он будет расстроен или напуган.

6) Поддерживайте открытый диалог

Ваша реакция имеет большое значение, когда ребёнок рассказывает вам, что в сети произошло что-то неприятное. Постарайтесь сначала поговорить о том, что именно случилось, а не сразу же сосредоточиваться на том, чтобы отобрать у него игру. Ребёнок, который думает, что если он об этом расскажет, то автоматически лишится телефона или доступа к Roblox, может с большим нежеланием рассказывать вам о следующем неприятном случае.

Основные выводы Курта

Что привлекает моё внимание в данном случае, так это то, на что на самом деле обучаются эти системы искусственного интеллекта. Они выявляют попытки получения личной информации о ребёнке или перенаправления разговора в иное русло. Другая система анализирует диалоги на наличие ранних признаков потенциальной угрозы безопасности ребёнка. Модерация голосового общения обеспечивает дополнительную защиту, когда дети разговаривают, а не печатают текст. Именно эти ситуации необходимо понимать родителям. Мне также нравится идея, что компании делятся технологиями обеспечения безопасности, вместо того чтобы каждая платформа создавала эти инструменты с нуля. Если технология, разработанная на Roblox, помогает другому игровому сервису или социальной платформе быстрее выявлять опасное поведение, это является позитивным шагом. Тем не менее я бы никогда не посоветовал родителям полагать, что ИИ полностью обеспечит безопасность их ребёнка. Сама компания Roblox признаёт, что ни одна система безопасности не является идеальной, а независимые исследователи обнаружили примеры того, как опасные сообщения в чате проскальзывали мимо модерации. Поэтому используйте эту технологию как дополнительный уровень защиты. При этом продолжайте беседовать со своими детьми о том, с кем они знакомятся в сети и в каком направлении развиваются эти разговоры. Самым важным предупреждением может стать то, чего алгоритм никогда не заметит: когда ваш ребёнок скажет вам, что кто-то в сети заставляет его чувствовать себя некомфортно.

Если система искусственного интеллекта обнаружила бы в онлайн-разговоре вашего ребёнка признаки возможного груминга, как быстро, по вашему мнению, платформа должна была бы вас предупредить, и насколько подробно она должна была бы рассказать вам о том, что произошло? Сообщите нам об этом, написав по адресу Cyberguy.com.

Подпишитесь на мой БЕСПЛАТНЫЙ отчёт CyberGuy

• Получайте мои лучшие технические советы, срочные предупреждения о безопасности и эксклюзивные предложения прямо в свой почтовый ящик.
• Чтобы узнать о простых и практичных способах своевременного выявления мошенничества и обеспечения своей безопасности, посетите сайт CyberGuy.com — сайту, которому доверяют миллионы зрителей, ежедневно смотрящих программу «CyberGuy» по телевидению.
• Кроме того, при регистрации вы получите мгновенный доступ к моему бесплатному «Полному руководству по выживанию в мире мошенничества».

Авторские права 2026 CyberGuy.com. Все права защищены.

Курт «CyberGuy» Кнутссон — удостоенный наград технический журналист, глубоко увлечённый технологиями, оборудованием и гаджетами, которые делают жизнь лучше. Он сотрудничает с Fox News и FOX Business, выступая по утрам в программе «FOX & Friends». У вас есть вопрос по технической тематике? Подпишитесь на бесплатную рассылку CyberGuy от Курта, поделитесь своим мнением, идеей для сюжета или оставьте комментарий на сайте CyberGuy.com.

Изначально опубликовано на FoxNews 21 августа 2026 г., автор Kurt Knutsson, Cyberguy Report.