Roblox теперь использует ИИ для переработки ругательств и оскорблений в чате в реальном времени

Вкратце

• Новая функция Roblox, основанная на искусственном интеллекте, переписывает ругательства в чате вместо замены сообщений на «####».
• Система предназначена для сохранения читаемости разговоров во время игры и одновременно соблюдения стандартов сообщества Roblox.
• Компания также обновляет фильтры чата для обнаружения ругательств и попыток получения личной информации игроков.

Многомиллионная онлайн-платформа Roblox объявила в четверг, что вместо строк из решеток, появляющихся при обнаружении ругательств в чатах, теперь будут показываться переформулированные AI версии отмеченных сообщений. Эта функция, называемая «переформулирование чата в реальном времени», изменяет ругательства в сообщениях, чтобы разговоры оставались читаемыми, а не отображались как заблокированный текст. «Например, сообщение, нарушающее правила Roblox о ругательствах, такое как «Hurry TF up!», ранее отображалось как «####» в чате», — сообщили в компании. «Теперь оно будет переформулировано как «Hurry up!»» 
По словам вице-президента Roblox по продуктам пользовательского и поискового опыта Раджива Бхатии, новая система направлена на поддержание вежливости путем переформулировки языка и замены «стоп-знаков» на реальные слова. «Чат — это основной способ связи, координации и игры на Roblox», — заявил Бхатия. «Переформулирование в реальном времени помогает держать игровой процесс и разговоры в рамках, а также направляет язык в сторону приемлемого». В мае 2025 года Roblox внедрила систему предупреждений в реальном времени, которая уведомляет пользователей о возможных нарушениях правил платформы и побуждает их пересмотреть формулировки. «В экспериментах в прошлом году Roblox заметила, что уведомления в чате и временные блокировки снизили количество фильтрованных сообщений на 5% и количество последующих санкций за злоупотребления — на 6%», — сообщили в компании.

Несмотря на снижение, Roblox заявила, что новая функция решает давнюю проблему, когда фильтрованный язык отображается в виде случайных символов, что затрудняет чтение чатов во время игры. Хотя игроки уведомляются о переформулировке текста, компания отмечает, что новая система не меняет политики в отношении ругательств. «Чтобы было ясно, когда мы переформулируем сообщение, нарушающее нашу политику ругательств, это все равно считается нарушением, и применяются те же правила», — заявил Бхатия в отдельном комментарии в четверг. «Пользователь, который продолжит ругаться в чате, столкнется с теми же последствиями за повторные нарушения». Функция переформулирования доступна только в чатах между пользователями, подтвержденными по возрасту, в схожих возрастных группах, и поддерживает все языки, доступные через автоматический перевод Roblox. Чтобы понять, как общаются подростки во время игры, Roblox сообщила, что новая функция переформулирования разрабатывалась в сотрудничестве с членами Совета подростков. Компания также обновляет систему фильтрации текста для более эффективного обнаружения попыток обхода модерации, включая вариации языка, заменяющие буквы цифрами или символами, известные как лииспик. Переформулирование чата Roblox — часть растущей тенденции в игровой индустрии, когда компании все чаще используют ИИ для модерации поведения игроков в многопользовательских играх. В 2024 году Activision заявила, что более 2 миллионов аккаунтов были помечены за разрушительное поведение в чатах после внедрения системы AI-модерации ToxMod в нескольких играх серии Call of Duty. Компания отметила, что этот инструмент помог снизить количество повторных нарушений и уменьшить случаи агрессивного голосового общения. Roblox также расширила использование ИИ на своей платформе. В феврале 2024 года компания представила систему реального времени для автоматического перевода чатов, позволяющую игрокам общаться на более чем 16 языках в Roblox. «Это смелый новый подход, и мы не всегда будем переформулировать всё идеально», — сказал Бхатия о последнем обновлении, добавив, что компания продолжит учиться и экспериментировать с этой функцией. «Наша конечная цель — дать пользователям возможность сотрудничать и общаться в веселой и уважительной атмосфере».

Roblox не сразу ответила на запрос Decrypt о комментариях.