Roblox utilise désormais l'IA pour réécrire en temps réel les jurons et insultes dans le chat

En résumé

• La nouvelle fonctionnalité alimentée par l’IA de Roblox réécrit les propos offensants dans le chat au lieu de remplacer les messages par « #### ».
• Le système vise à maintenir la lisibilité des conversations pendant le jeu tout en appliquant les normes communautaires de Roblox.
• La société améliore également ses filtres de chat pour détecter les propos offensants et les tentatives d’obtenir des informations personnelles des joueurs.

La plateforme de jeux en ligne très populaire, Roblox, remplace désormais les chaînes de caractères de dièses qui apparaissent lorsque ses filtres de chat détectent des propos offensants par des versions reformulées par l’IA des messages signalés, a annoncé la société jeudi. La fonctionnalité, appelée reformulation en temps réel du chat, modifie les propos offensants dans les messages afin que les conversations restent lisibles au lieu d’apparaître sous forme de texte bloqué. « Par exemple, un message qui viole la politique de Roblox sur la vulgarité, comme ‘Hurry TF up!’, apparaîtrait auparavant sous la forme ‘####’ dans le chat de l’expérience, » a déclaré la société. « Il sera désormais reformulé en ‘Hurry up!’ » 

Selon Rajiv Bhatia, vice-président de Roblox en charge des produits utilisateur et découverte, cette nouvelle conception vise à maintenir la civilité en reformulant le langage et en remplaçant les « panneaux stop » par des mots réels. « Le chat est au cœur de la façon dont les gens se connectent, coordonnent et jouent sur Roblox, » a-t-il déclaré dans un communiqué. « La reformulation en temps réel aide à garder le jeu et les conversations sur la bonne voie tout en orientant le langage vers ce qui est approprié. » En mai 2025, Roblox a introduit des avertissements en temps réel qui alertent les utilisateurs lorsque leurs messages pourraient enfreindre les règles de la plateforme, les encourageant à reconsidérer leur formulation. « Lors d’expériences l’année dernière, Roblox a constaté que l’émission de notifications de chat texte dans l’expérience et les temporisations ont entraîné une réduction de 5 % des messages filtrés et de 6 % des conséquences liées aux signalements d’abus, » a indiqué la société.

Malgré cette baisse, Roblox affirme que cette nouvelle modification répond à un problème de longue date où le langage filtré apparaît sous forme de chaînes de caractères aléatoires, ce qui peut rendre les chats difficiles à suivre pendant le jeu. Bien que les joueurs soient informés lorsque le texte est reformulé, la société précise que le nouveau système n’altère pas ses politiques d’application concernant la vulgarité. « Pour être clair, lorsque nous reformulons un message qui viole notre politique de vulgarité, il reste une violation, et les mêmes règles s’appliquent, » a déclaré Bhatia dans une déclaration séparée jeudi. « Un utilisateur qui continue à tenter de proférer des insultes dans le chat fera toujours face aux mêmes conséquences pour violation répétée de notre politique. » La fonctionnalité de reformulation, selon Roblox, n’est disponible que dans les chats entre utilisateurs vérifiés par âge et appartenant à des groupes d’âge similaires, et supporte toutes les langues actuellement disponibles via les outils de traduction automatique de Roblox. Pour mieux comprendre comment les adolescents communiquent pendant le jeu, Roblox a indiqué que cette nouvelle fonctionnalité de reformulation a été développée en collaboration avec des membres de son Conseil des adolescents. La société améliore également son système de filtrage de texte pour mieux détecter les tentatives d’évasion des règles de modération, notamment les variations de langage utilisant des chiffres ou des symboles à la place des lettres, connues sous le nom de leetspeak. La reformulation du chat par Roblox s’inscrit dans une tendance croissante dans l’industrie du jeu vidéo, où les entreprises utilisent de plus en plus l’IA pour modérer le comportement des joueurs dans les jeux multijoueurs. En 2024, Activision a déclaré que plus de 2 millions de comptes avaient été signalés pour des chats perturbateurs après le déploiement de son système de modération alimenté par l’IA, ToxMod, sur plusieurs titres de Call of Duty. La société a indiqué que cet outil a permis de réduire le nombre de récidivistes et de diminuer les cas graves de perturbation du chat vocal. Roblox a également étendu l’utilisation de l’IA sur sa plateforme. En février 2024, la société a lancé une traduction en temps réel par IA du chat, permettant aux joueurs de communiquer dans plus de 16 langues dans le chat Roblox. « C’est une nouvelle approche audacieuse, et nous ne reformulons pas toujours parfaitement, » a déclaré Bhatia à propos de cette dernière initiative, ajoutant que la société continuera à apprendre et à expérimenter avec cette fonctionnalité. « Notre objectif ultime est de permettre aux utilisateurs de collaborer et de se connecter de manière à la fois amusante et respectueuse. »

Roblox n’a pas immédiatement répondu à une demande de commentaire de Decrypt.