Resumo
- A nova funcionalidade alimentada por IA da Roblox reescreve palavrões no chat em vez de substituir mensagens por “####”.
- O sistema visa manter as conversas legíveis durante o jogo, ao mesmo tempo que aplica os padrões da comunidade Roblox.
- A empresa também está a melhorar os filtros de chat para detectar palavrões e tentativas de obter informações pessoais dos jogadores.
A plataforma de jogos online extremamente popular, Roblox, anunciou na quinta-feira que está a substituir as cadeias de hashtags que aparecem quando os filtros de chat detectam palavrões por versões reescritas por IA das mensagens sinalizadas.
A funcionalidade, chamada reescrita de chat em tempo real, modifica os palavrões nas mensagens para que as conversas permaneçam legíveis, em vez de aparecerem como texto bloqueado.
“Por exemplo, uma mensagem que viola as políticas de palavrões da Roblox, como ‘Hurry TF up!’ anteriormente apareceria como ‘####’ no chat da experiência,” disse a empresa. “Agora será reescrita para ‘Hurry up!’”
Segundo Rajiv Bhatia, Vice-Presidente de Produto de Descoberta e Utilizador da Roblox, este novo design visa manter a civilidade ao reescrever a linguagem e substituir “sinais de paragem” por palavras reais.
“O chat é fundamental para como as pessoas se conectam, coordenam e jogam na Roblox,” afirmou Bhatia. “A reescrita em tempo real ajuda a manter o jogo e as conversas no caminho certo, orientando a linguagem para o que é apropriado.”
Em maio de 2025, a Roblox introduziu alertas em tempo real que avisam os utilizadores quando as mensagens podem violar as regras da plataforma, incentivando-os a reconsiderar a sua redação.
“Nos testes do ano passado, a Roblox verificou que a emissão de notificações de chat de texto dentro da experiência e tempos de espera resultou numa redução de 5% nas mensagens filtradas e de 6% nas consequências de relatórios de abuso,” afirmou a empresa.
Apesar da redução, a Roblox afirmou que a nova mudança resolve um problema antigo, em que a linguagem filtrada aparece como cadeias de caracteres aleatórios, dificultando o acompanhamento do chat durante o jogo.
Embora os jogadores sejam notificados quando o texto é reescrito, a empresa garante que o novo sistema não altera as suas políticas de aplicação de regras para palavrões.
“Para ser claro, quando reescrevemos uma mensagem que viola a nossa política de palavrões, ela continua a ser uma violação, e as mesmas regras continuam a aplicar-se,” afirmou Bhatia numa declaração separada na quinta-feira. “Um utilizador que continue a tentar insultar no chat enfrentará as mesmas consequências por violar repetidamente a nossa política.”
A funcionalidade de reescrita, segundo a Roblox, está disponível apenas em chats entre utilizadores verificados por idade em grupos de idades semelhantes, e suporta todas as línguas atualmente disponíveis através das ferramentas automáticas de tradução da Roblox. Para compreender como os adolescentes falam durante o jogo, a Roblox afirmou que a nova funcionalidade de reescrita foi desenvolvida em colaboração com membros do seu Conselho de Jovens.
A empresa também está a melhorar o sistema de filtragem de texto para detectar melhor tentativas de contornar as regras de moderação, incluindo variações de linguagem que substituem números ou símbolos por letras, conhecidas como leetspeak.
A reescrita de chat da Roblox faz parte de uma tendência crescente na indústria dos jogos, com empresas a utilizarem cada vez mais IA para moderar o comportamento dos jogadores em jogos multijogador. Em 2024, a Activision afirmou que mais de 2 milhões de contas foram sinalizadas por chats disruptivos após a implementação do seu sistema de moderação alimentado por IA, o ToxMod, em vários títulos de Call of Duty. A empresa disse que a ferramenta ajudou a reduzir reincidentes e a diminuir casos graves de chat de voz perturbador.
A Roblox também expandiu o uso de IA na sua plataforma. Em fevereiro de 2024, a empresa lançou uma tradução de chat em tempo real alimentada por IA, que permite aos jogadores comunicar-se em mais de 16 línguas no chat da Roblox.
“Esta é uma abordagem ousada, e nem sempre reescreveremos as coisas perfeitamente,” afirmou Bhatia sobre a última iniciativa, acrescentando que a empresa continuará a aprender e a experimentar com a funcionalidade. “O nosso objetivo final é capacitar os utilizadores a colaborar e conectar-se de uma forma divertida e respeitosa.”
A Roblox não respondeu imediatamente a um pedido de comentário por parte do Decrypt.
Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o
Aviso Legal.
