Roblox Sekarang Menggunakan AI untuk Menulis Ulang Kata-kata Sumpah dan Kata Kasar dalam Obrolan Secara Real Time

Singkatnya

• Fitur baru Roblox yang didukung AI mengganti kata-kata kasar dalam obrolan dengan versi yang diubah, bukan mengganti pesan dengan “####.”
• Sistem ini bertujuan menjaga agar percakapan tetap terbaca selama bermain game sambil menegakkan standar komunitas Roblox.
• Perusahaan juga meningkatkan filter obrolan untuk mendeteksi kata kasar dan upaya mendapatkan informasi pribadi pemain.

Platform game daring yang sangat populer, Roblox, mengumumkan pada hari Kamis bahwa mereka mengganti rangkaian tanda pagar yang muncul saat filter obrolan menangkap kata kasar dengan versi pesan yang diubah menggunakan AI.
Fitur ini, yang disebut pengubahan obrolan waktu nyata, memodifikasi kata kasar dalam pesan agar percakapan tetap terbaca alih-alih muncul sebagai teks yang diblokir.
“Misalnya, pesan yang melanggar kebijakan kata kasar Roblox, seperti ‘Hurry TF up!’ sebelumnya akan muncul sebagai ‘####’ dalam obrolan pengalaman,” kata perusahaan. “Sekarang akan diubah menjadi ‘Hurry up!’”

Menurut Wakil Presiden Produk Pengguna dan Penemuan Roblox, Rajiv Bhatia, desain baru ini bertujuan menjaga kesopanan dengan mengubah bahasa dan mengganti “rambu berhenti” dengan kata-kata yang sebenarnya.
“Obrolan adalah pusat bagaimana orang berhubungan, berkoordinasi, dan bermain di Roblox,” kata Bhatia dalam sebuah pernyataan. “Pengubahan waktu nyata membantu menjaga jalannya permainan dan percakapan sambil membimbing bahasa ke arah yang sesuai.”

Pada Mei 2025, Roblox memperkenalkan peringatan waktu nyata yang memberi tahu pengguna saat pesan mungkin melanggar aturan platform, dan mendorong mereka untuk mempertimbangkan kembali kata-kata mereka.
“Dalam percobaan tahun lalu, Roblox melihat bahwa pemberian notifikasi teks dalam pengalaman dan waktu tunggu menghasilkan pengurangan 5% pesan obrolan yang difilter dan pengurangan 6% konsekuensi dari laporan penyalahgunaan,” kata perusahaan.

Meskipun terjadi penurunan, Roblox mengatakan perubahan baru ini mengatasi masalah lama di mana bahasa yang difilter muncul sebagai rangkaian karakter acak, yang dapat menyulitkan mengikuti obrolan selama bermain game.
Saat pemain diberitahu ketika teks diubah, perusahaan menyatakan bahwa sistem baru ini tidak mengubah kebijakan penegakan terhadap kata kasar.
“Untuk jelasnya, ketika kami mengubah pesan yang melanggar kebijakan kata kasar kami, itu tetap merupakan pelanggaran, dan aturan yang sama tetap berlaku,” kata Bhatia dalam pernyataan terpisah pada hari Kamis. “Pengguna yang terus mencoba mengumpat dalam obrolan akan tetap menghadapi konsekuensi yang sama karena pelanggaran berulang terhadap kebijakan kami.”

Fitur pengubahan ini, kata Roblox, hanya tersedia dalam obrolan antara pengguna yang telah diverifikasi usia dan dalam kelompok usia yang serupa, serta mendukung semua bahasa yang saat ini tersedia melalui alat terjemahan otomatis Roblox.
Untuk memahami bagaimana remaja berbicara selama bermain game, Roblox mengatakan fitur pengubahan ini dikembangkan bekerja sama dengan anggota Dewan Remaja mereka.
Perusahaan juga meningkatkan sistem filter teksnya untuk lebih baik mendeteksi upaya menghindari aturan moderasi, termasuk variasi bahasa yang mengganti angka atau simbol dengan huruf, yang dikenal sebagai leetspeak.

Pengubahan obrolan Roblox merupakan bagian dari tren yang berkembang di industri game, di mana perusahaan semakin menggunakan AI untuk memoderasi perilaku pemain dalam game multiplayer.
Pada 2024, Activision mengatakan lebih dari 2 juta akun ditandai karena obrolan yang mengganggu setelah menerapkan sistem moderasi berbasis AI, ToxMod, di beberapa judul Call of Duty.
Perusahaan menyatakan alat ini membantu mengurangi pelanggaran berulang dan mengurangi insiden suara yang mengganggu secara serius.

Roblox juga memperluas penggunaan AI di platform mereka. Pada Februari 2024, perusahaan memperkenalkan terjemahan obrolan AI waktu nyata yang memungkinkan pemain berkomunikasi dalam lebih dari 16 bahasa di obrolan Roblox.
“Ini adalah pendekatan baru yang berani, dan kami tidak selalu akan mengubah semuanya dengan sempurna,” kata Bhatia tentang langkah terbaru ini, menambahkan bahwa perusahaan akan terus belajar dan bereksperimen dengan fitur ini. “Tujuan utama kami adalah memberdayakan pengguna untuk berkolaborasi dan terhubung dengan cara yang menyenangkan dan penuh hormat.”

Roblox tidak segera menanggapi permintaan komentar dari Decrypt.