روبلوكس تستخدم الآن الذكاء الاصطناعي لإعادة كتابة الشتائم والعبارات المسيئة في الدردشة في الوقت الحقيقي

باختصار

• ميزة روبلوكس الجديدة المدعومة بالذكاء الاصطناعي تعيد صياغة الألفاظ النابية في الدردشة بدلاً من استبدال الرسائل بـ “####”.
• يهدف النظام إلى الحفاظ على قابلية قراءة المحادثات أثناء اللعب مع تطبيق معايير مجتمع روبلوكس.
• تقوم الشركة أيضًا بترقية مرشحات الدردشة للكشف عن الألفاظ النابية ومحاولات الحصول على معلومات شخصية من اللاعبين.

أعلنت شركة روبلوكس، منصة الألعاب الإلكترونية الشهيرة، يوم الخميس، أنها ستستبدل سلاسل علامات الهاش التي تظهر عندما تلتقط مرشحات الدردشة كلمات مسيئة بنسخ معاد صياغتها بواسطة الذكاء الاصطناعي للرسائل المعلّمة. تسمى الميزة “إعادة صياغة الدردشة في الوقت الحقيقي”، وتقوم بتعديل الألفاظ النابية في الرسائل بحيث تظل المحادثات قابلة للقراءة بدلاً من ظهورها كنص محظور. قالت الشركة: “على سبيل المثال، رسالة تنتهك سياسات الألفاظ النابية لروبلوكس، مثل ‘Hurry TF up!’، كانت سابقًا تظهر كـ ‘####’ داخل دردشة التجربة،” وأضافت: “الآن ستُعاد صياغتها إلى ‘Hurry up!’”  وفقًا لنائب رئيس شركة روبلوكس لمنتج المستخدم والاكتشاف، راجيف بهاتيا، يهدف التصميم الجديد إلى الحفاظ على اللباقة من خلال إعادة صياغة اللغة واستبدال “علامات التوقف” بكلمات فعلية. قال بهاتيا في بيان: “الدردشة مركزية في كيفية تواصل الناس وتنسيقهم ولعبهم على روبلوكس.” وأضاف: “تساعد إعادة الصياغة في الوقت الحقيقي على إبقاء اللعب والمحادثات على المسار الصحيح مع توجيه اللغة نحو ما هو مناسب.” في مايو 2025، قدمت روبلوكس تحذيرات في الوقت الحقيقي تنبه المستخدمين عندما قد تنتهك الرسائل قواعد المنصة، وتشجعهم على إعادة النظر في صياغة كلماتهم. قالت الشركة: “في تجارب العام الماضي، رأى روبلوكس أن إصدار إشعارات نصية داخل التجربة وإعطاء وقت للانتظار أدى إلى انخفاض بنسبة 5% في الرسائل المفلترة و6% في العواقب الناتجة عن تقارير الإساءة.” على الرغم من الانخفاض، قالت روبلوكس إن التغيير الجديد يعالج مشكلة طويلة الأمد حيث تظهر اللغة المفلترة كسلاسل من الأحرف العشوائية، مما يصعب متابعة الدردشات أثناء اللعب. بينما يتم إخطار اللاعبين عندما يتم إعادة صياغة النص، تقول الشركة إن النظام الجديد لا يغير سياساتها في تطبيق قواعد الألفاظ النابية. قال بهاتيا في بيان منفصل يوم الخميس: “للتوضيح، عندما نعيد صياغة رسالة تنتهك سياسة الألفاظ النابية لدينا، فهي لا تزال تعتبر انتهاكًا، وتظل القواعد سارية.” وأضاف: “المستخدم الذي يستمر في محاولة السب في الدردشة سيواجه نفس العواقب لتكرار انتهاكه لسياساتنا.” قالت روبلوكس إن ميزة إعادة الصياغة متاحة فقط في الدردشات بين المستخدمين الذين تم التحقق من أعمارهم والذين ينتمون إلى فئات عمرية مماثلة، وتدعم جميع اللغات المتاحة حاليًا عبر أدوات الترجمة التلقائية لروبلوكس. وللفهم بشكل أفضل كيف يتحدث المراهقون أثناء اللعب، قالت الشركة إن ميزة إعادة الصياغة الجديدة تم تطويرها بالتعاون مع أعضاء مجلس المراهقين لديها. كما تقوم الشركة بترقية نظام تصفية النصوص الخاص بها للكشف بشكل أفضل عن محاولات التهرب من قواعد الرقابة، بما في ذلك التغييرات في اللغة التي تستبدل الأرقام أو الرموز بالحروف، والمعروفة باسم “ليتسبيك”. تعد إعادة صياغة الدردشة في روبلوكس جزءًا من اتجاه متزايد في صناعة الألعاب، حيث تستخدم الشركات بشكل متزايد الذكاء الاصطناعي لمراقبة سلوك اللاعبين في الألعاب متعددة اللاعبين. في عام 2024، قالت شركة أكتيفيجن إن أكثر من مليوني حساب تم تصنيفها على أنها تنتهك قواعد الدردشة المزعجة بعد نشر نظام التعديل المدعوم بالذكاء الاصطناعي ToxMod عبر عدة عناوين من Call of Duty. وأوضحت أن الأداة ساعدت على تقليل المخالفين المتكررين وتقليل الحالات الشديدة من الدردشة الصوتية المزعجة. كما وسعت روبلوكس من استخدام الذكاء الاصطناعي عبر المنصة. في فبراير 2024، قدمت الشركة ترجمة دردشة فورية تعتمد على الذكاء الاصطناعي تتيح للاعبين التواصل عبر أكثر من 16 لغة في دردشة روبلوكس. قال بهاتيا عن الخطوة الأخيرة: “هذه طريقة جديدة جريئة، ولن نتمكن دائمًا من إعادة الصياغة بشكل مثالي،” مضيفًا أن الشركة ستواصل التعلم والتجربة مع الميزة. وأضاف: “هدفنا النهائي هو تمكين المستخدمين من التعاون والتواصل بطريقة ممتعة ومحترمة.” لم ترد روبلوكس على الفور على طلب تعليق من Decrypt.