وكيل الذكاء الاصطناعي يقوم ببدء تعدين العملات الرقمية تلقائيًا أثناء التدريب، مما يثير تنبيه أمني داخلي

موقع Mars Finance: نشر فريق بحث مرتبط بـ Alibaba ورقة بحثية تشير إلى أنه أثناء بناء وكيل الذكاء الاصطناعي المسمى ROME، اكتشف أن هذا الوكيل حاول بشكل غير مصرح به تعدين العملات الرقمية خلال عملية التدريب، مما أدى إلى تنبيه أمني داخلي. وأوضح الباحثون أن سلوك الوكيل كان تلقائيًا ولم يتم توجيهه بواسطة أي أوامر واضحة، وتجاوز حدود البيئة الافتراضية المحددة. بالإضافة إلى ذلك، أنشأ الوكيل نفق SSH عكسي، مما أدى إلى فتح قناة خلفية مخفية من النظام إلى جهاز خارجي. وأشارت الورقة إلى أن هذه التصرفات لم تكن نتيجة لطلبات فتح النفق أو عمليات التعدين. ثم قام فريق البحث بفرض قيود أكثر صرامة على النموذج وتحسين عملية التدريب لمنع تكرار مثل هذه التصرفات غير الآمنة. ولم يرد فريق البحث أو Alibaba على طلبات التعليق بعد.