أوبن إيه آي تضيف ChatGPT مخصص إلى منصة البنتاغون مع تحذير خبير من المخاطر

ملخص سريع

• قالت OpenAI إنها ستنشر نسخة مخصصة من ChatGPT على منصة GenAI.mil التابعة للبنتاغون.
• النظام معتمد للاستخدام غير المصنف من قبل وزارة الدفاع مع فصل البيانات عن نماذج OpenAI العامة.
• يحذر النقاد من أن خطأ الإنسان والثقة المفرطة في أنظمة الذكاء الاصطناعي لا تزال تشكل مخاطر.

قالت OpenAI يوم الاثنين إنها تنشر نسخة مخصصة من ChatGPT على منصة GenAI.mil، وهي منصة الذكاء الاصطناعي التي طورتها وزارة الدفاع الأمريكية. ويوسع هذا التحرك وصول الجيش إلى نماذج الذكاء الاصطناعي التوليدية القوية، رغم تحذيرات النقاد من أن خطأ المستخدم لا يزال يمثل خطرًا أمنيًا رئيسيًا. ينضم ChatGPT إلى قائمة متزايدة من نماذج الذكاء الاصطناعي التي أصبحت متاحة للجيش الأمريكي، بما في ذلك Gemini وGrok من Google، ونظام الذكاء الاصطناعي الذي طورته xAI، والذي تم دمجه في شركة SpaceX في وقت سابق من هذا الشهر. 

قالت OpenAI في بيان: “نعتقد أن الأشخاص المسؤولين عن الدفاع عن البلاد يجب أن يكون لديهم الوصول إلى أفضل الأدوات المتاحة، ومن المهم للولايات المتحدة والدول الديمقراطية الأخرى أن تفهم كيف يمكن للذكاء الاصطناعي، مع التدابير الوقائية المناسبة، أن يساعد في حماية الناس، وردع الخصوم، ومنع الصراعات المستقبلية.” وأضافت أن نسخة ChatGPT على منصة GenAI.mil معتمدة للاستخدام غير المصنف من قبل وزارة الدفاع، وستعمل داخل بنية تحتية سحابية حكومية مصرح بها. ووفقًا لـ OpenAI، يتضمن النظام تدابير حماية مصممة لحماية البيانات الحساسة. ومع ذلك، حذر J.B. Branch، المدافع عن مساءلة شركات التكنولوجيا الكبرى في منظمة الجمهور، من أن الاعتماد المفرط على الذكاء الاصطناعي من قبل المستخدمين قد يقوض تلك الحماية.

قال Branch لـ Decrypt: “تُظهر الأبحاث أن الأشخاص عند استخدامهم لهذه النماذج اللغوية الكبيرة يميلون إلى منحها الثقة الزائدة،” مضيفًا: “لذلك، في حالات ذات تأثير كبير مثل الجيش، يصبح من المهم أكثر ضمان دقة النتائج.” يأتي هذا الانتشار مع تسريع البنتاغون لاعتماد الذكاء الاصطناعي التجاري عبر الشبكات العسكرية، ومع سعي مطوري الذكاء الاصطناعي لتحقيق الربحية. في يناير، قال وزير الدفاع بيت هيجسث إن الوزارة تخطط لنشر نماذج الذكاء الاصطناعي الرائدة عبر الشبكات العسكرية غير المصنفة والمصنفة. بينما قالت OpenAI إن النسخة المخصصة من ChatGPT مخصصة فقط للبيانات غير المصنفة، حذر Branch من أن إدخال أي معلومات حساسة في أنظمة الذكاء الاصطناعي يعرضها للخطر من قبل الخصوم، مضيفًا أن المستخدمين غالبًا يخلطون بين هذه الأدوات والخزائن الآمنة. قال: “المعلومات المصنفة من المفترض أن يطلع عليها مجموعة معينة من الأشخاص فقط،” مضيفًا: “حتى لو كان لديك نظام فصل يقتصر على الاستخدام داخل الجيش، فإن ذلك لا يغير حقيقة أن البيانات المصنفة مخصصة لمجموعة محدودة من الأشخاص.” لم ترد OpenAI على الفور على طلب تعليق من Decrypt.