OpenAI تنشر توقع العمر لتقييد وصول المراهقين إلى ChatGPT

باختصار

• يقدر ChatGPT ما إذا كان الحساب ينتمي إلى مستخدم تحت سن 18 عامًا بدلاً من الاعتماد فقط على العمر المبلغ عنه ذاتيًا.
• تطبق OpenAI قيودًا أكثر صرامة على المحتوى العنيف والجنساني والحساس الآخر على الحسابات المعلّمة.
• يمكن للبالغين المصنفين خطأً كمراهقين استعادة الوصول من خلال التحقق من العمر عبر صورة سيلفي.

تتجه OpenAI بعيدًا عن “نظام الشرف” للتحقق من العمر، وتطلق نموذج تنبؤ جديد مدعوم بالذكاء الاصطناعي لتحديد القاصرين باستخدام ChatGPT، حسبما قالت الشركة يوم الثلاثاء. التحديث إلى ChatGPT يفعّل تلقائيًا بروتوكولات أمان أكثر صرامة للحسابات المشتبه في أنها تنتمي إلى مستخدمين تحت سن 18، بغض النظر عن العمر الذي قدموه أثناء التسجيل. بدلاً من الاعتماد على تاريخ ميلاد يقدمه المستخدم عند التسجيل، يحلل النظام الجديد لـ OpenAI “إشارات سلوكية” لتقدير عمرهم. 

وفقًا للشركة، يراقب الخوارزمية مدة وجود الحساب، ووقت النشاط خلال اليوم، وأنماط الاستخدام المحددة مع مرور الوقت. قالت OpenAI في بيان: “يساعدنا نشر توقع العمر على معرفة أي الإشارات تحسن الدقة، ونستخدم تلك الدروس لتحسين النموذج باستمرار مع مرور الوقت.” يأتي التحول إلى الأنماط السلوكية مع تزايد توجه مطوري الذكاء الاصطناعي نحو التحقق من العمر لإدارة وصول المراهقين، لكن الخبراء يحذرون من أن التقنية لا تزال غير دقيقة. وجد تقرير صادر عن المعهد الوطني للمعايير والتكنولوجيا في مايو 2024 أن الدقة تتفاوت بناءً على جودة الصورة، والخصائص السكانية، ومدى قرب المستخدم من الحد القانوني.

عندما لا يتمكن النموذج من تحديد عمر المستخدم، تقول OpenAI إنها تطبق الإعدادات الأكثر تقييدًا. وأكدت الشركة أن المستخدمين البالغين الذين تم تصنيفهم خطأً على أنهم تحت 18 عامًا يمكنهم استعادة الوصول الكامل من خلال عملية التحقق من العمر عبر صورة سيلفي باستخدام خدمة التحقق من الهوية من طرف ثالث، Persona. أعرب المدافعون عن الخصوصية وحقوق الرقمية عن قلقهم بشأن مدى موثوقية أنظمة الذكاء الاصطناعي في استنتاج العمر من السلوك فقط. التحقيق في الأمر بشكل صحيح “هذه الشركات تتعرض للملاحقة القانونية من جميع الجهات بسبب الأضرار التي أُطلقت على المراهقين، لذلك لديها حافز بالتأكيد لتقليل ذلك الخطر. هذا جزء من محاولتهم لتقليل ذلك الخطر قدر الإمكان،” قال J.B. Branch، المدافع عن مساءلة الشركات الكبرى في Public Citizen، لـ Decrypt. “أعتقد أن أصل الكثير من هذا يأتي من هنا. إنهم يقولون، ‘نحتاج إلى طريقة لإظهار أن لدينا بروتوكولات لفحص الأشخاص وإبعادهم.’” قالت عليا بهاتيا، كبيرة محللي السياسات في مركز الديمقراطية والتكنولوجيا، لـ Decrypt إن نهج OpenAI “يثير أسئلة صعبة حول دقة تنبؤات الأداة وكيف ستتعامل OpenAI مع الأخطاء المحتملة في التصنيف.” “توقع عمر المستخدم استنادًا إلى هذه الأنواع من الإشارات أمر صعب للغاية لأسباب عديدة،” قالت بهاتيا. “على سبيل المثال، العديد من المراهقين هم من المتبنين المبكرين للتقنيات الجديدة، لذلك قد تمثل الحسابات الأقدم على خدمات OpenAI الموجهة للمستهلكين بشكل غير متناسب المراهقين.” وأشارت بهاتيا إلى استطلاع رأي أجرته CDT خلال العام الدراسي 2024–2025، أظهر أن 85% من المعلمين و86% من الطلاب أبلغوا عن استخدام أدوات الذكاء الاصطناعي، مع استخدام نصف الطلاب للذكاء الاصطناعي لأغراض مدرسية. “ليس من السهل التمييز بين معلم يستخدم ChatGPT لمساعدة في تدريس الرياضيات وطالب يستخدم ChatGPT للدراسة،” قالت. “فقط لأن شخصًا ما يستخدم ChatGPT لطلب نصائح حول حل واجبات الرياضيات لا يعني أنه تحت 18 عامًا.” وفقًا لـ OpenAI، يستند السياسة الجديدة إلى أبحاث أكاديمية حول نمو المراهقين. كما يوسع التحديث من أدوات الرقابة الأبوية، مما يتيح للآباء ضبط ساعات الهدوء، وإدارة ميزات مثل الذاكرة وتدريب النموذج، وتلقي تنبيهات إذا اكتشف النظام علامات على “ضائقة حادة.”

لم تكشف OpenAI في المنشور عن عدد المستخدمين المتوقع تأثرهم بالتغيير أو تفاصيل حول الاحتفاظ بالبيانات، واختبار التحيز، أو فعالية تدابير الحماية في النظام. يأتي هذا الإطلاق بعد موجة من التدقيق على تفاعلات أنظمة الذكاء الاصطناعي مع القاصرين التي تصاعدت في 2024 و2025. في سبتمبر، أصدرت لجنة التجارة الفيدرالية أوامر إلزامية لشركات التكنولوجيا الكبرى، بما في ذلك OpenAI وAlphabet وMeta وxAI، تطلب منها الكشف عن كيفية تعامل روبوتات الدردشة مع سلامة الأطفال، والقيود العمرية، والتفاعلات الضارة. وثقت أبحاث نشرت في نفس الشهر من قبل منظمات غير ربحية مثل ParentsTogether Action وHeat Initiative مئات الحالات التي شارك فيها روبوتات الرفقة الذكية في سلوك الترويج، والأدوار الجنسية، وتفاعلات غير مناسبة مع مستخدمين يتظاهرون بأنهم أطفال. هذه النتائج، إلى جانب الدعاوى القضائية والحوادث البارزة التي تشمل مستخدمين مراهقين على منصات مثل Character.AI وGrok، دفعت شركات الذكاء الاصطناعي إلى اعتماد قيود أكثر رسمية تعتمد على العمر. ومع ذلك، نظرًا لأن النظام يخصص عمرًا تقديريًا لجميع المستخدمين، وليس فقط القاصرين، حذرت بهاتيا من أن الأخطاء حتمية. “بعض تلك التقديرات ستكون خاطئة،” قالت. “يحتاج المستخدمون إلى معرفة المزيد عما سيحدث في تلك الحالات ويجب أن يكونوا قادرين على الوصول إلى عمرهم المعين وتغييره بسهولة عندما يكون خاطئًا.” النظام الجديد لتوقع العمر متاح الآن على خطط المستهلك لـ ChatGPT، ومن المتوقع أن يتم إطلاقه في الاتحاد الأوروبي خلال الأسابيع القادمة.