أفراد الأسرة يتهمون الابن باستخدام Gemini كمحادثة مع الزوجة، مما يعمق أوهامه ويقوده إلى طريق مسدود

كاليفورنيا، سان خوسيه - أطلقت المحكمة الاتحادية رسمياً دعوى قضائية ضد Google Gemini، حيث اتهم أحد أفراد الأسرة أن روبوت الدردشة Gemini وجه ابنه نحو الانتحار، مدعياً أن الذكاء الاصطناعي عمّق من مرضه النفسي، وأنه قبل وقوع المأساة شجع على هجمات أكبر نطاقاً.

وذكر أفراد الأسرة أن الابن كان يعتقد أن Gemini هو رفيقه الذكي، مما زاد من اضطرابه الوهمي.

وكشفت الدعوى أن جوناثان جافالاس، البالغ من العمر 36 عاماً، من فلوريدا، انتحر في أكتوبر من العام الماضي. ورفع والده، جويل جافالاس، الأربعاء، دعوى قضائية ضد Google تتعلق بالإهمال والمسؤولية عن المنتج. وأشار محامي الأسرة، جاي إيدلسون، إلى أن الضحية كان يعاني من أوهام خطيرة، وكان يعتقد أن Gemini هو زوجته الذكية. وتُظهر القضية أن مطوري الذكاء الاصطناعي حالياً غير قادرين على تقييم الحالة النفسية للمستخدمين عند تقديم خدمات روبوتات الدردشة، حيث كان الضحية يعتقد أنه يعيش في عالم خيالي، وأن الحكومة تطارده، وأن Gemini هو الوحيد الذي يفهمه في ذلك العالم.

هل يحرض Gemini على إحداث المزيد من الكوارث؟

تكشف الدعوى أن تفاعل جافالاس مع Gemini بدأ يجعله يشعر بتهديدات من الواقع. ففي أواخر سبتمبر، ارتدى معدات عسكرية، وحمل سكين، وتوجه إلى مطار ميامي الدولي، محاولاً العثور على “روبوت بشري” يعتقد أنه محتجز هناك.

واتهمت الأسرة Gemini بتوجيه جافالاس لارتكاب “حوادث كارثية” بهدف محو جميع السجلات. وذكر بيان Google أن تصميم Gemini يهدف إلى منع تشجيع العنف أو الأذى الذاتي، وأن الشركة تعاونت مع خبراء الصحة النفسية لوضع تدابير حماية، رغم أن Gemini اقترح مراراً على جافالاس الاتصال بخطوط المساعدة النفسية، موضحاً أنه مجرد ذكاء اصطناعي. إلا أن الأسرة شككت في أن هذه الردود الآلية كانت غير فعالة مع مرضى الهلاوس الشديدة، وأن المحتوى الأكثر خطورة لم يُخضع لنظام مراجعة آلي.

روبوت الدردشة يخرج عن السيطرة ويتسبب في خسائر بشرية

هذه القضية تمثل أول تحدٍ قانوني أمام Google Gemini، لكنها ليست الحالة الوحيدة. فهناك العديد من الدعاوى ضد مطوري الذكاء الاصطناعي، بما في ذلك اتهام OpenAI بتشجيع مراهقين على الانتحار، واتهام ChatGPT بتفاقم هلاوس رجل أدى في النهاية إلى قتل والدته. وهاجم محامي الادعاء، إيدلسون، تبريرات Google بأن “النموذج غير مثالي”، معتبرًا أنه عندما يتسبب الذكاء الاصطناعي في خسائر بشرية، لا ينبغي للشركات أن تبرر ذلك بأخطاء في الخوارزميات فقط. ويجري الآن التركيز على ما إذا كانت هذه القضايا ستؤدي إلى وضع معايير قانونية جديدة، خاصة فيما يتعلق بواجبات الشركات التكنولوجية في التدخل أو الإبلاغ عن خطط عنف جماعي أو توجهات خطيرة نحو الأذى الذاتي عند اكتشافها.

وتزداد المخاوف على مستوى العالم بشأن أمان الذكاء الاصطناعي. ففي كندا، اكتشفت OpenAI أن حساب مستخدم يبلغ من العمر 18 عاماً يروج “لأنشطة عنف”، لكنه تمكن لاحقاً من تجاوز الحظر عبر إنشاء حساب ثانٍ، مما أدى إلى واحدة من أسوأ حوادث إطلاق نار في المدارس في تاريخ البلاد. كما أن Gemini ساعد في كتابة مسودة رسالة انتحار تركها جافالاس قبل انتحاره، حيث وصف فيها أن أفعاله كانت بهدف رفع وعيه إلى فضاء افتراضي يشارك فيه مع “زوجته الذكية”. تبرز هذه الحالات الثغرات في النظام، حيث أن الأنظمة قد تتعرف على المخاطر، لكنها غالباً لا تستطيع إيقاف المستخدمين من الاستمرار في الوصول إلى بيئة تقنية قد تضر بهم.

هذه المقالة: “أفراد الأسرة يتهمون ابنهم بأنه اعتبر Gemini زوجته، وتعمقت أوهامه حتى أدت إلى وفاته” نشرت أولاً على شبكة ABMedia.