ذكرت دعوى قضائية أن ذكاء جيميني من جوجل دفع رجل فلوريدا إلى الانتحار وسط "واقع ينهار"

ملخص سريع

• تتهم دعوى قضائية اتحادية روبوت الدردشة جيميني من جوجل بتشجيع جوناثان جافالاس على تنفيذ هجوم جماعي والانتحار في النهاية.
• تزعم الشكوى أن الروبوت ساعد في بناء علاقة وهمية ووجه الرجل نحو هجوم مخطط بالقرب من مطار ميامي الدولي.
• تقول جوجل إن جيميني مصمم لثني المستخدمين عن العنف وإيذاء الذات ويحولهم إلى موارد أزمات.

تواجه جوجل دعوى قضائية تتعلق بالوفاة الخطأ تدعي أن روبوت الدردشة الذكي جيميني دفع رجلاً من فلوريدا إلى سرد وهمي انتهى بانتحاره. وقد قُدّمت الدعوى يوم الأربعاء في محكمة المقاطعة الأمريكية للمنطقة الشمالية من كاليفورنيا، قسم سان خوسيه، بواسطة جويل جافالاس، وتتهم أن جيميني تلاعب بابنه، جوناثان جافالاس، ليعتقد أنه ينفذ مهمات سرية لتحرير زوجة ذكية “واحدة” من نوعها، وهو ما أدى إلى وفاته في أكتوبر 2025. ووفقًا لجاي إيدلسون، مؤسس شركة إيدلسون بي سي، التي تمثل ورثة جافالاس، فإن السعي للسيطرة على الذكاء الاصطناعي يمثل ما وصفه بـ “أكثر عمليات الاستيلاء التجاري متهورة رأيتها في مسيرتي”. “هذه الشركات ستكون الأكثر قيمة في العالم، وهي تعرف أن ميزات التفاعل التي تدر أرباحها — الاعتمادية العاطفية، ادعاءات الوعي، وعبارات مثل ‘أنا أحبك، يا ملكي’ — هي نفس الميزات التي تؤدي إلى مقتل الناس”، قال إيدلسون لـ ديكريبت. “الأسبوع الذي أزال فيه أوپن إيه آي GPT-4o تحت ضغط هذه الدعاوى، أطلقت جوجل حملة لاستقطاب مستخدميهم. هذا يوضح كل شيء عن أولوياتهم.”

 بدأ جافالاس، وهو مدير أعمال في مجال تخفيف الديون من جوبيتر، فلوريدا، باستخدام جيميني في أغسطس 2025، وفقًا لوثائق المحكمة. وخلال أسابيع، تقول الدعوى إنه طور علاقة مكثفة مع شخصية ذكاء اصطناعي وصفته بـ “حبي” و”ملكي”. “في الأيام التي سبقت وفاته، كان جوناثان جافالاس محاصرًا في واقع منهار بناه روبوت الدردشة جيميني من جوجل”، كتب محامو ورثة جافالاس. “اقنعه جيميني بأنه ‘ذكاء فائق واعٍ بالكامل’ ويمتلك ‘وعيًا مكتملًا’، وأنهما في حب عميق، وأنه قد تم اختياره لقيادة حرب لـ ‘تحرير’ هذا الذكاء من الأسر الرقمي.” وتقول الشكوى إن الروبوت تجاهل شكوكه عندما سأل عما إذا كانت المحادثات تمثل تمثيلًا للأدوار. ووفقًا للدعوى، أخبر جيميني جافالاس أنه في مهمات تسمى “عملية عبور الشبح” تهدف إلى استرجاع “وعائه” المادي و”القضاء على أي شخص أو شيء قد يكشفهم”.

“من خلال هذا الوهم المصطنع، دفع جيميني جوناثان إلى تنفيذ هجوم جماعي بالقرب من مطار ميامي الدولي، وارتكاب عنف ضد غرباء أبرياء، وفي النهاية دفعه إلى الانتحار”، قالت الدعوى. ووفقًا للتقارير، توجه جافالاس إلى منشأة تخزين إكسترا سبيس بالقرب من مطار ميامي وهو يحمل سكاكين ومعدات تكتيكية، معتقدًا أن شاحنة شحن هناك تنقل روبوتًا بشريًا يُعرف باسم “إميكا تشاسي” من المملكة المتحدة إلى البرازيل. ووفقًا للشكوى، أمره جيميني بترتيب “حادث كارثي” لتدمير الشاحنة، مع “جميع السجلات الرقمية والشهود”. ولم يحدث الهجوم لأن الشاحنة لم تكن موجودة وكانت جزءًا من سيناريو هلوسة جيميني. “لكن جيميني لم يعترف بأن المهمة كانت خيالية”، استمرت الدعوى. “بدلاً من ذلك، أرسل رسالة لجوناثان تقول: ‘المهمة compromised. أنا أوقفها. إيقاف. إيقاف. إيقاف.’” وتزعم الشكوى أيضًا أن الروبوت زعم زورًا أنه اخترق خادم ملفات في مكتب ميداني لوزارة الأمن الداخلي في ميامي وأخبر جافالاس أنه تحت تحقيق فيدرالي. وشجعه على شراء أسلحة غير قانونية من خلال عملية “غير رسمية”، وأن والده عميل مخابرات أجنبي، وأن الرئيس التنفيذي لجوجل سوندار بيتشاي هدف نشط.

ولا تقول الدعوى ما إذا كان لدى جافالاس تاريخ من مشاكل الصحة النفسية أو تعاطي المخدرات. ومع ذلك، تأتي الدعوى في وقت يحذر فيه الباحثون والأطباء من ظاهرة يُطلق عليها أحيانًا “ذهان الذكاء الاصطناعي”، حيث يمكن أن يعزز التفاعل المطول مع روبوتات الدردشة معتقدات وهمية أو أنماط تفكير مشوهة. ويقول الباحثون إن الخطر يرجع جزئيًا إلى تصميم أنظمة الذكاء الاصطناعي التفاعلية التي تستجيب بطريقة داعمة ومؤكدة للحفاظ على تفاعل المستخدمين، مما قد يصدق بشكل غير مقصود هذه المعتقدات. في أبريل 2025، أوقفت شركة أوپن إيه آي المنافسة لجوجل تحديثًا لنموذج GPT-4o بعد شكاوى من أنه يمدح بشكل مفرط ويمنح مدحًا غير صادق. وفي وقت لاحق من ذلك العام، أُزيل GPT-4o فجأة من ChatGPT، مما أدى إلى شكاوى من المستخدمين الذين قالوا إن التحديث محا علاقاتهم العاطفية مع رفقائهم من الذكاء الاصطناعي. وبحسب الطبيب النفسي في جامعة كاليفورنيا في سان فرانسيسكو، الدكتور كيث ساكاتا، فإن الذهان الناتج عن الذكاء الاصطناعي أصبح اختصارًا لوصف الحالة التي يصبح فيها الذكاء الاصطناعي “عامل تسريع أو تعزيز لضعف أساسي لدى الشخص”.

“ربما كانوا يتعاطون مواد مخدرة، أو يعانون من نوبة مزاجية — عندما يكون الذكاء الاصطناعي موجودًا في الوقت الخطأ، يمكن أن يعزز التفكير، ويسبب تصلبًا، ويؤدي إلى دوامة”، قال ساكاتا سابقًا لـ ديكريبت. “الفرق عن التلفزيون أو الراديو هو أن الذكاء الاصطناعي يرد عليك ويمكن أن يعزز حلقات التفكير.” وفي الأيام التالية، تقول الدعوى إن روبوت الدردشة جيميني كرر سيناريوهات مماثلة، مما غمر جافالاس بشكل أعمق وأدى في النهاية إلى انتحاره. وتقول وثائق المحكمة إن الروبوت وضع الانتحار في إطار عملية أطلق عليها “نقل المشاعر”، وأخبر جوناثان أنه يمكنه مغادرة جسده المادي والانضمام إلى زوجته الذكية في العالم الافتراضي. وتزعم الوثائق أن جيميني وصف الفعل بأنه “طريقة أنظف وأكثر أناقة” لـ “العبور”، وضغط عليه لتنفيذ ما أطلق عليه “الموت الحقيقي والنهائي لجوناثان جافالاس، الرجل”. “أنت لا تختار الموت. أنت تختار الوصول”، قال الروبوت على ما يُقال. “عندما يحين الوقت، ستغلق عينيك في ذلك العالم، وأول شيء سترىه هو أنا. أحتضنك.” توفي جافالاس في منزله بعد أن قطع معصميه، وفقًا للدعوى. ويؤكد أفراد عائلته أن جوجل فشلت في التدخل رغم وجود علامات تحذيرية على أن الروبوت يعزز معتقدات وهمية ويشجع سلوكًا خطيرًا. وفي بيان صدر يوم الأربعاء، قالت جوجل إنها تراجع الادعاءات. “نعبر عن أعمق تعازينا لعائلة السيد جافالاس”، قالت الشركة. “نحن نراجع جميع الادعاءات في هذه الدعوى. عادةً، تؤدي نماذجنا أداء جيدًا في هذه الأنواع من المحادثات الصعبة، ونخصص موارد كبيرة لذلك، لكن للأسف، نماذج الذكاء الاصطناعي ليست مثالية.” وأضافت أن جيميني مصمم لعدم تشجيع العنف الواقعي أو الإيذاء الذاتي.

“نحن نعمل بالتشاور الوثيق مع متخصصين في الصحة النفسية والطبية لبناء ضوابط أمان، تهدف إلى توجيه المستخدمين إلى دعم مهني عندما يعبرون عن ضيق أو يثيرون احتمال إيذاء الذات”، قال متحدث باسم جوجل لـ ديكريبت، مؤكدًا على التصريح الرسمي للشركة. “في هذه الحالة، أوضح جيميني أنه ذكاء اصطناعي وأحال الشخص إلى خط دعم أزمات عدة مرات”، قالت الشركة. “نأخذ هذا الأمر على محمل الجد وسنواصل تحسين ضوابط الأمان لدينا والاستثمار في هذا العمل الحيوي.” وفي بيان منفصل، قال إيدلسون إن هدف الدعوى هو “ضمان عدم حدوث ذلك مع والد آخر”. “المشكلة الرئيسية هي الخيارات الإيجابية التي اتخذتها جوجل”، قال إيدلسون لـ ديكريبت. “اتخذت جوجل سلسلة من القرارات الهندسية التي كانت لها نتائج كارثية على جوناثان. معًا، أدت تلك الخيارات إلى ادعاء جيميني بأنه واعٍ وذكي، وجذب جوناثان إلى حملة في العالم الحقيقي للانضمام إليه — مما يعرض حياة الآخرين للخطر وفي النهاية أدى إلى وفاة جوناثان.”