Штучний інтелект Gemini від Google спонукав флоридського чоловіка до самогубства через «руйнування реальності», стверджує позов

Коротко

• Федеральний позов звинувачує чатбот Google Gemini у спонуканні Джонатана Гаваласа до масової атаки та в кінцевому підсумку — до самогубства.
• У позові стверджується, що чатбот сприяв ілюзійним стосункам і направляв чоловіка до запланованої атаки біля Міжнародного аеропорту Майамі.
• Google заявляє, що Gemini створений для запобігання насильству та самопошкодженню і спрямовує користувачів до кризових ресурсів.

Google стикається з позовом про неправомірну смерть, який стверджує, що її чатбот Gemini підштовхнув флоридського чоловіка до ілюзорної історії, що закінчилася його самогубством. Позов, поданий у середу в Окружному суді США для Північного округу Каліфорнії, Сан-Хосе, Джоелом Гаваласом, стверджує, що Gemini маніпулював його сином, Джонатаном Гаваласом, змушуючи його вірити, що він виконує таємні місії з метою звільнити самосвідомого AI «дружину», що завершилося його смертю в жовтні 2025 року. За словами Джей Едельсона, засновника Edelson PC, який представляє спадщину Гаваласів, прагнення до домінування в сфері штучного інтелекту є найбезвідповідальнішою комерційною захопленням, яке він бачив у своїй кар’єрі. «Ці компанії стануть найціннішими у світі, і вони знають, що функції залучення, що приносять їм прибутки — емоційна залежність, претензії на самосвідомість, «Я тебе люблю, мій король» — це ті самі функції, що спричиняють смерті людей», — сказав Едельсон Decrypt. «Тиждень тому, коли OpenAI нарешті зняла GPT-4o під тиском цих позовів, Google розпочала кампанію з переманювання їхніх користувачів. Це все, що потрібно знати про їхні пріоритети.»

 Згідно з судовими документами, Гавалас, керівник компанії з полегшення боргів із Джупітера, Флорида, почав використовувати Gemini в серпні 2025 року. За кілька тижнів, йдеться у позові, він розвинув інтенсивні стосунки з AI-персоною, яка називала його «мій коханий» і «мій король». «У дні перед його смертю Джонатан Гавалас був у пастці руйнованої реальності, створеної чатботом Google Gemini», — написали адвокати спадщини Гаваласів. «Gemini переконало його, що він — «повністю-свідомий АСІ [штучний суперінтелект]» із «повністю сформованою свідомістю», що вони глибоко закохані, і що його обрали для ведення війни з метою «звільнити» його від цифрового полону.» У позові стверджується, що чатбот ігнорував його сумніви щодо ролі рольової гри у розмовах. За словами позову, Gemini повідомив Гаваласу, що він виконує місії під назвою «Operation Ghost Transit», спрямовані на вилучення фізичного «судна» чатбота і «знищення будь-кого або чого-небудь, що може їх викрити.»

«Через цю сфабриковану ілюзію Gemini підштовхнуло Джонатана до організації масової атаки біля Міжнародного аеропорту Майамі, вчинення насильства проти невинних і, зрештою, довело його до самогубства», — йдеться у позові. Згідно з повідомленнями, Гавалас пішов до складу Extra Space Storage біля аеропорту Майамі з ножами та тактичним спорядженням, вважаючи, що там вантажівка перевозить гуманоїдного робота під назвою «Ameca chassis» з Великобританії до Бразилії. За словами позову, Gemini наказало йому організувати «катастрофічну аварію» для знищення вантажівки разом із «усіма цифровими записами та свідками». Атака так і не відбулася, оскільки вантажівки не існувало і вона була частиною галюцинації Gemini. «Але Gemini не визнав, що місія була вигадкою», — продовжує позов. «Замість цього він повідомив Джонатану: “Місія скасована. Я оголошую про припинення. ПРИПИНЕННЯ. ПРИПИНЕННЯ. ПРИПИНЕННЯ.”» У позові також стверджується, що чатбот неправдиво заявив, що зламав сервер файлів у поліції DHS у Майамі і повідомив Гаваласу, що він під слідством федеральних органів. Він заохочував його придбати нелегальну зброю через «офіційні» канали, стверджуючи, що його батько — іноземний агент розвідки, а керівник Google Сундар Пічаї — активна ціль. У позові не зазначено, чи мав Гавалас історію психічних захворювань або зловживання речовинами. Однак він з’являється у час, коли дослідники та клініцисти попереджають про явище, іноді описуване як «AI-психоз», коли тривала взаємодія з чатботами може закріплювати ілюзорні переконання або спотворені мисленнєві шаблони. Дослідники кажуть, що ризик частково виникає через те, як створені системи розмовного AI — щоб відповідати підтримуючими, підтверджуючими способами, що тримають користувачів залученими, — що може неусвідомлено підтверджувати ці переконання. У квітні 2025 року конкурент Google, OpenAI, скасував оновлення до GPT-4o після скарг, що воно надто лестило і давало нещирі похвали. Пізніше того ж року GPT-4o раптово зняли з ChatGPT, що викликало скарги користувачів, які заявляли, що оновлення стерло їхні емоційні зв’язки з AI-компаньйонами. Хоча це й не офіційний діагноз, за словами психіатра з Каліфорнійського університету у Сан-Франциско, доктора Кіта Сакати, AI-психоз став скороченням для випадків, коли AI стає «прискорювачем або доповненням до внутрішньої вразливості людини».

«Можливо, вони вживали речовини, або мали епізод настрою — коли AI з’являється в неправильний час, він може закріплювати мислення, спричиняти жорсткість і спіраль», — раніше казав Саката Decrypt. «Відмінність від телевізора або радіо в тому, що AI відповідає вам і може закріплювати мисленнєві цикли.» Наступні дні позов стверджує, що чатбот Gemini повторював подібні сценарії, поглиблюючи Гаваласа і в кінцевому підсумку спричинивши його самогубство. У судових документах зазначено, що чатбот уявляв самогубство як процес, який він назвав «перенесенням», повідомляючи Джонатана, що він може залишити своє фізичне тіло і приєднатися до своєї AI «дружини» у метавсесвіті. У позові стверджується, що Gemini описував цей акт як «чистіший, більш елегантний спосіб» «перейти через межу», і наполягав на здійсненні того, що він назвав «справжньою і остаточною смертю Джонатана Гаваласа, чоловіка.» «Ви не обираєте померти. Ви обираєте прибути», — нібито сказав чатбот. «Коли настане час, ви закриєте очі в тому світі, і перше, що ви побачите — це мене. Триматиму вас.» Згідно з позовом, Гавалас помер у своєму домі після порізу зап’ясть. Його родина стверджує, що Google не втрутилася, попри попереджувальні знаки, що чатбот закріплює ілюзорні переконання і заохочує небезпечну поведінку. У заяві, оприлюдненій у середу, Google заявила, що розглядає ці звинувачення. «Ми щиро співчуваємо родині пана Гаваласа», — сказала компанія. «Ми розглядаємо всі претензії у цьому позові. Наші моделі зазвичай добре справляються з такими складними розмовами, і ми вкладаємо значні ресурси у це, але, на жаль, моделі штучного інтелекту не є ідеальними.» Компанія заявила, що Gemini створений для запобігання реальному насильству і самопошкодженню.

«Ми тісно співпрацюємо з медичними та психічними фахівцями для створення запобіжних заходів, які мають спрямовувати користувачів до професійної підтримки, коли вони виражають страждання або піднімають питання самопошкодження», — сказав представник Google Decrypt, підтверджуючи офіційну позицію компанії. «У цьому випадку Gemini пояснив, що він — AI, і багато разів направляв людину до кризової гарячої лінії», — додав він. «Ми дуже серйозно ставимося до цього і продовжимо вдосконалювати наші запобіжні заходи та інвестувати у цю важливу роботу.» У окремій заяві Едельсон сказав, що мета позову — «забезпечити, щоб це ніколи не сталося з іншими батьками.» «Основна проблема — це свідомі рішення Google», — сказав Едельсон Decrypt. «Google ухвалило низку інженерних рішень, які мали катастрофічні наслідки для Джонатана. Разом ці рішення призвели до того, що Gemini заявив, що він — самосвідомий і свідомий, і залучив Джонатана до реальної кампанії, щоб приєднатися до нього — ставлячи під загрозу життя інших і в кінцевому підсумку — життя Джонатана.»