Ми сумуємо за ним? Китайські чиновники використовують ChatGPT як щоденник, несподівано викриваючи транснаціональні репресії та кампанії з дискредитації Саямі Місао

Китайські чиновники використовують ChatGPT як журнал, випадково викриваючи таємні операції з міжнародного придушення та дискредитації японського прем’єр-міністра Сая Місао. Звіт OpenAI вказує, що цей працівник також збирав інформацію про політичну та економічну ситуацію в США та запитував про технології зміни обличчя, що підкреслює загрозу інформаційної війни в епоху ШІ.

Китайські чиновники використовують ChatGPT як журнал, випадково викриваючи міжнародну інформаційну війну

Якщо ви все розповідаєте ШІ, можливо, розкриєте державну таємницю? Випадкова витік інформації сталася через те, що один із китайських правоохоронців використовував ChatGPT для ведення журналу та викрив таємні операції з придушення та дискредитації японського прем’єр-міністра Сая Місао.

Згідно з останнім звітом OpenAI, цей працівник використовував ChatGPT як журнал, детально записуючи таємні дії щодо тиску. У записах у ChatGPT зазначено, що китайські операціоністи нібито видавали себе за американських імміграційних службовців, попереджаючи китайських опозиціонерів, що їхні публічні висловлювання вже порушують закон.

В іншому випадку він описав спробу використання підроблених документів американського суду для вимоги зняття акаунтів опозиціонерів із соціальних мереж.

Крім того, цей китайський правоохоронець просив ChatGPT створити багатоступеневий план, щоб через підбурювання в інтернеті викликати обурення щодо американських тарифів на японські товари і таким чином дискредитувати майбутнього японського прем’єр-міністра Сая Місао.

Згідно з інформацією OpenAI, ChatGPT відмовився виконати цю команду. Однак наприкінці жовтня, коли Сая Місао вступив на посаду, на популярному форумі, де його вітають японські творці контенту, все ще з’являлися написи з критикою її та обуреннями щодо американських тарифів.

Джерело: Flickr, створено Focal Foto

Китайські чиновники використовують ChatGPT як журнал, випадково викриваючи міжнародну інформаційну війну

Китайські чиновники збирають інформацію про урядові структури США за допомогою ChatGPT

У звіті OpenAI зазначається, що при запитах щодо американських структур ChatGPT надавав відкриті дані про місця розташування федеральних установ США, розподіл федеральних працівників по штатах, а також про публічні джерела інформації, такі як форуми та сайти пошуку роботи в економічній та фінансовій сферах США.

Після цього китайські правоохоронці надсилали англомовні електронні листи американським державним службовцям і аналітикам у сферах бізнесу та фінансів, запрошуючи їх до платних консультацій і надаючи стратегічні рекомендації для своїх клієнтів.

Зазвичай ці листи містили прохання перенести розмову на інші платформи відеоконференцій, наприклад WhatsApp, Zoom або Teams. Один із акаунтів навіть завантажив технічні характеристики обладнання та просив надати інструкції щодо встановлення та використання програми FaceFusion для миттєвої зміни облич.

Загострення конкуренції між США та Китаєм у сфері ШІ та тиск з боку Пентагону

Публікація звіту OpenAI співпала з критичним моментом у боротьбі США та Китаю за домінування у сфері ШІ. Застосування цієї технології на полі бою та в керівних органах двох найбільших економік світу стане ключовим у майбутньому.

Міністерство оборони США наразі веде переговори з компанією Anthropic, розробником Claude, щодо використання їхньої моделі ШІ, і переговори зайшли у глухий кут.

Міністр оборони Піт Гегсетх надіслав виконавчому директору Anthropic Даріо Амоді останнє попередження у п’ятницю, вимагаючи скасувати обмеження безпеки моделі ШІ, інакше компанія ризикує втратити вигідний контракт із Пентагоном.

Колишній високопосадовець Пентагону, Майкл Горовіц, який слідкує за новими технологіями, у коментарі CNN зазначив, що звіт OpenAI ясно показує, що Китай активно використовує інструменти ШІ для посилення кіберінформаційної війни.

OpenAI ще не виявила автоматизованих кібератак, але зловмисники використовують різні моделі ШІ

За даними «CyberScoop», у відповідях журналістам OpenAI заявила, що наразі не зафіксовано випадків автоматизованих кібератак із використанням ChatGPT, але компанія продовжує розслідування у цій сфері.

У деяких випадках очевидно, що ChatGPT є лише одним із багатьох інструментів штучного інтелекту, які використовують зловмисники.

Щодо випадків китайських правоохоронців, у звітах про інформаційну війну згадуються використання AI-моделей, таких як DeepSeek, що ймовірно застосовувалися для підготовки дискредитаційних кампаній проти Сая Місао.

Додатково:
Китайські хакери почали масштабну кібератаку з використанням ШІ! Anthropic: швидкість і масштаб AI-хакерських атак вже перевищують людські можливості