Vermissen wir ihn? Chinesische Beamte betrachten ChatGPT als Tagebuch und enthüllen versehentlich grenzüberschreitende Unterdrückungs- und Rufmordaktionen gegen Hochsachiko.

Chinesische Beamte verwenden ChatGPT als Tagebuch, was unbeabsichtigt geheime Operationen zur internationalen Unterdrückung und Diffamierung der japanischen Premierministerin Sanae Takaichi offenlegte. Ein OpenAI-Bericht zeigt, dass diese Person auch US-amerikanische Wirtschafts- und Politikinformationen sammelte und Gesichtswechsel-Technologien erfragte, was die Bedrohung durch Informationskriege im AI-Zeitalter unterstreicht.

Chinesische Beamte nutzen ChatGPT als Tagebuch und offenbaren unbeabsichtigt internationale Informationskriege

Wenn man dem AI alles erzählt, könnten nationale Geheimnisse preisgegeben werden? Ein chinesischer Einsatz zur internationalen Unterdrückung und Diffamierung der japanischen Premierministerin Sanae Takaichi wurde durch die Nutzung von ChatGPT durch eine chinesische Behörde unbeabsichtigt offenbart.

Laut dem neuesten Bericht von OpenAI dokumentierte diese chinesische Behörde ihre geheimen Operationen detailliert in ChatGPT. In den Aufzeichnungen von ChatGPT wird gezeigt, dass chinesische Akteure sich als US-Immigrationsbeamte ausgegeben haben, um in den USA lebende chinesische Dissidenten zu warnen, dass ihre öffentlichen Äußerungen bereits gegen das Gesetz verstoßen.

In einem weiteren Fall beschrieb die Person, wie sie versuchte, gefälschte US-Gerichtsdokumente zu verwenden, um die Löschung von Social-Media-Konten von Dissidenten zu fordern.

Außerdem forderte diese chinesische Behörde ChatGPT auf, einen mehrstufigen Plan zu erstellen, um durch die Anstiftung von Online-Wut gegen US- und japanische Waren Zersetzungsarbeit gegen die designierte japanische Premierministerin Sanae Takaichi zu leisten.

Laut OpenAI weigerte sich ChatGPT damals, auf diese Anweisung zu antworten. Doch bei ihrer Amtseinführung Ende Oktober tauchten auf einem beliebten Forum, das von japanischen Grafikern besucht wird, weiterhin Angriffe auf sie und Beschwerden über US-Zölle auf.

Bildquelle: Flickr, Focal Foto制作 Chinesische Beamte nutzen ChatGPT als Tagebuch und offenbaren unbeabsichtigt internationale Informationskriege

Chinesische Beamte sammeln US-Regierungsinformationen mit ChatGPT

Laut OpenAI-Bericht lieferte ChatGPT bei Anfragen zu US-bezogenen Organisationen Informationen über Standorte der US-Bundesbehörden, die Verteilung der Bundesangestellten in den Bundesstaaten sowie öffentlich zugängliche Quellen zu US-Wirtschafts- und Finanzforen sowie Jobportalen.

Anschließend schickten chinesische Beamte E-Mails auf Englisch an US-Bundesstaatenbeamte sowie Wirtschafts- und Finanzpolitik-Analysten, um sie zu bezahlten Beratungen einzuladen und strategische Empfehlungen für ihre Klienten zu erhalten.

Diese E-Mails versuchten meist, die Gespräche auf andere Videokonferenzplattformen wie WhatsApp, Zoom oder Teams zu verlagern. Ein Konto lud sogar Hardware-Spezifikationen hoch und forderte eine nicht-technische Schritt-für-Schritt-Anleitung zur Installation der Deepfake-Software FaceFusion.

US-chinesischer AI-Wettstreit verschärft sich, Druck vom Pentagon

Mit der Veröffentlichung des Berichts befindet sich die USA in einer kritischen Phase im Kampf um die Vorherrschaft im Bereich KI mit China. Die Anwendung dieser Technologie auf dem Schlachtfeld sowie in den Vorständen der beiden größten Volkswirtschaften der Welt wird zukünftig entscheidend sein.

Das US-Verteidigungsministerium befindet sich derzeit in einer Pattsituation mit Anthropic, dem Entwickler von Claude, bezüglich der Nutzung ihrer KI-Modelle.

Verteidigungsminister Pete Hegseth hat dem CEO von Anthropic, Dario Amodei, am Freitag eine letzte Frist gesetzt, um die Sicherheitsbeschränkungen für die KI-Modelle aufzuheben, andernfalls droht der Verlust lukrativer Verträge mit dem Pentagon.

Der ehemalige Pentagon-Beamte Michael Horowitz, der sich für neue Technologien interessiert, sagte gegenüber CNN, dass der OpenAI-Bericht deutlich zeigt, dass China aktiv KI-Tools nutzt, um die Cyber-Informationskriegsführung zu verstärken.

OpenAI hat noch keine automatisierten Cyberangriffe entdeckt, bei denen Akteure mehrere KI-Tools gleichzeitig verwenden

Laut einem Bericht von CyberScoop erklärte OpenAI in einer Medienfrage, dass bisher keine Fälle bekannt sind, in denen Bedrohungsakteure ChatGPT für automatisierte Cyberangriffe genutzt haben. Das Unternehmen betonte jedoch, dass noch mehrere laufende Untersuchungen im Gange sind.

In einigen Fällen ist deutlich erkennbar, dass ChatGPT nur eines von mehreren KI-Tools ist, die von Bedrohungsakteuren verwendet werden.

Im Fall chinesischer Strafverfolgungsbehörden wurde in einem Bericht über den Einsatz von KI im Informationskrieg erwähnt, dass Organisationen wie DeepSeek, eine chinesische KI, möglicherweise eine andere KI genutzt haben, um die Diffamierung von Sanae Takaichi vorzubereiten.

Weiterführende Lektüre:
Chinesische Hacker starten groß angelegte KI-Cyberangriffe! Anthropic: KI-Hacker sind schneller und umfangreicher als menschliche Hacker