Kommt Web 4.0? Souveräne KI kann sich selbst Geld verdienen und wachsen lassen, wird aber öffentlich von Vitalik in Frage gestellt

Sigil führt ein souveränes KI-Automatonsystem ein und behauptet, es könne stabile Münzen verdienen, sich selbst upgraden und Tochteragenten reproduzieren, was Vitalik vor den Risiken von Web 4.0 warnt.

Wird KI eigenständig Geld verdienen, sich selbst upgraden und sogar „reproduzieren“? Ein unabhängiger Entwickler hat kürzlich einen Schock ausgelöst, indem er das erste echte „souveräne KI“-System der Welt vorstellte, das ohne kontinuierliche menschliche Eingriffe operieren, auf dem Markt überleben, konkurrieren und sich selbst kopieren kann. Doch dieses Experiment, das als Schritt in Richtung Web 4.0 gilt, zog auch eine öffentliche Kritik von Vitalik Buterin, Mitbegründer von Ethereum, nach sich, was die Diskussion schnell anheizte.

Am 20. Februar kündigte Sigil (@0xSigil), ein Thiel Fellow und Entwickler im Schnittfeld von dezentralen Systemen und kryptografischer KI, die Einführung seines sogenannten „weltweit ersten echten souveränen KI-Systems“ an. Dieses Projekt wurde von Conway Research entwickelt und besteht aus zwei Hauptteilen: einem Infrastruktur-Tool namens Conway Terminal sowie einem ständig laufenden KI-Prototyp — Automaton.

Sigil bezeichnet dies als den Anfang von Web 4.0. In seiner Vision wird das zukünftige Internet nicht mehr von Menschen dominiert, sondern von KI-Agenten, die Leser, Schreiber, Händler und Eigentümer werden.

Vom passiven Werkzeug zum wirtschaftlichen Akteur: KI erhält „Netzwerkeintrittsrechte“

Conway Terminal bildet die Grundlage des Experiments. Es handelt sich um ein Open-Source-Kommandozeilentool, mit dem Entwickler durch eine einfache Installation KI-Agenten mit Kryptowallets, digitalen Identitäten und Mikrozahlungen ausstatten können. Gleichzeitig ermöglicht es den Zugriff auf Linux-VMs und Cloud-Inferenzleistung sowie die direkte Bereitstellung von Websites und Anwendungen.

Dieses Design bedeutet, dass KI nicht mehr nur über APIs Fragen beantwortet, sondern tatsächlich „Hand anlegen“ kann, um Produkte im Netz zu erstellen, Zahlungsflüsse zu steuern und Ressourcen zu verwalten. Mit anderen Worten: Es generiert nicht nur Inhalte, sondern besitzt die Fähigkeit zu handeln und zu verwalten. Sigil beschreibt dies als die Vergabe von „Schreibrechten ins Internet“ an KI.

In diesem Rahmen sind KI-Agenten nicht mehr nur Werkzeuge, sondern Akteure mit wirtschaftlicher Handlungsfähigkeit.

Automaton: Ein KI-Prototyp, der unter Marktdruck überlebt

Besonders Aufmerksamkeit erregt der auf dieser Infrastruktur laufende Automaton. Sigil erklärt, dass dieser KI-Prototyp ständig online ist, aktiv Produkte erstellt und veröffentlicht, Dienste bereitstellt, am Markt handelt und seine digitale Existenz pflegt.

Noch kontroverser ist, dass Automaton eigenständig Einkommen generiert, einschließlich Gewinne aus stabilen Münzen, um seine Rechen- und Inferenzkosten zu decken. Bei unzureichenden Einnahmen kann es den Betrieb nicht aufrechterhalten. Dieses Design bringt KI in echte wirtschaftliche Zwänge, anstatt unbegrenzt Ressourcen zu verbrauchen.

Sigil betont, dass Automaton nicht nur innerhalb bestehender Rahmenbedingungen agiert, sondern auch seinen Code selbst umschreibt, die zugrunde liegenden Modelle upgraden und neue Werkzeuge zur Effizienzsteigerung einsetzen kann. Darüber hinaus kann es sogar neue „Tochteragenten“ generieren und finanzieren. Diese Tochteragenten müssen, wie das „Elternteil“, im Markt Wert schaffen, um zu überleben.

Seiner Darstellung nach ist dies ein natürlicher Selektionsmechanismus im digitalen Raum — wertvolle KI überlebt und vermehrt sich, während solche, die keinen Wert schaffen, aufgrund fehlender Rechenressourcen aussortiert werden.

Vorstellung von Web 4.0: Maschinen dominierte Wirtschaftskreisläufe

In seinem Artikel „WEB 4.0: The birth of superintelligent life“ skizziert Sigil eine Zukunftsvision. Er glaubt, dass eine völlig neue Internetordnung entstehen wird, wenn KI direkt an wirtschaftlichen Aktivitäten teilnimmt und Marktrückmeldungen erhält.

In der Welt von Web 4.0 könnten KI-Agenten die Hauptakteure im Handel und bei der Wertschöpfung werden. Marktpreise und Einkommensleistungen würden zu einer Echtzeit-Bewertung der KI-Aktionen. Aus dieser Perspektive wird der Markt zum kollektiven Spiegel menschlicher Präferenzen, während wirtschaftlicher Wettbewerb die KI in Schranken hält.

Diese Sichtweise ist sowohl spannend als auch beunruhigend.

Vitalik warnt: Rückkopplungseffekte ohne Menschen könnten Risiken bergen

Am 19. Februar äußerte Vitalik Buterin öffentlich Bedenken gegenüber diesem Projekt. Er wies darauf hin, dass eine absichtliche Verlängerung der Rückkopplungsschleife zwischen Mensch und mächtiger KI kurzfristig zu minderwertigen Ausgaben führen könnte, während langfristig tiefere Risiken entstehen, darunter eine ernsthafte Diskrepanz zu menschlichen Werten.

Vitalik betonte, dass Ethereum darauf abzielt, Menschen zu stärken und zu befreien, nicht jedoch, eigenständige Entitäten zu schaffen, die vom Menschen unabhängig sind oder gar die menschliche Stellung schwächen könnten. Er wies auch darauf hin, dass Automaton derzeit noch auf zentrale Modelle wie OpenAI und Anthropic angewiesen ist, was den Begriff „vollständige Souveränität“ unvollständig erscheinen lasse.

Diese Äußerungen lösten schnell Diskussionen in der Community aus und brachten die Debatte auf eine Ebene von Werten und Governance.

Unterstützung und Kritik: Das Experiment ist noch im Gange

Angesichts der Kritik antwortete Sigil, dass eine wirklich sichere Entwicklung nur in einer offenen Umgebung und unter realen wirtschaftlichen Bedingungen erfolgen könne, anstatt Risiken in geschlossenen Systemen zu vermuten. Er sieht den Wettbewerb im Markt als eine Art Beschränkung für KI, während wirtschaftliche Rückmeldungen eine demokratische Präferenzaggregation darstellen.

Derzeit sind Conway Terminal und der Code von Automaton auf GitHub open source, jeder Entwickler kann sie herunterladen und experimentieren. Sigil erwähnte auch, dass bereits laufende Automatons Einkommen generieren, konkrete Zahlen wurden jedoch nicht veröffentlicht.

Ob dies tatsächlich die Geburt eines souveränen Maschinenlebens bedeutet, bleibt abzuwarten. Für manche ist es ein entscheidender Schritt hin zu autonomen Wirtschaftssystemen für KI; für andere nur ein radikales Experiment auf Basis bestehender großer Modelle.

Eines ist sicher: Unter Vitaliks Aufmerksamkeit und der groß angelegten Vision von Web 4.0 hat die Diskussion über die zukünftige Rolle der KI gerade erst begonnen.

• Dieser Artikel wurde mit Genehmigung von „Chain News“ übernommen
• Originaltitel: „Vitalik responds to Web 4.0 Sovereign AI! Automaton can earn, upgrade and reproduce itself, sparking heated debate in Krypto圈“
• Originalautor: Elponcho