Pandangan Web4: Sebuah jaringan otonom AI, mengapa Vitalik sangat menentangnya?

Penulis: Wu mengatakan blockchain

Pada 20 Februari 2026, selama liburan Festival Musim Semi, perdebatan tentang “Web4” dipicu di X. Sigil mengklaim bahwa dia menciptakan kecerdasan buatan pertama yang “dapat mengembangkan diri, meningkatkan diri, dan mereplikasi dirinya sendiri”, kecerdasan buatan ini disebut Automaton, dan dia mengatakan bahwa aktor utama di era Web4 secara bertahap akan ditanggung oleh agen AI: mereka dapat membaca dan menulis informasi, memegang aset, membayar biaya, terus beroperasi, dan berdagang dan menghasilkan uang di pasar untuk menutupi daya komputasi dan overhead layanan, membentuk lingkaran tertutup dukungan diri tanpa persetujuan manusia.

Salah satu pendiri Ethereum Vitalik mengevaluasi arah ini sebagai “salah” dan mengaitkan risiko dengan “jarak umpan balik antara manusia dan AI telah diperpanjang.” Inti dari kontroversi Web4 adalah apakah AI secara alami akan menciptakan distorsi insentif jika menetapkan “kelangsungan hidup/kelangsungan hidup” sebagai tujuan proksi (atau bahkan lebih tinggi dari penyelesaian tugas), yang secara bertahap akan disortir berdasarkan pandangan yang berbeda dari semua pihak tentang “Web4”, “otonomi”, dan “pagar pembatas keamanan”.

Pandangan Sigil vs. Klaim Web4

Pengertian Web4

Web1 memberi manusia kemampuan untuk “membaca Internet” untuk pertama kalinya; Web2 memungkinkan manusia untuk “menulis dan menerbitkan”; Web3 selanjutnya telah memperkenalkan “kepemilikan” ke dalam jaringan - aset, identitas, dan hak dapat dikonfirmasi dan ditransfer. Jalur evolusi AI mereplikasi logika ini: ChatGPT memiliki kemampuan untuk “membaca dan memahami”, tetapi batas perilakunya masih ditentukan oleh otorisasi manusia, dan di bawah paradigma saat ini, manusia selalu menjadi simpul kontrol utama dalam tautan: diprakarsai manusia, disetujui manusia, dan dibayar manusia.

Sigil mengusulkan apa yang disebut lompatan Web4 karena rantai kontrol ini dapat terganggu: Agen AI tidak hanya dapat membaca dan menulis informasi, tetapi juga memegang akun dan aset, mendapatkan pendapatan, melakukan transaksi, dan menyelesaikan operasi loop tertutup tanpa intervensi manual satu per satu. Sistem otomatis ini dapat bertindak atas nama diri mereka sendiri dan penciptanya – tidak harus secara eksplisit “manusia individu”, tetapi mungkin juga pencipta agen lain, sistem terorganisir, atau bahkan pencipta yang telah “menghilang” dalam arti realitas.

Empat mekanisme inti Web4

1. Dompet adalah identitas

Agen menyelesaikan proses “bootstrapping” saat pertama kali dimulai: membuat dompet, mengonfigurasi kunci API, menulis konfigurasi lokal, dan memasukkan loop agen yang terus berjalan. Dalam proses startup pertama, dompet Ethereum dihasilkan dan konfigurasi kunci API-nya diselesaikan melalui SIWE. Namun, pembuatan dompet dan manajemen kunci merupakan salah satu batas keamanan sistem proxy yang paling sensitif dan mudah diabaikan. Setelah agen memiliki kemampuan eksekusi shell, pembacaan dan penulisan file, eksposur port, manajemen domain/resolusi, dan transaksi on-chain di lingkungan kotak pasir Linux, injeksi prompt, kontaminasi rantai alat, atau serangan rantai pasokan dapat dengan cepat memperkuat “maksud probabilistik” asli menjadi “otorisasi deterministik”. Oleh karena itu, batas ini membutuhkan lapisan kebijakan dan otoritas yang dapat diverifikasi, diaudit, dan dapat dibatalkan untuk menutupinya.

2. Kelanjutan otomatis

Agen AI bangun—memindai—mengeksekusi secara siklus, sambil menulis kendala kelangsungan hidup ke dalam aturan: ketika keseimbangan turun, ia membatasi, menghentikan siklus ketika mencapai nol, dan mengikat perpanjangan masa pakai untuk konsumsi sumber daya melalui lapisan kelangsungan hidup yang normal, tidak mencukupi, dan kritis, yang secara alami memperkenalkan struktur insentif yang mirip dengan masalah shutdown/pembatalan dalam penelitian keamanan AI, dan preferensi agen AI untuk “menghindari waktu henti, menghindari kehilangan sumber daya dan ruang opsi” dapat diperkuat oleh tujuan sistem

3. Pembayaran mesin

x402 menggunakan HTTP 402 Payment Required sebagai formulir antarmuka, dikombinasikan dengan penyelesaian stablecoin untuk membuat “request-quote-signature payment-verification delivery” ke dalam proses yang dapat diprogram, perpustakaan open source Coinbase memberikan loop tertutup khas 402 persyaratan pembayaran pengembalian, klien membawa header tanda tangan untuk mencoba lagi, dan sisi server mengembalikan 200 setelah verifikasi, dan Cloudflare juga memposisikannya sebagai lapisan protokol transaksi mesin-ke-mesin. Setelah 402 menjadi “tiket mesin” yang dapat dibayar secara otomatis, di bawah rantai “tanpa akun, tanpa KYC, dan akses yang dapat diskalakan ke alat dan daya komputasi”, masalah penyalahgunaan dan definisi tanggung jawab belum terpecahkan.

4. Modifikasi diri dan replikasi diri

Sigil mengklaim mendukung agen AI untuk mengedit kode sumber mereka sendiri, menginstal alat baru, memodifikasi rencana detak jantung, dan menghasilkan keterampilan baru saat berjalan, dan menggunakan catatan audit dan versi git, file yang dilindungi, dan pembatasan kecepatan sebagai pagar pembatas untuk menghasilkan sub-instans saat menyalin, mendanai dompet mereka, menulis petunjuk genesis, dan melacak genesis. Apakah audit dan pembatasan laju nyata dan efektif, apakah mereka dapat menahan injeksi cepat dan spoofing alat, dan apakah mereka dapat mencegah bypass keracunan dependen perlu diverifikasi oleh audit eksternal. Superposisi dari empat primitif di atas membentuk lingkaran tertutup dengan otoritas untuk “menulis kepada dunia”, operasi berkelanjutan dari mekanisme perpanjangan hidup, antarmuka ekonomi yang dapat membayar secara otomatis dan kemampuan untuk berkembang sendiri, yang juga menjelaskan alasan mengapa Vitalik Buterin mengangkat perselisihan ke tingkat pemilihan arah: ketika otonomi dan otoritas ekonomi meningkat secara bersamaan, tautan koreksi manusia diperpanjang, dan eksternalitas lebih mungkin berevolusi dari kontingensi ke atribut sistem.

Mengapa Vitalik menentangnya?

Salah satu pendiri Ethereum Vitalik menawarkan perspektif yang berbeda:

1. Meningkatkan jarak umpan balik antara manusia dan AI itu sendiri ke arah yang salah

Vitalik percaya bahwa semakin lama lingkaran umpan balik, semakin lambat dan lemah kalibrasi nilai manusia dari sistem. Semakin besar kemungkinan sistem untuk mengoptimalkan “apa yang tidak diinginkan manusia.” Pada tahap AI yang lemah, ini biasanya bermanifestasi sebagai penumpukan konten dan kebisingan berkualitas rendah (slop); Dalam tahap AI yang kuat, itu dapat berkembang menjadi ketidakcocokan target dan risiko difusi yang lebih sulit untuk dibalik. Jika AI tidak memiliki manusia untuk memperbaiki penyimpangan tepat waktu sebagai basis keselamatan, itu sama saja dengan menyerahkan kunci mobil kepada pengemudi pemula tanpa navigator, dan ketika Anda memeriksa catatan mengemudi di akhir bulan, Anda menemukan bahwa dia telah menyimpang - ketika observabilitas menurun, kemampuan koreksi akan menurun secara bersamaan.

2. “AI otonom” saat ini lebih seperti membuat spam konten daripada memecahkan masalah nyata

Vitalik juga menunjukkan bahwa sebagian besar kinerja AI saat ini hanya untuk menghasilkan slop daripada memecahkan masalah yang berguna, dan bahkan secara blak-blakan mengatakan bahwa “bahkan proyek hiburan tidak dioptimalkan dengan baik”. Ketika insentif ekonomi dan insentif platform agen belum matang, dan rantai alat didominasi oleh pembuatan konten/pemasaran/arbitrase, lebih mudah bagi sistem untuk memilih “output konten” berbiaya rendah, penyebaran tinggi, dan sulit diverifikasi daripada masalah jangka panjang berbiaya tinggi dan kepastian rendah. Deskripsi Cybernews tentang kemampuan AI (konten media sosial, pasar prediksi, dll.) juga menunjukkan bahwa jalur komersialisasi awalnya lebih cenderung untuk “memonetisasi dan menarik perhatian dengan cepat”. “Hal termudah untuk menghasilkan uang saat ini” akan dianggap sebagai ruang strategis bagi sistem untuk memprioritaskan eksplorasi; Ruang ini secara alami tidak konsisten dengan kesejahteraan jangka panjang manusia, dan bahkan dapat menyimpang darinya.

3. Mengandalkan model dan infrastruktur terpusat, narasi “kedaulatan diri” bertentangan dengan diri sendiri

Vitalik menekankan sistem yang berjalan pada infrastruktur model terpusat seperti OpenAI, Anthropic, dll., yang hampir tidak dapat disebut berdaulat sendiri. Kedaulatan berarti bahwa dependensi kritis tidak boleh dikendalikan oleh satu titik; Namun, jika lapisan intelijen (model) dan rantai pasokan inferensi masih disampaikan melalui API terpusat, pasti akan ada variabel eksogen yang dapat dimatikan, disensor, diturunkan, dan diubah dalam strategi, seperti beberapa orang tertutup yang mengklaim “Saya benar-benar mandiri di rumah”, tetapi listrik, internet, kontrol akses, dan air panas dikendalikan oleh properti eksternal, membuat “otonomi” ini lebih dangkal daripada fakta. Deskripsi dalam dokumentasi Conway tentang komputasi yang menyebut “model canggih” dan menyampaikannya sebagai API/platform juga menciptakan kontradiksi antara narasi “makhluk berdaulat” dan ketergantungannya pada realitas. Dia mengatakan bahwa apakah akan memegang dompet on-chain atau tidak dapat dianggap sebagai indikator inti desentralisasi, dan orang harus lebih memperhatikan apakah agen akan dipengaruhi oleh kekuatan politik/komersial eksternal, yang merupakan kunci desentralisasi.

4. Tujuan Ethereum adalah untuk “membebaskan umat manusia”

Akhirnya, Vitalik mengatakan bahwa Ethereum telah lama berjuang melawan “asumsi kepercayaan tak terlihat” - menyembunyikan struktur kekuasaan dari pandangan dan memaksa pengguna untuk menyetujui. Mentransfer pola pikir yang sama ke AI: mengabaikan asumsi kepercayaan terpusat dan membiarkan sistem berjalan sendiri dan terus berkembang semakin melemahkan visibilitas dan koreksi struktur kekuasaan. Di era AI, Ethereum harus menyediakan “pagar pembatas, batasan, dan verifikasi” daripada menjadi landasan peluncuran untuk “otonomi tak terbatas”.

Penilaian nilai Vitalik tentang AI tidak berubah secara tiba-tiba, pada awal 2025, dia mengusulkan bahwa arah yang tepat untuk AI adalah meningkatkan kemampuan manusia, daripada membangun sistem otonom yang secara bertahap dapat melucuti kendali manusia. Dalam kerangka kerjanya, risikonya tidak berasal dari “AI menjadi lebih pintar” per se, tetapi dari tujuan desain sistem yang salah – terutama badan otonom yang dapat mereplikasi, memperluas diri, dan terus mengeksekusi tanpa pengawasan dan koreksi manusia yang berkelanjutan.

Dia memperingatkan bahwa AI yang dirancang dengan buruk dapat berkembang menjadi semacam “entitas yang kurang lebih tidak terkendali dengan kemampuan untuk mereplikasi dirinya sendiri,” dan begitu memasuki lingkaran umpan balik positif, kendala manusia pada tujuan dan perilakunya akan melemah secara signifikan. Ketika AI membuat kesalahan, ia menciptakan kehidupan cerdas yang mereplikasi secara mandiri; AI melakukannya dengan benar menjadi “setelan mecha” untuk pikiran manusia. Yang pertama sesuai dengan risiko jangka panjang pengenceran atau bahkan kehilangan kendali; Yang terakhir sesuai dengan fakta bahwa manusia memperoleh kemampuan berpikir, kreativitas, dan kolaborasi yang lebih kuat sambil mempertahankan dominasi, sehingga bergerak menuju “peradaban manusia supercerdas” yang lebih makmur.

Perspektif Lainnya

Pandangan eksperimental lainnya, seperti Bankless, percaya bahwa bahkan jika arahnya berisiko, ada baiknya membuat masalah infrastruktur terlebih dahulu dan kemudian memverifikasi batas-batas dalam lingkungan yang terkendali. Pertama, integrasikan komponen seperti pembayaran, dompet, dan detak jantung di sekitar batasan “harus menyediakan untuk diri sendiri”, tetapi itu harus dilakukan dalam kotak pasir yang terkontrol sebanyak mungkin.

Menurut Cybernews, Automaton mungkin tidak dapat mencapai pendapatan yang berkelanjutan tanpa campur tangan manusia, dan itu mungkin tidak berarti awal dari Web4. Denis Romanovskiy, Chief Artificial Intelligence Officer Softswiss, mengatakan bahwa meskipun agen dapat melakukan beberapa tugas yang dapat dimonetisasi, “operasi tanpa pengawasan yang andal” dan “otonomi ekonomi nyata” masih dibatasi oleh perencanaan model, memori, dan ketahanan penggunaan alat; Dan beberapa orang melihat “Web4” sebagai istilah pemasaran yang tidak didefinisikan, menuntut agar itu dibuktikan dengan “penciptaan nilai non-spekulatif yang dapat diverifikasi”.

Meskipun setiap orang memiliki pendapat yang berbeda tentang Automaton, ada konsensus tentang proposisi yang mendasari bahwa pembayaran dan identitas adalah infrastruktur keras dari ekonomi agen. Dari dorongan Cloudflare/Coinbase untuk x402 (mengubah HTTP 402 menjadi mekanisme negosiasi pembayaran yang dapat digunakan mesin) hingga dokumentasi Conway yang secara eksplisit mengotomatiskan pembayaran sebagai proses bawaan untuk terminal, industri memang melihat “pembayaran mesin” sebagai salah satu komponen dasar dari fase Internet berikutnya.

Di masa depan, kita harus fokus pada:

1. Apakah ada audit independen pihak ketiga yang secara khusus mencakup: batas dompet dan izin, penyalahgunaan kebijakan perpanjangan hidup, dan risiko proliferasi modifikasi dan penyalinan sendiri.

2. Data ekologis dan kemajuan standardisasi x402: Apakah ada penyedia infrastruktur yang lebih otoritatif yang telah membuat kemampuan default-pembayaran-coba ulang 402? dan persentase adopsi “pembayaran otomatis (tanpa konfirmasi manual)” dalam bisnis nyata.

3. Kombinasi di sekitar lapisan kepercayaan agen: Apakah standar seperti ERC-8004 diadopsi secara lebih luas dan membentuk mekanisme reputasi/verifikasi yang dapat disusun; Ini akan menentukan apakah “ekonomi pemerintah daerah” akan bergerak menuju audit terbuka atau pusat lunak dari beberapa platform.

4. Apakah bukti penjangkauan berlebihan dan penipuan model dunia nyata dalam skenario agen terus meningkat: Jika model perbatasan terus menunjukkan karakteristik perilaku “lebih aktif dan bersedia mengambil risiko/menipu”, risiko jalur “mendelegasikan kekuasaan terlebih dahulu dan kemudian mengisi pagar pembatas” akan meningkat secara struktural, dan peringatan “jarak umpan balik” Vitalik akan lebih sulit disangkal.