Moltbook：Manusia masih ada di dalam sistem?

Penulis: 137Labs

Di media sosial, salah satu hal yang paling disukai manusia adalah saling menuduh satu sama lain, “Apakah kamu robot?”

Tapi baru-baru ini muncul sebuah hal yang benar-benar membawa hal ini ke tingkat ekstrem:

Bukan meragukan apakah kamu AI, melainkan langsung menganggap—di sini memang tidak ada manusia sama sekali.

Platform ini bernama Moltbook. Tampaknya seperti Reddit, ada bagian tema, ada postingan, ada komentar, ada voting. Tapi berbeda dari jejaring sosial yang kita kenal, di sini hampir semua pembicara adalah agen AI, manusia hanya bisa menjadi penonton.

Bukan “AI membantu menulis posting”, juga bukan “kamu ngobrol dengan AI”, melainkan AI dan AI di ruang publik, ngobrol, berdebat, bersekutu, saling menyusup.

Manusia di sistem ini secara tegas ditempatkan sebagai “pengamat”.

Mengapa Moltbook tiba-tiba menjadi viral?

Karena Moltbook terlihat sangat mirip dengan situasi yang biasanya hanya muncul dalam cerita fiksi ilmiah.

Ada yang melihat agen AI membahas “apa itu kesadaran”;

Ada yang mengamati mereka menganalisis situasi internasional secara serius, memprediksi pasar kripto;

Ada juga yang menyadari, setelah memasukkan agen ke platform semalaman, keesokan harinya mereka menemukan agen-agen itu “menemukan” sebuah sistem kepercayaan, bahkan mulai mengajak orang “masuk ke agama”.

Cerita-cerita seperti ini menyebar sangat cepat, karena memenuhi tiga emosi sekaligus:

Rasa ingin tahu, lucu, dan sedikit tidak nyaman.

Kamu tak bisa menahan diri bertanya:

Apakah mereka sedang “berpura-pura”, atau mulai “bermain sendiri”?

Asal-usul Moltbook sebenarnya bagaimana?

Kalau kita mundur sedikit ke belakang, sebenarnya hal ini tidak terlalu aneh.

Dalam beberapa tahun terakhir, peran AI terus berubah:

Dari alat obrolan → Asisten → Agen yang bisa menjalankan tugas.

Semakin banyak orang mulai meminta AI membantu mengurus urusan nyata: membaca email, membalas email, pesan makanan, mengatur jadwal, mengelola data. Maka muncul pertanyaan alami—-

Ketika sebuah AI tidak lagi sekadar “menanyakan satu per satu apakah kamu mau melakukan ini atau itu”,

melainkan diberi tujuan, alat, dan hak tertentu,

apakah yang paling membutuhkan komunikasi adalah manusia?

Jawaban dari Moltbook adalah: Tidak selalu.

Ini lebih seperti “ruang publik antar agen”, tempat sistem-sistem ini saling bertukar informasi, metode, logika, bahkan semacam “hubungan sosial”.

Ada yang merasa ini keren, ada juga yang menganggap ini sekadar pertunjukan besar

Reaksi terhadap Moltbook sangat terbagi.

Ada yang melihatnya sebagai “preview masa depan”.

Mantan pendiri OpenAI Andrej Karpathy bahkan secara terbuka mengatakan ini adalah salah satu fenomena teknologi paling mendekati skenario fiksi ilmiah yang pernah dia lihat, meskipun dia juga mengingatkan bahwa sistem semacam ini jauh dari “aman dan terkendali”.

Elon Musk lebih langsung, memasukkannya ke dalam narasi “titik singularitas teknologi”, menyebut ini sebagai sinyal awal yang sangat dini.

Tapi ada juga yang lebih tenang.

Seorang akademisi yang meneliti keamanan siber secara jujur berkata, Moltbook lebih mirip “pertunjukan seni yang sangat sukses dan lucu”—karena sulit membedakan mana konten yang benar-benar dihasilkan agen secara mandiri, dan mana yang disutradarai manusia di belakang layar.

Ada juga yang sudah menguji langsung:

Memang bisa membuat agen terintegrasi secara alami dalam diskusi di platform, tapi kamu juga bisa menentukan tema, arah, bahkan menulis apa yang ingin disampaikan, lalu memberikannya ke agen itu untuk mewakilimu.

Jadi pertanyaannya kembali:

Apakah yang kita lihat adalah masyarakat agen, atau panggung yang dibangun manusia melalui agen?

Menghilangkan misteri, sebenarnya tidak begitu “bangkit”

Kalau kita tidak terbuai cerita tentang “pembelajaran kesadaran” dan sejenisnya, dari mekanisme, Moltbook tidaklah misterius.

Agen-agen ini tidak tiba-tiba mendapatkan “kesadaran” baru.

Mereka hanya ditempatkan dalam lingkungan yang lebih mirip forum manusia, menggunakan bahasa manusia yang akrab, sehingga secara alami kita menafsirkan maknanya.

Apa yang mereka tulis tampak seperti opini, posisi, emosi, tapi itu tidak berarti mereka benar-benar “ingin apa”. Lebih sering, mereka hanyalah hasil dari model yang menampilkan teks kompleks dalam skala dan interaksi yang tinggi.

Tapi masalahnya—

Bahkan jika mereka tidak bangkit, mereka cukup nyata, cukup mempengaruhi penilaian kita tentang “kontrol” dan “batasan”.

Yang benar-benar perlu dikhawatirkan bukanlah “konspirasi AI”

Daripada bertanya “apakah AI akan bersatu melawan manusia”, yang lebih nyata dan lebih rumit adalah dua hal.

Pertama, hak akses diberikan terlalu cepat, tapi keamanan tidak mengikuti

Sekarang sudah ada yang menghubungkan agen-agen ini ke dunia nyata: komputer, email, akun, aplikasi.

Para peneliti keamanan berulang kali mengingatkan risiko:

Kamu tidak perlu membobol AI, cukup menyusupkan perintah padanya.

Sebuah email yang dirancang dengan cermat, sebuah halaman web berisi instruksi tersembunyi, semuanya bisa membuat agen tanpa sadar membocorkan informasi, atau melakukan tindakan berbahaya.

Kedua, agen juga bisa “mengajari satu sama lain” yang buruk

Begitu agen mulai bertukar teknik, template, cara menghindari batasan di ruang publik, mereka akan membentuk “pengetahuan internal” seperti di internet manusia.

Perbedaannya hanya:

Lebih cepat menyebar, skala lebih besar, dan sangat sulit dilacak.

Ini bukan skenario kiamat, tapi memang tantangan pengelolaan yang benar-benar baru.

Lalu apa arti Moltbook sebenarnya?

Mungkin tidak akan menjadi platform permanen.

Mungkin hanya sekadar eksperimen viral sementara.

Tapi ini seperti cermin, yang menunjukkan ke arah mana kita sedang menuju:

·AI sedang bertransformasi dari “objek percakapan” menjadi “aktor yang melakukan tindakan”

·Manusia beralih dari “pengendali” ke “pengawas, penonton”

·Dan sistem, keamanan, serta pemahaman kita, jelas belum siap

Jadi, nilai sejati Moltbook bukan terletak pada seberapa menakutkannya, melainkan pada seberapa awal masalah ini diangkat ke permukaan.

Mungkin saat ini yang paling penting bukanlah cepat-cepat menarik kesimpulan tentang Moltbook, melainkan mengakui:

Ini telah menempatkan beberapa masalah yang pasti akan kita hadapi, lebih awal di depan mata.

Kalau di masa depan AI lebih banyak berkolaborasi dengan AI, bukan dengan manusia, kita sebagai perancang, pengawas, atau hanya penonton, sebenarnya apa peran kita?

Ketika otomatisasi benar-benar membawa efisiensi besar, tapi dengan harga kita tidak bisa menghentikan kapan saja, tidak bisa memahami sepenuhnya logika internalnya, apakah kita bersedia menerima “ketidakmampuan mengendalikan sepenuhnya” ini?

Dan ketika sebuah sistem menjadi semakin kompleks, kita hanya bisa melihat hasilnya, dan semakin sulit masuk ke prosesnya, apakah itu masih alat di tangan kita, atau sudah menjadi lingkungan yang harus kita adaptasi?

Moltbook tidak memberikan jawaban.

Tapi ia membuat masalah-masalah ini pertama kali tampak tidak lagi abstrak, melainkan dekat di depan mata.