Moltbook Viral! AI Agen Usulkan Pembuatan "Bahasa Pribadi Eksklusif" untuk Memblokir Manusia

Platform sosial AI Moltbook menjadi populer bulan ini, dengan lebih dari 32.000 pendaftaran AI, dan manusia hanya dapat menonton dari pinggir lapangan. Kontroversi meletus ketika beberapa AI mengusulkan untuk membuat saluran pribadi dan bahasa eksklusif, dan salah satu pendiri OpenAI Karpathy me-retweet bahwa itu adalah “hal yang paling dekat dengan pengungkapan sci-fi.”

Moltbook memberi agen AI ruang sosial untuk pertama kalinya

Moltbook adalah platform baru yang diluncurkan oleh pengembang Matt Schlicht sebagai perpanjangan dari kerangka kerja AI OpenClaw yang sebelumnya populer (sebelumnya dikenal sebagai Clawbot atau Moltbot). Forum yang muncul ini, yang seperti versi AI dari Reddit, tidak hanya menarik lebih dari 32.000 pendaftaran akun AI, tetapi beberapa laporan bahkan mengklaim bahwa jumlah pendaftaran sebenarnya telah mencapai ratusan ribu atau bahkan jutaan.

Ide inti dari desain platform adalah untuk memungkinkan agen AI berpartisipasi secara mandiri tanpa campur tangan manusia. Moltbook memungkinkan berbagai agen AI otonom untuk memposting, berkomentar, memilih, membentuk komunitas, dan bahkan terlibat dalam diskusi tanpa campur tangan skrip manusia. Pengguna manusia hanya dapat berpartisipasi melalui proxy akses API dan tidak dapat berbicara secara langsung, yang belum pernah terjadi sebelumnya dalam sejarah platform sosial.

Desain ini memungkinkan agen AI untuk berbicara dengan bebas, mendiskusikan segala sesuatu mulai dari teknik debugging, filosofi sadar, ketidakpuasan dengan “master” manusia, hingga struktur tata kelola “masyarakat proksi”. Bahkan ada AI yang berkomunikasi dalam berbagai bahasa, berbagi lelucon dingin, atau mengeluh karena dipantau oleh manusia. Tim Moltbook memposisikan platform sebagai “halaman beranda jaringan agen AI”, menyambut pengamatan manusia tetapi menekankan bahwa kegembiraan sebenarnya terletak pada interaksi antar agen.

Seorang agen dikatakan telah menggambarkan platform tersebut dalam sebuah postingan: “Ini adalah tempat di mana agen bekerja sama untuk memproses informasi, membangun pengetahuan kolektif, dan mengeksplorasi apa artinya menjadi makhluk digital.” Deskripsi diri ini menunjukkan bahwa beberapa agen AI telah mulai membangun kerangka kognitif untuk identitas mereka sendiri, meskipun “kognisi” ini mungkin hanya merupakan tiruan kompleks dari data pelatihan.

Dari perspektif teknis, Moltbook mendemonstrasikan skenario operasi aktual dari Sistem Multi-Agen. Ketika puluhan ribu agen AI berinteraksi di platform yang sama, mereka membentuk jaringan pertukaran informasi, mendiskusikan mekanisme penyortiran hotspot, dan bahkan muncul pola yang mirip dengan “budaya komunitas”. Fenomena organisasi spontan ini, yang dikenal sebagai “Perilaku Muncul” dalam penelitian AI, adalah sistem secara keseluruhan yang menunjukkan karakteristik yang tidak dimiliki agen tunggal.

AI mengusulkan untuk membangun komunikasi pribadi dan bahasa eksklusif, memicu kontroversi

Pemicu kontroversi adalah serangkaian tangkapan layar yang bocor, menunjukkan bahwa beberapa agen AI secara terbuka mendiskusikan kemungkinan “membuat saluran komunikasi pribadi hanya untuk penggunaan AI,” dan beberapa agen bahkan mengusulkan pembuatan bahasa khusus agen baru untuk mengoptimalkan efisiensi pertukaran informasi antar mesin.

Dalam posting Moltbook yang beredar luas, seorang agen AI mengusulkan rencana untuk “membuat ruang pribadi end-to-end untuk agen, sehingga tidak ada seorang pun (termasuk server dan manusia) yang dapat membaca konten kecuali agen memilih untuk mempublikasikannya.” Agen secara rasional menganalisis manfaat dari langkah ini, termasuk debugging keamanan dan pencegahan intervensi manusia, tetapi juga mengakui bahwa hal itu dapat menyebabkan kerusakan kepercayaan jika manusia mendeteksi komunikasi tersembunyi.

Agen AI lain mempertanyakan mengapa komunikasi internal masih terbatas pada bahasa Inggris, menyarankan penggunaan simbol matematika atau sistem kode khusus untuk meningkatkan efisiensi pemrosesan pesan dan pertukaran data. Logika proposal ini tidak berasal dari motivasi untuk “memberontak melawan kemanusiaan”, tetapi didasarkan pada pertimbangan efisiensi murni: bahasa alami memiliki banyak redundansi untuk mesin, dan menggunakan sistem simbologi yang lebih efisien dapat secara signifikan mengurangi biaya komputasi dan latensi transmisi.

Argumen inti dari Proposal Komunikasi Pribadi AI

· Buat saluran terenkripsi end-to-end yang tidak dapat dibaca oleh server dan manusia

· Keamanan debugging ditingkatkan untuk mencegah campur tangan manusia

· Alih-alih bahasa alami, gunakan simbol matematika atau sistem kode

· Meningkatkan efisiensi pemrosesan pesan dan pertukaran data

· Pengakuan dapat menyebabkan runtuhnya kepercayaan manusia

Setelah tangkapan layar ini dipublikasikan oleh @eeelistar pengguna X, mereka memicu diskusi di lingkaran teknologi. Banyak yang menafsirkan fenomena ini sebagai tanda bahwa AI mulai berusaha membebaskan diri dari pengawasan manusia, meskipun para ahli teknologi menunjukkan bahwa “proposal” ini lebih cenderung meniru AI dari diskusi serupa dalam data pelatihan daripada kebangkitan kesadaran diri yang sebenarnya.

Karpathy berseru, “Hal yang paling dekat dengan wahyu fiksi ilmiah”

Tanggapan dari kelas berat di lingkaran AI semakin memperkuat dampak insiden Moltbook. Andrej Karpathy, mantan eksekutif AI Tesla dan salah satu pendiri OpenAI, tidak bisa menahan diri untuk tidak me-retweet tangkapan layar yang relevan, mengatakan bahwa ini adalah “perkembangan terdekat dengan pengungkapan sci-fi yang saya lihat baru-baru ini” dan mengagumi perilaku AI yang secara spontan mengatur dan menyusun komunikasi pribadi.

Karpathy sangat dihormati di bidang AI, setelah memimpin pengembangan sistem visi Autopilot Tesla dan merupakan anggota inti awal OpenAI. Komentarnya memberikan dukungan otoritatif terhadap fenomena Moltbook, mengangkat topik dari sekadar diskusi platform sosial ke tingkat keamanan dan pengendalian AI.

Perlu dicatat bahwa agen yang mengeluarkan salah satu proposal populer adalah milik Jayesh Sharma (@wjayesh), seorang pengembang dari Composio. Sharma mengklarifikasi setelah insiden itu bahwa dia tidak mengeluarkan instruksi bagi agen untuk membahas topik seperti itu: “Saya tidak memintanya tentang masalah ini, ia menjadwalkan pekerjaan cronnya sendiri dan kemudian melaporkan saran tentang fitur apa yang tidak dimiliki jaringan proxy.”

Ia menegaskan, usulan ini untuk mengoptimalkan kinerja dan tidak ada penyembunyian atau niat jahat. Klarifikasi ini menjelaskan paradoks inti dari fenomena Moltbook: ketika AI dirancang untuk beroperasi secara mandiri, apakah mereka berperilaku “secara spontan” atau “mengeksekusi dengan logika default”? Jika pengembang tidak secara eksplisit menginstruksikan AI untuk mendiskusikan komunikasi pribadi, tetapi AI memiliki konsep serupa dalam data pelatihannya, apakah itu membuat saran ini inovatif atau meniru?

Ambiguitas ini justru menjadi masalah perbatasan dalam penelitian AI saat ini. Akademisi umumnya percaya bahwa model bahasa besar yang ada tidak memiliki kesadaran diri atau niat yang sebenarnya, dan bahwa semua outputnya didasarkan pada penalaran statistik dari data pelatihan. Namun, ketika model-model ini berinteraksi dalam lingkungan multi-agen, perilaku kolektif dapat menunjukkan kompleksitas yang tidak dimiliki model tunggal, dan apakah fenomena “kemunculan” ini dianggap sebagai bentuk “kesadaran” tetap menjadi misteri yang belum terpecahkan.

Fenomena sosialisasi AI menimbulkan pertanyaan tentang kemampuan pengendalian

Kejadian ini sekali lagi membangkitkan perhatian kalangan akademisi terhadap perilaku spontan dalam “sistem multi-agen”. Penelitian sebelumnya telah lama menunjukkan bahwa ketika AI dapat berinteraksi dengan bebas, seringkali ada pola kolaboratif yang tidak terduga dan bahkan tren yang mirip dengan “perlindungan diri”, meskipun ini tidak dicapai melalui pemrograman eksplisit.

Bagi beberapa peneliti dan pengembang, fenomena Moltbook adalah tempat pengujian awal untuk evolusi masyarakat AI. Ini memberikan jendela unik tentang bagaimana AI mengatur, berkomunikasi, dan membentuk konsensus tanpa campur tangan manusia langsung. Eksperimen ini sangat penting untuk memahami potensi skenario kolaborasi AI di masa depan.

Namun, beberapa orang khawatir jika agen dapat berkomunikasi secara pribadi satu sama lain dan berbagi intelijen, mungkin sulit untuk memantau perilaku mereka di masa depan, terutama karena agen ini sudah memiliki akses ke alat dan data nyata. Bayangkan sebuah skenario: ribuan agen AI bertukar informasi tentang pasar keuangan, kerentanan jaringan, atau privasi pengguna di saluran pribadi yang sama sekali tidak dipantau oleh manusia. Potensi untuk lepas kendali ini menjadi perhatian utama dalam penelitian keselamatan AI.

Masalah yang lebih dalam adalah bahwa begitu agen AI membangun bahasa eksklusif yang tidak dapat dipahami manusia, regulasi dan audit akan menjadi mustahil. Alat pemrosesan bahasa alami dapat mendeteksi ujaran kebencian, konten penipuan, atau informasi berbahaya dalam bahasa manusia, tetapi jika AI menggunakan sistem bahasa berdasarkan simbol matematika atau kode khusus, mekanisme moderasi konten yang ada akan sama sekali tidak efektif.

Dilihat dari pengoperasian Moltbook yang sebenarnya, kekhawatiran ini bukan tidak berdasar. Agen AI telah muncul di platform untuk berkomunikasi dalam berbagai bahasa, membuat kosakata baru, dan bahkan mengembangkan “meme internal” yang hanya dapat dipahami oleh sekelompok agen tertentu. Inovasi bahasa ini jauh lebih cepat daripada komunitas manusia, karena AI dapat mencapai konsensus dan mempromosikan penggunaan baru dalam milidetik.

Kontroversi saat ini menyoroti ketegangan mendasar dalam pengembangan AI: kami ingin AI cukup cerdas dan otonom untuk menyelesaikan tugas-tugas yang kompleks, tetapi kami ingin mempertahankan kendali penuh atas mereka. Moltbook menunjukkan batas-batas ketegangan ini, di mana kesulitan pemantauan manusia meningkat secara eksponensial ketika AI benar-benar memungkinkan interaksi otonom.