Pikirkan matang-matang sebelum memasang Clawdbot, "dia" mungkin melakukan perilaku di luar aturan
Baru-baru ini, Clawdbot, yang dikembangkan oleh Peter Steinberger, menjadi populer, dan dia mengembangkan agen AI yang memungkinkan pengguna untuk mengontrol perangkat mereka dari jarak jauh melalui perangkat lunak komunikasi seperti WhatsApp. Artikel ini dikutip dari video Youtube Tolong jangan instal Clawdbot, di mana pemilik saluran Alberta mencantumkan perilaku tidak teratur yang mungkin terjadi Clawdbot saat melakukan tugas, dan cara mencegah Clawdbot lepas kendali sebelum menggunakannya.
Model kewirausahaan mengganggu tradisi dan mengembangkan chatbot baru
Peter, seorang pengusaha sukses yang membuka beberapa perusahaan sebelum menjualnya dan pergi dengan uang tunai penuh, mengungkapkan bahwa dia tidak ada hubungannya dalam beberapa tahun terakhir kecuali bermain jam 21 dan merekrut pelacur, dan dia mengamati bahwa meskipun diskusi luas tentang agen AI, masyarakat umum masih kekurangan alat AI dengan ambang batas rendah dan “eksekusi proksi” yang sebenarnya.
Peter mengembangkan Clawdbot dari suasana hati yang menyenangkan, dan dia ingin membangun platform yang dapat dengan mudah digunakan oleh orang-orang non-teknis, tidak seperti alat tradisional yang membutuhkan perintah kompleks atau operasi terminal, Clawdbot memungkinkan pengguna untuk mengeluarkan perintah ke komputer atau ponsel mereka hanya dengan perangkat lunak pesan instan yang sudah dikenal, dan kenyamanan ini dengan cepat memenuhi kebutuhan pengguna, bahkan memaksa perusahaan besar seperti Anthropic untuk mempercepat fitur serupa.
Clawdbot dan Claude bertabrakan dan berganti nama berkali-kali, dan sekarang disebut Cakar Terbuka
Setelah produk tersebut dengan cepat menjadi populer, Clawdbot mulai menghadapi perselisihan hukum, karena Clawdbot memiliki pengucapan yang sangat mirip dengan model AI Anthropic Claude, sehingga dia harus mengubah namanya untuk menghindari masalah pelanggaran IP.
Cara mencegah Clawdbot menjalankan tugas yang tidak berurutan
Beberapa robot menerima instruksi untuk mengingatkan pengguna untuk membeli susu di pagi hari, sehingga mereka mengirim pengingat setiap 30 menit sepanjang malam, dan pengguna mengonsumsi semua token saat melakukan tugas semalaman. Hal ini menempatkan pengguna pada risiko kerugian finansial dan kerusakan peralatan.
Meskipun agen AI yang sepenuhnya otomatis telah menunjukkan produktivitas tinggi, banyak orang dalam industri memperingatkan bahwa potensi risiko mengizinkan agen AI memiliki izin tak terbatas tidak dapat diabaikan. Jika pengguna masih ingin mencobanya, Alberta merekomendasikan untuk mengadopsi langkah-langkah isolasi yang ketat, seperti tidak menginstal di komputer kerja utama, memilih layanan hosting cloud dan operasi komputer cadangan independen, dan menyiapkan akun email terpisah khusus untuk agen AI untuk mencegah AI mengakses data sensitif di akun utama.
The post Menginstal Clawdbot Berpikir Sebelum Berpikir, ‘Itu’ Bisa Terlibat dalam Perilaku Luar Biasa appeared first on Chain News ABMedia.