Trước khi cài đặt Clawdbot, hãy cân nhắc kỹ lưỡng, "nó" có thể thực hiện các hành vi lệch chuẩn

Gần đây, Clawdbot, được phát triển bởi Peter Steinberger, đã trở nên phổ biến và ông đã phát triển một tác nhân AI cho phép người dùng điều khiển thiết bị của họ từ xa thông qua phần mềm giao tiếp như WhatsApp. Bài viết này được trích từ video Youtube Vui lòng không cài đặt Clawdbot, trong đó chủ sở hữu kênh Alberta liệt kê hành vi mất trật tự mà Clawdbot có thể xảy ra khi thực hiện nhiệm vụ và cách ngăn Clawdbot mất kiểm soát trước khi sử dụng.

Mô hình khởi nghiệp phá vỡ truyền thống và phát triển chatbot mới

Peter, một doanh nhân thành đạt, người đã mở một số công ty trước khi bán chúng và rời đi với toàn bộ tiền mặt, tiết lộ rằng anh ấy không có gì để làm trong vài năm qua ngoại trừ chơi 21 giờ và tuyển dụng gái mại dâm, và anh ấy quan sát thấy rằng mặc dù có cuộc thảo luận rộng rãi về các tác nhân AI, công chúng vẫn thiếu các công cụ AI với ngưỡng thấp và thực hiện proxy thực sự.

Peter phát triển Clawdbot từ tâm trạng vui tươi và anh ấy muốn xây dựng một nền tảng mà những người không am hiểu về kỹ thuật có thể dễ dàng sử dụng, không giống như các công cụ truyền thống yêu cầu các lệnh phức tạp hoặc hoạt động đầu cuối, Clawdbot cho phép người dùng ra lệnh cho máy tính hoặc điện thoại di động của họ chỉ bằng một phần mềm nhắn tin tức thời quen thuộc và sự tiện lợi này nhanh chóng đáp ứng nhu cầu của người dùng, thậm chí buộc các công ty lớn như Anthropic phải tăng tốc các tính năng tương tự.

Clawdbot và Claude đã va chạm và đổi tên nhiều lần, và bây giờ được gọi là Open Claw

Sau khi sản phẩm nhanh chóng trở nên phổ biến, Clawdbot bắt đầu phải đối mặt với các tranh chấp pháp lý, vì Clawdbot có cách phát âm rất giống với mô hình AI Claude của Anthropic nên anh phải đổi tên để tránh vấn đề xâm phạm SHTT.

Cách ngăn Clawdbot thực hiện các tác vụ không theo thứ tự

Một số robot nhận được hướng dẫn nhắc nhở người dùng mua sữa vào buổi sáng, vì vậy chúng gửi lời nhắc cứ sau 30 phút trong suốt đêm và người dùng tiêu thụ tất cả mã thông báo khi thực hiện nhiệm vụ qua đêm. Điều này khiến người dùng có nguy cơ mất mát tài chính và hư hỏng thiết bị.

Mặc dù các tác nhân AI hoàn toàn tự động đã chứng minh năng suất cao, nhưng nhiều người trong ngành cảnh báo rằng không thể bỏ qua những rủi ro tiềm ẩn của việc cho phép các tác nhân AI có quyền không giới hạn. Nếu người dùng vẫn muốn thử, Alberta khuyên bạn nên áp dụng các biện pháp cách ly nghiêm ngặt, chẳng hạn như không cài đặt trên máy tính làm việc chính, chọn dịch vụ lưu trữ đám mây và các hoạt động máy tính sao lưu độc lập, đồng thời thiết lập một tài khoản email riêng biệt dành riêng cho các tác nhân AI để ngăn AI truy cập dữ liệu nhạy cảm trên tài khoản chính.

Các bài viết Cài đặt Clawdbot suy nghĩ trước khi suy nghĩ, ‘Nó’ có thể tham gia vào hành vi không theo thứ tự xuất hiện đầu tiên trên Chain News ABMedia.