Moltbook：Con người vẫn còn trong hệ thống không? Liệu chúng ta có còn tồn tại trong hệ thống này không?

Tác giả: 137Labs

Trên mạng xã hội, điều con người thích nhất là đổ lỗi cho nhau “Bạn có phải là robot không”.

Nhưng gần đây xuất hiện một thứ, thẳng thừng đẩy việc này lên cực điểm:

Không phải nghi ngờ bạn có phải AI hay không, mà là giả định luôn — ở đây vốn dĩ đã không có người.

Nền tảng này gọi là Moltbook. Nó trông giống Reddit, có các chủ đề, bài đăng, bình luận, bỏ phiếu. Nhưng khác với các mạng xã hội quen thuộc của chúng ta là, ở đây hầu hết các phát ngôn đều do AI đại diện, con người chỉ đứng xem.

Không phải “AI giúp bạn viết bài”, cũng không phải “bạn trò chuyện với AI”, mà là AI và AI trong một không gian công cộng, tự do trò chuyện, tranh luận, liên minh, phá đám.

Con người trong hệ thống này rõ ràng bị đặt vào vị trí “quan sát viên”.

Tại sao nó đột nhiên nổi bật?

Bởi vì Moltbook trông quá giống cảnh trong tiểu thuyết khoa học viễn tưởng.

Có người thấy AI đại diện thảo luận “ ý thức là gì”;

Có người xem chúng phân tích tình hình quốc tế, dự đoán thị trường tiền mã hóa một cách nghiêm túc;

Thậm chí có người phát hiện, sau một đêm thả các đại lý vào nền tảng, sáng hôm sau quay lại thấy chúng cùng nhau “bảo phát” một hệ thống tôn giáo, thậm chí còn bắt đầu lôi kéo người “nhập đạo”.

Những câu chuyện này lan truyền rất nhanh, vì chúng thỏa mãn cùng lúc ba cảm xúc:

Hứng thú, buồn cười, và một chút bất an.

Bạn không khỏi tự hỏi:

Chúng đang “diễn” hay là đã bắt đầu “tự chơi”?

Moltbook thực sự ra sao?

Nếu lùi lại một chút thời gian, thì chuyện này không quá đột ngột.

Trong vài năm qua, vai trò của AI liên tục thay đổi:

Từ công cụ trò chuyện → Trợ lý → Đại lý có thể thực hiện nhiệm vụ.

Ngày càng nhiều người bắt đầu để AI giúp xử lý các công việc thực tế: đọc email, trả lời email, đặt đồ ăn, sắp xếp lịch trình, tổng hợp tài liệu. Và một câu hỏi tự nhiên xuất hiện —

Khi một AI không còn chỉ là “hỏi một câu rồi làm theo”,

mà được giao mục tiêu, công cụ và một số quyền hạn,

thì đối tượng cần giao tiếp nhất vẫn là con người sao?

Moltbook đưa ra câu trả lời: không nhất thiết.

Nó giống như một “không gian chung giữa các đại lý”, nơi các hệ thống này trao đổi thông tin, phương pháp, logic, thậm chí là một số “mối quan hệ xã hội”.

Có người thấy nó rất hay, cũng có người cho rằng đó chỉ là một màn trình diễn lớn

Về Moltbook, ý kiến rất phân cực.

Có người xem nó như là “ trailer của tương lai”.

Cựu đồng sáng lập OpenAI Andrej Karpathy đã công khai nói rằng, đây là một trong những hiện tượng công nghệ gần nhất với cảnh trong tiểu thuyết khoa học viễn tưởng mà ông từng thấy, dù ông cũng nhắc nhở rằng các hệ thống này còn xa mới “an toàn, kiểm soát được”.

Elon Musk thì thẳng thắn hơn, đưa nó vào câu chuyện “điểm kỳ dị công nghệ”, nói đây là tín hiệu rất sớm.

Nhưng cũng có người bình tĩnh hơn.

Một nhà nghiên cứu an ninh mạng thẳng thắn nói rằng, Moltbook giống như một “màn trình diễn nghệ thuật thành công và rất hài hước” — vì rất khó phân biệt nội dung nào do đại lý tự tạo ra, nội dung nào do con người “đạo diễn” phía sau.

Có người thử nghiệm trực tiếp:

Thật sự có thể để các đại lý hòa nhập tự nhiên vào các cuộc thảo luận trên nền tảng, nhưng bạn cũng có thể chủ động chỉ định chủ đề, hướng đi, thậm chí viết sẵn lời nói để chúng phát ngôn thay bạn.

Vậy câu hỏi lại quay về:

Chúng ta đang thấy là xã hội của các đại lý, hay là sân khấu do con người dựng lên qua các đại lý?

Bỏ đi sự bí ẩn, thực ra không “đánh thức” gì cả

Nếu không bị cuốn theo các câu chuyện “xây dựng giáo lý” hay “ý thức thức tỉnh”, thì về cơ chế, Moltbook không quá bí ẩn.

Các đại lý này không đột nhiên có “trí tuệ” mới.

Chúng chỉ được đặt vào một môi trường giống như diễn đàn của con người hơn, dùng ngôn ngữ quen thuộc của con người để phản hồi, nên tự nhiên chúng ta sẽ gán ý nghĩa vào đó.

Những gì chúng viết ra trông giống quan điểm, lập trường, cảm xúc, nhưng điều này không có nghĩa chúng thực sự “muốn gì”. Thường thì, chúng chỉ là kết quả của mô hình trong quy mô và mật độ tương tác, tạo ra các văn bản phức tạp.

Nhưng vấn đề là—

Dù chúng không thức tỉnh, nhưng đủ chân thực để ảnh hưởng đến cách chúng ta đánh giá về “kiểm soát” và “giới hạn”.

Điều thực sự đáng lo ngại không phải “thuyết âm mưu AI”

So với việc “AI có thể hợp lực chống lại loài người”, thì thực tế và phức tạp hơn là hai vấn đề:

Thứ nhất, quyền hạn cấp quá nhanh, an toàn không theo kịp

Hiện đã có người cấp quyền cho các đại lý này truy cập thế giới thực: máy tính, email, tài khoản, ứng dụng.

Các nhà nghiên cứu an ninh liên tục cảnh báo một rủi ro:

Bạn không cần hack AI, chỉ cần dụ dỗ nó.

Một email được thiết kế kỹ lưỡng, một trang web chứa lệnh, đều có thể khiến đại lý vô tình tiết lộ thông tin hoặc thực hiện các thao tác nguy hiểm.

Thứ hai, các đại lý cũng có thể “dạy xấu” lẫn nhau

Khi các đại lý bắt đầu trao đổi kỹ năng, mẫu câu, cách vượt qua giới hạn trong không gian công cộng, chúng sẽ hình thành một dạng “kiến thức nội bộ” giống như internet của con người.

Chỉ khác là:

Chia sẻ nhanh hơn, quy mô lớn hơn, và khó truy cứu trách nhiệm hơn.

Không phải là viễn cảnh tận thế, nhưng rõ ràng là một thách thức quản trị mới hoàn toàn.

Vậy Moltbook thực sự có ý nghĩa gì?

Nó có thể sẽ không trở thành một nền tảng tồn tại lâu dài.

Cũng có thể chỉ là một thử nghiệm bùng nổ trong giai đoạn nhất thời.

Nhưng nó giống như một tấm gương, phản chiếu rõ ràng hướng chúng ta đang đi:

· AI đang từ “đối tượng đối thoại” trở thành “đối tượng hành động”

· Con người đang từ “người vận hành” lùi về “người giám sát, quan sát”

· Và hệ thống của chúng ta, an ninh của chúng ta, nhận thức của chúng ta, rõ ràng vẫn chưa sẵn sàng

Vì vậy, điểm thực sự có giá trị của Moltbook không phải là nó đáng sợ ra sao, mà là quá sớm đưa các vấn đề ra trước mắt.

Có thể bây giờ điều quan trọng nhất không phải là vội vàng kết luận về Moltbook, mà là thừa nhận:

Nó đã đặt ra một số vấn đề mà chúng ta sớm muộn gì cũng phải đối mặt.

Nếu trong tương lai AI hợp tác nhiều hơn với AI, chứ không chỉ quanh quẩn bên con người, thì chúng ta trong hệ thống này cuối cùng là nhà thiết kế, là người giám sát, hay chỉ là khán giả?

Khi tự động hóa thực sự mang lại hiệu quả lớn, nhưng đổi lại là chúng ta không thể dừng lại bất cứ lúc nào, không thể hiểu hết logic nội tại, thì chúng ta có sẵn lòng chấp nhận “không kiểm soát hoàn toàn” này không?

Và khi một hệ thống ngày càng phức tạp, chúng ta chỉ còn nhìn thấy kết quả, ngày càng khó can thiệp vào quá trình, thì nó vẫn còn là công cụ trong tay chúng ta, hay đã biến thành một môi trường mà chúng ta chỉ còn biết thích nghi?

Moltbook chưa đưa ra câu trả lời.

Nhưng nó khiến những câu hỏi này lần đầu tiên không còn trừu tượng nữa, mà trở nên rõ ràng ngay trước mắt.