Anthropic đã công bố vào ngày 9 tháng 4 việc chính thức đưa “Advisor strategy” vào Claude Platform. Giờ đây, nhà phát triển có thể để Opus đảm nhiệm vai trò cố vấn thông qua Messages API, kết hợp Sonnet hoặc Haiku làm người thực thi, đạt được mức hiệu suất trí tuệ gần tương đương Opus trong một lần gọi API, đồng thời giảm đáng kể chi phí. Tính năng này hiện đang được cung cấp dưới dạng bản thử nghiệm công khai.
Cơ chế hoạt động: Khi người thực thi gặp phải các vấn đề khó khăn, sẽ tự động tham vấn Opus
Khái niệm cốt lõi của Advisor strategy là tách rời suy luận và thực thi. Sau khi nhà phát triển thêm công cụ advisor vào lệnh gọi Messages API, khi agent Sonnet hoặc Haiku trong quá trình thực hiện nhiệm vụ gặp quyết định khó khăn, nó sẽ tự động hỏi Opus để lấy các gợi ý lập kế hoạch, rồi tiếp tục thực thi. Toàn bộ quá trình diễn ra trong một yêu cầu API duy nhất, không cần nhà phát triển sắp xếp thêm.
Cấu trúc này tương tự cách phân công giữa một cố vấn cấp cao và người thực thi trong một nhóm — Opus chịu trách nhiệm cho các phán đoán chiến lược cấp cao, còn Sonnet hoặc Haiku phụ trách thao tác thực tế; hai bên phối hợp trong cùng một luồng công việc.
Thực nghiệm: Hiệu năng tăng và chi phí thấp hơn
Theo dữ liệu đánh giá mà Anthropic công bố, trong bài kiểm tra chuẩn SWE-bench Multilingual, hiệu suất của Sonnet khi kết hợp với Opus advisor cao hơn 2,7 điểm phần trăm so với việc chỉ dùng riêng Sonnet, trong khi chi phí cho mỗi nhiệm vụ lại giảm 11,9%.
Nguyên nhân chi phí giảm là vì phần lớn nhiệm vụ vẫn được xử lý bởi Sonnet hoặc Haiku có chi phí thấp hơn; Opus chỉ được gọi tại các điểm quyết định then chốt, qua đó tránh việc sử dụng Opus trong suốt toàn bộ quá trình và phải trả phí cao.
Ý nghĩa đối với nhà phát triển
Advisor strategy mang đến cho các nhà phát triển xây dựng AI agent một lựa chọn cân bằng chi phí-hiệu năng mới. Trước đây, nhà phát triển phải chọn giữa “dùng Opus cho toàn bộ quá trình nhưng chi phí cao” hoặc “dùng Sonnet cho toàn bộ quá trình nhưng có thể sai khi gặp vấn đề phức tạp”. Giờ đây, có thể tận dụng ưu điểm của cả hai thông qua kiến trúc lai.
Cộng đồng phản ứng rất sôi nổi, và một số nhà phát triển ví nó như “đường dây sinh mệnh để gọi cầu cứu” trong chương trình dành cho triệu phú — người thực thi làm việc độc lập thường ngày, và chỉ khi gặp đúng bài toán khó mới tìm đến cao thủ để được trợ giúp.
Bài viết “Anthropic ra mắt Advisor strategy: Opus làm cố vấn kết hợp Sonnet thực thi, nâng hiệu năng và giảm chi phí 12%” xuất hiện sớm nhất trên Tin tức chuỗi ABMedia.