Theo phân tích blog mới nhất của Nvidia, GPU Blackwell có chi phí gần gấp đôi theo giờ so với thế hệ Hopper, nhưng lại mang đến chi phí suy luận theo mỗi token thấp hơn 35 lần. Dùng DeepSeek-R1 làm mô hình thử nghiệm, Blackwell (GB300 NVL72) cho thuê ở mức 2,65 USD mỗi GPU mỗi giờ, trong khi Hopper là 1,41 USD. Tuy nhiên, thông lượng trên một GPU tăng từ 90 lên 6.000 token mỗi giây. Mức tăng thông lượng 65 lần này làm giảm chi phí theo 1 triệu token từ 4,20 USD xuống 0,12 USD.
Con số 0,12 USD giả định tối ưu phần mềm đầy đủ, bao gồm suy luận độ chính xác thấp FP4 và dự đoán đa token (MTP). Nếu không bật MTP, chi phí theo 1 triệu token đạt khoảng 2,35 USD, sau đó giảm xuống 0,11 USD khi bật tính năng này, cho thấy chỉ riêng MTP đã tạo ra tác động tối ưu 21 lần.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Forefront Tech hoàn tất định giá IPO $100M , sẽ niêm yết trên Nasdaq
Theo ChainCatcher, Forefront Tech Holdings Acquisition Corp đã hoàn tất định giá IPO 100 triệu USD vào ngày 30/4, dự kiến niêm yết trên Nasdaq với mã FTHAU. Số tiền thu được sẽ được sử dụng để tìm kiếm cơ hội sáp nhập và mua lại trong blockchain, trí tuệ nhân tạo, fintech và các lĩnh vực khác
GateNews35phút trước
Cựu lãnh đạo Meta huy động vốn cho startup AI Flourish với định giá 2,5 tỷ USD
Theo Bloomberg, Thomas Reardon, cựu giám đốc điều hành của Meta, người từng dẫn dắt mảng công việc liên quan đến Neural Band của Meta, đang huy động vốn cho Flourish, một startup AI mới tập trung vào các hệ thống AI tiêu tốn ít năng lượng. Lux Capital và Google Ventures đã đồng ý trở thành các nhà đầu tư lớn, và các nhà hậu thuẫn hiện đã cam kết 500 triệu USD ở mức định giá 2,5
GateNews37phút trước
OpenAI Truy Vết Vấn Đề “Goblin” Tới Tín Hiệu Phần Thưởng Nhân Cách “Nerdy”, Các Nhắc Đến “Goblin” Tăng 175% Trong GPT-5.1
Theo OpenAI, công ty đã xác định được nguyên nhân gốc rễ của vấn đề “goblin” đã gây ảnh hưởng đến các mô hình GPT từ GPT-5.1 trở đi. Tín hiệu phần thưởng được dùng để củng cố đặc điểm tính cách “Nerdy” đã khuyến khích các đầu ra có nhắc đến các sinh vật giả tưởng, với 76,2% của tập dữ liệu huấn luyện cho thấy
GateNews1giờ trước
Parallel Web Systems huy động $100M vòng Series B với $2B định giá, do Sequoia dẫn dắt
Theo TechCrunch, Parallel Web Systems, một startup AI được thành lập bởi cựu CEO Twitter Parag Agrawal, đã huy động 100 triệu USD ở vòng Series B do Sequoia dẫn dắt, với định giá 2 tỷ USD. Vòng này nâng tổng vốn công ty lên 230 triệu USD, chỉ năm tháng sau vòng Series A 100 triệu USD. Parallel
GateNews1giờ trước
Tiệc kỷ niệm 8 năm sàn BitMart: Mang giao dịch tự động AI và dịch vụ bản địa đến người dùng tại Đài Loan
BitMart tổ chức tiệc kỷ niệm 8 năm tại Đài Bắc ở Trung tâm sự kiện Kowloon (君品), thu hút hơn 150 khách mời tham dự, đồng thời nhìn lại 8 năm phát triển và công bố chiến lược bản địa hóa cùng giao dịch tự động bằng AI. BitMart Skill kết hợp với Blave, cho phép người dùng không cần viết code vẫn có thể giao dịch tự động với AI và nhận các góc nhìn, dữ liệu thời gian thực. Số lượng người dùng toàn cầu đã vượt 13 triệu, các dự án niêm yết hơn 4.800 và khối lượng giao dịch đạt hơn 1 nghìn tỷ USD. Buổi tiệc có “thần tài” trực tiếp và nhiều phần quà giá trị, thể hiện quyết tâm gắn bó và phát triển tại Đài Loan.
ChainNewsAbmedia2giờ trước
SoftBank dự kiến niêm yết Roze vào năm 2026, đặt mục tiêu định giá 100 tỷ USD
Theo độc quyền của Financial Times (FT) ngày 30/4, SoftBank đang lên kế hoạch tách và thành lập tại Mỹ một công ty độc lập mới mang tên Roze, với mảng kinh doanh gồm robot AI và cơ sở hạ tầng trung tâm dữ liệu, mục tiêu hoàn tất IPO sớm nhất vào năm 2026, với định giá mục tiêu 100 tỷ USD. Financial Times cũng cho biết nội bộ SoftBank đang có những hoài nghi về mục tiêu định giá và lộ trình thời gian IPO.
MarketWhisper2giờ trước
