Lenovo AIサーバーは初めてローカル展開DeepSeekフルブラッド大型モデル1TB未満、100同時実行をサポート

GoldenOctober2024
G30.18%

金十データ3月3日の報告によると、レノボグループは最近、レノボ天問WA7780 G3サーバーをベースにして、業界で初めてDeepSeek-R1/V3 671Bの大規模モデルを単一のマシンで展開し、業界で認められている1TGBのメモリー(実際768GB)を下回りながら、100の同時ユーザーに滑らかな体験を提供しました。レノボのテストデータによると、512 TOKENの標準テスト環境では、このシステムは100の同時ユーザーをサポートし、1秒あたり10 TOKENの安定した出力を持続させることができ、最初のTOKEN応答時間は30秒以内に短縮されました。

原文表示
免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。
コメント
0/400
Andruchovip
· 2025-03-03 05:30
作者は素晴らしいです!!!
原文表示返信0
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)