O servidor Lenovo AI alcançou pela primeira vez a implementação local do modelo DeepSeek de grande porte com menos de 1TB, suportando 100 operações simultâneas.

GoldenOctober2024
DEEPSEEK-2,93%
G3-0,03%

A data de 3 de março da Golden 10 News, recentemente, o Grupo Lenovo anunciou que com base no servidor Lenovo WATian WA7780 G3, pela primeira vez na indústria, foi realizado o implantação única do grande modelo DeepSeek-R1/V3 671B, com menos de 1TGB de memória de vídeo reconhecida pela indústria (na realidade, 768GB), proporcionando uma experiência fluida para 100 usuários simultâneos. Segundo os dados de teste da Lenovo, em um ambiente de teste padrão de 512 TOKEN, o sistema suporta 100 usuários simultâneos que recebem continuamente uma saída estável de 10 TOKEN por segundo, com o tempo de resposta do token principal comprimido para menos de 30 segundos.

Ver original
Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.
Comentário
0/400
Andruchovip
· 2025-03-03 05:30
autor excelente!!!
Ver originalResponder0
Negocie criptomoedas a qualquer hora e em qualquer lugar
qrCode
Escaneie o código para baixar o app da Gate
Comunidade
Português (Brasil)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)