DeepSeeks neue Forschungsarbeit stellt das DualPath-Inferenzsystem vor, das die Belastbarkeit der Agenten fast verdoppelt

PANews 27. Februar – Während die Branche sehnsüchtig auf das neue Flaggschiffmodell DeepSeek V4 wartet, hat das DeepSeek-Team still und leise eine neue wissenschaftliche Arbeit veröffentlicht. Die neue Studie stellt ein innovatives Schlussfolgerungssystem namens DualPath vor, das speziell für die Optimierung der Inferenzeleistung großer Modelle (LLMs) unter der Arbeitsbelastung von Agenten entwickelt wurde. Durch die Einführung eines Mechanismus namens „Dual-Path Lesen des KV-Caches“ (ähnlich einem Speicher-Cache) wird die Speicherbelastung des Netzwerks neu verteilt, was die Offline-Inferenzdurchsatzrate um bis zu 1,87-mal erhöht und die durchschnittliche Anzahl der Agentenläufe pro Sekunde im Online-Service um 1,96-mal steigert. Im Einleitungsteil der Arbeit wird erwähnt, dass große Modelle sich rasch von Einzelrunden-Chatbots und unabhängigen Inferenzmodellen zu Agentensystemen entwickeln — die in der Lage sind, eigenständig zu planen, Werkzeuge zu nutzen und durch Mehrfachinteraktionen praktische Aufgaben zu lösen. Dieser Paradigmenwechsel in der Anwendung treibt eine bedeutende Veränderung in der Arbeitsbelastung der großen Modelle voran: vom traditionellen Mensch-Modell-Interaktion hin zu Mensch-Modell-Umwelt-Interaktion, bei der die Interaktionsrunden auf Dutzende oder sogar Hunderte steigen können.

Original anzeigen
Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Kommentieren
0/400
Keine Kommentare
Handeln Sie jederzeit und überall mit Kryptowährungen
qrCode
Scannen, um die Gate App herunterzuladen
Community
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)