L'équipe du moteur d'inférence open source SGLang a levé 100 millions de dollars lors d'une levée de fonds seed, avec Accel en lead.

Selon le suivi Beating, l’équipe derrière le moteur d’inférence open source SGLang a officiellement créé la société RadixArk, a réalisé une levée de fonds de 100 millions de dollars lors du tour de seed, avec une valorisation post-investissement de 400 millions de dollars. Accel a mené le tour, Spark Capital a co-investi, Nvidia (via NVentures) et AMD, deux concurrents dans le domaine des puces, ont également participé, et MediaTek fait également partie des investisseurs.

SGLang est une couche intermédiaire entre le modèle et le matériel, permettant de réduire le coût de l’inférence AI en optimisant la gestion de la mémoire vidéo. Le projet a été lancé en 2023, traitant actuellement des dizaines de billions de tokens chaque jour pour Google, Microsoft, Nvidia, Oracle, xAI, etc. RadixArk gère également un autre projet open source, Miles, axé sur l’entraînement à grande échelle par apprentissage par renforcement, qui a été utilisé pour l’entraînement MoE (Experts Mixtes, une architecture de modèle qui active uniquement une partie des paramètres pour réduire la charge de calcul).

L’entreprise a été fondée par Banghua Zhu et Ying Sheng. La levée de fonds sera utilisée pour développer les deux projets open source, soutenir davantage d’architectures de modèles et de plateformes matérielles, et lancer un service d’infrastructure hébergée destiné aux entreprises.