Команда відкритого коду рушія для логіки SGLang завершила посівне фінансування на суму 100 мільйонів доларів, лідером є Accel

robot
Генерація анотацій у процесі

Згідно з моніторингом Beating, команда, яка стоїть за відкритим рушієм для інференції SGLang, офіційно заснувала компанію RadixArk, завершила посівне фінансування на суму 100 мільйонів доларів США, після чого оцінка компанії склала 400 мільйонів доларів США. Accel виступила головним інвестором, Spark Capital — співінвестором, а NVIDIA (через NVentures) і AMD — одночасно інвестували як конкуренти у чіпах, також у список інвесторів увійшли MediaTek.

SGLang — це проміжний рівень між моделлю та апаратним забезпеченням, який зменшує витрати на інференцію AI шляхом більш ефективного розподілу відеопам’яті. Проект був запущений у 2023 році і наразі щодня обробляє трильйони токенів для Google, Microsoft, NVIDIA, Oracle, xAI та інших. RadixArk одночасно керує ще одним відкритим проектом Miles, який зосереджений на масштабному навчанні з підсиленням, і вже використовується для тренування MoE (змішаної експертної архітектури, яка активує лише частину параметрів для зменшення обчислювальних витрат).

Компанію заснували Чжуху Бангхуа та Шен Шен. Фінансування буде використане для розширення двох відкритих проектів, підтримки більшої кількості архітектур моделей і апаратних платформ, а також для запуску корпоративних послуг з управління інфраструктурою.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити