Nhóm phát triển engine suy luận mã nguồn mở SGLang hoàn thành vòng gọi vốn hạt giống trị giá 100 triệu USD, Accel dẫn đầu

robot
Đang tạo bản tóm tắt

Theo theo dõi Beating, nhóm đứng sau công cụ suy luận mã nguồn mở SGLang chính thức thành lập công ty RadixArk, hoàn thành vòng gọi vốn hạt giống trị giá 100 triệu USD, định giá sau đầu tư là 400 triệu USD. Accel dẫn đầu, Spark Capital đồng dẫn, Nvidia (thông qua NVentures) và AMD hai đối thủ cạnh tranh về chip cùng tham gia đầu tư, MediaTek cũng nằm trong danh sách nhà đầu tư.

SGLang là lớp trung gian giữa mô hình và phần cứng, giảm thiểu chi phí suy luận AI bằng cách điều phối bộ nhớ đồ họa hiệu quả hơn. Dự án bắt đầu vào năm 2023, hiện xử lý hàng nghìn tỷ token mỗi ngày cho Google, Microsoft, Nvidia, Oracle, xAI và các công ty khác. RadixArk đồng thời vận hành một dự án mã nguồn mở khác là Miles, tập trung vào huấn luyện học tăng cường quy mô lớn, đã được sử dụng để huấn luyện MoE (mô hình kiến trúc chuyên gia hỗn hợp, chỉ kích hoạt một phần tham số để giảm lượng tính toán).

Công ty được thành lập bởi Banghua Zhu và Ying Sheng. Vốn huy động sẽ được sử dụng để mở rộng hai dự án mã nguồn mở, hỗ trợ nhiều kiến trúc mô hình và nền tảng phần cứng hơn, đồng thời ra mắt dịch vụ hạ tầng quản lý dành cho doanh nghiệp.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim