Vitalik đề xuất tiêu chuẩn hóa phần cứng LLM cục bộ theo ngưỡng bộ nhớ 96GB

ETH-3,48%
Theo PANews, vào ngày 28/5, đồng sáng lập Ethereum Vitalik Buterin cho rằng các triển khai mô hình ngôn ngữ cục bộ (LLM) nên được tiêu chuẩn hóa theo các cấu hình bộ nhớ cụ thể, với 96GB được xác định là một giới hạn trên khả thi cho phần cứng hiện tại. Buterin dẫn ví dụ GPU RTX 6000 với 96GB VRAM và các MacBook cao cấp với 128GB bộ nhớ dùng chung, đồng thời cho biết cần dành khoảng 32GB cho các tác vụ hệ thống khác. Ông đề xuất hệ sinh thái áp dụng các bậc dung lượng tiêu chuẩn—2GB, 8GB, 24GB, 96GB, 256GB và 1TB—nhằm nâng cao hiệu quả triển khai và khả năng tương thích đa nền tảng cho cả LLM và thiết kế phần cứng GPU.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ các nguồn bên thứ ba và chỉ mang tính chất tham khảo. Thông tin này không phản ánh quan điểm hoặc ý kiến của Gate và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Giao dịch tài sản ảo tiềm ẩn rủi ro cao. Vui lòng không chỉ dựa vào thông tin trên trang này khi đưa ra quyết định. Để biết thêm chi tiết, vui lòng xem Tuyên bố miễn trừ trách nhiệm.
Bình luận
0/400
Không có bình luận