Google phát triển chip v2 Frozen để nhúng trực tiếp kiến trúc Gemini vào silicon, giúp tăng hiệu suất suy luận lên đến 10 lần

Theo The Information, Google đang phát triển Frozen v2, một chip máy chủ AI mới tích hợp trực tiếp kiến trúc nền tảng của Gemini vào silicon để tăng hiệu suất suy luận lên tới 10 lần. Không giống các chip đa dụng như GPU và TPU của chính Google, Frozen v2 đánh đổi tính linh hoạt để đổi lấy hiệu suất suy luận cao hơn và mức tiêu thụ năng lượng thấp hơn bằng cách “cứng hóa” kiến trúc mô hình ngay trong phần cứng.

Dự án xuất phát từ tình trạng thiếu năng lực tính toán AI nghiêm trọng của Google, khiến tài nguyên GPU và TPU nội bộ bị căng thẳng và ảnh hưởng đến một số khách hàng Google Cloud. Google đã đồng ý chi khoảng 1Bỷ USD mỗi tháng cho SpaceX để có năng lực tính toán AI do xAI cung cấp nhằm bù đắp khoảng trống về hạ tầng.