Google планує заморозити чіп для ШІ v2, щоб інтегрувати архітектуру Gemini, що може підвищити ефективність інференсу в 6–10 разів до 2028 року

За Beating, Google розробляє ШІ-інференс-чіп Frozen v2, який вбудує частину архітектури Gemini безпосередньо в апаратне забезпечення, щоб зменшити обчислювальні витрати та накладні витрати на переміщення даних під час виконання моделей. Очікується, що чіп зможе обробляти до 6–10 разів більше токенів на ват, ніж останній TPU Google, а його розгортання планують щонайраніше в 2028 році.

Ініціатива спрямована на подолання погіршення дефіциту чипів у Google, через який Google Cloud уже змушений відхиляти замовлення зовнішніх клієнтів. Frozen v2 працюватиме разом із TPU: тоді як TPU підтримує різні моделі, Frozen v2 робить пріоритетом ефективність замість гнучкості.