Coinbase скорочує витрати на ШІ майже вдвічі, використовуючи моделі з відкритою вагою GLM і Kimi як стандартні

За словами генерального директора Браяна Армстронга від 29 червня, Coinbase скоротила витрати на ШІ майже вдвічі завдяки оптимізованим стандартним налаштуванням, маршрутизації та стратегіям кешування, а не обмеженням використання. Компанія встановила моделі з відкритою вагою, зокрема GLM від Zhipu та Kimi від Moonshot, як стандартні варіанти через свій шлюз LLM, при цьому 91% співробітників жодного разу не досягали лімітів використання. Показники попадання в кеш покращилися з 5% до 60%, що демонструє ефективність оптимізації на рівні інфраструктури.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів