Coinbase скорочує витрати на ШІ вдвічі після переходу на моделі з відкритим кодом, включаючи GLM 5.2, Kimi 2.7

Згідно з BlockBeats, генеральний директор Coinbase Браян Армстронг оголосив сьогодні (28 червня), що компанія скоротила витрати на ШІ приблизно наполовину після переходу на моделі з відкритим кодом за замовчуванням, зокрема GLM 5.2 та Kimi 2.7, навіть попри те, що використання токенів продовжує експоненційно зростати.

Тепер компанія використовує інтелектуальну маршрутизацію моделей та оптимізацію кешу, щоб знизити витрати на інференцію, застосовуючи за замовчуванням дешевші моделі з відкритим кодом і залишаючи потужніші моделі для необхідних сценаріїв.