Wu Shuo повідомляє, що CEO Coinbase Браян Армстронг опублікував повідомлення, в якому зазначив, що компанія завдяки оптимізації інфраструктури майже вдвічі скоротила витрати на корпоративний ШІ, при цьому використання токенів ШІ продовжує зростати експоненціально. Її ключові заходи зі зниження витрат включають: використання відкритих моделей, таких як GLM 5.2 та Kimi 2.7, як опцій за замовчуванням для внутрішнього шлюзу LLM, за допомогою інтелектуальної маршрутизації підбираючи для завдань найбільш економічно ефективну модель, підвищення коефіцієнта потрапляння в кеш таких інструментів, як LibreChat, з 5% до 60%. Армстронг наголосив, що мета управління витратами на ШІ полягає не в обмеженні використання, а в тому, щоб зробити експоненціальне зростання стійким за рахунок скорочення відходів.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено