xAI, за повідомленнями, має близько 550 000 GPU $NVDA H100 та H200, але використовує лише близько 11% цього парку, що еквівалентно приблизно 60 000 ефективно використаних GPU


Згідно з The Information, ключовою проблемою є не доступність апаратного забезпечення, а ефективність програмного стеку. При масштабах масиву час простою швидко зростає, оскільки системи розподіленого навчання, обробки даних, планування та аналізу стають важчими для координації
$META і $GOOG зазначають, що досягають набагато кращого використання, близько 43% і 46%, оскільки їх внутрішні програмні стеки більш зрілі
Мета xAI — досягти 50% використання, але конкретний термін не вказано. Основним шляхом вперед буде покращення оркестрації інфраструктури, програмного забезпечення для навчання, оптимізація обробки даних та управління навантаженням
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити