xAI, по сообщениям, располагает около 550 000 GPU $NVDA H100 и H200, но использует только около 11% этого парка, что примерно равно 60 000 GPU, эффективно задействованных

По данным The Information, ключевая проблема заключается не в наличии аппаратного обеспечения, а в эффективности программного стека. При масштабных операциях время простоя быстро увеличивается, потому что системы распределенного обучения, обработки данных, планирования и анализа становятся сложнее координировать
$META и $GOOG по сообщениям достигают гораздо лучшей загрузки, около 43% и 46%, потому что их внутренние программные стеки более зрелые
Цель xAI — достичь 50% загрузки, но срок не указан. Основной путь вперед — улучшение оркестровки инфраструктуры, программного обеспечения для обучения, оптимизация обработки данных и управление рабочими нагрузками