Расходы корпораций на открытый ИИ упали до 11%, но доминируют в производственных средах

По словам генерального директора Decagon Джесси Чжана, как сообщает Beating, расходы предприятий на открытые модели ИИ в настоящее время составляют всего 11% от общих затрат на большие языковые модели, поскольку большинство компаний остаются на этапе раннего изучения с использованием закрытых моделей. Однако в собственной производственной среде Decagon 90% вызовов для инференса уже переключены на открытые модели, что обусловлено требованиями низкой задержки и возможностями глубокой тонкой настройки. Чжан отмечает, что по мере развития сценариев использования открытые модели будут всё чаще занимать производственные среды благодаря лучшей кастомизации и скорости ответа — это критически важно для сценариев обслуживания клиентов, где задержки ответа в 8 секунд ухудшают пользовательский опыт.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев