Сооснователь Moore Threads Ван Дун: в вычислительном рынке нет «универсального чипа», а есть набор решений

robot
Генерация тезисов в процессе
Jиньсэ кайцзи сообщает, 18 июля, сооснователь и генеральный директор (executive CEO) GPU-компании Moore Threads Ван Дун сказал: «Развитие больших моделей и внутри страны, и за рубежом происходит очень быстро. Сейчас ведущие компании в среднем каждые два месяца выпускают итерацию передовой базовой версии модели. При этом по стоимости вызовов моделей мы обнаружили, что у китайских передовых базовых моделей по сравнению с зарубежными моделями сопоставимого уровня интеллекта есть заметное ценовое преимущество — китайские модели дают более выгодное соотношение цена/качество. Это как раз указывает на то, что в условиях ограниченных вычислительных мощностей компании, занимающиеся моделями, проделали очень большую работу по повышению эффективности моделей, ценовой эффективности и снижению затрат на обучение». Ван Дун отметил, что на рынке инференса нет «универсального чипа», а есть комбинация «решений»: «технологический порог для прикладного внедрения на рынке инференса относительно невысок, а сценарии крайне фрагментированы — не существует ни одной компании, которая могла бы монополизировать все сегменты приложений; нет абсолютно идеального единственного типа аппаратного обеспечения. Благодаря гибкой совместной работе “железа” и ПО каждая модель может подобрать для себя наиболее подходящую комбинацию аппаратных компонентов, чтобы добиться оптимального баланса затрат и производительности. На рынке появится множество компаний ISP, которые будут обеспечивать для провайдеров MaaS или конечных клиентов более выгодные по цене и более гибкие услуги инференса с индивидуальной настройкой».
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено