聯合創始人王東：推理市場沒有「萬能芯片」，而是解決方案的組合

A Golden Finance noticiou que, a 18 de julho, Wang Dong, cofundador e CEO da empresa fabricante de GPUs Moore Threads, disse: “O desenvolvimento dos grandes modelos está a avançar muito rapidamente tanto dentro como fora do país. Atualmente, os principais fabricantes concluem, em média, uma iteração do seu modelo base de ponta a cada dois meses. Quanto aos custos de utilização dos modelos, verificámos que os modelos base de ponta na China têm uma vantagem de custo evidente face a modelos de nível intelectual equivalente no estrangeiro, o que faz com que a relação custo-benefício dos modelos chineses seja mais elevada. Isto demonstra precisamente que, em condições de capacidade de computação limitada, as empresas de modelos têm feito muito trabalho no que diz respeito a melhorar a eficiência do modelo, a eficiência de preços e os custos de treino.”

Wang Dong referiu que o mercado de inferência não tem “um chip universal”, mas sim uma combinação de “soluções”. “O patamar técnico de aplicação no mercado de inferência é relativamente baixo, e os cenários são altamente fragmentados. Não existe nenhuma empresa capaz de monopolizar todos os cenários de aplicação especializados. Não há um único hardware absolutamente perfeito. Através de uma colaboração flexível entre software e hardware, cada modelo pode encontrar a combinação de hardware mais adequada para si, alcançando o melhor equilíbrio entre custo e desempenho. O mercado verá o surgimento de muitas empresas ISP, que irão fornecer aos fornecedores de MaaS ou aos clientes finais serviços de inferência mais custo-efetivos, mais flexíveis e mais personalizados.”