El gasto empresarial en IA de código abierto cae al 11%, pero aún domina los entornos de producción

Según Jesse Zhang, CEO de Decagon, según lo monitoreado por Beating, el gasto empresarial en IA de código abierto representa actualmente solo el 11% del gasto total en modelos de gran tamaño, ya que la mayoría de las empresas se encuentran en una fase de exploración temprana con modelos de código cerrado. Sin embargo, en el propio entorno de producción de Decagon, el 90% de las llamadas de inferencia ya han migrado a modelos de código abierto, impulsadas por los requisitos de baja latencia y capacidad de ajuste fino profundo. Zhang señala que, a medida que los casos de uso maduren, los modelos de código abierto ganarán cada vez más terreno en los entornos de producción debido a su personalización superior y velocidad de respuesta, algo crítico en escenarios de atención al cliente donde retrasos de 8 segundos en la respuesta degradan la experiencia del usuario.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios