Промислова революція, чим дешевше вугілля, тим більше його спалюють. Зараз у епоху AI Token працює так само


Коли Token стає дешевшим, AI-продукти навпаки можуть більше спалювати
Раніше ти ставив питання — модель відповідала, і все закінчувалося
Зараз ти натискаєш, агент у фоновому режимі розподіляє завдання, шукає інформацію, налаштовує інструменти, пише код, виправляє помилки, підсумовує, виконує повний цикл
Тому окремий Token подешевшав, але одна задача споживає занадто багато Token
Ось чому рахунки все ще зростають
Після того, як парова машина стала більш економною у спалюванні вугілля, у Великій Британії його не менше спалювали. Адже вугілля стало більш вигідним, і більше машин, фабрик, залізниць почали його спалювати
Token — це той самий логіка
Після здешевлення агентів, глибоких досліджень, AI-програмування, довгого контексту, автоматизації підприємств справжній запуск
Тому витрати на AI зараз зосереджені не на тренуванні, а на виведенні
Тренування — це тимчасовий процес, а виведення — постійний. Користувач онлайн — воно спалює. Агент працює — воно спалює. Чим довший контекст, тим більший кеш, пам’ять, пропускна здатність, електроенергія, охолодження — все це стає більш навантаженим
Ось чому AI-індустріальний ланцюг не можна дивитися лише через GPU
HBM, DRAM, SSD, передові пакети, оптичні модулі, комутуючі чіпи, CPU, inference-чіпи — все це переоцінюється через цю хвилю попиту на виведення
Компанії, що застосовують AI, також будуть змушені розділятися на рівні
Ті, що мають лише інтерфейсний шар і повністю залежать від закритих API, — з більшою кількістю користувачів рахунки зростають, маржа зменшується
Справжні бар’єри будуть поглиблюватися: маршрутизація, кількісні методи, кешування, пакетна обробка, обрізка контексту, заміна великих моделей малими
Так, Token — це вугілля
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити