Через несколько лет каждый компьютер и каждый робот могут стать миниатюрным дата-центром.

Ходят слухи, что Apple разрабатывает M7 Ultra — он сможет поддерживать до 1,5 ТБ унифицированной памяти. Хотя характеристики и сроки выхода пока не подтверждены, тенденция уже очевидна:
локальные устройства будут становиться всё мощнее, а модели — благодаря квантизации, дистилляции и разреживанию — всё меньше, всё эффективнее.
Модели, которым сегодня нужен дата-центр для работы, через несколько лет сможет запускать один Mac Studio, AI PC и даже робот.
В будущем крупные дата-центры по-прежнему будут отвечать за обучение Frontier Model; но повседневные AI Agent, генерация изображений, анализ данных и решения для роботов будут всё чаще выполняться непосредственно на месте.
Особенно когда роботы начнут массово распространяться: каждой машине потребуется мощный чип для обработки зрения, речи и движений, но они не будут работать 24 часа в сутки.
Пока робот заряжается или простаивает, эти неиспользуемые вычислительные мощности можно высвобождать — для пакетного инференса, оценки моделей, генерации видео и других разъединимых задач — а затем они будут приносить доход хозяину.
Конечно, 10 000 распределённых компьютеров — это не один кластер из 10 000 GPU: они не подходят для совместного обучения одного сверхкрупного модели, но могут одновременно выполнять 10 000 разных задач инференса.
Поэтому дата-центры не исчезнут, но вычислительные мощности уже не будут навсегда концентрироваться только в них.
Прошлая эпоха — когда каждый дом мог выходить в интернет.
Следующая — возможно, когда каждый дом сможет предоставлять вычислительные мощности, чтобы компьютеры и роботы в простое продолжали работать за вас и создавать пассивный доход.