Коммерческий ИИ долгое время ассоциировался с CNN, рекомендательными системами и LLM, где основную работу выполняли GPU. Сейчас картину резко меняет агентный ИИ, а также reasoning‑модели и архитектуры mixture‑of‑experts (MoE).
Почему агентам нужен именно CPU
Агент — это не ещё одна нейросеть, а надстройка‑оркестратор над моделями. Он:
- отправляет токены в LLM или другие модели
- анализирует ответы
- принимает решения по ветвящейся логике
if‑then‑else - вызывает API, запускает утилиты, формирует новые запросы
Такая насыщенная развилками логика плохо ложится на GPU, но идеально подходит для CPU. В классическом сервисе LLM CPU в основном играл роль хоста: инициализация, I/O, PCIe, масштабирование. Нагрузка была небольшой, поэтому одно CPU обычно обслуживало несколько GPU, и типичное соотношение составляло около 1 CPU : 4 GPU.
С агентными нагрузками CPU уже выполняет «реальную» работу, а не только обслуживает акселераторы. В отрасли всё чаще звучат оценки о сдвиге к 1:1 CPU:GPU, что уже подогревает спрос и цены на многоядерные, энергоэффективные серверные процессоры.
Reasoning, MoE и SLM: акселераторы по‑прежнему нужны
Новые типы моделей по‑разному борются с ресурсной прожорливостью LLM, но всё ещё опираются на GPU/акселераторы:
- Reasoning‑модели добавляют дополнительный этап вывода и иногда возвращают объяснимую цепочку рассуждений. Примеры: OpenAI O‑series, DeepSeek‑R1.
- MoE‑модели заменяют часть плотных FFN‑слоёв набором параллельных экспертов плюс обучаемый роутер, выбирающий экспертов для каждого токена.
- SLM (small language model) — компактные, узкоспециализированные модели, работающие автономно.
Все они могут использоваться агентами, но тяжёлая математика остаётся на GPU/NPUs. Именно агентный уровень — планирование, последовательности действий, tool‑use, JSON‑сценарии — возвращает CPU в центр внимания и заставляет заново проектировать архитектуру AI‑кластеров.
Источник: Semiconductor Engineering
