Agentik AI, LLM, mixture-of-experts (MoE) və reasoning modelləri artıq təkcə startap mövzusu deyil, data mərkəzlərinin arxitekturasını real şəkildə dəyişir. Uzun müddət kommersiya AI yükünün əsas ağırlığını GPU daşıyırdı: CNN, tövsiyə sistemləri və klassik LLM inferensi üçün ideal idi. Amma agentik yanaşma oyunun qaydalarını dəyişir.
Niyə birdən-birə CPU bu qədər vacib oldu?
Agent – bu, yeni model deyil, müxtəlif modelləri orkestr edən daha yüksək səviyyəli abstraksiyadır. Agent:
- LLM-ə sorğu göndərir (token axını)
- Cavabı oxuyur
if-then-elseməntiqinə görə növbəti addımı seçir- API çağırır, skript işə salır, yeni sorğu formalaşdırır
Bu cür intensiv şaxələnən məntiq GPU üçün əlverişli deyil, amma CPU üçün klassik işdir. Əvvəl tipik LLM klasterlərində nisbət təxminən 1 CPU : 4 GPU idi – CPU sadəcə host rolunda idi. Agentik AI ilə CPU artıq real işi görür və sənayedə 1:1 CPU:GPU nisbəti barədə danışılır. Bu isə yüksək nüvəli, enerji-effektiv CPU-lara tələbatı və qiymətləri artırır.
Reasoning, MoE və SLM-lər harada yerləşir?
Reasoning modelləri əlavə inference mərhələsi ilə cavabın necə alındığını izah edə bilir; ağır hesablamalar yenə də GPU və ya AI akseleratorlarında gedir. OpenAI O-series, DeepSeek-R1 bu sinfə aid kommersiya nümunələridir.
Böyük LLM-lərin resurs aclığını azaltmaq üçün iki yanaşma formalaşıb:
- SLM (small language model) – dar sahə üçün kiçik, müstəqil model
- MoE – qatların içində bir neçə "expert" FFN saxlayan böyük model, router hər token-i uyğun ekspertdən keçirir
Hər iki halda bu modellər agentlər tərəfindən istifadə oluna bilər, amma agentin öz orkestrasiya məntiqi CPU üzərində işləyir. Nəticədə, AI sistemlərinin dizaynında artıq təkcə GPU sayı deyil, CPU-nun rolu və balansı əsas layihə parametri olur.
Mənbə: Semiconductor Engineering
