Meta nasazuje Llama 4, Intel podporuje novou generaci AI modelů svými čipy
Společnost Meta (NASDAQ:META) nedávno uvedla na trh první modely stáda Llama 4, které mají usnadnit vytváření personalizovanějších multimodálních zážitků.
Společnost Intel (NASDAQ:INTC), blízký partner společnosti Meta, oznámila funkční podporu modelů Llama 4 v akcelerátoru umělé inteligence Intel® Gaudi® 3 a procesorech Intel® Xeon®. Akcelerátory Intel Gaudi 3 AI jsou speciálně navrženy pro pracovní zátěž umělé inteligence a využívají výhod jader Tensor a osmi velkých jednotek pro násobení matic, na rozdíl od mnoha menších jednotek pro násobení matic, které se nacházejí v GPU. Tato konstrukce vede k menšímu počtu přenosů dat a lepší energetické účinnosti. Za zmínku stojí, že nový model Llama 4 Maverick lze provozovat na jediném uzlu Gaudi 3 s 8 akcelerátory.
Procesory Intel Xeon jsou navrženy tak, aby zvládaly náročné end-to-end pracovní úlohy umělé inteligence. Procesory Intel Xeon, které jsou k dispozici u hlavních poskytovatelů cloudových služeb, obsahují v každém jádře engine AI (AMX), který odemyká nové úrovně výkonu pro odvozování a trénování. Kombinace instrukcí Intel Xeon AMX, velké kapacity paměti a zvýšené šířky paměťového pásma v procesorech Intel® Xeon® 6 činí z procesorů Xeon cenově výhodné řešení pro nasazení modelů MoE, jako je Llama 4.
Software otevřeného ekosystému, včetně PyTorch, Hugging Face, vLLM a OPEA, je optimalizován pro procesory Intel Gaudi a Intel Xeon, což zjednodušuje nasazení systémů AI.
