Jak škálování po tréninku přináší zlepšení inteligence AI
Závod v oblasti AI vstupuje do nové fáze, kdy dochází k prudkému přechodu od hrubé síly škálování trénovacích dat ke strategickému zesilování modelů po tréninku.
Nedávné informace o modelu Grok 4 společnosti xAI ukazují strukturální posun v tom, jak se dosahuje zlepšení AI, a to nikoli zvětšováním modelu nebo přidáváním dalších dat, ale investicemi do výpočetního výkonu po tréninku.
Až do konce roku 2024 byly většina pokroků v AI poháněna škálovacími zákony „Chinchilla“ – trénováním stále větších modelů na stále větších datových sadách.
To se změnilo s modelem o1 od OpenAI a podle Barclays je nyní tento trend urychlován modelem Grok 4.
