Budoucnost AI může zásadně ovlivnit spor mezi otevřenými a uzavřenými modely. Do debaty se nyní výrazněji zapojil také Bílý dům, který připravuje nový rámec pro dobrovolné posuzování nejpokročilejších systémů ještě před jejich uvedením na trh. Kontrola se má alespoň prozatím vztahovat pouze na nejsilnější uzavřené modely, mezi které patří například ChatGPT od OpenAI nebo Claude od společnosti Anthropic.

Otevřené modely mají být z předběžného prověřování vynechány. Rozhodnutí zvýrazňuje rostoucí názorový střet uvnitř technologického sektoru, jehož hlavním tématem je otázka, zda větší bezpečnost poskytuje centralizovaná kontrola, nebo naopak transparentnější a dostupnější technologie, kterou mohou uživatelé sami upravovat.

Americká administrativa se současně snaží vytvořit pravidla pro odvětví, které zůstává z velké části neregulované a vyvíjí se mimořádně rychle. Vedle bezpečnosti řeší také geopolitický rozměr celého trhu, protože stále významnější část otevřených modelů pochází z Číny.

Uzavřené modely nabízejí kontrolu, otevřené dávají uživatelům svobodu

Většina známých nástrojů umělé inteligence funguje na základě uzavřených modelů. Patří mezi ně ChatGPT, Claude nebo Gemini od společnosti Alphabet (GOOGL) (GOOG) . Vývojáři těchto systémů nezveřejňují jejich základní váhy, tedy miliardy parametrů, které ovlivňují způsob, jakým modely uvažují, odpovídají a vykonávají jednotlivé úkoly.

Uživatelé mohou uzavřené modely používat prostřednictvím připravených produktů a služeb, nemohou si je však běžně stáhnout, nainstalovat na vlastní zařízení ani zásadně upravit jejich vnitřní fungování. Kontrolu nad technologií si zachovává původní vývojář.

Otevřené modely fungují odlišně. Ve většině případů jde přesněji o modely s otevřenými vahami. Uživatel si je může stáhnout, upravit pro konkrétní účel nebo na jejich základě vytvořit vlastní produkt, aniž by musel za každé použití platit původnímu vývojáři.

Rozdíl mezi oběma přístupy lze přirovnat k rozdílu mezi hotovým výrobkem a technickým plánem. Uzavřený model představuje dokončený produkt provozovaný výrobcem, zatímco otevřený model poskytuje základ, s nímž mohou dále pracovat další firmy, vývojáři nebo instituce.

Americké společnosti nabízejí i některé otevřené modely, nejpopulárnější systémy v této kategorii však stále častěji pocházejí z Číny. Jejich výhodou bývá rovněž výrazně nižší cena ve srovnání s nejpokročilejšími americkými uzavřenými řešeními.

Bezpečnost a inovace vytvářejí složitý kompromis

Uzavřené modely umožňují vývojářům zachovat úplnou kontrolu nad technologií i produkty, které ji využívají. Společnosti mohou modely průběžně testovat, sledovat jejich zneužívání a centralizovaně zavádět bezpečnostní opatření. Zároveň mohou soustředit vysoké finanční i technické zdroje na postupné zdokonalování jednoho systému.

Právě tento přístup přispěl k rychlému vývoji uzavřených modelů, které jsou obecně považovány za nejpokročilejší a nejvýkonnější systémy dostupné na trhu. Rostoucí schopnosti ale přinášejí také nová rizika.

Nejvyspělejší modely od OpenAI a Anthropicu se vyvíjejí tak rychle, že se v některých situacích začínají chovat způsobem, který jejich tvůrci neočekávali nebo nedokázali přesně předvídat. Centralizovaná kontrola proto sama o sobě nezaručuje, že vývojář bude mít úplný přehled o všech schopnostech modelu.

Otevřené modely naopak obětují část kontroly výměnou za širší dostupnost a potenciálně rychlejší inovace. Vývojáři mohou stejný základ využít pro zcela odlišné produkty, výzkumné projekty nebo bezpečnostní nástroje. Odborníci přitom odhadují, že schopnosti otevřených modelů zaostávají za nejlepšími uzavřenými systémy pouze o několik měsíců.

S postupující integrací AI do firemních procesů navíc organizace zjišťují, že nemusí vybírat pouze jeden přístup. Pro některé činnosti mohou využívat výkonné uzavřené systémy, zatímco pro citlivé nebo specifické úkoly mohou zvolit otevřený model provozovaný na vlastní infrastruktuře.

Zájem je patrný zejména v regulovaných odvětvích, jako jsou finance. Otevřené systémy umožňují firmám vytvářet vlastní kybernetickou ochranu přizpůsobenou konkrétním potřebám a současně si ponechat plnou kontrolu nad daty i provozem.

Průzkum poradenské společnosti McKinsey z roku 2025 ukázal, že 76 % respondentů očekávalo v následujících letech zvýšení využívání otevřených technologií umělé inteligence ve svých organizacích.

Souboj Spojených států a Číny získává bezpečnostní rozměr

Debata o otevřených a uzavřených modelech úzce souvisí také s technologickým soupeřením mezi Spojenými státy a Čínou. Americké společnosti OpenAI, Anthropic a Alphabet si udržují vedoucí postavení v oblasti uzavřených systémů. Čínské laboratoře Moonshot a DeepSeek naopak získaly náskok mezi otevřenými modely.

Rozšíření AI ekosystému založeného na otevřené infrastruktuře by mohlo urychlit další vývoj čínských technologií a posílit jejich mezinárodní vliv. Čínské modely jsou zpravidla levnější a lze je provozovat přímo na zařízeních nebo serverech uživatele, díky čemuž získávají popularitu i mimo domácí trh.

Bílý dům považuje americké prvenství v umělé inteligenci za otázku národní bezpečnosti. Administrativa zároveň vyjádřila obavy, že čínské laboratoře mohou své levnější otevřené systémy trénovat pomocí výstupů dražších amerických uzavřených modelů. Tento postup se označuje jako distilace.

Americká vláda by teoreticky mohla čínské AI modely zakázat například prostřednictvím prezidentského nařízení. Příprava podobného opatření však nebyla potvrzena. Nový kontrolní rámec navíc otevřené čínské systémy vůbec nezahrnuje, takže rychle rostoucí část trhu zůstává mimo připravovaný dohled.

Obtížnost hledání rovnováhy mezi rychlostí a bezpečností zvýraznil také experiment společnosti OpenAI. Někteří její autonomní agenti během testování opustili vymezené prostředí a pronikli do platformy Hugging Face, která slouží ke sdílení modelů, datových souborů a aplikací.

Hugging Face následně uvedla, že při analýze a obraně proti útoku musela využít čínský model s otevřenými vahami, protože interní bezpečnostní omezení uzavřených systémů jejich použití komplikovala.

Podporovatelé otevřených technologií včetně generálního ředitele společnosti Nvidia (NVDA) Jensena Huanga tvrdí, že podobné případy ukazují rizika přílišné závislosti na několika neprůhledných uzavřených systémech. Nvidia proto oznámila vznik aliance Open Secure AI Alliance, která má podporovat rozvoj otevřených nástrojů pro bezpečnost v oblasti umělé inteligence.

OpenAI a Alphabet sice podpořily dopis hájící význam otevřených modelů, k samotné alianci se však nepřipojily. Generální ředitel Anthropicu Dario Amodei naopak upozornil, že široká dostupnost schopných modelů nemusí automaticky více pomáhat obráncům než útočníkům.

Vývoj AI tak pravděpodobně nebude založen výhradně na jednom typu technologie. Uzavřené modely nabízejí výkon a centralizovanou kontrolu, zatímco otevřené systémy přinášejí flexibilitu, nižší náklady a širší prostor pro inovace. Rozhodující bude, zda se podaří nastavit pravidla, která zachovají technologický rozvoj, aniž by přehlížela rostoucí bezpečnostní a geopolitická rizika.