Spor o bezpečnost umělé inteligence se přesouvá do Washingtonu.

Americký ministr financí Scott Bessent uvedl, že administrativa prezidenta Donalda Trumpa se bezpečnostními riziky AI intenzivně zabývá, současně ale odmítl možnost, aby vývojáři nejpokročilejších modelů získali široké výjimky z právní odpovědnosti.

Bessent vystoupil 15. září před výborem Sněmovny reprezentantů pro finanční služby. Jeho komentáře přicházejí v době, kdy část představitelů AI průmyslu volá po pomalejším tempu vývoje nejpokročilejších systémů, zatímco Trump prosazuje pokračování rychlého rozvoje s důrazem na udržení amerického náskoku před Čínou.

Napětí mezi oběma přístupy zesílilo poté, co vedení společností Anthropic a OpenAI a Elon Musk podpořili větší opatrnost při vývoji frontier AI. Trump naopak veřejně odmítl požadavky na nové plošné mantinely a argumentoval tím, že americké úřady už disponují významnými regulatorními a trestněprávními pravomocemi.

Odpovědnost vývojářů má být podle Bessenta klíčovou pojistkou

Bessent během slyšení uvedl, že americké ministerstvo financí pracuje na otázkách bezpečnosti AI nepřetržitě od zveřejnění pokročilého modelu Mythos společnosti Anthropic. Pozornost se zaměřila mimo jiné na kybernetická rizika a možné dopady pokročilých systémů na finanční stabilitu.

Zásadní část jeho vystoupení se týkala právní odpovědnosti samotných AI laboratoří. Bessent odmítl myšlenku rozsáhlých výjimek, které by vývojáře chránily před odpovědností za škody způsobené jejich systémy. Podle něj je právě možnost nést následky za vytvořené a nasazené technologie jedním z hlavních mechanismů podporujících bezpečnější vývoj.

Debata je složitější v tom, že část technologických společností současně žádá vytvoření prostoru pro koordinaci bezpečnostních postupů napříč odvětvím. Některé návrhy počítají s omezenými právními výjimkami pro určité typy bezpečnostní spolupráce, nikoli nutně s úplným odstraněním odpovědnosti za produkty. Bessent však varoval před příliš širokou ochranou AI laboratoří.

Současně zatím nepodpořil žádný z projednávaných legislativních návrhů na širší regulaci AI. Administrativa se tak snaží kombinovat dohled nad konkrétními riziky s opatrností vůči pravidlům, která by podle jejích představitelů mohla zpomalit inovace nebo posílit dominantní postavení největších firem.

Trump odmítá zpomalení vývoje, prioritou zůstává konkurence s Čínou

Prezident Trump se k debatě postavil výrazněji. V pondělí odmítl požadavky na nové obecné mantinely pro AI a zdůraznil, že Spojené státy podle něj už mají nástroje umožňující zasáhnout proti společnostem, pokud jejich technologie porušují zákony nebo představují konkrétní riziko. Současně varoval, že výrazné zpomalení amerického vývoje by mohlo posílit Čínu.

Podobný důraz na rychlost inovací zastává šéf společnosti Nvidia (NVDA) Jensen Huang. Trump s Huangem veřejně hovořil během technologické konference v Los Angeles, kde se oba postavili proti plošnému zpomalování vývoje AI. Huang dlouhodobě zdůrazňuje možnost současně rozvíjet technologii a pracovat na její bezpečnosti.

Bessent před zákonodárci tento přístup popsal jako hledání rovnováhy mezi růstem, inovacemi a bezpečností. Součástí americké strategie má být také udržení technologického náskoku v pokročilých polovodičích, které představují základní infrastrukturu pro trénování nejvýkonnějších AI systémů.

Kontrola přístupu k nejpokročilejším čipům je proto zároveň otázkou technologické i geopolitické politiky. Washington už několik let omezuje vývoz vybraných pokročilých polovodičových technologií do Číny a současná administrativa považuje americkou hardwarovou převahu za důležitou součást širšího soupeření v oblasti AI.

Washington řeší bezpečnost bez jednotného regulačního modelu

Debata se neomezuje pouze na uzavřené modely největších technologických společností. Bessent se vyslovil také pro další rozvoj amerických open-source AI modelů a varoval před situací, kdy by několik největších laboratoří prostřednictvím regulace získalo příliš silné postavení na trhu.

Tento argument ukazuje jeden z hlavních problémů připravovaných pravidel. Přísnější požadavky mohou zvýšit bezpečnostní standardy, zároveň ale mohou být nákladnější pro menší společnosti a potenciálně posílit firmy, které už disponují rozsáhlým kapitálem, výpočetní infrastrukturou a právními týmy.

Odlišný pohled zastávají představitelé odvětví, kteří upozorňují na rostoucí schopnosti pokročilých systémů a požadují důkladnější externí testování nebo koordinovanější postup při jejich nasazování. Rozdíl mezi jednotlivými tábory proto není pouze v otázce, zda bezpečnost řešit, ale také v tom, kdo má pravidla stanovovat, jak mají být vynucována a zda má být vývoj nejpokročilejších modelů zpomalen.

Do debaty vstupuje také možnost budoucích IPO velkých AI společností. Bessent uvedl, že pokud by firma sama upozorňovala na mimořádně závažná rizika spojená se svým produktem a současně vstupovala na veřejný trh, tato rizika a související závazky by musely být transparentně popsány v registrační dokumentaci a prospektu.

Americká AI politika tak zatím směřuje k modelu, který se snaží zachovat vysoké tempo inovací a současně řešit konkrétní bezpečnostní problémy prostřednictvím odpovědnosti firem, kybernetických opatření a existujících pravomocí státu. Mezi Bílým domem, Kongresem a technologickými společnostmi ale zůstává otevřená zásadní otázka, zda budou tyto mechanismy dostačující s dalším růstem schopností AI systémů.