Kyberbezpečnostní tituly zamířily vzhůru

Nová varování před riziky spojenými s umělou inteligencí podpořila v předobchodní fázi akcie předních poskytovatelů kybernetického zabezpečení. Okta (OKTA) posílila o 5 procent, zatímco CrowdStrike (CRWD) a Palo Alto Networks (PANW) shodně přidaly 4,5 procenta.

Pohyb následoval po vyjádřeních vedoucích představitelů společností Anthropic a OpenAI, kteří během dvou dnů upozornili na možné důsledky dalšího rychlého zdokonalování AI. Bezpečnost technologické infrastruktury se tím znovu dostala do popředí debaty o nasazování stále výkonnějších modelů a autonomních agentů.

Růst kyberbezpečnostních titulů zároveň kontrastoval s poklesy v širší skupině akcií spojených s umělou inteligencí. Zatímco část technologického trhu reagovala na pochmurná vyjádření oslabením, firmy zaměřené na ochranu identit, sítí a digitální infrastruktury v předobchodní fázi zdražovaly.

Tržní reakce odrážela očekávání, že podniky budou při zavádění AI věnovat větší pozornost zabezpečení vlastní infrastruktury. Zdrojový text však neuvádí údaje o nových zakázkách, změnách firemních prognóz ani konkrétním dopadu na hospodaření trojice kyberbezpečnostních společností.

Amodei žádá pomalejší rozvoj schopností modelů

Generální ředitel Anthropiku Dario Amodei zveřejnil v sobotu esej o rozsahu přibližně 3 800 slov. Uvedl v ní, že během posledních měsíců dospěl k přesvědčení, že důkladné řešení rizik vyžaduje větší obezřetnost než samotné investice do prevence.

Podle Amodeie je nutné upravit tempo, jímž se schopnosti systémů umělé inteligence zlepšují. Prevence rizik podle něj potřebuje dostatek času, aby dokázala postup srovnat. Vývoj by se tedy měl zpomalit tak, aby bezpečnostní postupy nezaostávaly za technickými možnostmi nových modelů.

Šéf Anthropiku současně napsal, že technologický pokrok bude i při pomalejším tempu nadále působit rychle. Čas získaný opatrnějším rozvojem by se podle jeho vyjádření měl využít rozumně, zejména k posílení opatření zaměřených na zvládání rizik.

Generální ředitel OpenAI Sam Altman krátce po zveřejnění textu uvedl, že se stanoviskem svého konkurenta souhlasí. V pondělí na toto vyjádření navázal příspěvkem na síti X, v němž popsal dva scénáře, podle kterých by se vývoj umělé inteligence mohl výrazně odchýlit nežádoucím směrem.

Altman popsal ztrátu kontroly a koncentraci moci

Prvním rizikem je podle Altmana možnost, že lidstvo ztratí kontrolu nad budoucím vývojem ve prospěch AI. Takový výsledek označil za nepřijatelný a zdůraznil, že umělá inteligence musí vždy sloužit lidem. Bezpečnostní techniky a metody slaďování systémů s lidskými cíli proto podle něj musejí postupovat rychleji než schopnosti samotných modelů.

Druhé nebezpečí Altman spojil s přílišnou koncentrací moci. Pokud by mimořádně výkonnou umělou inteligenci ovládal jediný člověk nebo podnik a využíval ji k prosazení vlastního pohledu na svět, výsledkem by podle něj mohlo být výrazně dystopické uspořádání.

Altman doplnil, že obdobný problém by nastal také v případě, kdy by nepřiměřenou moc získal jeden stát nebo jediná vývojová laboratoř. Vyhnutí se oběma hrozbám podle něj vyžaduje pohyb po úzké střední cestě mezi ztrátou kontroly a soustředěním rozhodovací síly.

Na bezpečnostní stránku AI upozornil už dříve také zakladatel a generální ředitel CrowdStrike George Kurtz. V podcastu Power Players With Brian Sozzi přirovnal plný přístup svěřený některým agentům umělé inteligence k situaci, kdy jej dostane opilý stážista, u něhož nelze předvídat další kroky.

Kurtz v této souvislosti uvedl, že firmy musejí proti hrozbám využívajícím umělou inteligenci nasadit rovněž umělou inteligenci. Jeho vyjádření zapadá do širší diskuse o tom, jak chránit podnikovou infrastrukturu v době, kdy schopnosti AI systémů rychle rostou a jejich jednání získává větší míru samostatnosti.