Dreamforce otevřel spor o tempo vývoje AI

Produktová konference společnosti Salesforce Inc. (CRM) se v San Francisku proměnila v hlavní fórum debaty o tom, zda by technologické společnosti měly zpomalit vývoj umělé inteligence. Na summitu Dreamforce 2026 vystoupili šéf Anthropiku Dario Amodei, generální ředitel OpenAI Sam Altman a šéf společnosti Nvidia Corporation (NVDA) Jensen Huang. Prostřednictvím sociálních sítí se zapojil také Mark Zuckerberg, generální ředitel společnosti Meta Platforms, Inc. (META) .

Amodei při rozhovoru se šéfem Salesforce Marcem Benioffem přirovnal současnou situaci k automobilovému průmyslu. Popsal případ, kdy jeden výrobce zaznamená bezpečnostní incident, například poruchu brzd nebo výrobní vadu, zatímco konkurenční firma je přesvědčena, že má nejlepší bezpečnostní výsledky v odvětví.

Podle Amodeie by reakce měla mít tři fáze. Nejprve má každá společnost zlepšit vlastní interní procesy, následně je třeba vytvořit společné oborové standardy a nakonec do systému zapojit také mezinárodní úroveň. Jeho vyjádření tak spojilo odpovědnost jednotlivých laboratoří s širší koordinací mezi firmami a státy.

Altman v samostatném rozhovoru s Benioffem uvedl, že naléhavost diskuse souvisí s rychlým růstem schopností modelů. V některých ohledech jsou podle něj současné systémy již chytřejší než lidé, což mění způsob, jakým veřejnost vnímá odhady pravděpodobnosti katastrofického scénáře.

Šéf OpenAI zmínil dvě hlavní obavy. První představuje nehoda spojená se ztrátou kontroly nad systémem, druhou pak koncentrace moci. Současně upozornil, že lidé stále výrazněji vnímají rychlost, s jakou se technologie posouvá.

Huang a Zuckerberg sázejí na odpovědnost firem

Jensen Huang označil bezpečnost za zásadní podmínku, ale současně ji popsal jako technický problém, který mají řešit samotní vývojáři. Podle něj by firma neměla uvést produkt nebo službu na trh, pokud si není jistá jejich funkčností, schopnostmi či bezpečností.

Tempo vývoje má podle šéfa Nvidie odpovídat míře jistoty, že výsledný produkt bude fungovat a trh jej přijme. Huang však odmítl potřebu nových zákonů a regulačních předpisů. Firmy podle něj mohou postupovat co nejrychleji, avšak ve chvíli, kdy vedení získá pocit, že ztrácí kontrolu nebo že produkt nemusí být bezpečný, má práci dočasně přerušit a problém napravit.

Podobný postoj zveřejnil Zuckerberg na síti X. Uvedl, že laboratoře vyvíjející modely čelí významné právní odpovědnosti, pokud jejich systémy způsobí škodu, a mají proto vlastní motivaci rizikům předcházet.

Meta podle Zuckerberga o několik měsíců odložila uvedení asistenta Muse, aby se mohla soustředit na bezpečnost a zabezpečení. Společnost přitom nevyzvala ostatní vývojáře, aby postupovali stejně. Odklad pojala jako součást každodenního řízení produktu a Zuckerberg vyzdvihl bezpečnostní základy, které firma vybudovala.

Salesforce uvedl model Koa, sektorové fondy kolísaly

Vedle diskuse o bezpečnosti představil Salesforce také vlastní technologickou novinku. Firma uvedla model Koa zaměřený na uvažování, který vychází z otevřeného modelu Nemotron od Nvidie. K jeho trénování použila syntetická data.

Debatu doprovázely výrazné a vzájemně opačné pohyby sektorových fondů. iShares Semiconductor ETF (SOXX) v úterý vzrostl o 0,3 procenta poté, co v pondělí ztratil 5,6 procenta. V časném středečním obchodování před otevřením trhu přidával další jedno procento.

Softwarově zaměřený iShares Expanded Tech-Software Sector ETF (IGV) se pohyboval opačně. Po pondělním růstu o pět procent v úterý klesl o jedno procento a ve středeční předburzovní fázi odepisoval další procento.

K tématu se vyjádřil také Gokul Hariharan, analytik asijského technologického sektoru ve společnosti JPMorgan Chase & Co. (JPM) . Bezpečnostní obavy označil za krátkodobou komplikaci, podle jeho vyjádření však výcvik nejpokročilejších modelů pravděpodobně nezpomalí. Rychlý vývoj AI a rekurzivní sebezdokonalování podle něj mohou rozšířit využití technologie i mimo programování.