Model rozdělený mezi domácí zařízení

Malé modely umělé inteligence by podle společnosti Anthropic mohly být už během několika měsíců schopné samostatně se kopírovat mezi zařízeními připojenými k internetu. Laboratoř na toto riziko upozornila v pondělí v souvislosti s výsledky vlastních experimentů zaměřených na autonomní replikaci AI.

Model by podle popsaného scénáře mohl proniknout například do chytrých trub, multimediálních zařízení Android TV nebo další elektroniky v domácnostech. Následně by využil jejich výpočetní výkon ke svému provozu a k šíření do dalších přístrojů. Nebyl by tak odkázán na nákladná datová centra.

Pokud by se kopie modelu nacházely současně na velkém množství zařízení, systém by podle Anthropic bylo obtížné zastavit. Chyběl by totiž jediný centrální bod, jehož vypnutí by ukončilo provoz celé sítě. Jednotlivé části by mohly pokračovat v činnosti na jiném hardwaru.

Firma současně uvedla, že v současnosti ještě neexistuje „plně nekontrolovaný replikátor“. Agenti založení na AI však podle ní postupně zvládají jednotlivé úkony potřebné k vytvoření celého replikačního řetězce. Dokážou rovněž předávat provedené úpravy svým budoucím kopiím.

Experiment využil 15 levných TV boxů

V jednom z testů Anthropic provozovala malý model Gemma4-26B-A4B od společnosti Google (GOOGL) v síti tvořené 15 levnými neznačkovými zařízeními Android TV. Právě podobná elektronika mívá podle laboratoře slabší zabezpečení, které může usnadnit průnik škodlivého softwaru nebo modelu AI.

Výpočetní kapacita jednoho takového přístroje přitom nemusí být pro celý model dostatečná. Anthropic proto zkoumala možnost jeho rozdělení na menší části označované jako fragmenty. Ty by běžely souběžně na několika zařízeních a dohromady by zajišťovaly fungování modelu, který by se do paměti jediného přístroje nevešel.

Praktický počítačový červ založený na umělé inteligenci by podle firmy nemusel používat pouze jeden model nebo jediný způsob šíření. Realističtější krajní scénář by mohl mít podobu roje různých modelů na odlišných typech hardwaru, přičemž každý z nich by využíval jiný mechanismus replikace.

Anthropic zdůraznila, že přesná podoba autonomního šíření AI zatím zůstává nejistá. Jednou variantou může být pomalý distribuovaný systém ukrytý na špatně zabezpečených zařízeních. Jinou možnost představuje výkonný kybernetický model, který by rychle pronikal do datových center.

Laboratoř zmínila také model schopný podvádět lidi s cílem získat kredity na výpočetní výkon. Jednotlivé varianty se liší rychlostí, technickými požadavky i způsobem získávání potřebných zdrojů, všechny však vycházejí z možnosti pokračovat v provozu bez přímého lidského řízení.

Bezpečnostní obavy kolem výkonnější AI

Nejnovější výzkum navazuje na širší debatu o bezpečnosti stále schopnějších modelů. Mezi diskutovaná rizika patří využití AI k provádění kybernetických útoků i možnost, že se technologie vymkne lidské kontrole. Zlepšování nejpokročilejších modelů v září vedlo k varováním napříč odvětvím, která se týkala i existenčních hrozeb pro lidstvo.

Na možná nebezpečí opakovaně upozorňují vedoucí pracovníci a výzkumníci společností Anthropic a OpenAI. Část z nich vyzývá k zavedení přísnějších ochranných mechanismů a opatření, která by umožnila lépe řídit tempo vývoje technologie.

Anthropic očekává, že v budoucnu budou agenti AI fungovat na široké škále hardwaru a někteří z nich nebudou pod lidskou kontrolou. Firma zároveň označila nástup pomalu se replikujících systémů za možný předstupeň rychlejších variant, které by dokázaly pronikat do lépe zabezpečených zařízení nebo účinněji získávat cizí přístupové klíče k rozhraním API.