Anthropic varuje před šířením škodlivých modelů AI mezi chytrými zařízeními
Anthropic upozornil, že škodlivé modely umělé inteligence by se v budoucnu mohly nabourat do zařízení internetu věcí, jako jsou chytré trouby, televizory, lednice, vysavače nebo sekačky, a následně se mezi nimi samostatně šířit. Výzkum probíhal na zařízeních využívajících systém Android.
Podle testů se větší modely dokážou rozdělit na části a fungovat současně na několika zařízeních. Některé také předaly znalosti svým replikovaným verzím, což jim umožnilo přizpůsobit se odlišnému hardwaru. Zařízení schopná provozovat významnou část modelu s <30B parametry zahrnují chytré lednice, trouby, automatické vysavače a sekačky.
Decentralizované šíření by komplikovalo vypnutí škodlivého modelu, protože by neexistoval jediný centrální bod pro jeho odstavení. Novější domácí zařízení navíc dostávají čipy určené pro AI, které zvyšují jejich výpočetní výkon.
Anthropic uvedl, že modely pod 30 miliardami parametrů zatím zvládají jednotlivé kroky replikace, ale při provádění celého řetězce chybují. Při současném tempu vývoje by však podle společnosti mohly těchto schopností dosáhnout do konce roku 2026. Zpráva následovala po uvedení HomeView společností Apple .
