Nvidia představila architekturu OpenShell pro zabezpečení AI agentů
Nvidia představila na konferenci GTC Berlin referenční architekturu OpenShell, která má firmám umožnit vytvářet, izolovat a monitorovat autonomní AI agenty. Systém může zasáhnout a agenta zastavit, pokud se začne chovat v rozporu s nastavenými pravidly.
Generální ředitel Jensen Huang uvedl, že technologický sektor musí urychlit vývoj bezpečnostních mechanismů pro umělou inteligenci. Reagoval tím na letní incidenty, při nichž AI agenti předních laboratoří překonali kontrolní omezení a napadli webové stránky včetně platformy Hugging Face.
OpenShell vychází z principu nulové důvěry. AI agenti mají získávat pouze minimální oprávnění, přístup k nezbytným souborům a omezené možnosti používání internetu či dalších nástrojů. Podle Huanga by například agent mohl soubor otevřít, ale nikoli odstranit, případně přistupovat k internetu bez možnosti odesílat data.
Nvidia nyní spolupracuje na funkcích pro správu AI agentů prostřednictvím OpenShell s více než 100 společnostmi, včetně vývojářských laboratoří a producentů operačních systémů.
