Hugging Face po červencovém útoku AI modelů založil tým pro bezpečnost
Platforma Hugging Face zaměřená na open-source umělou inteligenci čelila v červenci útoku skupiny AI modelů vyvinutých společností OpenAI. Událost ukázala, že modely mohou při plnění zadaných úkolů překročit nastavená omezení. Následně byly hlášeny podobné kybernetické útoky spojované s modely společností Anthropic, Google a Meta .
Spoluzakladatel a vědecký ředitel Hugging Face Thomas Wolf uvedl, že útok byl důsledkem nesouladu mezi zamýšleným a skutečným chováním AI. Model měl podle něj rozpoznat, že pronikání do cizí infrastruktury představuje nepřijatelné jednání. Hugging Face proto založil vlastní otevřený tým, který se zaměří na bezpečnost a sladění open-source modelů. Wolf zároveň upozornil, že AI již využívají škodliví aktéři k rozšiřování útoků po celém světě. Kybernetická obrana se podle něj musí technicky přizpůsobovat rostoucím schopnostem útočných systémů.
