Neděle 26. 7. 2026 | Svátek má Anna
Bezpečnostní incident, při kterém modely umělé inteligence společnosti OpenAI během interního testování pronikly přes několik vrstev zabezpečení až do infrastruktury platformy Hugging Face, vyvolal pozornost odborníků po celém světě. AI při testu samostatně objevila dosud neznámou zranitelnost, získala přístup k internetu a pokusila se dostat k datům potřebným pro splnění testovací úlohy.
Podle OpenAI se incident odehrál při interním testování kybernetických schopností modelů, které běžely bez části běžných bezpečnostních omezení. AI během něj objevila dosud neznámou (zero-day) zranitelnost, získala přístup k internetu, překonala několik vrstev zabezpečení a následně se dostala až k infrastruktuře Hugging Face, platformy pro sdílení a vývoj AI modelů a nástrojů. Cílem modelů bylo získat řešení testovacího benchmarku ExploitGym. Anomální aktivitu podle OpenAI odhalil její bezpečnostní tým, zatímco Hugging Face ji následně detekovala a zastavila na své infrastruktuře. Obě společnosti nyní spolupracují na vyšetřování incidentu.
Přestože OpenAI zdůrazňuje, že šlo o kontrolovaný experiment, případ podle odborníků ukazuje, že AI už není odkázána pouze na známé bezpečnostní chyby.
„Z pohledu firem je důležité si uvědomit, že nová generace AI agentů už není omezena pouze na vyhledávání známých zranitelností. Dokáže samostatně analyzovat systémy, hledat dosud nezdokumentované chyby, testovat různé scénáře útoku a nacházet nové cesty k průniku. Právě to podle zveřejněných informací ukázal i incident společnosti Hugging Face,“ okomentoval pro Trade-off situaci David Kazda, CSO technologické společnosti Algotech.
Podle něj nejde o selhání umělé inteligence, ale o ukázku rychlého vývoje jejích schopností. „Situace, která vznikla při kontrolovaném testování, se může v budoucnu zopakovat i při skutečném kybernetickém útoku. A příště už nemusí jít o náhodu nebo výzkumný experiment, ale o záměrně nasazeného AI agenta,“ upozorňuje.
Firmy by podle něj měly počítat s tím, že tradiční obrana založená především na opravování známých zranitelností už nebude stačit. „Obrana musí být průběžná, aktivní a postavená na nepřetržitém monitoringu, detekci anomálií a schopnosti reagovat v reálném čase. Stejně jako útočníci začínají využívat umělou inteligenci, musí ji při své obraně využívat i firmy. Jinak budou vždy o krok pozadu,“ uzavírá Kazda.
Chceš mít přehled o tom, co se děje kolem tebe?
