Bezpečnostní incident, při kterém modely umělé inteligence společnosti OpenAI během interního testování pronikly přes několik vrstev zabezpečení až do infrastruktury platformy Hugging Face, vyvolal pozornost odborníků po celém světě. AI při testu samostatně objevila dosud neznámou zranitelnost, získala přístup k internetu a pokusila se dostat k datům potřebným pro splnění testovací úlohy.

Spojení společnosti OpenAI s americkým ministerstvem obrany, nově pod Trumpovou administrativou přejmenovaným na Ministerstvo války, otřáslo trhem s umělou inteligencí. Zatímco ChatGPT čelí rekordní vlně odinstalací a propadu v hodnocení, konkurenční aplikace Claude od společnosti Anthropic se díky odmítavému postoji k vojenským zakázkám vyhoupla na vrchol žebříčků popularity.

Společnost OpenAI oznámila, že v následujících týdnech začne pro uživatele v USA testovat zobrazování reklamy v prostředí ChatGPT. Jde o dlouho očekávaný krok, který může otevřít nový a velmi výnosný zdroj příjmů pro jednu z nejrychleji rostoucích technologických firem současnosti.

Italští výzkumníci z Icaro Lab (DexAI) objevili nečekanou slabinu jazykových modelů: poezie dokáže obcházet jejich bezpečnostní pojistky a přimět je vytvářet zakázaný obsah. V testu použili 20 básní, které končily skrytými výzvami k nebezpečným tématům, jako je sebepoškozování či nenávistné projevy.

Americké úřady zkoumají možné národně bezpečnostní dopady nedávného technologického průlomu čínské firmy DeepSeek v oblasti umělé inteligence (AI). Situací se již zabývá Rada pro národní bezpečnost. Proti společnosti vyrazil do boje i soukromý sektor. Agentura Bloomberg informovala, že firmy Microsoft a OpenAI vyšetřují, zda výstup dat z technologie OpenAI nebyl získán neoprávněným způsobem skupinou napojenou na čínský startup.