KOMENTÁŘ: Když vám vláda vypne AI. Jak křehký je dnešní digitální svět?

Autoři | Foto Pixabay, úprava OpenAI

Měli jsme možnost tři dny testovat Claude Fable 5. Byly to mimořádně zajímavé tři dny. Vyzkoušeli jsme nové postupy, otestovali nové možnosti práce s AI a posunuli několik vlastních projektů. Pak přišlo sobotní ráno a zjištění, že přístup k modelu byl zastaven rozhodnutím americké vlády.

Autor je ředitel inovací Algotech a AI expert.

První reakcí bylo samozřejmě zklamání. Mnohem zajímavější je ale zamyslet se nad tím, co vlastně tato událost říká o současném světě umělé inteligence.

Ukázalo se totiž, že přístup k nejpokročilejším AI modelům na světě může být během několika hodin omezen rozhodnutím jediné vlády. To je poměrně zásadní zpráva pro každého, kdo na těchto technologiích staví své produkty, služby nebo podnikání. Na druhou stranu je fér dodat, že určitá forma „nouzové brzdy“ dává smysl.

Pokud by skutečně existovala AI představující vážné bezpečnostní riziko, je dobře, že existuje mechanismus, který dokáže zasáhnout.

Vojtěch Černý

Problém nastává ve chvíli, kdy není zcela jasné, proč byl tento mechanismus použit právě v konkrétním případě. Takový kill-switch by měl být aktivován pouze na základě objektivních, transparentních a nediskriminačních důvodů. Minimálně z veřejně dostupných informací zatím není zřejmé, že by tomu tak bylo.

Otázky vyvolává i samotné načasování. Rozhodnutí přišlo v pátek odpoledne, což není okamžik, který by obvykle podporoval otevřenou veřejnou debatu nebo vysvětlování důvodů.

Celá situace navíc nevzniká ve vakuu. Navazuje na delší a poměrně komplikované vztahy mezi Anthropicem a americkou administrativou. V médiích se objevují informace o dřívějších sporech kolem bezpečnostních pravidel, přístupu k modelům i jejich možného využití v oblasti kybernetické bezpečnosti. Přímou souvislost ale zatím nelze jednoznačně potvrdit.

Ekonomická důstojnost a bydlení jako lidská práva? České manifesto volá po změně

Nová česká neziskovka The Open Manifesto, za kterou stojí Marek Musil, má za cíl aktualizovat Všeobecnou deklaraci lidských práv pro 21. století. Moderní technologie jako umělá inteligence vnáší do životů nové aspekty, které přirozeně v dokumentu z...

Svou roli mohl sehrát i samotný marketing společnosti Anthropic. Firma v posledních měsících výrazně komunikovala schopnosti modelu Mythos nacházet softwarové zranitelnosti a pomáhat s bezpečnostním výzkumem. Právě tyto schopnosti se podle řady médií staly jedním z hlavních argumentů při diskusi o možných bezpečnostních rizicích.

Celá událost tak přirozeně posiluje argumenty zastánců otevřených a lokálně provozovaných modelů. Pokud je kritická infrastruktura firmy závislá na službě, kterou lze z geopolitických důvodů vypnout, představuje to reálné provozní riziko.

Současně bych ale byl opatrný vůči tvrzením, že lokální open-source modely jsou jedinou správnou cestou. Realita bude pravděpodobně složitější. Nejvýkonnější modely stále vznikají především v několika málo světových centrech a firmy budou muset hledat rovnováhu mezi výkonem, bezpečností a nezávislostí.

Body získala Čína

Paradoxně z celé situace může nejvíce těžit Čína. Po Spojených státech je dnes druhým nejsilnějším hráčem v oblasti velkých jazykových modelů. Každé oslabení důvěry v americké poskytovatele automaticky otevírá prostor alternativám. Některé čínské modely navíc již dnes dosahují výkonu, který byl ještě nedávno vyhrazen pouze americké konkurenci.

Evropa získává další argument pro technologickou suverenitu a vlastní vývoj AI. Současně je ale potřeba přiznat, že v oblasti vývoje špičkových modelů stále několik kroků ztrácí. Politická debata je jedna věc, schopnost dodat konkurenceschopnou technologii druhá.

Za pozornost stojí i samotný mechanismus zákazu. Americké nařízení podle zveřejněných informací požadovalo zablokování přístupu zahraničním osobám. Protože to nebylo možné technicky spolehlivě zajistit – nebo možná také proto, že Anthropic chtěl demonstrovat praktické dopady rozhodnutí – skončil nakonec přístup úplně pro všechny. Dokonce i pro některé zaměstnance společnosti, kteří nejsou americkými občany.

Dopady pocítí i samotný Anthropic. Firma se připravuje na vstup na burzu a podobné regulatorní zásahy investorům rozhodně nepřidávají klid.

Vědci zkoumají dopady datacenter na okolí. Některé zvyšují teplotu až o 9 stupňů

Masivní datová centra, která pohánějí rozmach umělé inteligence, jsou známá svou obrovskou energetickou náročností. Nový výzkum však upozorňuje na další alarmující jev: tato centra vytvářejí kolem sebe „tepelné ostrovy“. Provoz serverů a systémů...

Celá kauza ale přesahuje jeden model nebo jednu společnost. Připomíná nám, na jakých základech stojí dnešní digitální svět. Google je americká firma. Microsoft je americká firma. Amazon je americká firma. Většina klíčových cloudových služeb, na kterých funguje moderní byznys, vznikla ve Spojených státech.

Může se něco podobného stát i v jiných oblastech? Je správné spoléhat se výhradně na globální cloudové služby? A nemá přece jen smysl uvažovat alespoň o části kritických systémů v privátním cloudu nebo ve vlastní infrastruktuře?

Právě tyto otázky jsou možná tím nejdůležitějším, co nám příběh kolem Mythosu přinesl.

Hodnocení článku

Chceš mít přehled o tom, co se děje kolem tebe?

Štítky vláda, Anthropic, USA, Algotech, umělá inteligence, Google, Microsoft, Čína, Evropa, Amazon

Komentáře

Přihlášení uživatele

Přihlásit se pomocí GoogleZaložením účtu souhlasím s obchodními podmínkami, etickým
kodexem
a rozumím zpracování osobních údajů dle poučení.

Zapomenuté heslo

Na zadanou e-mailovou adresu bude zaslán e-mail s odkazem na změnu hesla.

Pošli tip na kulturní akci

Publikace zaslané kulturní či sportovní akce není garantována a vždy o publikaci rozhoduje redakce.
Zasláním tipu do redakce zároveň deklaruji, že mám svolení s užitím fotografie.

* Soubor není povinné přikládat.
Napište první písmeno abecedy.

Odesláním formuláře souhlasím s obchodními podmínkami, etickým kodexem a rozumím zpracování osobních údajů dle poučení.

O jaký newsletter máte zájem?

Vyber jednu, nebo více možností a my se postaráme o to, aby do emailu přišly jen zprávy, které tě zajímají.

Napište první písmeno abecedy.