Známý investor Marc Andreessen v prosinci roku 2024 promluvil v podcastu Bari Weissové o tom, proč se on a řada lidí ze Silicon Valley před volbami otevřeně přiklonili k Donaldu Trumpovi. Vyděsila ho politika Bidenova Bílého domu v oboru umělé inteligence. Ze schůzek v Bílém domě nabyl dojmu, že administrativa hodlá vzít vývoj AI pevně do ruky a nechá prosperovat jen několik velkých firem. „Výslovně nám řekli, neinvestujte do AI startupů,“ říká Andreessen.

Pravdivost jeho líčení byla později zpochybněna, ale zajímavější je, jak se tedy AI politika Trumpovy administrativy jeví ve srovnání s hypotetickou verzí demokratů.

Psaná regulace až donedávna splňovala ideál „light touch“ režimu. Tedy do letošního února, kdy vypukla potyčka mezi ministerstvem války a firmou Anthropic, o níž jsme psali. Bylo v tom možné vidět zálibu v siláckých gestech vlastní Trumpovým lidem a taky pomstu za to, že Anthropic zaměstnal některé lidi z Bidenovy administrativy. V každém případě se ukázalo, že „light touch“ nebrání tomu, aby administrativa sáhla po velmi tvrdých nástrojích.

V dubnu Anthropic oznámil, že nová verze jeho modelu Claude Mythos je schopna odhalit zranitelnosti v softwarových systémech na úrovni, s jakou se lidé nemohou měřit. Což je schopnost velmi atraktivní i pro hackery. Takže Anthropic zorganizoval koalici pojmenovanou Glasswing, v níž tuctu největších IT firem umožňuje pomocí Mythosu otestovat a zabezpečit své systémy.

Anthropic se snaží profilovat jako ten špičkový hráč na poli AI, který nejvíce dbá na bezpečnost, což někteří vnímají cynicky – jako snahu vytvořit situaci, v níž se bude zdát nutné, aby stát AI reguloval, a to tak, aby premiantem byl Anthropic.

V tomto světle je zajímavá nová exekutivní vyhláška administrativy vydaná 3. června. Je to totiž jakási institucionalizace projektu Glasswing.

Vyhláška zřizuje jakýsi vládní výbor či clearinghouse, kam budou AI firmy předkládat své modely – ty, které budou vyhodnoceny jako „frontier AI“, přičemž toto vyhodnocování bude tajné – aby byly prozkoumány z hlediska kybernetické bezpečnosti. To bude trvat třicet dnů, načež bude možné uvolnit přístup k modelům pro blíže nevymezené „důvěryhodné partnery“. Není jasné, za jak dlouho poté by modely mohly být uvolněny pro všeobecné používání.

Celý systém je dobrovolný a, zdůrazňuje se v textu, nezakládá žádný systém povolování. Ale jak dobrovolný fakticky bude? Minulý týden Anthropic zveřejnil Fable, poslední verzi Mythosu zabezpečenou tak, aby nebyla zneužitelná. V pátek vláda s využitím svých zahraničněobchodních pravomocí nařídila Anthropicu, aby zamezil přístup k Fable a Mythos 5 všem neobčanům USA.

Ze zpravodajství od té doby vyplynulo, že nějaká velká firma, snad Amazon, zjistila, že ochranu ve Fable lze prolomit, a informovala o tom vládu. Anthropic to považoval za dávno známou věc, s níž není třeba nic podnikat. Načež vláda zasáhla. Ani nepotřebovala využít nový exekutivní příkaz.

I mnozí vývojáři Anthropicu, stejně jako celého Silicon Valley, jsou neobčané – podle průzkumu z roku 2024 jsou dvě třetiny tamních zaměstnanců narozené v cizině, to je podstata Silicon Valley. Takže jediným praktickým řešením bylo, že Anthropic fungování obou modelů zastavil.

Vyplývají z toho dva základní závěry. Zaprvé se ukazuje, že americká regulace bude „light touch“ – až na případy, kdy nebude. Slovy bývalého experta Trumpovy administrativy na AI Deana Balla, „těžba kobaltu v Kongu je dnes mnohem více institucionalizovaná než licencování AI v USA“.

Zadruhé to má zlověstné dopady pro kybernetickou bezpečnost v Evropě. Každý model AI se s určitým zpožděním dostane do rukou všem včetně hackerů. A defenzivní schopnosti jsou tytéž co ofenzivní. Každý nový hraniční model bude mít nejdřív třicet dní pro sebe americká vláda. Pak se k němu dostanou „důvěryhodní partneři“. Ti budou připraveni na to, až se k modelu dostanou hackeři. Ostatní ne. Kolik evropských organizací se asi dostane mezi „důvěryhodné partnery“? I do projektu Glasswing byl z Evropy zpočátku pozván jen britský vládní AI Security Institute a až nedávno kyberbezpečnostní agentura EU ENISA, a to ještě musela o přístup žebrat.