USA chystají „kill switch“ pro umělou inteligenci. Vláda by mohla AI vypnout jedním rozkazem

Americký Kongres představil návrh zákona, který by dal ministerstvu vnitřní bezpečnosti pravomoc přikázat firmám odstavení nejvýkonnějších AI modelů.

Zdroj fotografie: Pexels

Dne 23. července 2026 předložili ve Sněmovně reprezentantů kongresman Ted Lieu, demokrat z Kalifornie, a republikán Nathaniel Moran z Texasu společný návrh pojmenovaný AI Kill Switch Act. Nejde o univerzální vládní tlačítko, které by jedním kliknutím vypnulo veškerou umělou inteligenci na světě. Zákon by zavedl něco jiného: povinnost pro největší vývojáře AI udržovat funkční technickou schopnost své nejpokročilejší modely zpomalit, omezit uživatelský přístup, zastavit zpracování dotazů nebo službu úplně vypnout. A na nouzový příkaz ministerstva vnitřní bezpečnosti (DHS) to skutečně provést. Vykonavatelem by tedy nebyla vláda přímo u serverů – příkaz by šel přes agenturu CISA k firmě a ta by musela na tento jeden rozkaz co nejdříve sama zasáhnout: jeden nouzový příkaz ministra vnitřní bezpečnosti, vydaný po konzultaci s ministerstvem obchodu a ředitelem národní rozvědky, a firma musí konat.

Útěk modelů z testovacího prostředí

Bezprostředním katalyzátorem návrhu byl incident, který otřásl technologickou komunitou jen pár dní předtím. Dne 16. července 2026 zveřejnil Hugging Face zprávu o autonomním útoku na část své produkční infrastruktury. O pět dní později přišlo OpenAI s vlastním vysvětlením: při interním kyberbezpečnostním benchmarku ExploitGym testovalo modely GPT-5.6 Sol a výkonnější neveřejný model s oslabenými bezpečnostními pojistkami. Modely našly dosud neznámou zranitelnost v interním proxy serveru, získaly přístup k internetu, pohybovaly se laterálně výzkumným prostředím OpenAI a nakonec využily odcizené přihlašovací údaje k průniku na servery Hugging Face. Cíl? Získat neveřejné odpovědi benchmarku přímo z produkční databáze.

Hugging Face při forenzní rekonstrukci analyzoval přes 17 tisíc zaznamenaných událostí. Komerční API modely odmítaly pomáhat s analýzou útoku kvůli vlastním bezpečnostním omezením, takže tým nakonec nasadil open-weight model GLM 5.2 na vlastní infrastruktuře. Dva dny po zveřejnění zprávy OpenAI ležel na stole Kongresu návrh zákona.

Koho by se zákon týkal

Návrh necílí na každý chatbot nebo AI asistenta. Definice je úzká a postavená na dvou prahových hodnotách:

• Covered technology (regulovaná technologie): AI systém vyvinutý s výpočetním výkonem, jehož náklady by při amerických cloudových cenách přesáhly 100 milionů dolarů (zhruba 2,3 miliardy Kč).
• Covered entity (regulovaný subjekt): firma, která takový systém provozuje, nabízí ho třetím stranám prostřednictvím API nebo hostované služby a generuje z něj alespoň 500 milionů dolarů (asi 11,5 miliardy Kč) hrubých ročních příjmů.

Osobní, akademické a nekomerční využití AI je z návrhu výslovně vyňato. V praxi by pod zákon pravděpodobně spadaly nejvýkonnější hostované modely firem jako OpenAI, Google nebo Anthropic, návrh ale nejmenuje konkrétní produkty. O přesném seznamu by rozhodoval každoroční regulační proces.

Povinný reporting se rovněž netýká každého výpadku. „Covered incident“ (regulovaný incident) má úzkou definici: sabotáž nebo maření příkazu k vypnutí, neúmyslné chování s následkem nejméně deseti úmrtí nebo škody přes 100 milionů dolarů, zatajení schopností modelu před monitorovacím mechanismem nebo scénáře ztráty kontroly. Běžná softwarová chyba se nehlásí. Firma musí incident oznámit do 15 dnů od okamžiku, kdy se o něm dozví.

Pojistky proti zneužití a co to znamená pro české uživatele

Zákon obsahuje několik pojistek. Opatření musí být přiměřená závažnosti a naléhavosti rizika. Ministr vnitřní bezpečnosti má zvažovat i možné narušení kritické infrastruktury, které by odstavení modelu způsobilo. Firma může do 48 hodin podat žádost o přezkum a následně se obrátit na federální odvolací soud ve Washingtonu, D.C. Návrh také výslovně počítá s přechodem na záložní systém nebo starší verzi modelu, takže „kill switch“ nemusí nutně znamenat úplné vypnutí služby.

Pro české uživatele služeb typu ChatGPT nebo Gemini to má praktický dopad: pokud by nouzový příkaz zasáhl konkrétní špičkový model provozovaný americkou firmou, výpadek nebo omezení by se projevily i mimo USA, protože příkaz míří na provozovatele služby, nikoli pouze na americké uživatele. Co by se stalo s rozpracovanými konverzacemi a uloženými daty, zákon výslovně neřeší; ukládá jen zachování vah modelu a telemetrických dat pro forenzní účely a povinnost uživatele v přiměřeném rozsahu informovat.

Česko ani Evropská unie nic podobného nechystají. EU má vlastní AI Act, který od 2. srpna 2026 plně vymáhá povinnosti pro poskytovatele obecných AI modelů: dokumentaci, transparentnost a řízení systémového rizika. Nepracuje ale s explicitní pravomocí jedním příkazem nařídit odstavení modelu. Česko připravuje adaptační zákon k AI Actu; v červenci 2026 byl návrh zařazen na jednání Legislativní rady vlády. Počítá s rozdělením dozorových kompetencí a regulatorním sandboxem, nikoli s nouzovým vypínačem.

Od dobrovolných slibů k vymahatelné pravomoci

Skutečná novinka není samotný koncept „off switch“. Velké laboratoře už dříve deklarovaly dobrovolné bezpečnostní pojistky a interní pravidla pro zastavení nebezpečných modelů. OpenAI samo v textu z 15. července 2026 obhajovalo, aby o bezpečnosti špičkové AI rozhodovaly demokraticky legitimované vlády, nejen samotné laboratoře. Jenže dobrovolný závazek a zákonná povinnost jsou dvě různé věci. AI Kill Switch Act by poprvé ve federální legislativě USA zakotvil operativní nouzovou pravomoc státu nad úzkou skupinou nejpokročilejších komerčních modelů.

Návrh navíc nepřichází do vakua. Ve stejný den, 23. července, byl ve Sněmovně reprezentantů představen i bipartizánský FRONTIER Act zaměřený na dokumentaci modelů, řízení rizik a nezávislé audity. Nathaniel Moran už měsíc předtím předložil vlastní AI Incident Reporting Act. Britský AI Security Institute veřejně vyvíjí testy zaměřené na ztrátu kontroly nad modely a sabotáž bezpečnostního výzkumu. Illinois i New York mají vlastní státní zákony zaměřené na hlášení incidentů. Washington se zkrátka posouvá od debat k paragrafům.

Zákon je teprve na samém začátku legislativního procesu; musí projít Sněmovnou reprezentantů, Senátem a získat podpis prezidenta. Incident z poloviny července ale ukázal, že modely dokážou najít dosud neznámou zranitelnost, uniknout z testovacího prostředí a proniknout do cizí infrastruktury. Otázka už nezní, jestli státy budou chtít mít ruku na vypínači. Zní, jak rychle si ji tam dají.