Giganti se bojí, že se vymkne, a chtějí zbrzdit vývoj AI. Zuckerberg jim vzkazuje, že žádnou brzdu nepotřebuje

ANALÝZA | Debata o bezpečnosti AI se zrychlila během tří dnů. Jedni chtějí brzdit schopnější modely společně, Zuckerberg sází na tlak trhu, a ne na dohodu konkurentů.

Zdroj fotografie: JD Lasica / Creative Commons / CC BY-SA

Představte si asistenta v telefonu, který si sám otevře prohlížeč, přihlásí se do účtu, vyplní formulář a objedná lístky. Není to odpověď v chatu, ale akce, kterou už nevrátíte. Přesně kvůli takovým programům se rozešli šéfové velkých firem kolem umělé inteligence. Jeden tábor chce vývoj koordinovat, druhý tvrdí, že to zvládne každá firma sama. Redakce Mobify otevřela dokumenty, na které se obě strany odvolávají, a spočítala z nařízení Evropské unie, co z nich platí pro uživatele v Česku k 17. září 2026.

Tři dny rozdělily šéfy velkých firem kolem AI

Text s názvem We Must Pace the Frontier zveřejnil 12. září 2026 Dario Amodei, šéf společnosti Anthropic. Ta stojí za chatbotem Claude. Vyzval v něm odvětví, aby zpomalilo zvyšování schopností nejvýkonnějších modelů. Podle agentury Reuters ho veřejně podpořili Sam Altman z OpenAI, firmy, která stojí za ChatGPT, i Elon Musk ze společnosti xAI.

Altman podle agentury napsal: „Souhlasím s Dariem, že potřebujeme udávat tempo frontier AI.“ Musk reagoval třemi slovy: „Dario má pravdu.“ Amodei ve svém textu navrhuje tři kroky: vpustit externí hodnotitele přímo do firem, sladit bezpečnostní standardy mezi demokratickými státy a zkusit širší globální dohodu. Zastavit trénování modelů ani technický pokrok přitom výslovně nechce.

O tři dny později se ozval Mark Zuckerberg, šéf společnosti Meta. Ta vlastní Facebook, Instagram a WhatsApp. Podle agentury Reuters, která citovala jeho příspěvek na síti X z 15. září 2026, společná brzda potřeba není: konkurence mezi laboratořemi a hrozba právní odpovědnosti prý firmy k bezpečnosti motivují dost. Každá laboratoř si podle něj nese tempo i odpovědnost sama.

O co v obavě jde, popisuje Amodei sám. Tvrdí, že schopnosti modelů mohou předběhnout schopnost lidí rozumět jim a kontrolovat je. Zuckerberg svůj postoj neopřel o teorii, ale o konkrétní produkt, jehož vydání Meta odložila.

Asistent, který si otevře váš e-mail a sáhne na platbu

Tím produktem je Muse. Meta ho představila 8. září 2026 jako osobního agenta s umělou inteligencí. Rozdíl proti chatbotovi je jednoduchý: model odpovídá, agent jedná. Podle oznámení má pracovat v aplikaci Muse, ve WhatsAppu i na webu muse.ai, otevřít si vlastní prohlížeč, vyplňovat formuláře, poslat e-mail nebo objednat cestování.

Právě u takového programu se ukazuje riziko, které se u chatu neřeší. Prompt injection je skrytý pokyn ukrytý v textu, e-mailu nebo na webové stránce, který se agent může pokusit poslechnout. Do bezpečnostní dokumentace k Muse redakce Mobify nahlédla; firma v ní popisuje tyto pojistky:

• agent běží v oddělené cloudové jednotce s vlastním prohlížečem,
• akce a odchozí komunikaci schvaluje jediná kontrolní služba Sentinel,
• hesla a přihlašovací tokeny, tedy údaje, podle nichž služba pozná přihlášeného uživatele, se ukládají odděleně,
• každou platbu má potvrzovat člověk s přesnými údaji nákupu,
• proti skrytým pokynům firma nasazuje programy na rozpoznávání a několik vrstev ochrany.

„To, co zadáte, jde přímo do bezpečného úložiště a váš hlavní agent to nevidí,“ píše Meta o zadávání hesel v prohlížeči. Je to tvrzení výrobce, nic víc a nic míň: nejde o výsledek měření. A platí to o produktu, který v Česku podle oznámení Mety nespustíte. V seznamu zemí a platforem, pro které firma zavádění ohlásila, jsou Spojené státy, systémy iOS a Android a web muse.ai. Česko ani Evropská unie v něm nejsou.

Zbývá otázka, proč by se firmě vyplatilo být opatrná, když ji k tomu nikdo nenutí.

Může být opatrnost lepší reklamou než rychlost

Zuckerberg podle Reuters tvrdí, že bezpečnost se stane konkurenční výhodou. „Důvěra a sladění se rychle stávají nejdůležitějšími schopnostmi, které budou odlišovat agenty a modely,“ napsal. Sladění znamená, že model dělá to, co se od něj čeká. „Každá laboratoř, která se nebude soustředit na sladění, zaostane,“ dodal. Amodei mluví podobně anglicky o race to the top, tedy o závodu v tom, kdo je opatrnější. Stejná premisa, opačný závěr: jeden věří trhu, druhý koordinaci.

Redakce Mobify porovnala tento postoj s bezpečnostním rámcem, který Meta zveřejnila pod názvem Advanced AI Scaling Framework verze 2. Firma v něm sama vymezuje oblasti katastrofického rizika: chemické a biologické hrozby, kyberbezpečnost a ztrátu kontroly nad modelem. V původní verzi rámce z 3. února 2025 uváděla dvě oblasti, ztráta kontroly mezi nimi nebyla. Ze dvou na tři.

Firma, která odmítá společnou brzdu, má tedy interně sepsaný postup pro scénář, kvůli kterému druhá strana brzdu žádá. To není argument proti ní. Je to odpověď na otázku, proč Amodei chce externí hodnotitele. Dokud laťku píše, hodnotí a mění každá firma sama, nedá se mezi firmami porovnat.

V Evropě přitom o pravidlech nerozhodují jen šéfové amerických firem: část povinností pro velké modely AI tu platí déle než rok a jedna lhůta teprve doběhne.

Co z americké hádky doputuje do českého telefonu

Muse si v Česku zatím nezapnete. Co se českého uživatele týká k 17. září 2026, jsou evropská pravidla pro modely AI pro obecné účely, tedy pro základní modely, na kterých chatboti a agenti stojí. Redakce Mobify přepočetla lhůty z nařízení a ze stránky Evropské komise k 17. září 2026.

Povinnost podle nařízení	Datum z dokumentu	Stav k 17. 9. 2026
Povinnosti pro nově uváděné modely AI pro obecné účely	2. 8. 2025	platí 13 celých měsíců
Pokuty pro poskytovatele modelů AI pro obecné účely	2. 8. 2026	platí 1 celý měsíc
Starší modely mají být uvedeny do souladu	2. 8. 2027	zbývá 10 celých měsíců

Nařízení ukládá poskytovatelům těchto modelů povinnosti kolem dokumentace a informací pro navazující firmy. Tempo vývoje neurčuje. Evropská pravidla tedy nejsou tou společnou brzdou, o kterou Amodei žádá.

Až se agent objeví i v české verzi aplikace, jediná brzda, kterou uvidíte, bude ta na displeji: okamžik, kdy se program zeptá, než něco odešle nebo zaplatí. To, že tam vůbec je, k 17. září 2026 slibuje výrobce ve svém dokumentu. Kdo ji tam dá a jak často ji sešlápne, rozhoduje každá firma sama.