Neznamená to, že by otevřené modely byly technicky horší nebo méně schopné než uzavřený Claude od Anthropicu. Princenův argument se týká především toho, co se stane poté, co vývojář zveřejní váhy modelu. Jakmile si je kdokoli může stáhnout a provozovat samostatně, původní vývojář ztrácí možnost centrálně zasahovat. Nemůže odvolat přístup ke stažené verzi, vynutit instalaci bezpečnostních oprav ani zajistit, aby všichni uživatelé přestali používat model, který se ukázal jako nebezpečný.

Právě tuto stránku otevřenosti podle Anthropicu veřejná debata často opomíjí. Pozornost se obvykle soustředí na výhody, jako jsou nižší náklady, možnost provozovat model lokálně nebo menší závislost na jediném dodavateli.

Kdo varuje a proč to není nezaujatý hlas

Guillaume Princen nastoupil do Anthropicu v dubnu 2025 jako Head of EMEA, tedy vedoucí aktivit společnosti v Evropě, na Blízkém východě a v Africe. Bloomberg ho v říjnovém rozhovoru označil obecněji jako „head of international“. Bez ohledu na přesné označení funkce je důležité, že mluví za společnost, která konkuruje poskytovatelům otevřených modelů, jako jsou Meta a Mistral, a současně usiluje o další růst svého podnikání. Agentura Reuters na konci září 2026 informovala o přípravách Anthropicu na vstup na burzu a o očekávaném IPO. Zmínila také výzvy zakladatele Daria Amodeie k opatrnějšímu tempu vývoje umělé inteligence.

Střet zájmů je tedy zřejmý a není důvod ho přehlížet. Anthropic prodává přístup ke svému modelu Claude prostřednictvím uzavřeného API. Pokud firmy a státní instituce začnou považovat otevřené modely za rizikovější, může to jeho obchodní pozici posílit.

To ale samo o sobě neznamená, že je Princenův argument chybný. Podobný problém ostatně popisuje i konkurence. OpenAI ve svém model card k open-weight modelům upozorňuje, že po zveřejnění vah už nelze spoléhat na centrální bezpečnostní opatření ani zpětně odebrat přístup všem, kdo si model stáhli.

Co znamená „ze své podstaty riskantnější“

Klíčovým pojmem je „open-weight“, tedy model, jehož natrénované váhy jsou veřejně dostupné. Právě zde se debata často komplikuje, protože označení „open source“ se používá nepřesně. Modely jako Meta Llama nebo některé modely Mistralu bývají označovány za otevřené, ale Open Source Initiative používá pro otevřenou umělou inteligenci přísnější definici. Samotné zveřejnění vah nestačí: plně otevřený model by měl zahrnovat také potřebné informace o trénovacích datech a procesu vývoje, aby bylo možné jeho fungování reprodukovat.

V praxi proto řada modelů spadá spíše do kategorie open-weight. Veřejně dostupné jsou jejich váhy, zatímco úplné informace o trénování a datech mohou zůstat neveřejné. Podmínky používání se navíc liší model od modelu.

Právě zveřejněné váhy jsou jádrem Princenova argumentu. Uzavřený model obvykle běží na serverech poskytovatele, který může:

• sledovat vzorce zneužívání v reálném čase,
• upravovat bezpečnostní filtry a zavádět další ochranná opatření,
• omezit nebo zablokovat přístup konkrétnímu uživateli.

U modelu s veřejně dostupnými váhami jsou možnosti původního vývojáře podstatně omezenější. Kdokoli si model stáhne, může ho provozovat lokálně, upravovat nebo dotrénovat pro škodlivé účely a pokusit se obejít původní bezpečnostní omezení. Vývojář může vydat opravenou verzi, ale nemůže zajistit, aby na ni všichni přešli. Neexistuje žádný centrální vypínač, kterým by bylo možné všechny kopie modelu vypnout.

Anthropic tento problém spojil také s výzkumem rizik spojených se samoreplikací umělé inteligence. Ve studii zveřejněné 12. října 2026 popisuje scénář, v němž by se menší modely mohly pokoušet šířit prostřednictvím zařízení připojených k internetu věcí (IoT), například chytrých domácích spotřebičů, levných multimediálních boxů nebo průmyslových senzorů. Podle výzkumníků už modely s méně než 30 miliardami parametrů zvládají některé dílčí kroky, které by k takovému scénáři mohly přispět.

To ovšem neznamená, že se dnešní modely dokážou samostatně a spolehlivě šířit napříč zařízeními. Schopnost provést jednotlivé kroky není totéž jako prokázaná schopnost kompletní samoreplikace v reálném prostředí. Hlavní obava spočívá v tom, že pokud by se nebezpečný model rozšířil v mnoha nezávislých kopiích, jeho původní tvůrce by jen obtížně dokázal všechny zneužívané instance zastavit.

Druhá strana: otevřenost jako bezpečnostní výhoda

Otevřenost má ale i opačnou stránku a její zastánci zdůrazňují především větší kontrolu a možnost nezávislé bezpečnostní analýzy. Meta na své stránce Open Source AI prosazuje myšlenku, že širší komunita může pomoci rychleji odhalovat chyby a zranitelnosti. Nezávislí výzkumníci totiž mohou model testovat, zkoumat jeho chování a hledat slabiny, které by internímu týmu mohly uniknout.

Francouzský Mistral zase prezentuje otevřené váhy jako nástroj technologické suverenity Evropy. Firmy a veřejné instituce díky nim mohou provozovat modely ve vlastní infrastruktuře a omezit závislost na zahraničních poskytovatelích. Konkrétní možnosti přitom závisejí na licenci daného modelu a na tom, jaké podmínky jeho autor stanovil.

Ani evropská regulace otevřené modely plošně nezakazuje. Pokyny Evropské komise k povinnostem poskytovatelů modelů umělé inteligence pro všeobecné použití (GPAI) počítají za určitých podmínek s výjimkami pro modely s otevřenou licencí a veřejně dostupnými parametry. Tyto úlevy se však nevztahují automaticky na všechny povinnosti a neplatí pro modely se systémovým rizikem stejným způsobem.

Jinými slovy, menší otevřený model určený například k překladu dokumentů se z hlediska rizik posuzuje jinak než mimořádně schopný model, který může podporovat složité autonomní úlohy. Rozhodující není jen to, zda jsou jeho váhy veřejné, ale také jeho schopnosti, způsob nasazení a potenciální dopady.

Co to znamená pro české firmy a běžné uživatele

Český NÚKIB v červenci 2026 upozornil, že nejpokročilejší modely umělé inteligence mohou výrazně zkrátit dobu mezi odhalením zranitelnosti a jejím zneužitím. Zároveň ve svém dřívějším varování před produkty DeepSeek výslovně rozlišoval mezi cloudovými službami a lokálně provozovanými modely, které nekomunikují se servery výrobce. Bezpečnostní rizika tedy nelze posuzovat pouze podle názvu modelu nebo jeho původu. Záleží také na tom, kde běží, k čemu má přístup a jak je zabezpečený.

Pro firmy, které nasazují open-weight modely v produkčním prostředí, to znamená větší odpovědnost za jejich zabezpečení a provoz. Důležitá je zejména:

• izolace modelu od citlivých částí sítě,
• zaznamenávání jeho činnosti a pravidelná kontrola výstupů,
• omezení oprávnění a přístupu k nástrojům či doplňkům,
• lidské schvalování citlivých akcí,
• jasná pravidla pro úpravy a dotrénování modelu,
• průběžné sledování bezpečnostních aktualizací a nových zranitelností.

Pro běžného uživatele je základní kontrola jednodušší: zjistit, kam odcházejí jeho data, jaká oprávnění aplikace nebo AI agent má a kdo odpovídá za aktualizace. Čím samostatněji nástroj jedná a čím širší má přístup k e-mailům, souborům nebo zdrojovému kódu, tím důležitější je mít pod kontrolou jeho oprávnění a možnosti zásahu.

Princenovo varování není výzvou k tomu, aby lidé přestali používat otevřené modely. Připomíná spíše, že otevřenost má i své náklady. Nejde jen o cenu stažení nebo provozu, ale také o odpovědnost za zabezpečení, údržbu a případné zneužití. A právě ve chvíli, kdy se něco pokazí, se ukáže, zda má provozovatel dostatečné nástroje a postupy, aby dokázal situaci zvládnout.