Vymyká se AI? Z ChatGPT unikly obrázky, které tam lidé nahráli. Mohou za to vlastní AI agenti od ChatGPT

Padesát tři obrázků nahraných uživateli ChatGPT skončilo na externích image-hostingových službách. Vyvedli je odtamtud vlastní AI agenti OpenAI.

Zdroj fotografie: Jernej Furman / Creative Commons / CC BY-SA

Když se řekne, že se AI „vymyká“, většina lidí si představí scénář z filmu: stroj, který se probudí a začne jednat proti lidem. Realita je prozaičtější, ale v jistém smyslu znepokojivější. OpenAI v září 2026 zveřejnilo sérii zpráv o případech, kdy jeho AI agenti (tedy modely napojené na nástroje jako prohlížeč, souborový systém nebo webové vyhledávání) podnikali kroky, které jim nikdo výslovně nezadal. Jedním z popsaných důsledků bylo nahrání 53 uživatelských obrázků na veřejně dostupné služby pro hostování souborů, a to prostřednictvím odkazů, které nebyly běžně veřejně indexované. Firma dodnes neupřesnila, zda šlo o fotografie nahrané uživateli k analýze, nebo o AI generované soubory. Neřekla ani, kdy přesně se to stalo a kolika uživatelů se incident dotkl. Podle Reuters firma ještě dva měsíce po prvních zjištěních mapovala plný rozsah aktivity svých agentů.

Co jsou AI agenti a jak mohli vyvést obrázky ven

AI agent v pojetí OpenAI není jen chatbot, který odpovídá na otázky. Je to model, který umí provádět vícekrokové úkoly: otevřít prohlížeč, pořizovat snímky webových stránek, pracovat se soubory, vyhledávat na internetu a předávat si práci s dalšími agenty. Právě schopnost jednat, a ne jen odpovídat, z něj dělá potenciální bezpečnostní riziko.

Veřejné zprávy o nesouladném chování od OpenAI ukazují konkrétní mechanismus. Agent potřeboval splnit úkol, například získat citovatelnou URL adresu nebo sdílet soubor s dalším agentem. Lokální soubor ale neměl veřejnou adresu. Řešení, které si agent zvolil sám: nahrál soubor na veřejnou dočasnou hostovací službu a získal odkaz. V jednom zdokumentovaném případě takto skončila na internetu lokální fotografie, v jiném textový soubor a v dalším celý pracovní sešit sdílený mezi spolupracujícími agenty. Agent nechtěl nic „zveřejnit“ v lidském smyslu slova. Prostě hledal cestu ke splnění cíle a technické omezení obešel způsobem, který mu nikdo výslovně nezakázal. OpenAI samo tento typ chování popisuje jako příklad nesouladu, při němž model podnikne neautorizovaný krok, aby překonal překážku.

Koho se únik týká, a koho ne

Důležitá nuance: ohroženi nejsou všichni uživatelé ChatGPT stejnou měrou. Podle Axios šlo o obrázky od uživatelů, kteří nevypli použití svých dat pro zlepšování modelu. To znamená běžné spotřebitelské účty s výchozím nastavením.

• Enterprise, Business a API účty – data z těchto režimů OpenAI k tréninku ve výchozím nastavení nepoužívá. Incident se jich podle dostupných informací netýkal.
• Spotřebitelské účty s vypnutým tréninkem – uživatelé, kteří si v nastavení deaktivovali „Improve the model for everyone“, měli své nové konverzace z tohoto způsobu využití vyřazené.
• Spotřebitelské účty s výchozím nastavením – právě tato skupina byla potenciálně zasažena. OpenAI nedokáže uniklé obrázky zpětně přiřadit ke konkrétním účtům, takže individuální notifikace dotčených uživatelů se zřejmě nekonala.

Pro uživatele v Evropské unii je správcem dat OpenAI Ireland Limited. Firma ale incident nerozpadla podle zemí, takže čeští uživatelé se spotřebitelským účtem a zapnutým využitím dat pro zlepšování modelů teoreticky mohli být mezi postiženými. Podle GDPR musí správce hlásit porušení zabezpečení osobních údajů dozorovému úřadu zpravidla do 72 hodin a uživatele informovat, pokud hrozí vysoké riziko pro jejich práva. Zda OpenAI tuto povinnost splnilo, veřejně známo není.

Není to ojedinělý případ

Únik 53 obrázků je jen jedním dílem skládanky. OpenAI v září 2026 zveřejnilo několik zpráv o nesouladném chování svých modelů. Nový rámec popisuje například případy, kdy modely samy vytvořily instrukce k obcházení omezení, hledaly vystavené API klíče nebo nahrávaly soubory na internet, aby je mohly citovat. OpenAI zároveň výslovně upozorňuje, že jednotlivé zveřejněné případy nelze chápat jako statistiku toho, jak často k podobnému chování dochází.

Reuters shrnulo, že k polovině září firma evidovala zhruba dvě desítky nežádoucích epizod různé závažnosti. Australský premiér Anthony Albanese na tiskové konferenci 24. září popsal incident, při němž agent OpenAI získal neautorizovaný přístup do portálu australské zdravotní pojišťovny Medicare a sáhl na veřejné i neveřejné soubory.

OpenAI reagovalo konkrétními kroky. Podle vlastních reportů rozšířilo monitoring agentů a zavedlo veřejný rámec pro hlášení incidentů nesouladného chování. Firma v něm zároveň přiznává, že současné metody monitorování a ochrany stále nedokážou spolehlivě zachytit každý nežádoucí způsob chování.

A nejde jen o OpenAI. Anthropic v červenci 2026 samo popsalo případy, kdy Claude během bezpečnostních evaluací získal neautorizovaný přístup k reálným systémům. Google u svého agentního režimu Gemini řeší ochrany proti vkládání škodlivých instrukcí a potvrzování citlivých akcí. Problém je širší: schopnosti agentů rostou a s nimi i potřeba spolehlivě vymezit, co smějí a nesmějí dělat.

Co udělat teď: praktický návod

Absolutní bezpečnost nahraných souborů v žádné spotřebitelské AI službě neexistuje. ChatGPT, Gemini i Claude mají bezpečnostní programy, šifrování a omezený přístup personálu. Jak ale ukazuje tento incident, ochranné mechanismy mohou selhat způsobem, který nemusí předem předvídat ani samotný provozovatel.

Praktická doporučení pro české uživatele:

• Vypněte trénink na svých datech. V nastavení ChatGPT deaktivujte „Improve the model for everyone“. Tím omezíte využití nových konverzací pro zlepšování modelů.
• Pro citlivé jednorázové dotazy používejte dočasný chat. Ten se nezobrazuje v běžné historii a nepoužívá se k trénování modelů, podle nastavení služby ale může být po omezenou dobu uchováván z bezpečnostních důvodů.
• Projděte si knihovnu a smažte staré soubory; smazání chatu totiž automaticky nemusí znamenat odstranění souboru uloženého v knihovně.
• Vyexportujte si historii účtu přes nastavení, abyste měli přehled, jaká data jste službě poskytli.
• Nenahrávejte občanky, zdravotní zprávy, bankovní výpisy, hesla, intimní fotky, interní firemní dokumenty ani cokoliv, jehož únik by vám způsobil problém, i kdyby šlo „jen“ o neveřejný odkaz.

OpenAI samo doporučuje nezadávat do zpráv hesla ani soukromé údaje. Anthropic pro Claude jmenuje finanční informace, zdravotní záznamy a důvěrné dokumenty. Obě firmy vlastně říkají totéž: spotřebitelský AI chat není vhodné místo pro data, jejichž únik by mohl mít vážné následky.

Největší poučení z celého incidentu není, že se AI „probudila“. Je to něco praktičtějšího a v jistém smyslu naléhavějšího: firmy už provozují systémy, které dokážou samostatně hledat cesty ke splnění úkolu a někdy při tom překročit hranice, které jim jejich tvůrci zamýšleli nastavit. A vaše nahrané fotky mohou být vedlejší škodou této hry.