Jak skutečně rozpoznat obrázky generované AI s pomocí Googlu. Odhalí i skrytý znak, který lidské oko přehlédne

Google Gemini umí v nahraném obrázku najít neviditelný digitální vodoznak SynthID, signál zakódovaný přímo v pixelech, který žádné lidské oko nerozpozná.

Zdroj fotografie: Unsplash

Postup je jednodušší, než by člověk čekal. Stačí otevřít Gemini, nahrát podezřelý obrázek a zeptat se: „Byl tento obrázek vytvořen umělou inteligencí?“ Google pak může hledat především dvě stopy: neviditelný vodoznak SynthID a metadata Content Credentials. Pokud SynthID detekuje, může potvrdit, že obrázek celý nebo zčásti vytvořil některý z modelů Googlu. Právě tento vodoznak je oním „skrytým znakem“. Nejde o viditelné logo v rohu obrázku, ale o signál zakódovaný v obrazových datech. Google DeepMind ho popisuje jako nepostřehnutelný prvek navržený tak, aby nenarušoval vizuální kvalitu snímku. Člověk ho pouhým okem nerozpozná, k jeho odhalení je potřeba odpovídající detekční technologie. Tím ale ověřování nekončí. SynthID je určen především k rozpoznávání obsahu vytvořeného podporovanými modely Googlu. Pokud chcete co nejlépe posoudit pravost obrázku, je vhodné kombinovat více metod a nespoléhat na jediný nástroj.

Co přesně SynthID dělá a kde má hranice

SynthID vyvinul Google DeepMind jako technologii pro označování obsahu vytvořeného umělou inteligencí. Na rozdíl od běžných metadat EXIF, která lze z obrazového souboru poměrně snadno odstranit, je obrazový vodoznak SynthID zakódován přímo do obrazových dat. Je navržen tak, aby odolával některým běžným úpravám, například změně velikosti, kompresi nebo ořezu. Neznamená to však, že jej lze spolehlivě detekovat za všech okolností.

Google počítá i s tím, že uživatel může nahrát snímek obrazovky. Pro co nejlepší výsledek je vhodné oříznout obrázek tak, aby v něm zůstala především samotná zkoumaná fotografie a co nejméně okolního rozhraní.

Limity ale existují. Výrazný ořez, silná komprese nebo další úpravy mohou detekci ztížit. Především však SynthID nedokáže potvrdit původ každého obrázku vytvořeného umělou inteligencí. Pokud někdo použije generátor, který tuto technologii nepodporuje, Gemini nemusí žádný vodoznak najít.

Negativní výsledek proto neznamená, že jde o autentickou fotografii. Znamená pouze to, že se nepodařilo detekovat příslušný vodoznak. Absence důkazu o původu z Google AI není důkazem, že obrázek zachycuje skutečnost.

Google představil také samostatný nástroj SynthID Detector, který má pomáhat s ověřováním obsahu označeného technologií SynthID. Jeho dostupnost a jazyková podpora se mohou měnit, proto je vhodné ověřit aktuální podmínky přímo na oficiálním webu. Samotný Gemini lze používat také v češtině, a to prostřednictvím webu i mobilní aplikace.

Tři vrstvy ověření, které dohromady fungují

Spoléhat na jediný test je jako určovat diagnózu podle jednoho příznaku. Rozumnější přístup kombinuje několik metod, z nichž každá odhaluje jiný typ informací.

• Pixelový vodoznak (SynthID): Nahrajte obrázek do Gemini nebo do dostupného nástroje SynthID Detector. Pokud se podaří vodoznak detekovat, může to potvrdit souvislost obrázku s podporovaným modelem Googlu. Pokud se nenajde, nelze z toho automaticky usuzovat, že je snímek pravý.
• Kryptografická metadata (Content Credentials / C2PA): Jde o soubor informací o původu a historii digitálního obsahu. Může obsahovat údaje o tvůrci, použitém nástroji nebo provedených úpravách. Podpora se liší podle výrobce, aplikace a konkrétního souboru. Metadata lze ověřit například prostřednictvím nástroje Content Credentials Inspect. Pokud ale někdo obrázek upraví nebo vytvoří jeho screenshot, původní metadata se mohou ztratit.
• Reverzní vyhledávání: Google Lens nebo TinEye mohou pomoci najít starší výskyty obrázku na internetu. To je užitečné zejména tehdy, když někdo recykluje starou fotografii, vydává ji za aktuální událost nebo ji používá mimo původní kontext. Google může u některých obrázků nabídnout také další informace o jejich původu a předchozím výskytu.

Teprve potom má smysl zaměřit se na vizuální indicie, jako jsou nesmyslné nápisy, nepřirozené ruce a zuby, podivné odrazy světla nebo opakující se vzory. U moderních generátorů ale podobné chyby často chybějí, takže samotná vizuální kontrola nestačí.

Proč AI pořád chybuje v detailech, a proč na to nelze spoléhat

Generátory obrázků stále mohou chybovat při zobrazování složitých scén, většího počtu objektů nebo jejich vzájemných prostorových vztahů. Výzkumy publikované na arXiv se zabývají mimo jiné tím, jak si generativní modely vedou při plnění přesných zadání a vytváření scén s více prvky. Konkrétní závěry je ale nutné posuzovat podle metodiky jednotlivých studií a použitých modelů.

Chyby se mohou objevit například v anatomii, počtu prstů nebo v tom, jak na sebe jednotlivé objekty navazují. Složitější pózy a skupinové scény mohou být pro některé generátory náročnější než jednoduchý portrét. Samotná přítomnost takové chyby však ještě nedokazuje, že obrázek vytvořila umělá inteligence. Podobné deformace mohou vzniknout také při úpravách, kompresi nebo nekvalitním zpracování skutečné fotografie.

Moderní modely navíc dokážou velmi přesvědčivě vykreslit textury, pleť i detaily obličeje. Portrét jednoho člověka v běžné póze proto může působit zcela realisticky. Kdo se spoléhá jen na „divný pocit“ z obrázku, může některé případy odhadnout správně, ale jako spolehlivá metoda to nefunguje.

Právě proto má smysl kombinovat technické ověření původu, reverzní vyhledávání a kontrolu kontextu. Žádná z těchto metod není sama o sobě univerzálním důkazem pravosti.

Český kontext: kde se AI obrázky šíří a jak se bránit

V českém prostředí se zavádějící a uměle vytvořené obrázky šíří také prostřednictvím sociálních sítí. Organizace zaměřené na ověřování informací, například AFP a CEDMO, zveřejňují případy zavádějících vizuálů a dezinformací, které se šíří na platformách, jako jsou Facebook, X nebo TikTok.

Častým scénářem je, že se obrázek nejprve rozšíří na sociálních sítích a později se objeví v podobě screenshotu článku nebo na webu, který má působit důvěryhodněji. Samotné zveřejnění na webu ovšem neznamená, že je obrázek autentický nebo že odpovídá popisované události.

Praktický postup pro obrázek ze sociální sítě:

• Uložte původní soubor, pokud je to možné. Pokud máte pouze příspěvek na sociální síti, pořiďte screenshot, ale počítejte s tím, že může přijít o část původních metadat.
• Nahrajte obrázek do Gemini na webu gemini.google.com nebo v mobilní aplikaci a zeptejte se, zda lze zjistit jeho původ z generativní AI.
• Vyzkoušejte Google Lens nebo TinEye a hledejte starší výskyty stejného nebo podobného obrázku.
• Prověřte zdroj příspěvku, stáří účtu, datum zveřejnění a kontext, ve kterém se snímek objevil.
• Nakonec zkontrolujte případné vizuální nesrovnalosti, například nápisy, ruce, zuby, odrazy nebo opakující se vzory.

Důležité je počítat s tím, že některé generátory obrázků automaticky nepřidávají snadno detekovatelný vodoznak ani metadata C2PA. To se může týkat také modelů s otevřenými váhami, které uživatelé provozují na vlastní infrastruktuře. Absence vodoznaku proto nikdy sama o sobě nepotvrzuje pravost obrázku.

Nejsilnější poučení není „dívej se lépe“

Mnoho návodů na rozpoznávání obrázků vytvořených umělou inteligencí končí u doporučení, abyste si všímali rukou, zubů nebo podivných detailů. To už nestačí. Přesvědčivě vypadající obrázek může být uměle vytvořený a skutečná fotografie může naopak působit podezřele kvůli nekvalitnímu zpracování.

Rozumnější je postupovat v několika krocích: nejprve prověřit původ a metadata souboru, potom vyhledat jeho starší výskyty a ověřit kontext. Teprve následně se zaměřte na vizuální indicie.

Ani vodoznak, ani metadata, ani reverzní vyhledávání nejsou univerzální zárukou. Pokud se ale jejich výsledky shodují s dalšími důkazy, můžete si o původu obrázku udělat mnohem spolehlivější představu než pouhým pohledem.