Lidstvo je v pasti, už nerozezná realitu od podvodu. Videohovor s falešným šéfem stál firmu stovky milionů

Zaměstnanec inženýrské firmy Arup autorizoval převody v přepočtu přes 600 milionů korun poté, co se připojil k videohovoru s podvrženým finančním ředitelem.

Zdroj fotografie: Pexels

Koncem ledna 2024 dostal pracovník finančního oddělení hongkongské pobočky Arupu e-mail od někoho, kdo se vydával za finančního ředitele britské centrály. Následovala pozvánka na skupinovou videokonferenci kvůli „důvěrným transakcím“. Na obrazovce seděl člověk, který vypadal i zněl přesně jako skutečný CFO, jenže šlo o deepfake vytvořený z veřejně dostupných videí a hlasových záznamů. Po hovoru přišly platební instrukce přes instant messaging a zaměstnanec postupně odeslal peníze na pět různých účtů. Celková škoda dosáhla zhruba 200 milionů hongkongských dolarů, tedy asi 25,6 milionu amerických dolarů. Arup ve své výroční zprávě za rok 2023/24 přiznal, že útočníci použili falešný hlas, podpisy i obraz. Mluvčí firmy pro média potvrdil, že interní IT systémy kompromitovány nebyly. Problém nebyl v technologii firmy. Problém byl v tom, že člověk na druhé straně hovoru uvěřil tomu, co viděl.

Lidské smysly bohužel nestačí

Tvrzení, že lidstvo přestává rozeznávat realitu od podvrhu, není nadsázka, ale statistický závěr. Rozsáhlá meta-analýza zahrnující 56 studií a více než 86 tisíc účastníků dospěla k závěru, že průměrná úspěšnost lidí při rozpoznávání deepfakeů činí 55,54 %. To je jen těsně nad úrovní náhodného hádání. Výzkumníci výslovně uvádějí, že výsledek „není signifikantně nad úrovní náhody“.

Český kontext je ještě varovnější. Experiment popsaný Ministerstvem vnitra ČR a realizovaný výzkumníky z FIT VUT ukázal, že v běžné konverzaci nikdo z 31 respondentů deepfake hlas neodhalil. Žádný. Nula z jednatřiceti. Když člověk podvod neočekává, mozek si důvěryhodnost situace doplní sám. A přesně na to útočníci v případu Arupu spoléhali: videokonference byla podle hongkongských úřadů předem připravená a neobsahovala skutečnou interakci. Vizuální důvěryhodnost nahradila chybějící „živost“ a zaměstnanec neměl důvod pochybovat.

Meta-analýza přitom ukazuje i záblesk naděje. Když lidé projdou cíleným tréninkem se zpětnou vazbou nebo dostanou podporu od AI nástrojů, jejich úspěšnost stoupne přibližně na 65 %. Je to lepší, ale stále daleko od spolehlivosti.

Detektory slibují hodně, v praxi ale dodávají málo

Pokud lidské oko a ucho selhávají, nabízí se otázka: co zvládnou stroje? V laboratorních podmínkách poměrně hodně. Na benchmarku WildRF dosáhl nejlepší model přesnosti 93,7 % a jeho odlehčená verze pro mobilní zařízení byla 375krát úspornější při jen mírném poklesu výkonu. Jenže laboratoř není reálný svět.

Na datasetu Deepfake-Eval-2024, který obsahuje skutečné deepfaky „z divočiny“, klesl výkon open-source modelů v průměru o 50 % u videa, 48 % u audia a 45 % u obrázků. Nejlepší dosažené AUC bylo 0,58, tedy opět jen těsně nad úrovní náhody. Hodnocení NIST Open Media Forensics Challenge potvrzuje podobný obraz: detektory videí se pohybují kolem AUC 0,578.

Trh přesto reaguje. Honor nabízí detekci přímo v telefonu – lokální AI model analyzuje videohovor v reálném čase a podezřelý obsah označí během tří sekund. Výhodou je soukromí, protože data neopouštějí zařízení. Nevýhodou je omezený ekosystém: funkce funguje jen na vybraných modelech a v několika aplikacích. Na opačném pólu stojí cloudová řešení. Pindrop slibuje rozpoznání syntetického hlasu do dvou sekund řeči a integraci do Zoomu, Webexu i Teams. Firma iProov v květnu 2026 spustila plugin Verified Meetings, který ověřuje identitu účastníků přímo uvnitř videoplatformy. Naopak veřejně dostupný detektor TrueMedia svou službu ukončil a Google Cloud má API pro analýzu obrázků stále jen v omezeném náhledu. Stabilní spotřebitelský standard zatím neexistuje.

Právní past jménem biometrika

Každý systém, který analyzuje obličej nebo hlas za účelem ověření identity, pracuje s biometrickými údaji. A tady vstupuje do hry legislativa. GDPR v článku 9 zakazuje zpracování biometrických údajů za účelem jednoznačné identifikace osoby bez odpovídajícího právního základu. Evropský sbor pro ochranu osobních údajů navíc dlouhodobě preferuje architektury, kde maximum kontroly nad daty zůstává u jednotlivce; centralizovaná cloudová řešení bez dostatečných záruk v posuzovaných scénářích neobstála.

V USA je situace v některých státech ještě přísnější. Illinoiský zákon BIPA výslovně řadí „otisk hlasu“ a „geometrii obličeje“ mezi biometrické identifikátory a vyžaduje písemný souhlas, jasně definovaný účel zpracování, pravidla uchovávání i podmínky sdílení. Pro dodavatele deepfake detekce to znamená, že s hlasem a obličejem nemohou nakládat jako s běžnými provozními daty. Řešení běžící přímo v zařízení má v tomto ohledu strukturální výhodu – data nikam neodcházejí. Cloudová řešení musí splnit výrazně přísnější požadavky na soulad s předpisy.

Česko není imunní

Prokazatelný případ deepfake videohovoru vedoucího k firemnímu převodu peněz se v Česku zatím veřejně neobjevil. Rizikové prostředí tu ale existuje. NÚKIB, Policie ČR a Česká bankovní asociace v roce 2024 společně spustily kampaň proti podvodným hovorům a uvedly, že jen v roce 2023 útočníci z účtů českých občanů prostřednictvím telefonických podvodů vylákali téměř 200 milionů korun. Ministerstvo vnitra cituje výzkumníka z FIT VUT, podle něhož jsou v ohrožení „doslova všichni uživatelé telefonu, počítače a sociálních sítí“, včetně firemních scénářů typu „kolega z jiné pobočky“.

Praktická obrana existuje, ale vyžaduje změnu návyků:

• Při videohovoru požádejte druhou stranu o nečekaný pohyb (otočení hlavy, zvednutí ruky) a sledujte případné anomálie.
• Položte otázku, na kterou zná odpověď jen skutečný člověk.
• Při jakémkoli požadavku na převod peněz hovor ukončete a zavolejte zpět na oficiálně ověřené telefonní číslo.
• U kritických porad používejte další vrstvu ověření identity nad rámec samotné videoplatformy a nespoléhejte jen na to, že „vidíte známý obličej“.

Videohovor jako důkaz identity je pasé

Případ Arupu nebyl ojedinělý ani v samotném Hongkongu. Tamní policie do konce května 2024 evidovala tři deepfake podvody, včetně květnového případu, kdy třicetiminutový videohovor s falešným CFO připravil jinou firmu o téměř čtyři miliony hongkongských dolarů. Současně zaznamenala 21 deepfake videí vydávajících se za státní úředníky nebo celebrity.

Vzorec je jasný. Útočníci nepotřebují prolomit firewall ani ukrást heslo. Stačí jim veřejně dostupné video, několik minut hlasového záznamu a zaměstnanec, který věří vlastním očím. Obrana neleží v lepším zraku, ale v lepším procesu: žádný převod peněz, žádný citlivý úkon ani žádné udělení přístupu by neměly záviset na jediném komunikačním kanálu. Videohovor je stále užitečný signál. Jen už nikdy nesmí být tím jediným.