Zamilovaný muž prodal majetek a ujel 2 000 km za ženou z TikToku. Na místě zjistil, že nikdy neexistovala, vytvořila ji AI

Brazilec prodal vše, co měl, nasedl na autobus a po 36 hodinách dorazil do města vzdáleného přes 2 000 kilometrů. Žena, za kterou jel, nikdy neexistovala.

Zdroj fotografie: Radio Itatiaia

Edimar Rocha Martins z brazilského města Imperatriz ve státě Maranhão sledoval od roku 2020 na sociálních sítích profil „Jéssica Fazendeira“. Vystupovala na něm atraktivní žena z farmy, která se prezentovala jako vdova hledající nového partnera. Ve videích mluvila přímo do kamery a slibovala mu společný život na farmě, domov i finanční zajištění.

Martins, který se po smrti matky potýkal se samotou, uvěřil, že by s ní mohl začít nový život. Dne 9. října 2026 proto opustil Imperatriz a vydal se autobusem do Belo Horizonte, vzdáleného přibližně 2 100 kilometrů. Do cíle dorazil 11. října. Ženu se snažil najít, procházel městem a ukazoval její fotografie kolemjdoucím. Obrátil se také na místní rozhlasovou stanici. Teprve tehdy zjistil, že „Jéssica Oliveira“ není skutečná žena, ale virtuální postava vytvořená pomocí umělé inteligence (AI). Její videa i některé reakce na sociálních sítích byly generované nebo automatizované.

Profil @jessicafazendeira měl podle dobových zpráv přes 300 tisíc sledujících. Jeho obsah sloužil především k získávání pozornosti a propagaci zboží. Příběh tak ukazuje, že realisticky působící virtuální postava může mít skutečný dopad na život člověka, který jí uvěří.

Šest let iluze a jedna jízdenka bez návratu

Martins profil sledoval několik let, podle dostupných zpráv už od roku 2020. Ve výpovědích pro brazilská média popisoval, že ho přesvědčily opakující se přísliby společného života i dojem, že žena reaguje přímo na něj. Velký počet sledujících mohl navíc posilovat pocit, že jde o skutečnou osobu. K tomu se přidala samota po smrti matky a touha začít znovu.

Jeho příběh připomíná takzvaný parasociální vztah, tedy jednostranný pocit blízkosti k osobě, kterou člověk zná především z médií. V tomto případě ho posilovala virtuální postava, která mluvila přímo ke sledujícím a vykreslovala lákavou představu společné budoucnosti. Martins uvěřil, že její slova platí osobně pro něj.

Není však zcela jasné, jak přesně probíhala jejich údajná komunikace. Provozovatel profilu později tvrdil, že s Martinsem žádné soukromé rozhovory nevedl a že účet sloužil k získávání pozornosti a propagaci produktů. Přesný seznam věcí, které Martins prodal, ani celkovou hodnotu svého majetku média nezveřejnila. Podle vlastních slov se zbavil všeho, co měl, aby mohl odjet za ženou, o níž se domníval, že s ní bude žít.

Případ, který není ojedinělý

Po příjezdu do Belo Horizonte Martins zjistil, že ženu nedokáže najít, a neměl dost peněz na návrat. Pomoc získal od městské služby pro migranty, která mu podle informací zveřejněných městem poskytla potřebnou podporu a zajistila autobusovou jízdenku. Původně chtěl odjet do Tocantinsu, odkud pocházel, nakonec se ale po cestě vrátil do Imperatriz v Maranhão.

Podle Rádio Itatiaia šlo už o třetí podobný případ v Belo Horizonte za méně než šest měsíců. Město v reakci na událost zveřejnilo upozornění a informace o pomoci lidem v obtížné životní situaci.

Podobné případy ukazují, že nejde jen o kuriózní příběh jednoho člověka. Virtuální postavy vytvořené pomocí AI mohou získávat důvěru sledujících, přestože za nimi nestojí osoba, za kterou se vydávají. Pokud někdo na základě takového obsahu učiní zásadní životní rozhodnutí, mohou být následky velmi konkrétní.

Není to klasický podvod, a právě proto je to horší

Případ se v některých ohledech liší od tradičního romantického podvodu. Při takzvaném romance scamu pachatel obvykle předstírá romantický zájem, aby z oběti vylákal peníze, osobní údaje nebo jiný prospěch. Více informací o podobných praktikách nabízí například Policie ČR.

V Martinsově případě veřejně dostupné zprávy nedokládají, že by mu provozovatel profilu přímo požadoval peníze nebo mu poslal konkrétní žádost o finanční pomoc. Podle jeho výpovědi ho však videa a automatické reakce přesvědčily, že má v Belo Horizonte skutečnou partnerku a že ho tam čeká nový život. Kvůli této představě prodal svůj majetek a vydal se na dlouhou cestu.

Právě v tom spočívá hlavní riziko. Virtuální postava nemusí od oběti přímo požadovat peníze, aby její jednání způsobilo skutečnou škodu. Stačí, když si člověk vytvoří silné citové pouto k někomu, kdo ve skutečnosti neexistuje, a začne podle této představy rozhodovat o svém životě.

Poznáte dnes deepfake pouhým okem? Spíš ne

Rozpoznat realisticky vytvořený obsah pomocí AI je stále obtížnější. Dříve se lidé mohli zaměřit například na nepřirozený pohyb úst, podivnou mimiku nebo nesrovnalosti v obraze. U kvalitních současných generovaných videí už ale tyto znaky nemusejí být patrné. Ani plynulý hlas nebo přirozené vystupování nejsou důkazem, že člověk na obrazovce skutečně existuje.

Na rizika manipulace pomocí AI upozorňují také bezpečnostní instituce a technologické společnosti. Samotný vizuální dojem proto nestačí. Důležitější je ověřovat identitu, hledat nezávislé informace a dávat pozor na obsah, který se snaží vyvolat silné emoce nebo přimět člověka k zásadnímu rozhodnutí.

Co tedy funguje jako obrana?

• Ověřte identitu mimo jednu platformu. Hledejte nezávislé informace o dané osobě a pokuste se ověřit, zda její identita odpovídá skutečnosti. Ani videohovor sám o sobě nemusí být stoprocentním důkazem pravosti.
• Všímejte si opakujících se vzorců. Generické emocionální sliby, automatické odpovědi nebo vyhýbání se konkrétním otázkám mohou být varovnými signály. Samy o sobě však ještě nedokazují, že jde o AI.
• Nikdy neposílejte peníze, doklady ani intimní obsah člověku, jehož totožnost nemáte dostatečně ověřenou. Buďte obzvlášť opatrní, pokud vás někdo tlačí do rychlého rozhodnutí.
• Při podezření nahlaste profil platformě. Pokud už došlo k finanční škodě, co nejdříve kontaktujte banku a policii.

Pravidla existují, praxe pokulhává

Evropský akt o umělé inteligenci (AI Act) obsahuje v článku 50 pravidla transparentnosti pro určité systémy AI a pro některý obsah vytvořený nebo upravený pomocí těchto systémů. Za stanovených podmínek se týkají například informování lidí, že komunikují se systémem AI, nebo označování takzvaných deepfake výstupů. Konkrétní povinnosti se ale liší podle typu systému a obsahu, takže nelze tvrdit, že každý profil s virtuální postavou automaticky porušuje zákon.

Ani samotná skutečnost, že někdo používá AI k vytváření videí, nemusí být protiprávní. Problém nastává zejména tehdy, pokud je obsah klamavý, porušuje pravidla platformy nebo slouží k podvodu. V obchodním prostředí mohou být relevantní také pravidla na ochranu spotřebitele, například pokud prezentace produktu či osoby vede zákazníka k rozhodnutí, které by jinak neučinil.

Zásadní otázkou proto není jen existence právních předpisů, ale také jejich prosazování a schopnost platforem včas rozpoznat problematické účty. Profil „Jéssica Fazendeira“ získal stovky tisíc sledujících a jeho obsah přesvědčil alespoň jednoho člověka, aby kvůli domnělému vztahu opustil svůj dosavadní život. Přesný rozsah soukromé komunikace mezi Martinsem a provozovatelem profilu přitom zůstává sporný.

Edimar Rocha Martins se nakonec vrátil do Imperatriz, kde ho podle místních médií přivítala rodina i další lidé, kteří jeho příběh sledovali. Jeho zkušenost připomíná, že důvěryhodně vypadající video ani velký počet sledujících nejsou zárukou, že za profilem stojí skutečná osoba. Algoritmy sociálních sítí mohou podobný obsah dál doporučovat, a proto je důležité zachovat si odstup a ověřovat si informace dřív, než podle nich člověk udělá zásadní životní krok.