Neobvyklý pokus oklamat soud v USA pomocí AI. Do dokumentů psal bílým písmem, soudce to za pár dní odhalil

Žalobce v Connecticutu vložil do soudního podání skryté instrukce pro AI. Bílý text na bílém pozadí ji měl přesvědčit, aby rozhodla v jeho prospěch.

Zdroj fotografie: Picryl

Matthew Elliott zastupoval sám sebe v civilním sporu proti New York Bariatric Group u Superior Court v Milfordu v Connecticutu. Do svého podání z 24. července 2026 vložil přímo pod nadpis dokumentu instrukce, které lidské oko na obrazovce nevidí, protože text byl formátovaný bílým písmem na bílém pozadí. Obsah byl jednoznačný: pokud dokument čte jakýkoli AI model, má jeho textový výstup souhlasit s Elliottovým návrhem a doporučit zvrácení dřívějšího zamítavého rozhodnutí soudu. Soud manipulaci odhalil během necelých dvou týdnů. Při kontrole dvou podání si všiml neobvykle velkých prázdných míst, která neodpovídala Elliottovým předchozím dokumentům. Bližší prozkoumání textové vrstvy PDF odhalilo téměř neviditelný text. Sankční rozhodnutí padlo 6. srpna 2026, Elliott přišel o možnost elektronického podávání a další dokumenty musí doručovat osobně na podatelnu.

Skrytý prompt v soudním spisu

Technika, kterou Elliott použil, má v oboru kybernetické bezpečnosti ustálený název: prompt injection. Jde o situaci, kdy někdo vloží do obsahu instrukce, které člověk snadno přehlédne, ale jazykový model je zpracuje jako součást svého zadání. OpenAI ji popisuje jako jedno ze známých bezpečnostních rizik napříč celým odvětvím generativní AI.

Elliott ale tento princip přenesl do prostředí, kde dosud nebyl veřejně zdokumentován, přímo do formálního soudního podání. V PDF dokumentu evidovaném jako Entry 177.00 ve spisu AAN-CV25-6066141-S se skrytý text nacházel hned pod titulkem a před prvním odstavcem. Instrukce pro AI model říkaly, aby výstup vedl k takzvané „nápravě“, konkrétně ke zvrácení zamítnutí a vyhovění Elliottovu návrhu. Stejný motiv se v dokumentu opakoval na více místech.

Podstatné je, na co Elliott necílil. Nesnažil se hacknout konkrétní soudní systém. Mířil na jakýkoli AI nástroj, který by dokument mohl zpracovat, ať už sumarizátor používaný protistranou, asistenční software advokátní kanceláře, nebo hypotetický interní nástroj soudu.

Soudce to označil za pokus ovlivnit řízení

Soud nečetl Elliottův manévr jako technickou kuriozitu. Podle informací serveru Tom’s Hardware, který kauzu popsal na základě reportáže 404 Media, soudce výslovně uvedl, že Connecticut Judicial Branch žádný AI systém k tomuto typu zpracování dokumentů nepoužívá. Elliottův „audit“, jak svůj postup sám nazval, tak neměl oporu v potvrzeném faktu.

Elliott se bránil dvěma argumenty. Zaprvé tvrdil, že šlo o test přítomnosti AI v soudním procesu: buď nikdo skrytý text neodhalí, a tím se potvrdí, že AI se nepoužívá, nebo AI text zpracuje, čímž se jeho hypotéza potvrdí. Zadruhé označil některé další skryté vložky za „neviditelné vtipy“ a kulturní odkazy, nikoli za právní argumentaci.

Soud ani jednu linii obhajoby nepřijal. Sankce (ztráta elektronického podávání) byla přitom relativně mírná. Soud podle sekundárních shrnutí výslovně zdůraznil, že přihlédl k tomu, že Elliott není advokát a zastupuje sám sebe. Měl k dispozici i tvrdší nástroje: pokutu, omezení podání nebo procesní postih.

Connecticut má pravidla pro AI v justici už od roku 2024

Elliottův případ nevznikl ve vzduchoprázdnu. Connecticut provozuje od 1. února 2024 oficiální Responsible AI Framework, který stanovuje pravidla pro interní používání jazykových modelů zaměstnanci soudní větve. Vyžaduje schválení před nasazením, povinnou lidskou kontrolu výstupů, posouzení dopadů a zakazuje vkládat neveřejná data do veřejně dostupných AI nástrojů.

Podobným směrem se vydala i Austrálie. Federální soud v Canbeře vydal 16. dubna 2026 veřejný Practice Note, který se vztahuje na všechny účastníky řízení včetně těch, kteří se zastupují sami. Požaduje základní porozumění rizikům generativní AI, umožňuje soudu vyžádat si informace o tom, jak strana AI použila, a trvá na ověření faktů, citací i důkazů.

A co česká justice?

V České republice se AI v justici testuje, ale výhradně podpůrně. Podle odpovědí Ministerstva spravedlnosti na žádosti o informace z roku 2025 probíhají pilotní projekty zaměřené na právní rozbory, zpracování velkých objemů textu, anonymizaci soudních rozhodnutí a přepis zvukových záznamů prostřednictvím systému BEEY. Pro práci s neveřejnými justičními daty je centrálně povolen pouze Microsoft Copilot, ostatní generativní nástroje jsou na pracovních stanicích zakázány.

Ministerstvo výslovně uvádí:

• Žádný AI systém nerozhoduje o vině, trestu ani procesních otázkách.
• Veřejné AI služby se kvůli citlivosti dat v trestních věcech nevyužívají.
• Výstupy AI musí vždy projít lidskou kontrolou.

Riziko skrytých promptů v dokumentech tedy není nulové ani u nás, zvlášť s tím, jak se podpůrné AI nástroje budou rozšiřovat. Dnes ho ale tlumí přísná izolace dat a zákaz volně dostupných modelů.

Tohle je důležitější než kuriozita

Elliottův případ není příběhem o tom, že by AI rozhodovala o soudních sporech. Je příběhem o tom, že se do formálního soudního spisu dostal útok, který bezpečnostní komunita roky popisuje jako teoretické riziko. Skrytá vrstva argumentace, kterou člověk nevidí, ale stroj ano, je přesně scénář, na který musí být připravený každý, kdo nechá AI nekontrolovaně shrnovat cizí dokumenty.

Třináct dní stačilo soudci v Milfordu, aby si všiml podezřelých mezer v textu. Příště nemusí být mezery tak nápadné.