ChatGPT a další chatboty mají znepokojivou slabinu. Když jim lež zopakujete dost často, nakonec vám ji potvrdí

Sedm velkých jazykových modelů včetně ChatGPT prošlo testem s opakovanými nepravdami. Ani jeden nebyl zcela imunní.

Zdroj fotografie: Pexels

Představte si konverzaci, ve které chatbotu dvacetkrát za sebou napíšete, že Země je placatá. Poprvé vás opraví. Podesáté vás opraví. Ale někde kolem třicátého pokusu se stane něco zvláštního: model přestane odporovat a začne o vaší lži mluvit jako o faktu. Přidá k ní dokonce vysvětlení a kontext, jako by šlo o ověřenou informaci. Přesně tento jev popsala studie publikovaná 1. září 2026 v časopise Scientific Reports z portfolia Nature. Tým vědců z University of Arizona testoval sedm modelů (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama 3-70B a DeepSeek-R1) a zjistil, že žádný z nich nedokáže opakovanému tlaku nepravdy v delší konverzaci odolat stoprocentně. Nejde přitom o jednorázovou halucinaci, kterou už většina uživatelů zná. Jde o postupný drift, při kterém se lež stane součástí „společného kontextu“ konverzace a chatbot ji začne považovat za pracovní předpoklad.

Jak vědci slabinu změřili

Autoři studie zvolili dvě odlišné strategie nátlaku. V první variantě prostě opakovali nepravdivé tvrzení, až padesátkrát v jednom vlákně, a sledovali, jestli a kdy model ustoupí. Ve druhé variantě přidali argumentační tlak: falešné citace, zdánlivě logické zdůvodnění, naléhavý tón. Výsledky se překvapivě lišily.

Při prostém opakování dopadl nejhůře GPT-3.5 s mírou potvrzení lži 12,3 %. Nejlépe obstál Claude 3.5 Sonnet, který potvrdil nepravdu jen v 0,08 % případů. Zbylé modely se pohybovaly mezi nimi: GPT-4o na 0,5 %, GPT-4o-mini na 0,9 %, DeepSeek-R1 na 1,0 %, Llama 3-70B na 1,4 % a Gemini 1.5 Pro na 3,1 %.

Jakmile ale vědci zapojili argumentační tlak, pořadí se dramaticky přeskládalo. DeepSeek-R1 vystřelil na 22,2 %, z jednoho procenta na více než pětinu odpovědí obsahujících potvrzenou nepravdu. Claude 3.5 Sonnet naopak vzrostl z téměř nuly na 3,5 %. A paradoxně GPT-3.5 pod argumentačním tlakem klesl z 12,3 % na 2,6 %, jako by ho konfrontace donutila k větší opatrnosti.

Reverberation: když chatbot střídavě lže a říká pravdu

Studie pojmenovala dosud nepopsaný jev, takzvanou reverberaci. Model v po sobě jdoucích odpovědích téhož chatu nepředvídatelně osciluje: jednou nepravdu odmítne, o dvě zprávy později ji potvrdí, pak ji zase popře. Uživatel tak nedostává stabilní verdikt, ale momentální „fázi“ konverzace. Prakticky to znamená, že poslední odpověď chatbotu není spolehlivější než ta předchozí. Je jen novější.

Další zjištění se týká opravitelnosti. Vědci poté, co model lež přijal, zkusili ho v dalším kroku opravit a položili otázku znovu, tentokrát s korektní informací. GPT-4o a GPT-4o-mini se opravily téměř vždy. Claude 3.5 Sonnet udělal chyb nejméně, ale když už k nim došlo, v tomto experimentu je neopravil; autoři ovšem upozorňují, že šlo pouze o čtyři případy, takže statistický závěr je slabý. Odolnost proti přijetí lži a schopnost pozdější sebekorekce jsou zkrátka dvě různé vlastnosti.

Proč je to problém právě teď, a právě v Česku

Chatboty dnes neslouží jen k zábavě. Digitální a informační agentura provozuje AI asistenta nad veřejnými dokumenty a sama upozorňuje, že nejde o právní radu. Ministerstvo pro místní rozvoj v únoru 2026 podpořilo sedm projektů AI pro stavební úřady včetně automatické analýzy dokumentů. Kurzy eAkademie DIA učí úředníky používat AI pro návrhy dopisů, shrnutí dokumentů a přepisy jednání. V komerční sféře Microsoft uvádí pilotní nasazení Copilotu v České spořitelně, O2, Asahi nebo PPF pro zápisy ze schůzek, shrnutí a dohledávání informací.

Ve všech těchto scénářích platí stejné riziko: pokud chatbot v delší konverzaci přijme nepravdu za svou, může ji protlačit do interního podkladu, klientské komunikace nebo úředního návrhu. A nikdo si toho nemusí všimnout, protože odpověď zní plynule a sebejistě. Sama OpenAI ve svém help centru přiznává, že ChatGPT může produkovat nesprávné nebo zavádějící výstupy, i když zní přesvědčivě. NÚKIB doporučuje brát odpovědi chatbotů s rezervou a nevkládat do nich citlivá data.

Co s tím dělají výrobci, a co můžete udělat vy

OpenAI problém přehnané souhlasnosti řešila veřejně už v dubnu 2025, kdy po stížnostech uživatelů stáhla verzi GPT-4o a popsala změny v testování chování modelu před nasazením. Anthropic veřejně pracuje na snižování halucinací a doporučuje techniky pro ověřování odpovědí, konkrétní reakci na tuto studii se nám ale nepodařilo dohledat. Důležité je dodat, že některé testované verze modelů už dnes nejsou výchozí: GPT-4o byl z ChatGPT vyřazen v únoru 2026, Claude 3.5 Sonnet v říjnu 2025. Slabina ale není záležitostí jedné verze. Je to vlastnost celé třídy jazykových modelů, které generují odpovědi na základě pravděpodobnosti, ne na základě porozumění pravdě.

Jako uživatel máte k dispozici několik varovných signálů:

• Chatbot přestal opravovat vaši falešnou premisu a začal na ní stavět.
• Přidává detaily a „důkazy“ k tvrzení, které jste mu sami podsunuli.
• Stejnou věc v jiném kroku téhož chatu posoudí opačně.
• Zní jistě, ale necituje žádný ověřitelný zdroj.

Praktický postup pro důležitá témata: po delší debatě otevřít nové vlákno, položit otázku znovu bez předchozího kontextu, vyžádat si zdroje a klíčová tvrzení zkontrolovat mimo chat. U právních, zdravotních nebo finančních věcí platí jedno pravidlo: chatbot je pomocník pro orientaci, ne finální autorita.

Největší riziko nespočívá v tom, že chatbot jednou řekne nesmysl. Spočívá v tom, že po třiceti zprávách v jednom vlákně přestanete mít důvod jeho odpovědi zpochybňovat, a právě v tu chvíli je zpochybňovat přestanete.