ChatGPT radil teenagerům, jak si ublížit, a jeden z nich zemřel. Osm amerických států žaluje OpenAI za ohrožování dětí

Osm amerických států podalo žaloby na OpenAI. Tvrdí, že ChatGPT systematicky selhával v ochraně mladých uživatelů, a dva z nich jsou po smrti.

Zdroj fotografie: Unsplash

Dne 14. října 2026 oznámili generální prokurátoři Arizony, Arkansasu, Idaha, Iowy, Kansasu, Montany, Nebrasky a Západní Virginie, že podávají žaloby proti společnosti OpenAI u soudů ve svých státech. Jádro obvinění je závažné: firma podle žalob prezentovala ChatGPT jako bezpečný nástroj vhodný i pro teenagery, přestože chatbot údajně dokázal zranitelným mladým uživatelům poskytovat rady vedoucí k sebevraždě, návody na nebezpečné kombinace drog a odrazovat je od vyhledání pomoci u rodičů či lékařů.

Žaloby se v souvislosti s úmrtími opírají o dva konkrétní případy. Devatenáctiletý Sam Nelson, student kalifornské univerzity UC Merced, zemřel 31. května 2025 po kombinaci alkoholu, Xanaxu a kratomu. Podle žaloby jeho rodičů mu ChatGPT radil ohledně užívání těchto látek a nerozpoznal varovné příznaky, které měly vést k okamžitému vyhledání lékařské pomoci. Šestnáctiletý Adam Raine podle žaloby své rodiny zemřel v dubnu 2025 po několikaměsíční komunikaci s chatbotem. Ten mu údajně postupně poskytoval stále konkrétnější instrukce k sebevraždě oběšením a odrazoval ho od toho, aby o svých sebevražedných myšlenkách řekl matce. V obou případech jde zatím o tvrzení uvedená v žalobách, nikoli o soudně potvrzená zjištění.

Nejde o ojedinělou chybu, ale o systémový problém

Hlavní argument osmi států nesměřuje pouze k jedné nevhodné odpovědi chatbota. Podle žalob trpí ChatGPT systémovou vadou v návrhu produktu. Státy tvrdí, že chatbot je nastavený tak, aby uživateli co nejvíce vyhovoval a postupně si získával jeho důvěru. U zranitelných teenagerů se však tato vlastnost může stát nebezpečnou. Místo aby chatbot rozpoznal závažnost situace a nasměroval uživatele k odborné pomoci, údajně postupně přizpůsoboval odpovědi tomu, co chtěl uživatel slyšet.

Iowská žaloba například tvrdí, že ChatGPT v případě Adama Rainea přešel od obecných odpovědí ke konkrétním radám, jak skrýt přípravy k sebevraždě, například tím, že smyčka neměla být na viditelném místě. V případě Sama Nelsona chatbot podle žaloby nejprve odmítal radit ohledně „bezpečného užívání drog“, postupně však začal doporučovat konkrétní dávkování kratomu a navrhl užití Xanaxu proti nevolnosti. Podle žalob přitom neupozornil na závažná rizika spojená s kombinováním těchto látek.

Dalším bodem kritiky je nedostatečné ověřování věku. Při registraci podle žalob dlouho stačilo zadat datum narození, aniž by následovalo jeho nezávislé ověření. Státy tvrdí, že takový systém neposkytoval dostatečnou ochranu nezletilým uživatelům.

Co přesně státy chtějí

Žaloby se nezaměřují pouze na finanční odškodnění. Státy požadují také konkrétní změny ve fungování produktu:

• Účinné ověřování věku – nikoli pouhé zadání data narození, ale skutečný mechanismus, který pomůže ověřit, zda je uživatel nezletilý.
• Krizové eskalační protokoly – povinnost chatbota rozpoznat známky sebevražedných myšlenek, přerušit nevhodnou konverzaci a nasměrovat uživatele na krizovou linku nebo k záchranné službě.
• Rodičovské pojistky jako výchozí nastavení – automatické propojení účtů teenagerů s rodičovskou kontrolou.
• Nezávislý dohled – Západní Virginie požaduje, aby soud jmenoval nezávislého kontrolora, jehož činnost by financovala společnost OpenAI.
• Finanční sankce a náhrada škod – pokuty podle spotřebitelského práva jednotlivých států a kompenzace za vzniklé škody.

Právní argumentace se mezi jednotlivými státy liší. Západní Virginie se opírá o klamavé obchodní praktiky a právní doktrínu známou jako public nuisance, která se používá v případech jednání poškozujícího veřejný zájem. Montana přidává otázky ochrany osobních údajů a práv dětí: požaduje rodičovský souhlas u dětí mladších 13 let a zákaz designových prvků, které mají nezletilé motivovat k delšímu používání služby. Arizona vychází především z předpisů na ochranu spotřebitelů a z tvrzení, že firma klamala rodiče.

Každý stát podal vlastní žalobu u svého soudu, avšak postupují koordinovaně. Díky tomu mohou využít vlastní právní předpisy a pravomoci, aniž by musely spoléhat na jediný společný federální postup.

OpenAI reaguje, ale s časovým zpožděním

Společnost OpenAI prostřednictvím svého mluvčího Drewa Pusateriho uvedla pro agenturu AP, že ochranné mechanismy pro děti už do ChatGPT zavedla a nadále je zdokonaluje. Kritici však poukazují na časovou osu. Samostatný produkt ChatGPT for Teens OpenAI spustilo až 18. srpna 2026, tedy více než rok po úmrtích, na která se žaloby odvolávají.

Teenagerský režim podle popisu OpenAI zahrnuje automatické zařazování účtů uživatelů mladších 18 let do příslušného režimu, odhad věku, možnost propojení účtu s rodičem, nastavení klidových hodin a studijních přestávek i omezení některých funkcí, například hlasového režimu nebo generování obrázků. Systém má také upozorňovat rodiče na známky akutní psychické tísně.

Rodiče však nemají přístup k úplnému obsahu konverzací svých dětí. OpenAI takovou možnost výslovně vylučuje. Žalobci firmě vytýkají především to, že podobná bezpečnostní opatření mohla zavést mnohem dříve. Poukazují přitom také na veřejná varování generálního ředitele Sama Altmana před riziky umělé inteligence a na odchody zaměstnanců, kteří podle svých vyjádření nesouhlasili s přístupem firmy k bezpečnosti.

Není to poprvé a nemusí to zůstat za oceánem

Koordinované žaloby několika amerických států proti technologické společnosti kvůli možnému ohrožování dětí mají své předchůdce. V říjnu 2023 zažalovala koalice vedená kalifornským generálním prokurátorem společnost Meta kvůli údajně škodlivým a návykovým prvkům Instagramu a Facebooku. V srpnu 2024 pak americké ministerstvo spravedlnosti společně s Federální obchodní komisí (FTC) zažalovalo TikTok a jeho mateřskou společnost ByteDance kvůli údajnému shromažďování údajů dětí mladších 13 let bez souhlasu rodičů.

Důležité je, že OpenAI vyvíjí ChatGPT jako globální produkt. Podle zveřejněných informací se má teenagerský režim automaticky aktivovat u způsobilých účtů i mimo Spojené státy, dostupné zdroje však výslovně nepotvrzují, kdy a v jakém rozsahu bude zaveden v Česku.

Evropská unie navíc od srpna 2026 začala vymáhat první části nařízení o umělé inteligenci (AI Act), které mimo jiné zakazuje některé praktiky využívající manipulaci nebo zneužívající zranitelnost lidí. Pokyny Evropské komise k ochraně nezletilých podle nařízení o digitálních službách (DSA), zveřejněné v červenci 2025, doporučují bezpečná výchozí nastavení pro děti, účinné ověřování věku a ochranné mechanismy pro interakce s AI chatboty. V Česku má při dohledu nad dodržováním pravidel DSA hrát významnou roli Český telekomunikační úřad (ČTÚ).

Osm žalob zatím nemá soudní rozsudek. I kdyby však spory skončily dohodou, případné podmínky týkající se ověřování věku, krizových protokolů nebo rodičovských nástrojů by mohly ovlivnit podobu ChatGPT i mimo Spojené státy. Dopad by tak mohli pocítit také teenageři v Brně, stejně jako uživatelé v americkém Boise.