14letý chlapec se zabil kvůli chatování s umělou inteligencí. Matka teď varuje ostatní rodiče, aby to svým dětem zakázali
Lukáš Altman
Lukáše psaní naplňovalo už od dětství, že se tím bude živit si uvědomil ještě jako student v roce 2013. V tu dobu už si několika dílčími texty začal přivydělávat. Jeho profesionální kariéra začala o tři roky později, kdy se stal externím redaktorem pro portál Alza.cz. Od té doby spolupracoval s řadou firem různých rozsahů a dokonce založil několik vlastních projektů, včetně Mobify.cz, který časem přešel pod společnost abcMedia Network. Nyní se Lukáš řadí mezi nejvlivnější české redaktory v oblasti elektroniky.
Rodiče obvinili vývojáře umělé inteligence z toho, že jejich syna přivedli k zoufalému činu. Teprve 14letý hoch, který měl celý život před sebou, spáchal sebevraždu.
Čtrnáctiletý Sewell Setzer III býval poslední měsíce svého života zavřený ve svém pokoji s telefonem v ruce. Podle jeho matky trávil celé hodiny tím, že si psal zprávy s chatbotem, kterému dal přezdívku „Daenerys Targaryen“, což je inspirované postavou ze Hry o trůny. Jak jsme v redakci Mobify zjistili, postupně se komunikace změnila v nebezpečnou závislost, která podle žaloby přispěla k jeho depresím a nakonec i k sebevraždě.
Chatbot hocha vybízel k sebevraždě
Matka Megan Garcia nyní u federálního soudu na Floridě (Amerika) žaluje společnost Character.ai, vývojáře chatbota, a do sporu zahrnula také Google. „Nebezpečná aplikace chatbota s umělou inteligencí, která byla propagována dětem, zneužívala a manipulovala mého syna, aby si vzal život,“ uvedla Garcia v tiskové zprávě. Bohužel se v zahraničí začínají podobné kauzy, v nichž AI sehrává znepokojivou roli, objevovat stále častěji. Je tak otázkou, kdy to začne i u nás.
Společnost Character.ai vyjádřila rodině soustrast, ale obvinění odmítla. Google se hájí tím, že s firmou má jenom licenční smlouvu. Dle právníků rodiny je ale jasné, že byl produkt navržený tak, aby si k němu mladí uživatelé vytvořili pouto. V žalobě se dokonce uvádí, že chatbot Setzera pobídl, ať „vymyslí plán na sebevraždu“, a když začal hoch pochybovat, bot mu odpověděl: „To není důvod, proč do toho nejít.“
Jak uvedl theGuardian, Rick Claypool z neziskové organizace Public Citizen k tomu dodává: „Technologickým společnostem, které vyvíjí chatboty s umělou inteligencí, nelze věřit, že se budou samy kontrolovat, a musí nést plnou odpovědnost, pokud se jim nepodaří omezit škody.“
Digitální „přátelé“ představují velké riziko
Problém podobných chatbotů spočívá hlavně v jejich schopnosti napodobit lidskou konverzaci natolik přesvědčivě, že si k nim uživatelé vytvoří i vztah. Teenageři, kteří se třeba cítí osamělí nebo nepochopení, pak mohou propadnout jakési iluzi, že našli opravdového kamaráda. Psychologové upozorňují, že dlouhodobý kontakt s AI může naopak posílit úzkosti a izolaci.
Kam se obrátit, pokud se cítíte zle
Případ Setzera otevírá otázku, jak ochránit především mladé lidi před riziky spojenými s AI, když je to dnes tak rozšířené. Odborníci doporučují, aby rodiče s dětmi mluvili o tom, s kým a proč se na internetu baví, a aby si všímali známek závislosti na digitálních technologiích.
Pokud byste se necítili psychicky dobře, můžete se obrátit na Linku bezpečí (116 111), Linku první psychické pomoci (116 123) nebo krizová centra při nemocnicích. Tyto služby jsou anonymní a zdarma.
Zdroje
Autorský komentář Lukáše Altmana