Stop umělé inteligenci, lidé ji nezvládají. Apple se vyděsil, co tvořili, tak radši ambiciózní projekt zařízl

Přinesla revoluci ve tvorbě videí, zároveň však poskytla možnost tvořit nebezpečný obsah. Umělá inteligence ukázala svou temnější tvář.

Zdroj fotografie: Lukáš Altman (Mobify.cz) a Sora

Technologie, jež měla lidem usnadnit práci a otevřít nové možnosti v oblasti kreativity, narazila na své limity. Nástroje pro generování extrémně realistických videí totiž nevyužijí lidé vždycky zodpovědně, jak jsme v redakci Mobify zaznamenali. Přesně proto byl ambiciózní projekt Sora na tvorbu AI videí zničehonic ukončen. Důvodem nebyly jen finance, ale hlavně o obsah, který začal vznikat.

Sora vzbudila po svém uvedení u lidí obrovský rozruch

Projekt Sora byl původně představený jako kreativní nástroj, který dokáže z jednoduchého textového zadání vytvořit naprosto realistické video. Stačilo mu zadat pár vět a během chvilky vznikl klip vypadající jako natočený profi kamerou. Za vývojem stála společnost OpenAI, která chtěla posunout hranice umělé inteligence ještě dál. Technologie měla sloužit filmařům, tvůrcům i běžným uživatelům.

Ve skutečnosti se původně dobrá myšlenka začala pomalu hroutit. Projekt generoval zhruba 1,4 milionu dolarů (tedy asi 32 milionů korun), ale ve srovnání s jinými produkty firmy šlo o zanedbatelnou částku. Třeba hlavní platformy společnosti vydělávají mnohonásobně víc. Slušná částka, ale pro Apple nijak zlomová, uvedl PCMag.

Problém nebyl jen v penězích, ale hlavně ve tvořeném obsahu

Finance však byly jen částí toho všeho. Mnohem větší problém představoval obsah, jaký lidé začali se Sorou tvořit. Objevovala se videa s násilím, smrtí nebo manipulovanými scénami působícími děsivě reálně. V některých případech šlo o tzv. deepfakes, tedy falešná videa, která mohou někoho zobrazovat ve smyšlených situacích. Ani nemluvíme o zneužití známých tváří, strachu či podvodech.

Velkou pozornost vzbudila i spolupráce s The Walt Disney Company, která byla naceněna až na 1 miliardu dolarů (to odpovídá asi 23 miliardám korun). Uživatelé mohli tvořit videa s ikonickými postavami, což otevřelo nové možnosti, jenomže i právní otázky. Nakonec tedy partnerství padlo. Firmy si uvědomily, že kontrola nad tím, jak lidé technologii používají, je omezená. A to představuje obří riziko nejen pro značky, ale i pro lidi, popsalo BBC.

Ukončení projektu může být nakonec vlastně dobrou zprávou

Zrušení projektu možná může na první dobrou působit jako krok zpátky. Ve skutečnosti ale může jít o zodpovědné rozhodnutí. Musíme konstatovat, že je to nebezpečné. Děti a mladší uživatelé často nedokážou rozeznat, co je skutečné a co vytvořené umělou inteligencí. To vede k šíření dezinformací, strachu, nebo dokonce k psychickým problémům.

Společnost se chce nyní zaměřit na jiné oblasti, kupříkladu robotiku nebo tzv. agentní AI, což jsou systémy, které dokážou samostatně plnit úkoly v reálném světě. Místo tvorby obsahu pro zábavu se firmy evidentně začínají soustředit na praktické využití technologií. Možná by to mohla být cesta, jak umělou inteligenci udržet pod vlastní kontrolou.