Tvrdý úder pro AI v Česku: Evropský úřad začne od prosince blokovat populární aplikace

Digitální prostor Evropské unie čeká zásadní legislativní zemětřesení. V reakci na alarmující nárůst zneužívání technologií k vytváření klamavého a dehonestujícího obsahu se zástupci členských států a Evropského parlamentu dohodli na přelomové novele zákona o umělé inteligenci (AI Act). Hlavním terčem tohoto opatření jsou aplikace, které umožňují generování sexuálně explicitních deepfakes. Pokud reforma projde závěrečným schvalovacím procesem, začne tento přísný zákaz platit již od 2. prosince letošního roku.

Od trestání činu k zákazu nástroje

Dosavadní strategie Evropské unie v boji proti digitálnímu násilí se soustředila především na postihování samotných aktérů, tedy těch, kteří manipulovaný obsah vytvářejí nebo šíří. Směrnice z května 2024 již sice definovala distribuci takových materiálů bez souhlasu zúčastněných jako trestný čin, její implementace do vnitrostátních zákonů jednotlivých zemí však drhne.

Nové nařízení, které ohlásilo kyperské předsednictví Rady EU, volí radikálnější cestu. Namísto toho, aby úřady pouze zpětně stíhaly pachatele, zaměří se přímo na zdroj problému: na samotné aplikace a softwarové nástroje. Cílem je zcela znemožnit přístup k technologiím, které jsou primárně určeny k manipulaci s lidskou identitou pro sexualizované účely.

Fenomén deepfakes: Když se iluze stává zbraní

Technologie deepfake ušla za poslední roky obrovský kus cesty. Dnes již není problém digitálně vložit obličej jakékoli ženy do pornografické sekvence nebo uměle napodobit její hlas s takovou věrností, že výsledek působí naprosto autenticky. Oběti takových útoků jsou následně konfrontovány s videi, na kterých říkají nebo dělají věci, jež se ve skutečnosti nikdy nestaly.

Zvláštní důraz klade nová legislativa na ochranu těch nejzranitelnějších. Zákaz je výslovně namířen proti softwaru, který by mohl sloužit k vytváření obsahu zobrazujícího sexuální zneužívání dětí. Právě snadná dostupnost sofistikovaných modelů AI totiž v posledních měsících dramaticky snížila bariéru pro vznik tohoto nelegálního materiálu.

Budíček v podobě skandálů

K urychlení politické shody přispěly i nedávné medializované kauzy. Velkou pozornost vzbudil chatbot Grok, za nímž stojí technologický vizionář Elon Musk. Uživatelé opakovaně zneužívali jeho schopnosti k tomu, aby umělá inteligence „svlékala“ ženy na fotografiích. 

Podobná debata otřásá i německou scénou v souvislosti s obviněními, která vznesla Collien Fernandesová proti svému bývalému manželovi Christianu Ulmenovi. Ten měl údajně vytvářet falešné profily a zneužívat její identitu k šíření pornografie. Přestože v tomto případě platí presumpce neviny, kauza posloužila jako katalyzátor pro diskusi o tom, jak snadno lze v digitálním věku zničit něčí pověst.

Ekonomický potenciál versus etické mantinely

Evropská unie se však nesnaží o plošnou restrikci inovací. Nová pravidla mají být chirurgicky přesná, aby nepoškodila legitimní technologický sektor. Současně se zákazem nebezpečných aplikací dojde ke zjednodušení jiných předpisů, které mají naopak podpořit ekonomický potenciál AI v Evropě.

Zákon bude muset exaktně definovat, co tvoří sexualizovaný obsah. Zajímavostí je, že například manipulované fotografie v bikinách pořízené bez souhlasu (podobné těm, které generoval Grok) by mohly zůstat legální, pokud nebudou splňovat přísná kritéria explicitnosti. Vyjednavači zdůrazňují, že cílem není omezit kreativitu, ale eliminovat digitální predátorství.

Vodoznaky a role Úřadu pro AI

Zatímco zákaz sexuálních deepfakes má prioritu, u jiných opatření dostanou technologické firmy více času. Povinnost označovat obsah generovaný umělou inteligencí pomocí digitálních vodoznaků byla odložena. Společnosti jako OpenAI (ChatGPT) nebo Anthropic (Claude) budou muset tyto standardy splnit nejpozději do prosince 2026.

Na dodržování pravidel bude dohlížet Evropský úřad pro umělou inteligenci, zřízený před dvěma lety. Ten se od prosince 2026 stane hlavním orgánem, který bude bdít nad tím, zda digitální nástroje v našich kapsách slouží k pokroku, nebo k ničení životů. Ačkoliv musí dohodu ještě potvrdit Evropský parlament, považuje se to již jen za nezbytnou formalitu na cestě k bezpečnějšímu internetu.