Deepfakes: Na počátku bylo slovo. Potom se přidaly obrázky.

Deepfakes, pojem vytvořený z tzv. deep learningu (hlubokého učení, odvětví umělé inteligence) a slova „fake“ (falešný), jsou uměle vytvořené obrázky či videa, kde je něčí obličej nahrazen obličejem někoho jiného. Abychom si vysvětlili, jak se toho dá přesně dosáhnout, museli bychom zabrousit do strojového učení a umělé inteligence, ale zjednodušeně: čím více dat (například obličejů lidí) do programu nasypete, tím snáz pak program sám obličej pozná a může přes základní datové body namodelovat na správná místa jiné prvky, jiné barvy - a jinou tvář.

Od porna k politice

Na začátku měly primárně jediné použití: tvorba porna s celebritami. V roce 2017 prý porno tvořilo až 96 % deepfakës. Postupně se ale začaly používat i pro tzv. porno ze msty, finanční podvody, či samozřejmě hoaxy a dezinformační kampaně. To, jak nebezpečnou se tato technologie může stát, jakmile bude masově komerčně dostupná (a od toho jsme technologicky kousek), si asi umíme představit všichni.

Doposud byly v politice deepfakes používány primárně k osvětě, humoru či k „pozitivním“ zprávám, to je však především proto, že tvorba skutečně důvěryhodného materiálu je prozatím nákladná, to se však brzy změní. S ubližující pornografií hlavní pornografické weby bojují, je tedy zatím upozaděna na darknet. Již se ale zvyšují případy úspěšných podvodů na internetu. Pokud byste měli na starost finance v korporátu a zavolal by vám šéf - s realistickým hlasem, nebo dokonce přes videohovor - s tím, že máte převést určitou částku na jeho účet, odporovali byste mu?

Rozpad společnosti, jak ji známe?

Reálný problém, stejně jako s jakoukoli jinou manipulací, však není v samotném videu či falešné informaci, ale v dlouhodobém dopadu na konkrétní osobu či společnost. Již nyní máme problém s dezinformacemi - lidé stále mají vysokou důvěru v psaný text, bez ověření zdroje či pravdivosti textu. Přidejte k tomu falešné výroky politiků, kdy přímo z vaší obrazovky na vás bude mluvit prezident Zeman, nebo třeba váš dlouholetý kamarád. Jak jim máte nevěřit? A i když se k vám dostane, že video byl deepfake, ke spoustě dalším lidem už ne - a semínka nedůvěry či pochyb budou zaseta.

Technologicky nemusíme zase tolik propadat panice. Algoritmy podobné těm, které deepfake videa tvoří, se zatím prokazují jako úspěšné i k jejich detekci. Největší technologické společnosti dokonce za účelem předběhnutí technologického náskoku, který deepfakes mají, uspořádaly tzv. Deepfake Detection Challenge (Soutěž o rozpoznání deepfake), aby „nakrmili“ daty své algoritmy. A existují i další metody; pokud si tedy z technologií uděláme dobrého sluhu a ne zlého pána, jsme na dobré cestě. Detekce ale není vše.

Problémem je jedna ze základních pouček dezinformátorů: soustředit se na dlouhodobý efekt. Pokud někdo rozšíří jedno lživé video, pravděpodobně se k vám nedostane, či na něj do měsíce zapomenete. Pokud se vám pravidelně na zdi budou zobrazovat zprávy a videa s podobným motivem (třeba že určitá strana chce přijímat hromadně uprchlíky), stálo by velké úsilí si začít ověřovat, jak to přesně s těmi výroky a politikou je. A pokud takhle hromadně zacílíte na více a více lidí - můžete i ovlivnit výsledek voleb, aniž by vás oponent mohl nařknout z podvodu.

Jak se tedy bránit?

Některé sociální platformy, jako například Twitter, se vydaly cestou detekce a blokování takto uměle vytvářeného obsahu. Facebook naproti tomu deepfakes pouze označuje, ale nemaže. Americká vláda již vydala od roku 2018 dva zákony, v nichž se deepfake technologii věnuje a zakazuje konkrétní užívání, na regulaci hledá i Čína či Kanada.

Kvůli zmíněným dlouhodobým dopadům a technologickém pokroku ale regulace nikdy nebude odpovědí - v rozumné míře maximálně opěrnou berličkou. Pokud nás někdo bude muset na internetu vést za ruku k „bezpečnému“ obsahu, staneme se ještě zranitelnější vůči manipulátorům. Základní cestou by tudíž měla být osvěta, vzdělávání v oblasti práce s informacemi, ověřování zdrojů a hlavně - zvyknutí si na to, že ne všechno, co vidíme na svých displejích, je nutně pravda - i když s tím třeba souhlasíte. Pravda bolí. Tak pro osvětu pošlete tento článek dál, aby lidé věděli, co je ve vodách internetu čeká - a nepotřebovali navždy záchranné rukávky.