V posledních měsících přibývá na sociálních sítích i na různých videoplatformách reklam podvodných investičních společností, jejichž společným znakem je, že údajně výhodnou investici nabízí nějaká zdánlivá autorita, například obecně známá firma, významné médium nebo nejčastěji veřejně činná osobnost.
Ve skutečnosti jde ale o manipulaci, skutečná autorita za reklamou vůbec nestojí. A to ani v případě některých videí, jevících se jako její autentické vyjádření – tato videa totiž vznikla pomocí tzv. deep fake úpravy.
Babiš o investiční platformě nemluvil
Server Demagog zaměřený na odhalování falešných zpráv upozornil 3. listopadu 2023 na video vypadající jako rozhovor poslance a předsedy hnutí ANO Andreje Babiše s moderátorem XTV Lubomírem „Xaverem“ Veselým, které se začalo šířit po Facebooku.
Babiš v něm „mluví“ o investiční platformě, jež má být údajně „nejdůležitějším objevem pro Českou republiku za poslední roky" a mimo jiné říká, že pro něj tato platforma představuje v tuto chvíli „nejlepší způsob, jak získat pasivní příjem“.
Ve skutečnosti ale Babiš nic z toho, co ve videu zaznívá, nikdy nepronesl. Celé video je deep fake manipulace, při níž mu byla zmíněná slova vložena do úst za pomoci umělé inteligence.
„Při bližším pohledu je vidět, že způsob vyjadřování a mimika Andreje Babiše jsou nepřirozené, video obsahuje mezi projevy obou mužů neobvyklé vizuální předěly a slova v některých částech neodpovídají tomu, jak se Babišovi pohybují rty,“ upozornil Demagog.
Záběry pocházely z jednoho dílu internetového pořadu Xaver Live, v němž se Babiš objevuje jako host poměrně často, a sice z dílu, který byl premiérově odvysílán 27. srpna 2023. „Ve více než dvouhodinovém pořadu, kdy kromě otázek Xavera Veselého odpovídal Andrej Babiš také na otázky diváků, žádný dotaz na investiční platformu nepadl,“ uvedl Demagog.
Falešné platformy zesilují útok
Deep fake video navázalo na předchozí manipulace falešných investičních platforem, které od letošního léta stále zesilují své útoky na spotřebitele. Na sociálních sítích se tak objevuje stále více příspěvků, využívajících smyšlená slova známých osobností a médií s cílem vylákat pod slibem zázračných výdělků z uživatelů jejich osobní údaje a následně i peníze.
Deník se zabýval mimo jiné podvodnou reklamou, která se objevila letos v červenci a tvářila se jako odkaz na zpravodajský web Novinky, informující o tom, že kdo se prý do 26. července připojí k platformě ČEZ, vytvoří si obchodní účet a bude investovat, začne už od 1. srpna vybírat dividendy. Údajný článek falešných Novinek přitom nesl titulek „První zákon Petra Pavla o zajištění finančního zabezpečení občanů – přijat“.
Ani Petr Pavel, ani Novinky, ani Skupina ČEZ však neměli s tímto podvodem nic společného, všechny odkazy vedly jen na obskurní adresu Sczabin.com. ČEZ tehdy podal kvůli této a dalším podvodným reklamám několik trestních oznámení, policie však podle mluvčí jeho útvaru online komunikace Barbory Peterové všechna odložila. „Apelujeme proto důrazně na všechny, kdo se s takovou reklamou setkají, aby takové stránky ignorovali, neregistrovali se, nezadávali žádné osobní údaje a neposkytovali podvodníkům přístupy ke svým účtům,“ vyzvala tehdy mluvčí ČEZ.
Rovněž v případě falešného videa s Andrejem Babišem je propagována krajně nedůvěryhodná a výrazně netransparentní online platforma s neznámými vlastníky, jež se snaží z uživatelů vylákat jejich osobní údaje prostřednictvím formuláře, na nějž vede většina odkazů. Stejně jako v případě falešné reklamy ČEZ i tady je na místě apelovat na všechny uživatele, aby platformu ignorovali a formulář nevyplňovali.
Co je deep fake video
„Deep fake je označení pro realistickou úpravu videa. Upravuje se především tvář zobrazených osob, mimika obličeje a řeč jednotlivých aktérů videa. Jedinci pak vykonávají činnosti, které ve skutečnosti nedělají, a říkají slova, která ve skutečnosti nikdy nepronesli. Deep fake využívá pokročilého počítačového zpracování dat umělé inteligence (neurálních sítí schopných učit se). Kvalita upraveného videa se neustále zvyšuje,“ upozornil Kamil Kopecký na stránkách E-bezpečí.
Během pár let tak může nastat situace, že už vůbec nepůjde rozeznat, kdy jde o původní neupravený záznam a kdy o jeho deep fake úpravu.
„To znamená obrovský potenciál pro šíření dezinformací – laický uživatel nebude mít šanci ověřit si autenticitu videa. Logicky se tak dostaneme do fáze, kdy se falešná videa (upravená či zcela zfalšovaná) masově rozšíří sociálními sítěmi. Nástroje, jež umožňují deep fake videa odhalit, nestíhají držet krok s rychlostí, jakou vznikají nástroje na jejich vytváření,“ dodal Kopecký.
