„Na základě důkladného a dlouhodobého prověřování naším redaktorem Jaroslavem Krupkou jsme dospěli k závěru, že tato platforma je zcela legální a skutečně přináší zisk každému uživateli, který investoval minimálně 6000 Kč. Doporučujeme všem našim čtenářům tuto příležitost využít,“ píše se v příspěvku, který se tváří jako oficiální příspěvek serveru Demagog ověřujícího fakta, a jehož printscreen (záznam ofocený z obrazovky počítače) obdržel Demagog i zmíněný redaktor od uživatelů sítě X. Ti se podle svého vyjádření s touto reklamou na sociálních sítích skutečně setkali.

Herec Ondřej Vetchý se stal kvůli své setrvalé podpoře Ukrajiny terčem další dezinformace:

Herec Ondřej Vetchý se stal opět terčem dezinformátorů
Ondřej Vetchý je terčem dalšího útoku. Lživé video mu přičítá obdiv k Banderovi

Pokud na tuto reklamu narazí, měli by se lidé vyvarovat klikání na ni. Jde zcela určitě o podvod. Redaktor Jaroslav Krupka žádnou takovou platformu nikdy neprověřoval, a navíc není redaktorem serveru Demagog, ale píše pro Deník a Denik.cz.

Platforma, která měla být údajně ověřována, se podle zaslaného printscreenu jmenuje Immediate Matrix. Právě před ní mimo jiné varoval loni v prosinci jihoafrický Úřad pro chování ve finančním sektoru (FSCA), což je nezávislá jihoafrická regulační instituce dohlížející na rovné podmínky a stabilitu finančního trhu.

Ukázka podvodné reklamy, která zneužívá značku media i jméno novináře:

Jedna z mnoha podvodných reklam zneužívá značku Demagog.cz a jméno redaktora Deníku. Z toho navíc mylně dělá redaktora serveru Demagog.czJedna z mnoha podvodných reklam zneužívá značku Demagog.cz a jméno redaktora Deníku. Z toho navíc mylně dělá redaktora serveru Demagog.czZdroj: Jaroslav Kupka, repro sociální síť X

Podle FSCA používá Immediate Matrix ve svých reklamních a marketingových kampaních záběry různých známých osobností, které jí k tomu ovšem nedaly souhlas a ani pro ni nevystupovaly. „FSCA má podezření, že Immediate Matrix používá takzvaný deepfake,“ uvedl úřad.

Technologie deepfake nebo také deep fake (v překladu to znamená doslova „hluboká faleš“) uměle vytváří internetový obsah (nejčastěji zmanipulované fotografie, videa, zvuky nebo příspěvky), které se tváří jako něčí autentický projev, přestože autentické nejsou. Ve skutečnosti vznikly pomocí speciálního sofistikovaného programu využívajícího schopnosti umělé inteligence napodobit díky hlubokému a strojovému učení modely lidského chování.

Obětí dezinformátorů se v minulosti stal i šéf hnutí ANO Andrej Babiš:

Poslanec a šéf hnutí ANO Andrej Babiš, ilustrační foto
Sítěmi se šíří falešné video s Babišem. Jde o podvod za pomoci umělé inteligence

FSCA dále upozornila na to, že platforma nabízí mimo jiné údajně výhodné investice v Jižní Africe, pro které ale nemá patřičná povolení vyžadovaná zákonem.

Před Immediate Matrix varovala letos koncem února i společnost Banxso, podle níž tato platforma zneužívá renomovaná jména k nekalým účelům a sofistikovaným podvodům.

Podvody jsou stále častější

Podvodné reklamy nebo příspěvky vytvořené za pomoci deepfake technologie jsou stále častější, a to i v českém prostředí.

V případě reklam jde nejčastěji o takzvaný scam nebo phishing, tedy typ podvodu, při němž se z oběti online podvodník snaží pod falešnou identitou vylákat buď přímo finanční prostředky, nebo přístup k citlivým údajům, například heslům nebo číslům účtů.

Přibývá také dezinformací, jež nesou znaky vysloveně podvodného chování a snaží se pod vylhanou záminkou dostat k penězům:

Skupina ČEZ nemá s reklamami na údajné výhodné investiční produkty nic společného a apeluje na všechny, kdo se s nimi setkají, aby takové stránky ignorovali a neposkytovali podvodníkům přístupy ke svým účtům, sdělila Deníku mluvčí ČEZ. Ilustrační foto
Pozor na peníze. Dezinformátoři se začali zaměřovat na zisk, přešli k podvodům

Deník už před tímto typem podvodů varoval několikrát: týkalo se to třeba videa tvářícího se jako rozhovor poslance a předsedy hnutí ANO Andreje Babiše s moderátorem XTV Lubomírem „Xaverem“ Veselým, které se začalo loni v listopadu šířit na Facebooku a v němž Andrej Babiš „mluvil“ o investiční platformě, jež má být „nejdůležitějším objevem pro Českou republiku za poslední roky“ a představovat „nejlepší způsob, jak získat pasivní příjem“. Ve skutečnosti mu ale všechna slova vložila do úst umělá inteligence, on sám je nikdy nepronesl.

Deník proti fake news.Zdroj: DeníkJiná podvodná reklama, která se objevila loni v červenci, se zase jevila jako odkaz na zpravodajský web Novinky a lákala na údajnou zprávu o tom, že kdo se připojí k platformě ČEZ, vytvoří si obchodní účet a bude investovat, začne už od 1. srpna vybírat dividendy. Také v tomto případě šlo o podvod. Odkaz vedl na stránky, které sice kopírovaly vizuální styl a logo zpravodajského webu Novinky.cz, ale používaly jinou koncovku naznačující, že vůbec nejde o českou doménu. Další odkazy z nich pak vedly na obskurní adresu Sczabin.com, která nikdy neodpovídala firemní identitě Skupiny ČEZ.

Tři čeští středoškoláci vytvořili aplikaci, která má odhalovat falešné zprávy:

Aplikace Verifee má lidem pomoci odhalit nedůvěryhodné zprávy - Ilustrační foto
Česko je líheň dezinformací, chceme to změnit, tvrdí studenti. Vyvinuli aplikaci

Technologii deepfake zneužívají kromě finančních podvodníků často také různí dezinformátoři, kteří se s její pomocí snaží dehonestovat odpůrce ruské invaze na Ukrajinu. To se stalo například herci Ondřeji Vetchému, jehož rozhovor o dronech pro Ukrajinu, který poskytl serveru Aktuálně.cz, přetvořili dezinformátoři pomocí deepfake technologie tak, aby vypadal, že herec vyzývá Čechy k uctívání někdejšího ukrajinského nacionalisty Stepana Bandery.