Video bylo na instagram přidáno před čtyřmi dny a je společným dílem umělců Billa Posterse a Daniela Howea a reklamní agentury Canny. Je součástí série podobných manipulací, které vkládají výroky do úst mimo jiné americkému prezidentovi Donaldu Trumpovi či televizní celebritě Kim Kardashianové.

"Na vteřinu si představte tohle: Jeden muž s totální kontrolou nad ukradenými údaji miliard lidí. Všechna jejich tajemství, jejich životy, jejich budoucnost… ten, kdo ovládá data, ovládá budoucnost," říká v autenticky vyhlížejícím videu Zuckerberg. Autoři takto softwarově upravili úryvek z vysílání televize CBS News z roku 2017, kdy šéf Facebooku promlouval k médiím o zneužití jeho platformy ruskými subjekty ve snaze ovlivnit americké prezidentské volby.

Dnes ráno mělo falešné video na kontě kolem 20 tisíc zobrazení. I přes výrazně menší dosah jej média srovnávají s květnovým případem upraveného videa s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou, které se objevilo nejen na facebooku, ale i na serveru YouTube. Tehdy autor zpomalil původní záznam projevu, aby navodil dojem, že vůdkyně Demokratické strany má problémy s artikulací.

Tento manipulativní příspěvek nasbíral na facebooku miliony zhlédnutí, sociální síť jej ale na rozdíl od serveru YouTube neodstranila, pouze snížením jeho hodnocení zpomalila jeho šíření. Jeden z manažerů Facebooku Neil Potts tehdy uvedl, že na platformě by zůstala i stejně zmanipulovaná nahrávka se Zuckerbergem.

Precedens pro budoucí deepfake videa

"Video (se Zuckerbergem) mělo méně než 5000 zhlédnutí, než na něj začala upozorňovat média, ale to, jak s ním Facebook naloží, by mohlo vytvořit precedens pro jeho postup vůči budoucím deepfake videím," uvedla dnes televize CNN, přičemž použila termín, kterým se označují podobné počítačem vytvořené kopie známých osobností.

"Naložíme s tímto obsahem stejně, jako nakládáme se všemi dezinformacemi na Instagramu. Jestliže jej nezávislí ověřovatelé informací označí za falešné, odfiltrujeme jej z doporučovacích rozhraní jako jsou Návrhy a přehled hashtagů," sdělil médiím mluvčí Facebooku. Situaci by ale mohl zkomplikovat požadavek vysílací společnosti CBS, která se domáhá stažení videa kvůli "podvodnému, nepovolenému užití obchodní značky CBSN".

Jeden z autorů deníku The Guardian řekl, že nové dílo bylo zamýšleno jako komentář současné praxe technologických firem. "Skutečnost, že data občanů, včetně podrobných poznatků o jejich politickém zaměření, sexualitě, povahových rysech a osobnosti, jsou zpřístupňována zájemcům s nejvyšší nabídkou, ukazuje, že průmysl digitálního ovlivňování a s ním spojené mechanismy představují hrozbu nejen pro práva jednotlivců, ale také pro naše demokratická zřízení," citoval list Posterse.