Šéf Facebooku na videu říká, že kontroluje ukradená data miliard lidí. Jde o propracovaný deep fake

Šéf Facebooku Mark Zuckerberg

Foto: Facebook

Videí, ve kterých je řečník upravený pomocí umělé inteligence, se šíří stále víc. Terčem takzvaného deep faku se tentokrát nestal nikdo jiný než zakladatel Facebooku Mark Zuckerberg. V krátkém segmentu implikuje, že kontroluje ukradená data několika miliard uživatelů a že za vše vděčí čemusi, co nazývá jako Spectre. Nic z toho ale Mark Zuckerberg nikdy neřekl, ačkoliv na první pohled se může video zdát jako zcela v pořádku.

Na falešné video jako první upozornil magazín Vice. „Spectre mi ukázal, že kdokoliv kontroluje data, tak kontroluje budoucnost,“ říká mimo jiné falešný Zuckerberg ve videu, které je úmyslně označené jako televizní vysílání. Vytvořili jej umělci Bill Posters a Daniel Howe ve spolupráci s reklamní agenturou Canny a umístili jej na Instagram. V čase psaní tohoto textu mělo video přes 70 tisíc zhlédnutí. Zmíněný Spectre je přitom dokumentární festival a jedná se tak o součást reklamní kampaně.

 

View this post on Instagram

 

A post shared by Bill Posters (@bill_posters_uk) on

Televize CBSN požádala Facebook o smazání videa, protože právě její logo ve videu je a prý se jedná o jeho neoprávněné použití. Mluvčí Instagramu nicméně řekla, že síť bude při posuzování postupovat stejně jako v případě jiných podezření na dezinformace. Tedy že video bude smazáno, jestliže nezávislá entita zabývající se fact-checkingem usoudí, že je závadné.

Nebezpečný fake nebo marketing?

Video je ale i po pěti dnech stále online, přestože se jedná o fake. Jeho tvůrci totiž k vytvoření dvacetivteřinového klipu použili původně sedmiminutové video z roku 2017, kdy Zuckerberg oznamuje, že bude spolupracovat na vyšetřování intervence Ruska do amerických prezidentských voleb.

Na něm Posters a Howe naučili umělou inteligenci Zuckerbergovu mimiku a do úst mu tak mohly vložit naprosto cokoliv. Hlas však umělý nebyl, ten pocházel od imitátora. Například deep fake technologie od Samsungu dokáže video vytvořit pouze na základě jediné fotky.

uberair

Přečtěte si takéO kus blíže budoucnosti přepravy. Podívejte se na futuristický design létajícího taxi od Uberu

Posters a Howe vytvořili obdobná videa například s Donaldem Trumpem nebo modelkou Kim Kardashian, která na videu „říká“ že si užívá manipulaci milionů lidí přes sociální sítě. V jádru tak sice díky reklamě na Spectre nejde o úmyslné deep fake, ovšem potencionálnímu dezinformátorovi by stačilo volně dostupné video sestříhat.

Deep fakes původně vznikly v pornografii, kde byly obličeje pornohereček nahrazovány známými celebritami. Později se však staly nástrojem politického boje. Na problematiku upozornil minulý rok například Jordan Peel, který imitoval díky umělé inteligenci Baracka Obamu. K účelům reklamy již deep fake použil startup Synthesia, který vytvořil video, na němž David Beckham při kampani proti malárii mluví devíti jazyky.

Firmy i startupy tak obvykle mají legitimní důvod, proč deep fake použít, ale potenciál jejich zneužití mimo původně zamýšlenou oblast je velký. Přesvědčil se o tom například jeden televizní kanál v Seattlu, který v lednu vysílal upravené video s americkým prezidentem Donaldem Trumpem. Jeden z editorů si za to vysloužil vyhazov.

Sám Donald Trump minulý týden tweetnul upravené video s předsedkyní dolní komory parlamentu USA Nancy Pelosi. To bylo zpomalené tak, aby Pelosi vypadala, že se přeříkává.

Redaktor CzechCrunch, student politologie a mediálních studií na FSS MU. Píše texty o vesmíru, sociálních sítích a technologiích.

CzechCrunch News

Nenechte si utéct zásadní zprávy!

Přihlašte se k pravidelnému odběru novinek ze světa technologií a startupů.