Je ta fotka skutečná, nebo ji vytvořila AI? Google zpřístupnil nástroj, který pomůže

Fotka může působit věrohodně, a přesto být umělá

Přesvědčivou fotografii dnes vytvoříte několika větami a podobně rychle vznikají také videa nebo hudba. Rozpoznat takový obsah pouhým pohledem či poslechem je stále obtížnější. Google nyní nabízí veřejnosti další způsob ověřování.

Jmenuje se SynthID Detector a od 7. října jej Google nabízí celosvětově. Navazuje na nástroj, který loni zpřístupnil vybraným novinářům a médiím. Nyní do něj mohou své soubory nahrávat i běžní uživatelé internetu.

Ověření funguje pro obrázky, videa a zvukové soubory. Důležité ale je, co nástroj skutečně hledá: speciální vodoznak vložený při tvorbě obsahu. Nejde tedy o univerzálního rozhodčího, který bezpečně pozná úplně každý výtvor AI.

Hledá značku, kterou očima neuvidíte

Technologie SynthID vkládá do podporovaného obsahu neviditelný, u zvuku neslyšitelný vodoznak. U obrázků je součástí samotných pixelů. Nespoléhá tedy pouze na doprovodná metadata souboru, která se při sdílení mohou snadno ztratit.

Google uvádí, že značení je navržené tak, aby odolávalo běžným úpravám, například ořezu nebo kompresi. To pomáhá při ověřování obsahu sdíleného na internetu. Není to však slib, že vodoznak přežije každou změnu nebo libovolné zpracování.

Vedle vlastních nástrojů Google zmiňuje spolupráci s OpenAI, Nvidií a společností Kakao. Připojit se má také Apple. Rozhodující je vždy to, zda konkrétní soubor označení SynthID skutečně obsahuje, nikoli pouze jméno jeho tvůrce.

Vlastní test ukázal i slabší místa

SynthID Detector jsem vyzkoušel na obrázcích vytvořených v Gemini i ChatGPT. U části souborů správně rozpoznal použití umělé inteligence. Výsledek ale nebyl pokaždé stejný a některé uměle vytvořené obrázky se mu odhalit nepodařilo.

Větší potíže jsem zaznamenal u fotografií, do kterých jsem pomocí AI přidal různé předměty. Základ snímku byl skutečný, změnila se jen jeho část. Právě u těchto úprav byly výsledky méně přesvědčivé a nemohl jsem se na ně plně spolehnout.

Z mého zkoušení nelze vypočítat obecnou úspěšnost detektoru. Dobře ale ukazuje jeho hlavní omezení: pokud nástroj vodoznak nenajde, neznamená to, že máte před sebou pravou fotografii. Znamená to pouze, že hledané označení nerozpoznal.

Jak si podezřelý soubor ověřit

Otevřete stránku www.synthid.com, nahrajte podporovaný obrázek, video nebo zvuk a nechte nástroj soubor prověřit. Rozhraní je anglicky. Při čtení výsledku sledujte především informaci o nalezení vodoznaku a případná vysvětlení.

Nalezené označení pomůže potvrdit, že se na vzniku nebo úpravě souboru podílela podporovaná AI. Samo ale neříká, zda je celý obsah smyšlený. Skutečná fotografie s dodatečně upravenou částí může být označená stejně jako generovaný obrázek.

U důležitých nebo podezřelých zpráv proto zkontrolujte také původní zdroj a okolnosti zveřejnění. Detektor může přidat užitečnou informaci, jeho negativní výsledek ale není potvrzením pravosti. Právě na to je dobré při používání myslet.

Zdroje:

• autorský text / Mobilizujeme.cz
• SynthID Detector
• Google Blog