Víme, jak odhalit video vytvořené umělou inteligencí. Vy rozdíl poznáte?

Ověřování videí v době AI

Dnešní generátory obrázků a videí dosahují stále vyšší úrovně dokonalosti. Zmizely trhané pohyby, kola aut se konečně dotýkají silnice a lidé mají správný počet prstů. S vysokou mírou realismu však roste i nebezpečí dezinformací. Rozpoznat skutečné video od digitálního podvrhu je dnes nezbytnou dovedností. Do popředí se proto dostávají nástroje, které umožňují komukoli okamžitě ověřit původ obsahu, a to i bez specializovaného softwaru nebo expertních znalostí.

Už v listopadu přidal Google do svého chatbota Gemini schopnost zkontrolovat, zda byl obrázek vytvořen pomocí AI. Nově tuto funkci rozšířil i na video. Použití této funkce je přímočaré a nevyžaduje žádné nastavování. Uživatel do Gemini na webu nebo v mobilní aplikaci nahraje video a zadá jednoduchý dotaz na jeho původ.

Systém během několika sekund analyzuje obraz i zvuk. Součástí výstupu je informace o tom, zda byla umělá inteligence použita k vytvoření obrazu, zvuku nebo obou složek. Problém je však v tom, že Gemini stejně jako u nástroje na detekci obrázků umí takto identifikovat pouze videa vytvořená pomocí nástrojů Googlu. Dalším omezením je maximální velikost 100 MB a délka videa do 90 sekund.

Vodoznak jako klíč k identifikaci

Základem rozpoznávání je technologie SynthID. Jde o digitální vodoznak, který Google vkládá do obsahu vytvořeného svými generativními nástroji. Vodoznak je pro člověka neviditelný a neovlivňuje kvalitu videa ani zvuku. Detekční systém jej však dokáže spolehlivě identifikovat a přiřadit k původu obsahu.

Tento přístup má své výhody i omezení. Výhodou je vysoká přesnost při identifikaci videí vytvořených nástroji Google a rychlé vyhodnocení. Omezením je skutečnost, že systém nedokáže rozpoznat obsah vytvořený jinými generativními platformami. Funkce tedy slouží především jako nástroj pro ověření obsahu v rámci ekosystému Google.

Do budoucna se však možnosti AI detektorů rozšíří. Technologické firmy si uvědomují potřebnost transparentnosti digitálního obsahu a pracují na zavedení univerzálního standardu Coalition for Content Provenance and Authenticity (C2PA). Většina AI generovaného obsahu by pak měla obsahovat C2PA metadata, které usnadní jeho detekování. Samotný Google nedávno oznámil, že obrázky vytvořené pomocí Nano Banana Pro budou obsahovat C2PA metadata, což představuje krok správným směrem.

Zdroj: Google Blog