Vytvořila obsah AI? Google má nástroj, který to chytrým způsobem zjistí

AI obsah je všude kolem nás

S obřím rozmachem AI se čím dál častěji setkáváme i s obsahem vytvořeným čistě s její pomocí. Virtuální influenceři, bizarní smyšlená videa, falešné trailery na neexistující hry či filmy, to vše se šíří internetem jako lavina. A bude toho samozřejmě jen a jen přibývat.

Tyto výtvory bohužel často šíří dezinformace, protože ne každý zvládne rozpoznat obsah vytvořený AI od reality. Schopnosti umělé inteligence jsou v tomto směru čím dál lepší a to, co bylo ještě před pár lety bezpečně rozpoznatelné, je dnes obtížné identifikovat.

Často je nutné zaměřit se na ty nejmenší detaily, nicméně i ty už umí dnešní AI vygenerovat tak, že je velmi obtížné odlišit fikci od reality. S pomocnou rukou nyní přichází Google, který představuje svůj nástroj pro rozpoznání obsahu vytvořeného umělou inteligencí.

Ověřte si pravost obsahu – textu, fotek, videí, či zvuku

Tento nový nástroj se jmenuje SynthID Detector a jedná se o ověřovací portál sloužící k rychlé a efektivní kontrole obsahu. Jak označení této platformy napovídá, její hlavní funkcí je detekce digitálního vodoznaku SynthID, který Google představil v roce 2023.

Tento nástroj byl stvořen primárně kvůli boji proti dezinformacím formou obsahu vytvořeného AI a nová služba SynthID Detector umí tyto vodoznaky detekovat. Aktuálně údajně existuje na 10 miliard kusů obsahu, který je opatřen tímto vodoznakem, a tudíž je detekovatelný.

Vodoznaky SynthID pokrývají nejenom obrazový (videa, obrázky) a zvukový formát, ale také textový a SynthID Detector tedy zvládne detekovat i text vytvořený pomocí AI. Asi vás nepřekvapí, že o rozpoznání AI obsahu a následnou implementaci vodoznaků SynthID se stará umělá inteligence.

Jak SynthID Detector funguje?

Jakmile do detektoru nahrajete obsah (obrázek, video, text, zvukovou stopu), ten ho celý projde a detekuje, zda obsahuje vodoznaky SynthID. Ty poté zvýrazní a budete tak přesně vědět, které části byly vytvořeny pomocí AI, či zda je celý obsah kompletně dílem umělé inteligence.

Dostupnost

SynthID Detector je aktuálně k dispozici pro první testery, ale další rozšíření bude následovat. Zájemci například z řad novinářů, vývojářů, či dalších profesí se mohou zatím alespoň přidat na waitlist, a to vyplněním tohoto formuláře na webu Googlu.

zdroj: Google Blog, Google DeepMind