Etika už neexistuje? Lidé odstraňují vodoznaky z fotek pomocí AI od Googlu

Google Gemini jde zneužít

Dnešní generátory obrázků umí neuvěřitelné věci, ale dají se také snadno zneužít. Lidé hned začali zkoumat jejich limity a u Gemini 2.0 Flash od Googlu se ukázalo, že sice vytváří působivé obrázky, ale chybí mu důležité ochranné prvky. Bez potíží generuje podoby celebrit, chráněné postavy a dokonce dokáže odstranit vodoznaky z obrázků.

Uživatelé na sociálních sítích, jako je Reddit nebo X, sdíleli příklady, kdy Gemini 2.0 Flash úspěšně odstranil vodoznaky a doplnil chybějící části obrázku. Přestože jiné nástroje AI také nabízejí podobné funkce, Gemini 2.0 Flash má proti nim dvě nesporné výhody. V první řadě je zdarma a za druhé při tomto úkolu vyniká svou přesností.

Přestože si model Gemini 2.0 Flash neporadí dokonale s poloprůhlednými nebo rozsáhlými vodoznaky, jeho schopnosti vzbuzují mezi držiteli autorských práv oprávněné obavy. Použití vodoznaku má svůj význam a obvykle slouží k vizuálnímu označení, že se jedná o něčí majetek například u fotografií z fotobank nebo jednotlivých fotografů.

Experimentální funkce

Společnost Google nicméně v oficiálním vyjádření ujistila, že používání jejích generativních AI nástrojů k porušování autorských práv je v rozporu s podmínkami služby a že společnost monitoruje situaci a sbírá zpětnou vazbu od vývojářů.

Funkce generování obrázků v modelu Gemini 2.0 Flash je navíc aktuálně dostupná pouze prostřednictvím vývojářských nástrojů, jako je AI Studio. Samotný Google ji označuje jako „experimentální“ a „nevhodnou pro produkční použití“. Je tak více než pravděpodobné, že funkce generování obrázku dozná ještě nějaké podstatné změny.

V každém případě tento případ otevírá diskusi o potřebě implementace ochranných opatření v AI nástrojích, aby se zabránilo jejich zneužití k porušování autorských práv. Zdá se, že pouhé informování uživatelů o etických a právních důsledcích neoprávněného odstraňování vodoznaků stačit nebude. Jiné AI modely, jako Claude 3.7 Sonnet od společnosti Anthropic a GPT-4o od OpenAI, mají proto implementované omezení a odstranit vodoznak vám rovnou odmítnou. Například Claude označuje odstranění vodoznaku z obrázku za „neetické a potenciálně nezákonné“.