Evropská unie nařídila označovat AI obsah. Tohle pravidlo má ale velkou díru

Od 2. srpna platí v EU nová pravidla pro AI obsah. Označování je povinné, existují ale výjimky, které budí rozpaky.

AI obsah už musí být označený

Internet zaplavují obrázky, videa i texty vytvořené umělou inteligencí. Evropská unie proto od 2. srpna zavedla nová pravidla, která mají lidem usnadnit rozpoznání obsahu vytvořeného nebo upraveného pomocí AI. V praxi ale existuje několik důležitých výjimek.

Nové povinnosti vycházejí z článku 50 evropského Aktu o umělé inteligenci (AI Act). Týkají se poskytovatelů i provozovatelů generativních systémů AI, kteří musí označovat obrázky, videa, zvukové nahrávky i některé texty vytvořené nebo upravené umělou inteligencí.

Cílem pravidel je chránit uživatele před manipulací a usnadnit odhalování deepfaků. Evropská komise očekává, že díky transparentnějšímu označování bude snazší rozlišit skutečný obsah od syntetického a posílí se důvěra v online prostředí.

Ne všechno ale bude označené

Právě tady se objevuje největší slabina nových pravidel. Povinnost se totiž nevztahuje na veškerý obsah vytvořený pomocí AI. Výjimku mají například umělecká, satirická nebo čistě fiktivní díla. Pravidla se navíc nevztahují ani na obsah vytvořený výhradně pro osobní použití.

Určité nejasnosti vyvolává také formulace, že označování se týká obsahu navrženého tak, aby působil jako skutečný. Právě výklad této podmínky může být v praxi problematický a podle odborníků představuje jednu z největších mezer nových pravidel.

Speciální režim platí také pro texty týkající se veřejného zájmu. Pokud byly vytvořeny umělou inteligencí bez lidské redakční kontroly, musejí být rovněž označeny. Smyslem je zabránit šíření automaticky generovaných dezinformací vydávaných za běžné zpravodajství.

Kodex pomůže, povinnost ale nenahradí

Současně s novými pravidly vznikl také Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí. Jeho dodržování je dobrovolné, firmám ale usnadňuje prokázání souladu s požadavky evropského AI Actu a poskytuje větší právní jistotu.

Kodex připravili nezávislí odborníci ve spolupráci s Úřadem pro umělou inteligenci. Obsahuje pravidla pro označování AI obsahu, detekci deepfaků i doporučení pro texty vytvořené nebo upravené pomocí generativní umělé inteligence. Do konce července se k němu připojilo přibližně 190 organizací.

Evropská komise zároveň zveřejnila i sadu jednotných ikon, které mohou společnosti využívat při označování AI obsahu. Cílem je, aby uživatelé napříč členskými státy snadno poznali, že fotografie, video nebo text vznikly s pomocí umělé inteligence.

Umělá inteligence ChatGPT | Zdroj: Pexels

Pokuty mohou být velmi vysoké

Firmy, které nové povinnosti poruší, riskují výrazné finanční sankce. V nejzávažnějších případech mohou pokuty dosáhnout až 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti. Výše sankce bude záviset na konkrétním porušení pravidel.

Řada technologických firem se na změny připravovala už před jejich spuštěním. TikTok uvádí, že pomocí automatických nástrojů označil více než tři miliardy příspěvků. Meta používá označení AI Info a Google spolupracuje s OpenAI, Applem, Nvidií i dalšími firmami na technologiích digitálního označování.

Právě Google ale upozorňuje, že příliš mnoho různých štítků a upozornění může uživatele naopak mást. Evropská unie tak udělala významný krok směrem k větší transparentnosti AI, zároveň však bude muset řešit, zda současná pravidla skutečně dokážou držet krok s rychlým vývojem umělé inteligence.

Zdroje: