Tyto webové prohlížeče nepoužívejte, varují experti

Rizika nových AI prohlížečů

Různé nástroje umělé inteligence se již pro mnoho uživatelů staly něčím naprosto nepostradatelným. Zatím posledním hitem se stávají AI prohlížeče, které se objevují jako houby po dešti. Uživatelům mají přinést novou úroveň komfortu a mají jim ulehčit práci. Současně však otevírají prostor pro chyby i nečekané reakce systému.

Analytická společnost Gartner ve svém posledním doporučení týkajícího se kybernetické bezpečnosti varuje firmy před používáním takzvaných AI prohlížečů jako Perplexity Comet nebo ChatGPT Atlas od OpenAI. Odborníci radí, aby je firmy dočasně blokovaly a zamezily jejich plošnému nasazení pro běžné uživatele.

Výchozí nastavení těchto aplikací totiž často upřednostňuje uživatelský komfort a plynulost práce před důslednou ochranou citlivých dat. Hlavním identifikovaným problémem je podle Gartneru způsob, jakým fungují postranní AI panely a autonomní agenti.

Možný únik dat a nechtěné nakupování

AI postranní panely si oblíbila řada uživatelů, protože umožňují sumarizaci obsahu, překlady nebo interakci s webovými stránkami prostřednictvím cloudových AI služeb. Problém však je, že přitom citlivé informace, například aktivní webový obsah, historie prohlížení či otevřené karty, opouštějí kontrolované prostředí organizace. Stávají se tak potenciálním cílem úniku informací.

Druhým problémovým prvkem jsou agenti integrovaní v prohlížečích. Ty umožňují aplikaci autonomně procházet weby, vyplňovat formuláře nebo dokončovat úkoly jménem uživatele. Nesprávné uvažování velkých jazykových modelů může snadno vést k chybám nejen při vyplňování různých formulářů, ale například chybné rezervace letenek či nechtěné objednávky zboží přes interní nákupní nástroje bez lidské kontroly.

Podle bezpečnostních analytiků přitom pouhé omezení některých funkcí, jako zablokování přístupu k e-mailu pro agenty nebo zamezení dlouhodobého ukládání dat nestačí. To v konečném důsledku často vede pouze k rozsáhlému seznamu zakázaných scénářů pro použití. Firmy by také měly školit uživatele v používání AI, aby si uvědomili, že obsah zobrazený v prohlížeči může být odesílán na servery služby a že práce s citlivými informacemi vyžaduje zvýšenou opatrnost. Kompletní blokace těchto prohlížečů je však stále nejjistějším postupem, jak minimalizovat rizika.

Zdroj: The Register