Umělá inteligence láká na smyšlená jídla. Podnik musí vysvětlovat, že neexistují
Americká pizzerie se potýká s neexistujícími nabídkami, které lidem zobrazuje Google AI. Zákazníci pak chtějí jídla, která restaurace nikdy nenabízela.
Google AI vymýšlí falešné menu
Rodinná pizzerie Stefanina’s Wentzville v americkém státě Missouri čelí nečekanému problému. Google AI totiž začala u jejího podniku zobrazovat denní menu, které ve skutečnosti vůbec neexistuje.
Výsledkem jsou zmatení zákazníci, kteří volají nebo přicházejí přímo do restaurace a chtějí akční pizzy či speciály, které podnik nikdy nepřipravil. Obsluha pak musí vše složitě vysvětlovat.
Majitelka Eva Gannon v příspěvku na Facebooku uvedla, že AI zákazníkům slibovala například „velkou pizzu za cenu malé“. Podnik tak nejen že ztrácí čas, ale často také musí čelit nepříjemným reakcím hostů.
Co je AI Overview?
- Nová funkce ve vyhledávači Google
- Shrnuje odpovědi pomocí umělé inteligence (AI)
- Kombinuje informace z více zdrojů
- Má ušetřit čas při hledání
Tip pro čtenáře: Vyzkoušel jsem objednání pizzy přes ChatGPT. Za 15 minut jsem ji měl u dveří
Google to zatím nevyřešil
Problém je o to vážnější, že restaurace nemá možnost falešné informace sama opravit. Obsah generovaný AI ve vyhledávači není pod kontrolou podniků a Google zatím řešení nenabízí.
AI Overview (česky Přehled od AI), nová funkce Googlu, čerpá informace z různých zdrojů a kombinuje je do rychlých odpovědí. Jenže v tomto případě si data jednoduše „vymyslela“ a poškodila tím pověst reálného podniku.
Pro malé restaurace může mít podobná situace nepříjemné následky. Zákazníci se mohou začít spoléhat na nesprávné informace a podnik pak přichází o důvěru i potenciální tržby.
Pohled redakce Mobilizujeme.cz
Nejnovější příběh ukazuje, že i dobře míněná technologie může napáchat škody. Google chtěl lidem pomoct rychle najít informace, ale místo toho způsobil malé rodinné restauraci pořádný zmatek a nervy navíc.
Největší problém je, že podniky nemají šanci nepravdivé informace opravit. Když si AI něco vymyslí, odnese to obsluha i zákazníci. Google by měl dát lidem kontrolu, jinak budou podobné situace přibývat.
Autor článku
Luboš píše o technologiích s důrazem na užitečnost pro čtenáře. Od roku 2007 publikoval přes 8 000 článků, začínal jako zakladatel magazínu Mobilizujeme.cz. V osobním životě sází na produkty od Applu a Tesly.
Luboš píše o technologiích s důrazem na užitečnost pro čtenáře. Od roku 2007 publikoval přes 8 000 článků, začínal jako zakladatel magazínu Mobilizujeme.cz. V osobním životě sází na produkty od Applu a Tesly.
