Virtuální AI asistenti, kteří nacházejí uplatnění v call centrech, bankovnictví či logistice, jsou v Česku na vzestupu a stávají se běžnou součástí komunikace nejen mezi firmami a zákazníky, ale i na ose úřady-občané. Podle pražské IT společnosti Agnostix, jež se zabývá vývojem chatbotů a voicebotů, je jejich úroveň srovnatelná, možná i lepší než v zahraničí, rozhodně však nejsou bez chyb.
„Jen za poslední rok muselo podle našich dat téměř devět z deseti lidí řešit při komunikaci s botem nějaký problém,“ uvádí pro Euro.cz spoluzakladatel firmy Mário Mitas. Dnešní boti dokážou konverzovat na stovky témat, obsloužit zákazníky a řešit jejich požadavky, přičemž díky moderní konverzační umělé inteligenci a velkým jazykovým modelům (LLM) lze dialog řídit dynamicky podle kontextu, nikoli jen dle předem připravených scénářů.
To však neplatí plošně, problémů při komunikaci s virtuálními asistenty může i nadále vznikat celá řada: „Všichni sice vědí, že to není dokonalé, ale většina firem má jen mlhavou představu o tom, co funguje, kde a proč vznikají největší potíže.“ Klíčová je podle Mitase mimo jiné automatická průběžná práce s daty, která umožňuje zlepšování komunikačních schopností bota bez nutnosti rozsáhlých manuálních zásahů.
Stížnosti uživatelů
Celá třetina uživatelů si podle průzkumu Agnostixu stěžuje, že bot nechápe kontext dotazu, dalších 28 procent uvádí, že nerozumí složitějším či méně jasným pokynům, a více než pětina si všímá, že reaguje pouze na předem naučené fráze. Problémy se přitom netýkají jen porozumění – druhou nejčastější potíží jsou chybné nebo irelevantní odpovědi, s nimiž se setkalo 28 procent Čechů, zatímco další více než čtvrtina lidí byla nakonec botem stejně přepojena na operátora nebo odkázána na jiný zdroj.
Jak Mitas zdůrazňuje, největší nedorozumění mezi lidmi a AI asistenty vznikají kombinací technologických nedostatků při implementaci a nerealistických očekávání uživatelů. „K chybám dochází v důsledku špatného uchopení technologií, kdy je vývoj komplexních botů často svěřen specialistům na zákaznickou péči, kteří nemají dostatečné technické znalosti a kopírují postupy poplatné dřívějším technologiím, i když dnes by si již mohli dovolit mnohem více,“ říká.
Druhým zásadním problémem je podle něj zanedbání údržby a monitoringu: „Vzhledem k objemu dat není v lidských silách číst všechny konverzace. A bez automatického tréninku a auditu se chyby hromadí a zůstávají neřešené.“ Výsledkem je tak tichá degradace kvality, kterou firmy často odhalí až ve chvíli, kdy je už příliš pozdě.
Veřejná správa riskuje nejvíc
Rozdíly mezi jednotlivými sektory jsou dle Mitase výrazné. V komerční sféře sahají velcí hráči, jako jsou banky nebo telekomunikační firmy, po pokročilých technologiích. Nicméně v regulovaných odvětvích, jako je finančnictví, jsou očekávání ohledně LLM zatím považována za nerealistická, zejména kvůli právním rizikům, pokud by boti začali hodnotit či chybně srovnávat konkurenční produkty. Menší podniky často volí nejlevnější varianty, což podle spoluzakladatele Agnostixu znamená „rezignaci na robustnost, bezpečnost, design a uživatelskou zkušenost“.
Boom v nasazování chatbotů a voicebotů nyní zažívají i města, obce či kraje, a právě zde také vznikají ta nejvážnější rizika. Občané často sdělují úředním botům citlivé osobní údaje, čísla plateb či informace o zdravotní a sociální situaci, což vyžaduje mimořádně přísnou ochranu a stoprocentní soulad s GDPR.
„Úřady též čelí riziku šíření dezinformací o místních vyhláškách nebo negativního komentování politiků, což může zničit důvěru občanů. Hrozí také zneužití chatbota uživateli, kteří se snaží získat neveřejné informace, speciální přístupy k systémům nebo narušit chod úřadu,“ varuje Mitas.
Co nás čeká v příštích měsících?
Nutno podotknout, že díky rychlému technologickému vývoji by řada současných problémů mohla být odstraněna spíše dříve než později, v důsledku čehož nás čeká nejen kvalitnější komunikace, ale hlavně posun v oblasti bezpečnosti a robustnosti. I do Česka totiž dorazí nárůst složitých hrozeb a problémů běžných v zahraničí, kvůli němuž budou muset firmy zavést komplexní a kontinuální bezpečnostní detekci rizik a audit jak ve fázi nasazení konverzační AI, tak v plném provozu. Jedině tak neztratí kontrolu nad hrozbami a nevhodnými odpověďmi.
Jak daleko může celá situace s „nevyladěnými“ chatboty zajít, ukazují některé nedávné incidenty ze světa. Tak například chatbot společnosti Chevrolet slíbil jednomu uživateli auto zdarma a jinému za pouhý dolar. V aerolinkách Air India nebo logistické firmě DPD zase museli řešit potenciální poškození reputace poté, co tito konverzační pomocníci začali skládat básně o tom, jak jsou jejich vlastní značky hrozné.
Ostatně, i česká praxe potvrzuje, že ani úzce zaměření asistenti nejsou imunní. Mnoho klientů se je snaží vtáhnout do politických či sexuálních témat, přičemž pokud by se asistent do takového hovoru skutečně zatáhnout nechal a klient by ho publikoval, mohou být pro firmu následky nedozírné.
„Ztráta přehledu o bezpečnostních hrozbách, nevhodných odpovědích či útocích ze strany uživatelů je nepřijatelná. Nejen, že představuje reputační riziko, ale může přímo ohrozit celý provoz a finanční stabilitu jakékoliv firmy či organizace,“ uzavírá Mitas.
