Když necháte AI mluvit se zákazníkem, hlídejte tyto etické hranice
Náklady na nástroj nejsou jen licence. Počítejte s časem na zavedení, migrací dat, proškolením týmu a úpravami, které vyplynou z praxe. Tyto položky často převýší samotný poplatek za používání. Běžná chyba: vedení koupí komplexní řešení pro celou firmu, ale personální oddělení využije desetinu funkcí. Zaměstnanci pak obcházejí systém a vedou si soukromé tabulky, takže se data rozcházejí a automatizace vyrábí chyby rychleji než dřív ruční práce.
Porovnávejte celkovou cenu, ne jen cenu produk
Základem je transparentnost. Pokud se zákazník ptá, zda komunikuje s AI, odpověď musí být přímá a srozumitelná. Snaha tvářit se jako lidský operátor se dřív nebo později provalí a poškodí důvěru víc než přiznání, že jde o automatizovaný nástroj. Stejně tak nestačí uvést to jednou v obchodních podmínkách. Informace má být viditelná v místě rozhovoru, ne zakopaná v dokumentu, který nikdo nečte.
Umělé obrázky na inzerátech nemovitostí vznikají většinou zbytečně. Stačí pár špatných návyků a výsledek působí jako levná reklama, které nikdo neuvěří. Přitom stačí pochopit, že cílem není ukázat nemovitost v lepším světle, než ve skutečnosti je, ale přivést na prohlídku toho, kdo hledá právě takový byt. Každý zásah do fotky, který tohle nepodporuje, je chyba.
Kde se chyby schovávají nejčastě
Než začnete používat umělou inteligenci pro psaní textů, ujasněte si, k čemu vám vlastně bude. Nástroje založené na jazykových modelech dokážou navrhnout osnovu, přeformulovat odstavec, zkrátit text nebo vygenerovat první verzi. Neumí ale za vás rozhodnout, co je pravda a co dává smysl v konkrétním kontextu. Pokud potřebujete text o něčem, čemu nerozumíte, AI vám sice něco vyplodí, ale výsledek bude povrchní a často zavádějící. Začněte tedy tím, že si sami sepíšete, co chcete sdělit, komu a proč. Teprve pak zadejte požadavek.
Typické chyby, které se opakují: chybějící možnost kdykoli přejít na člověka, tón odpovědí, který působí chladně nebo arogantně, a neschopnost přiznat, že AI odpověď nezná. Poslední bod je nejdůležitější. Model, který si vymýšlí sebevědomé odpovědi, je horší než model, který řekne „tomu nerozumím, předám to kolegovi". Nastavte proto jasné mantinely: co dělat, když si AI není jistá, jak rozpoznat nespokojenost a kam eskalovat.
Dalším častým selháním je nedostatečná práce s daty, která do komunikace vstupují. AI by měla mít přístup jen k údajům, které pro daný dotaz skutečně potřebuje. Načítat celou historii zákazníka kvůli dotazu na otevírací dobu je zbytečné a zvyšuje riziko úniku. Zároveň platí, že výstupy modelu nejsou fakta. Mohou být zastaralé, vymyšlené nebo vytržené z kontextu. Před odesláním je proto nutné ověřovat údaje, které mají dopad na peníze, termíny nebo práva zákazníka.
Kontrola je vaše práce, ne stroje Jakmile dostanete návrh textu, přečtěte si ho celý a pomalu. Jazykové modely umí plynule a sebevědomě tvrdit věci, které jsou smyšlené – vymyšlené citace, neexistující studie, špatná čísla, záměna jmen. Tomuto jevu se říká halucinace a nejde mu spolehlivě zabránit žádným nastavením. Každé tvrzení, které má být faktické, si ověřte v důvěryhodném zdroji. Stejně tak zkontrolujte, jestli text neobsahuje obraty, které znějí jako z reklamy, nebo jestli někde nechybí logická návaznost. AI často opakuje stejnou myšlenku jinými slovy, aby text natáhla.
Praktický postup, který funguje: napište si vlastní osnovu v pěti bodech, ke každému bodu dejte dvě věty vlastními slovy a teprve pak požádejte AI o rozvedení nebo zhuštění. Hotový výstup vždy přepište do svého přirozeného jazyka – odstraňte opakování, zkraťte souvětí, doplňte konkrétní příklady, které znáte ze své praxe. Tím se vyhnete tomu, že text bude znít jako od stroje, a zároveň si udržíte kontrolu nad obsahem. AI berte jako pomocníka na dílčí úkoly, ne jako autora, který za vás převezme odpovědnost.
Etická komunikace se zákazníkem není o tom zakázat AI, ale o tom nastavit ji tak, aby zákazník věděl, s kým mluví, měl vždy cestu k člověku a nedostal rozhodnutí, které za něj udělal stroj. Kontrolujte to průběžně, ne jednou při spuštění. Sbírejte zpětnou vazbu, čtěte přepisy rozhovorů a upravujte scénáře podle toho, kde lidé odcházejí nebo kde si stěžují. Jen tak zůstane automatizace nástrojem, který pomáhá, a ne zdí mezi firmou a zákazníkem.
Zadání neboli prompt je nejdůležitější část práce. Čím konkrétnější vstup dáte, tím použitelnější výstup dostanete. Místo věty „napiš mi článek o zahradničení" zkuste „napiš tři odstavce o tom, jak na jaře připravit půdu pro pěstování zeleniny, piš věcně, bez básnických obratů, v ich formě". Přidejte, jak dlouhý text má být, jaký tón má mít a co v něm být nemá. Když výsledek nesedí, neopravujte ho ručně hned – nejdřív zkuste upravit zadání. Většina slabých výstupů vzniká z vágního zadání, ne z neschopnosti nástroje.