AI asistent pro firmu nad vlastními daty: výhody a rizika

Interní AI asistent pro firmu odpovídá zaměstnancům z vašich vlastních dat: směrnic, ceníků, technických listů, smluv či objednávek. Ptají se vlastními slovy a u odpovědi vidí, ze kterého dokumentu pochází. Ušetří hledání a otázky typu „kde je ta tabulka“. Rizika jsou tři: špatné odpovědi, lidé uvidí, co nemají, a data odejdou tam, kam neměla.

Níže najdete, co asistent přinese, jak ta tři rizika omezit a jak ho zavést, aby ho lidé opravdu používali.

Co umí interní AI asistent a čím se liší od ChatGPT?

ChatGPT a podobné nástroje odpovídají z toho, co se model naučil, a z toho, co jim právě nahrajete. Interní asistent má přístup k vašim dokumentům a systémům. U každé otázky si v nich vyhledá související úryvky a teprve z nich odpoví. Tomuto postupu se říká RAG. Jak ho postavit technicky, s právy a testy, rozebíráme v článku RAG nad firemními daty: jak ho postavit, aby nelhal.

Pokud vaše firma žije v jednom balíku kancelářských nástrojů, podívejte se nejprve, co nabízí jeho vlastní asistent. Pokud dokumenty a data máte na více místech nebo ve vlastním systému, hotový asistent je často nevidí.

Co asistent firmě přinese?

• Méně otázek na zkušené lidi. „Jaká je záruka na tento typ?“ „Kde je poslední ceník?“ Odpověď najde asistent, ne kolega, který to zná zpaměti.
• Rychlejší nástup nováčků. Směrnice a postupy nemusí číst najednou. Ptají se, když to potřebují.
• Jedno místo místo deseti složek. Asistent hledá napříč dokumenty, které jste mu zpřístupnili.

Společné mají to, že jde o hledání, ne o rozhodování. Asistent najde a shrne. Rozhoduje člověk.

Jaká jsou rizika a jak je omezit?

1. Špatné odpovědi. Model pracuje s pravděpodobností a někdy si vymýšlí. Asistent proto má odpovídat jen z nalezených dokumentů, vždy ukázat zdroj a říct „nevím“, když odpověď nenajde. Více o tom v článku AI halucinace: proč si AI vymýšlí a jak to omezit.

2. Lidé uvidí, co nemají. Pokud asistent čte mzdy, smlouvy se zákazníky a směrnice najednou, odpoví z nich komukoli. Přístupová práva musí respektovat asistent sám: kdo nevidí dokument ve složce, nemá ho dostat ani v odpovědi.

3. Data odejdou, kam neměla. Dokumenty zůstanou tam, kde jsou dnes. Asistent si však vytvoří index pro vyhledávání a jazykový model dostane při každé otázce otázku a pár úryvků. Proto je důležité vědět, kde index běží a kdo model provozuje. Při jedné otázce to vypadá takto:

Co si nechat napsat do smlouvy s dodavatelem?

Slib dodavatele vám nepomůže, pokud není na papíře. Před podpisem si vyžádejte písemné odpovědi na čtyři otázky:

Jak se brání agenti, kteří čtou cizí texty, rozebíráme v článku Prompt injection: jak ochránit AI agenta ve firmě. U interního asistenta platí totéž pro dokumenty, které do firmy přišly zvenku. Nejde o právní radu.

Jak zavést AI asistenta, aby ho lidé používali?

Asistent „na všechno“ odpovídá na všechno průměrně a lidé ho po týdnu přestanou otevírat. Doporučujeme začít úzkou oblastí:

Krok 2 zabere nejvíc času a je nejdůležitější. Pokud jsou ve složce tři ceníky a platí jen jeden, asistent odpoví z kteréhokoli. Špatná odpověď se zdrojem je pořád špatná odpověď.

Jste připraveni na interního asistenta?

Zaškrtněte, co o vás platí:

Kdy to nedoporučujeme

• Dokumentů je pár a zná je každý. Stačí jedna přehledná složka nebo stránka s odkazy.
• Dokumenty jsou neaktuální a nikdo neví, které platí. Asistent bude rychle odpovídat špatně. Nejprve ukliďte zdroje.
• Odpověď má rozhodnout o penězích nebo právu. Asistent najde podklady, rozhoduje člověk.
• Vaše kancelářské nástroje už asistenta mají a vidí vaše dokumenty. Zkuste nejprve ten. Vlastního řešte, až když nestačí.

Ptají se vaši lidé pořád na totéž?

Napište nám, na co se ve firmě nejčastěji ptají a kde jsou odpovědi. Ozveme se do dvou pracovních dnů s pár otázkami k vaší práci. Pak se domluvíme, co uděláme jako první.

Pokud si chcete nejprve promluvit, domluvte si úvodní hovor na 15 minut.

Jak stavíme AI agenty a asistenty nad daty firmy, popisujeme na stránce AI agent pro firmu na míru. Asistent i kód patří vám od prvního dne.

Na kterou otázku ve vaší firmě umí odpovědět jen jeden člověk?

Časté otázky

Co je interní AI asistent pro firmu?

Asistent, kterého se zaměstnanci ptají vlastními slovy a on odpovídá z firemních dokumentů a systémů: směrnic, ceníků, technických listů, objednávek. U odpovědi ukáže, ze kterého dokumentu vycházel.

Nestačí nahrát dokumenty do ChatGPT?

Na pár dokumentů pro jednoho člověka často stačí. Problém nastane, když se dokumenty mění, když jich je hodně a když ne každý smí vidět všechno. Pak je potřeba asistent, který respektuje přístupová práva a čte vždy aktuální verzi.

Kde zůstanou firemní data?

Dokumenty zůstanou tam, kde jsou dnes. Asistent si vytvoří index pro vyhledávání a jazykový model dostane při každé otázce jen otázku a pár souvisejících úryvků. Kde běží index, který model se použije a zda poskytovatel smí data použít k trénování, si nechte napsat do smlouvy.

Co je RAG?

RAG (retrieval-augmented generation) je postup, při kterém asistent nejprve vyhledá v dokumentech úryvky k otázce a teprve potom z nich napíše odpověď. Díky tomu odpovídá z vašich dat, ne z toho, co si model pamatuje.

Může si firemní AI asistent vymýšlet?

Ano, pokud to nemá zakázané a nekontrolujete ho. Proto má odpovídat jen z nalezených dokumentů, vždy ukázat zdroj a říct „nevím“, když odpověď nenajde.