AI asistent pre firmu nad vlastnými dátami: plusy a riziká

Interný AI asistent pre firmu odpovedá zamestnancom z vašich vlastných dát: smerníc, cenníkov, technických listov, zmlúv či objednávok. Pýtajú sa vlastnými slovami a pri odpovedi vidia, z ktorého dokumentu pochádza. Ušetrí hľadanie a otázky typu „kde je tá tabuľka“. Riziká sú tri: zlé odpovede, ľudia uvidia, čo nemajú, a dáta odídu tam, kam nemali.

Nižšie nájdete, čo asistent prinesie, ako tie tri riziká obmedziť a ako ho zaviesť, aby ho ľudia naozaj používali.

Čo vie interný AI asistent a čím sa líši od ChatGPT?

ChatGPT a podobné nástroje odpovedajú z toho, čo sa model naučil, a z toho, čo im práve nahráte. Interný asistent má prístup k vašim dokumentom a systémom. Pri každej otázke si v nich vyhľadá súvisiace úryvky a až z nich odpovie. Tomuto postupu sa hovorí RAG. Ako ho postaviť technicky, s právami a testami, rozoberáme v článku RAG nad firemnými dátami: ako ho postaviť, aby neklamal.

Ak vaša firma žije v jednom balíku kancelárskych nástrojov, pozrite sa najprv, čo ponúka jeho vlastný asistent. Ak dokumenty a dáta máte na viacerých miestach alebo vo vlastnom systéme, hotový asistent ich často nevidí.

Čo asistent firme prinesie?

• Menej otázok na skúsených ľudí. „Aká je záruka na tento typ?“ „Kde je posledný cenník?“ Odpoveď nájde asistent, nie kolega, ktorý to vie spamäti.
• Rýchlejší nástup nováčikov. Smernice a postupy si nemusia čítať naraz. Pýtajú sa, keď to potrebujú.
• Jedno miesto namiesto desiatich priečinkov. Asistent hľadá naprieč dokumentmi, ktoré ste mu sprístupnili.

Spoločné majú to, že ide o hľadanie, nie o rozhodovanie. Asistent nájde a zhrnie. Rozhoduje človek.

Aké sú riziká a ako ich obmedziť?

1. Zlé odpovede. Model pracuje s pravdepodobnosťou a niekedy si vymýšľa. Asistent preto má odpovedať len z nájdených dokumentov, vždy ukázať zdroj a povedať „neviem“, keď odpoveď nenájde. Viac o tom v článku AI halucinácie: prečo si AI vymýšľa a ako to obmedziť.

2. Ľudia uvidia, čo nemajú. Ak asistent číta mzdy, zmluvy so zákazníkmi a smernice naraz, odpovie z nich komukoľvek. Prístupové práva musí rešpektovať asistent sám: kto nevidí dokument v priečinku, nemá ho dostať ani v odpovedi.

3. Dáta odídu, kam nemali. Dokumenty zostanú tam, kde sú dnes. Asistent si však vytvorí index na vyhľadávanie a jazykový model dostane pri každej otázke otázku a pár úryvkov. Preto je dôležité vedieť, kde index beží a kto model prevádzkuje. Pri jednej otázke to vyzerá takto:

Čo si dať napísať do zmluvy s dodávateľom?

Sľub dodávateľa vám nepomôže, ak nie je na papieri. Pred podpisom si vypýtajte písomné odpovede na štyri otázky:

Ako sa bránia agenty, ktoré čítajú cudzie texty, rozoberáme v článku Prompt injection: ako ochrániť AI agenta vo firme. Pri internom asistentovi platí to isté pre dokumenty, ktoré do firmy prišli zvonku. Nie je to právna rada.

Ako zaviesť AI asistenta, aby ho ľudia používali?

Asistent „na všetko“ odpovedá na všetko priemerne a ľudia ho po týždni prestanú otvárať. Odporúčame začať úzkou oblasťou:

Krok 2 zaberie najviac času a je najdôležitejší. Ak sú v priečinku tri cenníky a platí len jeden, asistent odpovie z ktoréhokoľvek. Zlá odpoveď so zdrojom je stále zlá odpoveď.

Ste pripravení na interného asistenta?

Zaškrtnite, čo o vás platí:

Kedy to neodporúčame

• Dokumentov je pár a pozná ich každý. Stačí jeden prehľadný priečinok alebo stránka s odkazmi.
• Dokumenty sú neaktuálne a nikto nevie, ktoré platia. Asistent bude rýchlo odpovedať zle. Najprv upracte zdroje.
• Odpoveď má rozhodnúť o peniazoch alebo práve. Asistent nájde podklady, rozhoduje človek.
• Vaše kancelárske nástroje už asistenta majú a vidí vaše dokumenty. Skúste najprv ten. Vlastného riešte, až keď nestačí.

Pýtajú sa vaši ľudia stále na to isté?

Napíšte nám, na čo sa vo firme najčastejšie pýtajú a kde sú odpovede. Ozveme sa do dvoch pracovných dní s pár otázkami k vašej práci. Potom sa dohodneme, čo urobíme ako prvé.

Ak sa chcete najprv porozprávať, dohodnite si úvodný hovor na 15 minút.

Ako staviame AI agentov a asistentov nad dátami firmy, opisujeme na stránke AI agent pre firmu na mieru. Asistent aj kód patria vám od prvého dňa.

Na ktorú otázku vo vašej firme vie odpovedať len jeden človek?

Časté otázky

Čo je interný AI asistent pre firmu?

Asistent, ktorému sa zamestnanci pýtajú vlastnými slovami a on odpovedá z firemných dokumentov a systémov: smerníc, cenníkov, technických listov, objednávok. Pri odpovedi ukáže, z ktorého dokumentu vychádzal.

Nestačí nahrať dokumenty do ChatGPT?

Na pár dokumentov pre jedného človeka často stačí. Problém nastane, keď sa dokumenty menia, keď ich je veľa a keď nie každý smie vidieť všetko. Vtedy treba asistenta, ktorý rešpektuje prístupové práva a číta vždy aktuálnu verziu.

Kde zostanú firemné dáta?

Dokumenty zostanú tam, kde sú dnes. Asistent si vytvorí index na vyhľadávanie a jazykový model dostane pri každej otázke len otázku a pár súvisiacich úryvkov. Kde beží index, ktorý model sa použije a či poskytovateľ smie dáta použiť na tréning, si dajte napísať do zmluvy.

Čo je RAG?

RAG (retrieval-augmented generation) je postup, pri ktorom asistent najprv vyhľadá v dokumentoch úryvky k otázke a až potom z nich napíše odpoveď. Vďaka tomu odpovedá z vašich dát, nie z toho, čo si model pamätá.

Môže si firemný AI asistent vymýšľať?

Áno, ak to nemá zakázané a nekontrolujete ho. Preto má odpovedať len z nájdených dokumentov, vždy ukázať zdroj a povedať „neviem“, keď odpoveď nenájde.