Asystent AI na danych firmy: zalety i ryzyka

Wewnętrzny asystent AI dla firmy odpowiada pracownikom na podstawie Państwa własnych danych: regulaminów, cenników, kart technicznych, umów czy zamówień. Pytają własnymi słowami i przy odpowiedzi widzą, z którego dokumentu pochodzi. Oszczędza szukania i pytań w stylu „gdzie jest ta tabela”. Ryzyka są trzy: błędne odpowiedzi, ludzie zobaczą to, czego nie powinni, i dane trafią tam, gdzie nie powinny.

Poniżej znajdą Państwo, co daje asystent, jak ograniczyć te trzy ryzyka i jak go wdrożyć, żeby ludzie naprawdę z niego korzystali.

Co potrafi wewnętrzny asystent AI i czym różni się od ChatGPT?

ChatGPT i podobne narzędzia odpowiadają na podstawie tego, czego nauczył się model, i tego, co Państwo właśnie wgrają. Wewnętrzny asystent ma dostęp do Państwa dokumentów i systemów. Przy każdym pytaniu wyszukuje w nich powiązane fragmenty i dopiero na ich podstawie odpowiada. Ta metoda nazywa się RAG. Jak go zbudować technicznie, z uprawnieniami i testami, opisujemy w artykule RAG na danych firmy: jak go zbudować, żeby nie kłamał.

Jeśli Państwa firma pracuje w jednym pakiecie biurowym, najpierw warto sprawdzić, co oferuje jego wbudowany asystent. Jeśli dokumenty i dane są w kilku miejscach albo we własnym systemie, gotowy asystent często ich nie widzi.

Co asystent daje firmie?

• Mniej pytań do doświadczonych osób. „Jaka jest gwarancja na ten model?” „Gdzie jest najnowszy cennik?” Odpowiedź znajduje asystent, a nie kolega, który zna ją na pamięć.
• Szybsze wdrożenie nowych osób. Nie muszą czytać wszystkich regulaminów i procedur naraz. Pytają, kiedy potrzebują.
• Jedno miejsce zamiast dziesięciu folderów. Asystent szuka we wszystkich dokumentach, do których dali mu Państwo dostęp.

Wspólne jest to, że chodzi o szukanie, nie o decydowanie. Asystent znajduje i streszcza. Decyduje człowiek.

Jakie są ryzyka i jak je ograniczyć?

1. Błędne odpowiedzi. Model działa na prawdopodobieństwach i czasem zmyśla. Dlatego asystent powinien odpowiadać tylko na podstawie znalezionych dokumentów, zawsze pokazywać źródło i mówić „nie wiem”, gdy nie znajdzie odpowiedzi. Więcej w artykule Halucynacje AI: dlaczego AI zmyśla i jak to ograniczyć.

2. Ludzie zobaczą to, czego nie powinni. Jeśli asystent czyta jednocześnie płace, umowy z klientami i regulaminy, odpowie z nich każdemu. Uprawnień musi przestrzegać sam asystent: kto nie widzi dokumentu w folderze, nie może go dostać także w odpowiedzi.

3. Dane trafią tam, gdzie nie powinny. Dokumenty zostają tam, gdzie są dziś. Asystent tworzy jednak indeks wyszukiwania, a model językowy przy każdym pytaniu dostaje pytanie i kilka fragmentów. Dlatego ważne jest, gdzie działa indeks i kto obsługuje model. Przy jednym pytaniu wygląda to tak:

Co warto mieć na piśmie od dostawcy?

Obietnica dostawcy nic Państwu nie da, jeśli nie jest na piśmie. Przed podpisaniem umowy proszę poprosić o pisemne odpowiedzi na cztery pytania:

Jak bronią się agenci, którzy czytają cudze teksty, opisujemy w artykule Prompt injection: jak chronić agenta AI w pracy. W przypadku wewnętrznego asystenta to samo dotyczy dokumentów, które trafiły do firmy z zewnątrz. To nie jest porada prawna.

Jak wdrożyć asystenta AI, żeby ludzie z niego korzystali?

Asystent „do wszystkiego” odpowiada na wszystko przeciętnie i po tygodniu ludzie przestają go otwierać. Zalecamy zacząć od wąskiego obszaru:

Krok 2 zajmuje najwięcej czasu i jest najważniejszy. Jeśli w folderze są trzy cenniki, a obowiązuje tylko jeden, asystent odpowie z dowolnego z nich. Błędna odpowiedź ze źródłem to nadal błędna odpowiedź.

Czy są Państwo gotowi na wewnętrznego asystenta?

Proszę zaznaczyć, co Państwa dotyczy:

Kiedy tego nie polecamy

• Dokumentów jest kilka i każdy je zna. Wystarczy jeden przejrzysty folder albo strona z linkami.
• Dokumenty są nieaktualne i nikt nie wie, które obowiązują. Asystent będzie szybko odpowiadał źle. Najpierw proszę uporządkować źródła.
• Odpowiedź ma decydować o pieniądzach albo sprawach prawnych. Asystent znajdzie materiały, decyduje człowiek.
• Państwa narzędzia biurowe mają już asystenta, który widzi Państwa dokumenty. Najpierw warto spróbować tego. O własnym warto myśleć dopiero, gdy nie wystarczy.

Czy Państwa ludzie ciągle pytają o to samo?

Proszę napisać, o co w Państwa firmie pyta się najczęściej i gdzie są odpowiedzi. Odezwiemy się w ciągu dwóch dni roboczych z kilkoma pytaniami o Państwa pracę. Potem ustalimy, co zrobimy najpierw.

Jeśli wolą Państwo najpierw porozmawiać, proszę umówić 15-minutową rozmowę wstępną.

Jak budujemy agentów i asystentów AI na danych firmy, opisujemy na stronie Agenci AI dla firm na zamówienie. Asystent i kod należą do Państwa od pierwszego dnia.

Na które pytanie w Państwa firmie potrafi odpowiedzieć tylko jedna osoba?

Najczęstsze pytania

Czym jest wewnętrzny asystent AI dla firmy?

To asystent, którego pracownicy pytają własnymi słowami, a on odpowiada na podstawie firmowych dokumentów i systemów: regulaminów, cenników, kart technicznych, zamówień. Przy odpowiedzi pokazuje, z którego dokumentu korzystał.

Czy nie wystarczy wgrać dokumentów do ChatGPT?

Przy kilku dokumentach i jednej osobie często wystarczy. Problem pojawia się, gdy dokumenty się zmieniają, gdy jest ich dużo i gdy nie każdy może widzieć wszystko. Wtedy potrzebny jest asystent, który przestrzega uprawnień i zawsze czyta aktualną wersję.

Gdzie zostają dane firmy?

Dokumenty zostają tam, gdzie są dziś. Asystent tworzy indeks wyszukiwania, a model językowy przy każdym pytaniu dostaje tylko pytanie i kilka powiązanych fragmentów. Gdzie działa indeks, jaki model jest używany i czy dostawca może wykorzystać dane do trenowania, warto zapisać w umowie.

Czym jest RAG?

RAG (retrieval-augmented generation) to metoda, w której asystent najpierw wyszukuje w dokumentach fragmenty związane z pytaniem, a dopiero potem pisze na ich podstawie odpowiedź. Dzięki temu odpowiada z Państwa danych, a nie z tego, co pamięta model.

Czy firmowy asystent AI może zmyślać?

Tak, jeśli nie ma tego zakazanego i nikt go nie kontroluje. Dlatego powinien odpowiadać tylko na podstawie znalezionych dokumentów, zawsze pokazywać źródło i mówić „nie wiem”, gdy nie znajdzie odpowiedzi.