KI-Assistent für eigene Firmendaten: Vorteile und Risiken

Ein interner KI-Assistent für Ihr Unternehmen beantwortet Fragen von Mitarbeitern aus Ihren eigenen Daten: Richtlinien, Preislisten, Datenblätter, Verträge oder Aufträge. Gefragt wird in eigenen Worten, und bei jeder Antwort ist zu sehen, aus welchem Dokument sie stammt. Das spart Suchen und Fragen wie „wo ist die Tabelle“. Es gibt drei Risiken: falsche Antworten, Menschen sehen, was sie nicht sehen sollen, und Daten landen dort, wo sie nicht hingehören.

Unten lesen Sie, was ein Assistent bringt, wie Sie die drei Risiken begrenzen und wie Sie ihn so einführen, dass er wirklich genutzt wird.

Was kann ein interner KI-Assistent und wie unterscheidet er sich von ChatGPT?

ChatGPT und ähnliche Tools antworten aus dem, was das Modell gelernt hat, und aus dem, was Sie gerade hochladen. Ein interner Assistent hat Zugriff auf Ihre Dokumente und Systeme. Bei jeder Frage sucht er dort passende Auszüge und antwortet erst daraus. Dieses Verfahren heißt RAG. Wie man es technisch baut, mit Berechtigungen und Tests, zeigen wir im Artikel RAG mit Firmendaten: So bauen Sie es, damit es nicht lügt.

Arbeitet Ihr Unternehmen in einem einzigen Office-Paket, schauen Sie zuerst, was dessen eigener Assistent bietet. Liegen Dokumente und Daten an mehreren Orten oder in einem eigenen System, sieht ein fertiger Assistent sie oft nicht.

Was bringt ein Assistent dem Unternehmen?

• Weniger Fragen an erfahrene Kollegen. „Welche Garantie gilt für dieses Modell?“ „Wo ist die aktuelle Preisliste?“ Die Antwort findet der Assistent, nicht der Kollege, der es auswendig weiß.
• Schnellere Einarbeitung. Neue Mitarbeiter müssen nicht alle Richtlinien und Abläufe auf einmal lesen. Sie fragen, wenn sie es brauchen.
• Ein Ort statt zehn Ordner. Der Assistent sucht über alle Dokumente, die Sie ihm freigegeben haben.

Gemeinsam ist allem: Es geht ums Finden, nicht ums Entscheiden. Der Assistent findet und fasst zusammen. Entscheiden tut ein Mensch.

Welche Risiken gibt es und wie begrenzen Sie sie?

1. Falsche Antworten. Das Modell arbeitet mit Wahrscheinlichkeiten und denkt sich manchmal etwas aus. Deshalb soll der Assistent nur aus gefundenen Dokumenten antworten, immer die Quelle zeigen und „weiß ich nicht“ sagen, wenn er keine Antwort findet. Mehr dazu im Artikel KI-Halluzinationen: warum KI erfindet, wie man sie begrenzt.

2. Menschen sehen, was sie nicht sehen sollen. Liest der Assistent Gehälter, Kundenverträge und Richtlinien zugleich, antwortet er daraus jedem. Die Zugriffsrechte muss der Assistent selbst beachten: Wer ein Dokument im Ordner nicht sieht, darf es auch in keiner Antwort bekommen.

3. Daten landen, wo sie nicht hingehören. Die Dokumente bleiben, wo sie heute sind. Der Assistent legt aber einen Suchindex an, und das Sprachmodell bekommt bei jeder Frage die Frage und ein paar Auszüge. Deshalb ist wichtig zu wissen, wo der Index läuft und wer das Modell betreibt. Bei einer einzelnen Frage sieht das so aus:

Was sollten Sie sich vom Anbieter schriftlich geben lassen?

Ein Versprechen des Anbieters hilft Ihnen nicht, wenn es nicht auf Papier steht. Lassen Sie sich vor der Unterschrift vier Fragen schriftlich beantworten:

Wie sich Agenten schützen, die fremde Texte lesen, beschreiben wir im Artikel Prompt Injection: wie Sie einen KI-Agenten schützen. Für einen internen Assistenten gilt dasselbe bei Dokumenten, die von außen ins Unternehmen kamen. Das ist keine Rechtsberatung.

Wie führen Sie einen KI-Assistenten ein, damit er genutzt wird?

Ein Assistent „für alles“ beantwortet alles mittelmäßig, und nach einer Woche öffnet ihn niemand mehr. Wir empfehlen, mit einem engen Bereich zu beginnen:

Schritt 2 kostet die meiste Zeit und ist der wichtigste. Liegen im Ordner drei Preislisten und gilt nur eine, antwortet der Assistent aus irgendeiner davon. Eine falsche Antwort mit Quelle bleibt eine falsche Antwort.

Sind Sie bereit für einen internen Assistenten?

Kreuzen Sie an, was auf Sie zutrifft:

Wann wir es nicht empfehlen

• Es gibt nur wenige Dokumente und jeder kennt sie. Ein übersichtlicher Ordner oder eine Seite mit Links reicht.
• Die Dokumente sind veraltet und niemand weiß, welche gelten. Der Assistent antwortet dann schnell falsch. Räumen Sie zuerst die Quellen auf.
• Die Antwort soll über Geld oder Recht entscheiden. Der Assistent findet die Unterlagen, entscheiden tut ein Mensch.
• Ihre Office-Tools haben schon einen Assistenten, der Ihre Dokumente sieht. Probieren Sie zuerst den. Einen eigenen brauchen Sie erst, wenn er nicht reicht.

Fragen Ihre Mitarbeiter immer wieder dasselbe?

Schreiben Sie uns, was in Ihrem Unternehmen am häufigsten gefragt wird und wo die Antworten liegen. Wir melden uns innerhalb von zwei Arbeitstagen mit ein paar Fragen zu Ihrer Arbeit. Dann vereinbaren wir, was wir zuerst angehen.

Wenn Sie lieber zuerst sprechen möchten, buchen Sie ein 15-minütiges Erstgespräch.

Wie wir KI-Agenten und Assistenten auf Firmendaten bauen, beschreiben wir auf der Seite KI-Agent für Unternehmen nach Maß. Assistent und Code gehören Ihnen ab dem ersten Tag.

Welche Frage in Ihrem Unternehmen kann nur eine einzige Person beantworten?

Häufige Fragen

Was ist ein interner KI-Assistent für Unternehmen?

Ein Assistent, den Mitarbeiter in eigenen Worten fragen und der aus Firmendokumenten und -systemen antwortet: Richtlinien, Preislisten, Datenblätter, Aufträge. Bei jeder Antwort zeigt er, auf welchem Dokument sie beruht.

Reicht es nicht, Dokumente in ChatGPT hochzuladen?

Für ein paar Dokumente und eine Person reicht das oft. Schwierig wird es, wenn sich Dokumente ändern, wenn es viele sind und wenn nicht jeder alles sehen darf. Dann brauchen Sie einen Assistenten, der Zugriffsrechte beachtet und immer die aktuelle Version liest.

Wo bleiben die Firmendaten?

Die Dokumente bleiben, wo sie heute sind. Der Assistent legt einen Suchindex an, und das Sprachmodell bekommt bei jeder Frage nur die Frage und ein paar passende Auszüge. Wo der Index läuft, welches Modell verwendet wird und ob der Anbieter die Daten für Training nutzen darf, sollten Sie sich im Vertrag festhalten lassen.

Was ist RAG?

RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem der Assistent zuerst in den Dokumenten passende Auszüge zur Frage sucht und erst dann daraus die Antwort schreibt. So antwortet er aus Ihren Daten, nicht aus dem, was sich das Modell gemerkt hat.

Kann sich ein KI-Assistent im Unternehmen etwas ausdenken?

Ja, wenn es ihm nicht untersagt ist und niemand ihn prüft. Deshalb soll er nur aus gefundenen Dokumenten antworten, immer die Quelle zeigen und „weiß ich nicht“ sagen, wenn er keine Antwort findet.