Chat mit Unternehmensdaten: Wie KI auf deinen eigenen Dokumenten antwortet

Ein Sprachmodell weiß von sich aus nichts über dein Unternehmen. Damit es trotzdem Fragen zu deinen Abläufen beantworten kann, arbeitet ein Chat mit Unternehmensdaten in zwei Schritten. Erst sucht er in deinen Unterlagen die Abschnitte, die zur Frage passen. Dann gibt er diese Abschnitte zusammen mit der Frage an das Sprachmodell, das daraus eine Antwort formuliert. Fachleute nennen das Retrieval-Augmented Generation (abrufgestützte Erzeugung), kurz RAG.

Für dich heißt das zweierlei. Erstens lernt das Modell deine Daten nicht auswendig. Ändert sich eine Regel, reicht es, das Dokument auszutauschen. Zweitens kann die Antwort nur so gut sein wie das, was die Suche findet. Liegt die alte Fassung neben der neuen, findet der Chat womöglich die alte. Das Modell merkt den Unterschied nicht, wenn das Dokument ihn nicht nennt.

Der wichtigste Schritt passiert vor jeder Technik. Für jedes Thema gibt es genau eine gültige Fassung. Alte Fassungen wandern in ein Archiv, auf das der Chat nicht zugreift. Jedes Dokument trägt ein Datum und eine zuständige Person. Steht in einer Regel „gilt ab 1. März“, findet der Chat das und kann es weitergeben. Steht nichts, rät er.

Hilfreich ist auch, wie Dokumente geschrieben sind. Ein Abschnitt, der eine Frage vollständig beantwortet, wird besser gefunden als eine Folie mit drei Stichworten. Tabellen mit klaren Spaltennamen funktionieren, eingescannte Notizen ohne Texterkennung nicht. Wie du Abläufe vorher sauber beschreibst, zeigt der Ratgeber Prozesse dokumentieren.

Ein Chat mit Unternehmensdaten nennt zu jeder Antwort das Dokument und den Abschnitt, aus dem sie stammt. So kann jeder nachprüfen und lernt nebenbei, wo das Wissen liegt. Fehlt eine Quelle, ist die Antwort ein Hinweis, keine Auskunft.

Genauso wichtig ist die erlaubte Antwort „Dazu steht nichts in den Unterlagen“. Ein Sprachmodell füllt Lücken gern mit plausibel klingenden Sätzen. Die Anweisung an den Assistenten lautet deshalb: Antworte nur aus den gefundenen Abschnitten, sonst sag, dass du nichts gefunden hast, und nenne die zuständige Person. Diese eine Regel verhindert die meisten Fehlantworten.

Bevor ein Team mit dem Chat arbeitet, sammle ich die Fragen, die im Alltag wirklich gestellt werden. Die besten Quellen sind die Leute, die heute die Antworten geben. Zu jeder Frage notiere ich die richtige Antwort und das Dokument, in dem sie steht. Dazu kommen Fragen, auf die es in den Unterlagen keine Antwort gibt, und Fragen nach Dingen, die der Chat nicht zeigen darf.

Der Chat geht erst ins Team, wenn er die bekannten Fragen richtig und mit Quelle beantwortet, bei den Lücken ehrlich „nicht gefunden“ sagt und bei vertraulichen Fragen nichts preisgibt. Diese Testliste bleibt liegen. Nach jeder größeren Änderung an Unterlagen oder Modell läuft sie noch einmal.