Eigene Dokumente für KI nutzbar machen: So werden Ordner, PDFs und Handbücher durchsuchbar

Eigene Dokumente werden für KI nutzbar, wenn ein Suchsystem sie vorher liest, in Abschnitte zerlegt und auffindbar macht. Bei jeder Frage holt es die passenden Stellen aus Ihren Ordnern, PDFs und Handbüchern, und das Sprachmodell antwortet nur auf dieser Grundlage, mit Verweis auf die Quelle. Trainiert wird dabei nichts.

Das Wissen eines Betriebs steckt selten in einer Datenbank. Es liegt in Wartungshandbüchern, Arbeitsanweisungen, Prüfprotokollen, alten Angeboten und dem einen Ordner, in dem nur eine Kollegin den Überblick hat. Wer etwas sucht, ruft sie an oder klickt sich durch den Fileserver. Genau dort setzt eine KI-Integration an, die Ihre Unterlagen anbindet, statt sie in ein Chatfenster zu kopieren.

Warum kennt ChatGPT Ihre eigenen Unterlagen nicht?

ChatGPT, Copilot und Co. wissen nur, was in ihren Trainingsdaten stand und was Sie ihnen im Gespräch geben. Ihr Handbuch zur Anlage, Ihre Montageanweisung oder Ihr Projektarchiv gehören nicht dazu. Fragt ein Mitarbeiter trotzdem danach, bekommt er eine Antwort, die plausibel klingt und aus allgemeinem Wissen zusammengesetzt ist.

Einzelne Dateien hochladen funktioniert. Laut OpenAI nimmt ChatGPT PDF, Word, Excel und PowerPoint an. In einem Projekt liegen bei Business und Enterprise bis zu 40 Dateien, ein eigener GPT fasst bis zu 10 Wissensdateien. Für ein Handbuch oder eine Preisliste reicht das. Für einen Fileserver mit zehntausenden Dateien und laufend neuen Versionen ist es keine Lösung.

Wie findet KI die richtige Stelle in Ihren Dokumenten?

Über ein Verfahren namens Retrieval-Augmented Generation, kurz RAG. Die Idee stammt aus einer Forschungsarbeit von 2020: Ein Sprachmodell wird mit einem durchsuchbaren Index kombiniert, aus dem es vor der Antwort passende Textstellen holt. Für Ihren Betrieb heißt das:

1. 01

   Einlesen

   Das System liest Ihre Dateien aus den freigegebenen Ordnern, aus SharePoint oder aus dem Archiv und zieht den Text heraus.

2. 02

   Zerlegen und indexieren

   Jedes Dokument wird in Abschnitte von einigen Absätzen geteilt. Jeder Abschnitt bekommt einen Suchindex, der auch Bedeutungen erfasst. Wer nach „Filter tauschen“ fragt, findet so auch den Abschnitt „Wechsel der Filterpatrone“.

3. 03

   Suchen

   Bei einer Frage sucht das System die Abschnitte, die am besten passen, und prüft dabei, ob der fragende Mitarbeiter sie sehen darf.

4. 04

   Antworten mit Quelle

   Das Sprachmodell bekommt nur diese Abschnitte und formuliert daraus die Antwort. Darunter stehen Dokument und Seite, damit jeder nachlesen kann.

Der große Vorteil: Ändert sich ein Handbuch, wird nur der Index neu aufgebaut. Ein Modell neu zu trainieren ist dafür nicht nötig und für einen Betrieb auch nicht sinnvoll.

Welche Unterlagen eignen sich, welche machen Probleme?

Digitale Texte eignen sich sofort, Scans und Tabellen brauchen Vorarbeit. Eine KI kann nur durchsuchen, was als Text vorliegt. OpenAI schreibt dazu, dass ChatGPT außerhalb von Enterprise nur den digitalen Text aus einem Dokument zieht und eingebettete Bilder dabei nicht ausliest. Ein eingescanntes Prüfprotokoll ist für so ein System ein leeres Blatt.

In Betrieben sehen wir oft dieselbe Lage: Das Wissen ist da, aber in fünf Fassungen. „Handbuch_neu“, „Handbuch_neu_final“ und „Handbuch_2019“ liegen nebeneinander. Ein Mensch erkennt am Datum, welche gilt. Eine KI-Suche findet alle drei und antwortet aus der, deren Wortlaut am besten zur Frage passt.

Wie bereiten Sie Ordner und PDFs für KI auf?

Mit einem klar abgegrenzten Bestand, einer Bereinigung der Versionen und einer festen Liste von Testfragen. Wer den ganzen Fileserver auf einmal anbindet, bekommt viele Treffer und wenig brauchbare Antworten.

1. 01

   Einen Bestand wählen

   Eine Sammlung, nach der täglich gefragt wird: Wartungshandbücher, Arbeitsanweisungen, Produktdatenblätter oder das Qualitätshandbuch. Für den Anfang reichen 100 bis 500 Dokumente.

2. 02

   Versionen bereinigen

   Pro Dokument genau eine gültige Fassung. Alte Stände wandern in ein Archiv, das die KI nicht durchsucht, oder bekommen ein klares Ablaufdatum.

3. 03

   Scans in Text verwandeln

   Eingescannte Seiten laufen durch eine Texterkennung. Bei Tabellen und Handschrift prüft ein Mensch Stichproben, denn genau dort entstehen die Fehler.

4. 04

   Ordnung mitgeben

   Sprechende Dateinamen, Überschriften im Dokument und ein paar Zusatzangaben wie Abteilung, Gültig ab und Verantwortlicher. Damit kann die Suche filtern und die Antwort sagen, wie aktuell die Quelle ist.

5. 05

   Testfragen sammeln

   20 bis 30 echte Fragen von Mitarbeitern, jeweils mit der richtigen Antwort und dem Dokument, in dem sie steht. Diese Liste ist der Maßstab für alles, was danach kommt.

Der Aufräum-Schritt kostet Zeit und ist trotzdem der wertvollste. Viele Betriebe merken dabei zum ersten Mal, welche Anweisungen sich widersprechen und für welche Abläufe es gar keine schriftliche Grundlage gibt. Wissen, das nur in Köpfen steckt, findet auch die beste KI nicht.

Wer darf was finden?

Jeder Mitarbeiter darf über die KI genau das finden, was er auch im Ordner öffnen dürfte, und keine Zeile mehr. Microsoft beschreibt das für Copilot so: Es zeigt nur Daten, für die der jeweilige Nutzer mindestens Leserechte hat, und Sie sollen die Berechtigungen in SharePoint so pflegen, dass die richtigen Leute die richtigen Inhalte sehen (Microsoft Learn).

Das klingt selbstverständlich und ist in der Praxis die größte Baustelle. Über Jahre gewachsene Freigaben wie „Jeder im Unternehmen“ fallen niemandem auf, solange man die Datei erst finden muss. Mit einer KI-Suche reicht eine Frage nach Gehältern oder Kündigungen, und der falsch freigegebene Ordner liefert die Antwort.

Die OWASP führt genau das in ihrer Liste der Risiken für Sprachmodell-Anwendungen 2025: unzureichende Zugriffskontrolle im Suchindex und manipulierte Dokumente. Als Beispiel nennt sie einen Lebenslauf mit weißer Schrift auf weißem Grund, der dem System versteckte Anweisungen gibt. Die Empfehlungen daraus:

• Der Suchindex übernimmt die Zugriffsrechte aus den Quellsystemen und prüft sie bei jeder Frage.
• Personal, Geschäftsführung und Finanzen bleiben getrennt und kommen erst dazu, wenn die Rechte dort sauber sind.
• Nur Dokumente aus vertrauenswürdigen Quellen gelangen in den Index. Was von außen kommt, etwa Bewerbungen oder Kundenunterlagen, wird vorher geprüft.
• Jede Suche wird protokolliert, damit sich nachvollziehen lässt, wer was abgefragt hat.

Copilot, ChatGPT-Projekt oder eigene Suche: Was passt?

Das hängt davon ab, wo Ihre Unterlagen liegen und wie viele es sind. Für ein paar Dutzend Dateien reicht ein ChatGPT-Projekt. Liegt alles in SharePoint und OneDrive, durchsucht Copilot es mit den bestehenden Rechten. Über sogenannte Graph-Konnektoren kann Copilot laut Microsoft auch Daten aus anderen Systemen einbeziehen, sofern der Nutzer darauf zugreifen darf.

Eine eigene Lösung lohnt sich, wenn das Wissen auf einem alten Fileserver, in einem Dokumentenmanagement oder im ERP liegt, wenn viele Scans dabei sind oder wenn die Daten das Haus nicht verlassen sollen. Dann bauen wir Einlesen, Texterkennung, Index und Rechteprüfung als KI-Integration direkt an Ihre Systeme. Die Abwägung zwischen Standardlizenz und eigener Lösung beschreibt der Artikel Copilot, ChatGPT oder eigene KI-Lösung.

Woran erkennen Sie, ob die Antworten stimmen?

An Ihren Testfragen und an der Quellenangabe. Ein System, das ohne Verweis auf Dokument und Seite antwortet, gehört nicht in den Betrieb. Mit Verweis kann jeder Mitarbeiter in Sekunden nachprüfen, ob die Antwort aus der richtigen Fassung stammt.

• Vor dem Start laufen alle Testfragen durch. Sie prüfen, ob die Antwort stimmt und ob das richtige Dokument genannt wird.
• Findet das System nichts Passendes, sagt es das. Eine erfundene Antwort ist schlimmer als keine.
• Nach jeder größeren Änderung am Bestand laufen die Testfragen erneut.
• Mitarbeiter können falsche Antworten mit einem Klick melden. Oft liegt der Fehler dann im Dokument selbst.

Wenn Sie wissen wollen, welcher Ihrer Bestände sich als Erstes eignet und was vorher aufgeräumt werden muss, schauen wir uns das gemeinsam an. Schreiben Sie uns über den Kontakt.