Der größte Datenschatz liegt dort, wo die KI ihn nicht findet!

Zahlen aus dem Buchhaltungssystem oder dem Kundenprogramm sind längst gut aufbereitet. Der größere Teil des Firmenwissens steckt aber ganz woanders: in Word- und PDF-Dateien, in E-Mails, in Präsentationen, in Protokollen, in Ordnern auf dem gemeinsamen Laufwerk, die seit Jahren wachsen, ohne dass jemand aufräumt. Genau dort verstecken sich Entscheidungen, Erfahrungswissen, Verträge, technische Details. Kurz: all das, was für den Einsatz von KI am wertvollsten wäre. Nur findet es dort so gut wie niemand wieder.

Warum man nicht einfach alles in die KI werfen kann 

Der naheliegende erste Gedanke ist meist: Wir geben der KI einfach Zugriff auf alle Dokumente, und sie sucht sich bei jeder Frage selbst das Passende heraus. Dieser Ansatz hat in der Fachwelt sogar einen eigenen Namen: RAG. Man muss sich davon nicht einschüchtern lassen - gemeint ist einfach, dass die KI bei jeder Frage kurz in den Dokumenten nachschlägt und sich die passende Stelle heraussucht, bevor sie antwortet. Für ein paar hundert Dokumente funktioniert das gut. 

Aber was, wenn es nicht um ein paar hundert, sondern um hunderttausende Dokumente geht? Dann wird daraus schnell eine Kostenfrage: 

• Welche Dokumente sind überhaupt wichtig?
• Wie oft ändern sich die Inhalte?
• Was ist wirklich relevant und was ist einfach nur Ablage?
• Was kostet es, das alles zu speichern und bei jeder Anfrage erneut zu durchsuchen? 

Und dazu kommt die eigentlich unbequeme Frage: Warum soll die KI jedes Dokument bei jeder einzelnen Anfrage komplett neu lesen, wenn man die wichtigen Informationen daraus auch einmal herausziehen und danach einfach wiederverwenden könnte?

Der Trick: Vorsortieren, bevor die KI überhaupt gefragt wird 

Genau hier kommt eine zweite Idee ins Spiel. Statt jedes Dokument erst dann anzuschauen, wenn zufällig jemand eine Frage dazu stellt, dreht man den Ablauf einfach um: Man geht die große Menge an Dokumenten einmal komplett durch, bevor überhaupt eine Frage im Raum steht. Dabei werden die Inhalte sortiert, zusammengefasst und mit sinnvollen Etiketten versehen, zum Beispiel welche Art von Dokument das ist, aus welchem Projekt es stammt oder ob es überhaupt noch aktuell ist. 

Klingt nach einem kleinen Kniff, ist aber im Grunde ein anderes Denkmodell. Bisher war die Erwartung: Man stellt der KI eine Frage, und sie soll live die richtige Antwort aus dem Datenwust ziehen. Jetzt dreht sich die Aufgabe um. Die eigentliche Arbeit passiert vorher, beim Aufräumen und Einordnen der Daten. Erst danach kann irgendjemand, ob Mensch oder KI, damit wirklich etwas anfangen. Man könnte auch sagen: Aus „die KI soll bei jeder Frage improvisieren“ wird „die Daten werden erstmal ordentlich vorbereitet, damit später überhaupt jemand schnell und zuverlässig etwas findet“. Und das ist ein ziemlich großer Unterschied, gerade wenn man an hunderttausende Dokumente denkt.

Nicht jede Aufgabe braucht die teuerste KI 

Für viele Unternehmen kommt danach die nächste Hürde: das Geld. Die stärksten KI-Modelle sind wirklich beeindruckend, keine Frage. Aber ehrlich gesagt braucht nicht jede Aufgabe gleich das teuerste Werkzeug im Haus. Wenn man von ein paar hundert Dokumenten redet, ist das egal. Bei Millionen ist es das nicht. Da macht es plötzlich einen riesigen Unterschied im Budget, ob jedes Mal das teure Spitzenmodell rechnet oder nicht. 

Hier kommen kleinere KI-Modelle ins Spiel, die Unternehmen selbst betreiben können – ohne für jede einzelne Anfrage extern zu bezahlen. Solche Modelle eignen sich gut für Aufgaben wie: 

• Dokumente in Kategorien einsortieren
• Kurze Zusammenfassungen schreiben
• Wichtige Informationen herausziehen, etwa Vertragsdaten oder Ansprechpartner
• Erkennen, um welche Art von Dokument es sich überhaupt handelt
• Dokumente so aufbereiten, dass eine KI später auf Anfrage schnell die richtige Antwort findet 

Der Punkt dabei ist nicht „kostenlos ist immer besser". Der Punkt ist: Es muss nicht immer das größte Kaliber sein. Gerade bei großen Mengen an sich wiederholender Arbeit kann ein kleineres, selbst betriebenes Modell wirtschaftlich klar im Vorteil sein. 

Die eigentliche Frage ist also nicht „Welche KI ist die beste?", sondern „Was soll überhaupt mit den Daten passieren?“. 

Für einen kleinen, häufig genutzten Dokumentenbestand kann die einfache Variante - die KI durchsucht bei Bedarf alles selbst - die beste Lösung sein. Für Millionen von Dokumenten ist eine Kombination aus Vorsortierung, einem kleineren Modell und dem klassischen RAG-Ansatz von oben oft deutlich sinnvoller. Und manchmal ist die beste Lösung eine, bei der die teure KI nur noch einen kleinen Teil der Arbeit übernimmt. 

Bevor ein Unternehmen seine versteckten Daten mit KI nutzen kann, muss es erstmal verstehen, was da eigentlich drinsteckt, wie es aufbereitet werden muss und wann sich welche Art von Modell überhaupt lohnt. Das ist keine Frage, die man an einem Nachmittag beantwortet, aber genau da liegt am Ende der eigentliche Hebel. Eigentlich geht es gar nicht um das eine perfekte Modell. Es geht darum, das eigene Firmenwissen überhaupt nutzbar zu machen, in guter Qualität und zu einem Preis, der sich rechnet. 

Und genau das machen wir aktuell live bei einem Hersteller von Industrieprodukten: Versteckte Daten werden strukturiert und für den KI-Einsatz nutzbar gemacht. Ehrlich gesagt einer der spannendsten Fälle, an denen wir gerade dran sind, weil man an diesem Beispiel richtig gut sieht, wie viel in den vermeintlich unwichtigen Ordnern und Ablagen wirklich steckt. Steht ihr vor einer ähnlichen Frage? Dann sprecht uns gerne an.