Warum ChatGPT Ihr Unternehmenswissen nicht kennt

ChatGPT kann Gedichte schreiben, Code generieren und historische Fragen beantworten. Aber fragen Sie es, wie Ihr Unternehmen Reklamationen bearbeitet, und Sie bekommen eine allgemeine Antwort, die mit Ihrem tatsächlichen Prozess nichts zu tun hat.

Das ist kein Fehler. Es ist eine Designentscheidung. ChatGPT wurde mit öffentlich verfügbaren Texten trainiert. Ihre internen Dokumente, E-Mails, Prozessbeschreibungen und Erfahrungswerte waren nicht dabei.

Das Wissensproblem im Mittelstand

In den meisten mittelständischen Unternehmen steckt das wichtigste Wissen an drei Orten:

1. In den Köpfen erfahrener Mitarbeiter. Der Vertriebsleiter, der seit 15 Jahren weiß, welcher Kunde welche Konditionen bekommt. Die Konstrukteurin, die aus Erfahrung weiß, welches Material für welchen Einsatzfall funktioniert. Dieses Wissen ist nirgends dokumentiert.

2. In verstreuten Dokumenten. SharePoint-Ordner mit 10.000 Dateien. E-Mail-Postfächer mit jahrelanger Korrespondenz. PDF-Handbücher, die seit 2018 nicht aktualisiert wurden. Die Informationen existieren. Aber niemand findet sie in vertretbarer Zeit.

3. In Systemen, die nicht miteinander sprechen. Das ERP-SystemEnterprise Resource PlanningZentrale Unternehmenssoftware für Buchhaltung, Warenwirtschaft, Produktion und mehr.kennt die Auftragsdaten. Das CRM kennt die Kundenhistorie. Das Ticketsystem kennt die Supportfälle. Aber kein System kennt alles gleichzeitig.

Das Ergebnis: Mitarbeiter verbringen Stunden damit, Informationen zusammenzusuchen, die längst vorhanden sind. Eine viel zitierte McKinsey-Studie beziffert den Anteil der Arbeitszeit, den Wissensarbeiter mit der Suche nach internen Informationen verbringen, auf fast ein Fünftel. Die Zahl stammt aus dem Jahr 2012 und wird seitdem weitergereicht; sie taugt als Größenordnung, nicht als aktueller Messwert.

Was ChatGPT nicht kann

ChatGPT und andere allgemeine Sprachmodelle (LLMs)Large Language Models: Große Sprachmodelle, die auf riesigen Textmengen trainiert wurden. Sie verstehen und generieren Text, haben aber kein Wissen über Ihre spezifischen Unternehmensdaten.haben zwei grundlegende Grenzen:

Sie kennen Ihre Daten nicht. Ein Sprachmodell weiß von sich aus nichts über Ihre internen Dokumente. Wenn Sie ChatGPT ohne Anbindung nach einem spezifischen Produktdatenblatt fragen, erfindet es im besten Fall eine plausibel klingende Antwort. Im schlechtesten Fall liefert es falsche Informationen mit hoher Überzeugungskraft. Die Geschäftsversionen von ChatGPT bieten inzwischen Connectors zu SharePoint, Google Drive und ähnlichen Ablagen an, das Modell sieht dann also durchaus Firmendokumente. Damit verschiebt sich die Frage: nicht mehr, ob es Zugriff geben kann, sondern wer die Anbindung besitzt, welche Aufgabe welche Quelle sehen darf, und was davon bleibt, wenn Sie den Anbieter wechseln.

Sie können nicht zwischen relevant und irrelevant unterscheiden. Selbst wenn Sie Dokumente in den Chat kopieren: Das Modell weiß nicht, welche Information aktuell ist, welche veraltet, welche für diesen Kunden gilt und welche für einen anderen.

Wie Unternehmenswissen für KI zugänglich wird

Die Lösung heißt nicht “ChatGPT Zugang zu unseren Daten geben.” Die Lösung ist eine eigene Anwendung, die gezielt auf Ihre Daten zugreift.

Der technische Ansatz dafür nennt sich RAG (Retrieval-Augmented Generation)Retrieval-Augmented Generation: Die KI durchsucht zuerst Ihre Dokumente und formuliert dann eine Antwort auf Basis der gefundenen Stellen.Die Suche läuft in Ihrer eigenen Ablage. Ob die gefundenen Textstellen danach an ein gemietetes Modell gehen oder an eines im eigenen Konto, entscheidet die Architektur; beide Wege sind unten beschrieben.. Das Prinzip:

Schritt 1: Daten aufbereiten. Die relevanten Dokumente werden indexiert. Das bedeutet: Sie werden in ein Format gebracht, das die KI durchsuchen kann. Ähnlich wie eine Suchmaschine für Ihre internen Daten.

Schritt 2: Relevantes finden. Wenn ein Mitarbeiter eine Frage stellt, durchsucht die Anwendung zuerst die indexierten Dokumente und findet die relevanten Passagen.

Schritt 3: Antwort formulieren. Ein Sprachmodell formuliert eine Antwort basierend auf den gefundenen Informationen. Nicht basierend auf allgemeinem Wissen. Basierend auf Ihren Daten.

Schritt 4: Quellen angeben. Jede Antwort enthält Verweise auf die Originaldokumente. Damit kann der Mitarbeiter die Antwort prüfen und bei Bedarf tiefer einsteigen.

Was das in der Praxis verändert

Vorher: Ein neuer Mitarbeiter im Vertrieb fragt einen Kollegen, wie die Konditionen für einen bestimmten Kunden aussehen. Der Kollege sucht 20 Minuten in seinem E-Mail-Postfach und findet das letzte Angebot.

Nachher: Der neue Mitarbeiter stellt die Frage an die KI-Anwendung. In 10 Sekunden erhält er eine Zusammenfassung der aktuellen Konditionen mit Verweis auf den Rahmenvertrag und die letzten drei Angebote.

Vorher: Ein Servicetechniker steht beim Kunden und braucht eine Information aus der Produktdokumentation. Er ruft im Büro an. Der Kollege sucht im SharePoint.

Nachher: Der Techniker fragt die KI-Anwendung auf seinem Tablet.

Was es kostet

Eine KI-basierte Wissensanwendung für ein Unternehmen mit 200 bis 2.000 Mitarbeitern kostet:

• Einmalig: 25.000 bis 50.000 Euro (abhängig von der Anzahl der Datenquellen und der Komplexität der Anbindung)
• Laufend: 1.000 bis 2.000 Euro pro Monat (Hosting und API-Nutzung)
• ROI-Zeitraum: 4 bis 8 Monate

Die laufenden Kosten hängen von der Nutzungsintensität ab. Je mehr Mitarbeiter das System nutzen, desto höher die API-Kosten. Aber auch desto höher der Nutzen.

Datenschutz: Ihre Daten bleiben bei Ihnen

Ein häufiges Bedenken: “Wenn wir KI nutzen, gehen unsere Daten an OpenAI oder Google.”

Bei einer individuellen Anwendung ist das nicht der Fall. Es gibt zwei Wege:

Option 1: API mit Datenschutzvereinbarung. Anbieter wie OpenAI und Anthropic bieten Enterprise-Vereinbarungen an, die garantieren, dass Ihre Daten nicht zum Training verwendet werden.

Option 2: Lokale Modelle. Open-Source-ModelleOpen-Source-Sprachmodelle wie Llama (von Meta) oder Mistral, die auf Ihrer eigenen Infrastruktur laufen. Keine Daten verlassen Ihr Netzwerk.können auf Ihrer eigenen Infrastruktur betrieben werden. Keine Daten verlassen Ihr Netzwerk. Die Qualität ist für viele Anwendungsfälle ausreichend.

Der erste Schritt

Ihr Unternehmenswissen ist Ihr Wettbewerbsvorteil. Es zugänglich zu machen, ist keine IT-Frage. Es ist eine strategische Entscheidung.

Der Weg dorthin fängt eine Stufe früher an, als die meisten erwarten: mit einer Plattform, die Ihnen gehört, statt mit dem Wissenssystem selbst. Chat und Entwicklungswerkzeuge über ein Gateway in Ihrem eigenen Cloud-Account, Verbrauch und Kosten je Nutzer sichtbar, Regeln dafür, welche Aufgabe wohin darf. Als Pilot für eine Abteilung 8.900 Euro netto über drei Monate. Erst darauf setzt das Wissenssystem sinnvoll auf, weil dann feststeht, welche Fragen tatsächlich gestellt werden.

Wo liegt bei Ihnen das meiste ungenutzte Wissen? 30 Minuten, ganz unverbindlich.

Kontakt aufnehmen