Eine KI-Wissensbasis ohne Engineer für Organisationen bis 15 Nutzer

Ein lokales RAG-System (Wissensbasis), die auf eigenen Dokumenten basiert, gilt als komplex.

Als etwas, das spezialisierte Entwickler braucht, grosse Server und massgeschneiderten Code.

Für Grossunternehmen stimmt das. Für kleinere Organisationen nicht zwingend.

Die Frage ist: Wie viele Personen greifen gleichzeitig zu? Wie gross ist Ihre Wissensbasis? Bis zu 15 gleichzeitige Nutzer brauchen keinen grossen Server und keinen Engineer. Und in der Praxis ist die Last noch geringer: Wer eine Frage stellt, bekommt eine Antwort und arbeitet anderswo weiter. Es ist keine Software, die permanent läuft, sondern ein Werkzeug, das man punktuell nutzt. Eine handelsübliche GPU-Workstation genügt, erreichbar per Browser über eine interne Adresse im eigenen Netzwerk. Sie muss nicht im selben Raum stehen; sie steht dort, wo es für den Kunden passt.

Das macht lokale KI-Wissenslösungen realistisch für Behörden, Krisenorganisationen, KMU, Vereine und Einzelunternehmer. Die Workstation lässt sich mit einer Pufferbatterie absichern. Die Wissensbasis läuft damit ohne Cloud, ohne Internet, und im Notfall auch ohne Stromnetz.

Lokal bedeutet nur dann unabhängig, wenn kein Engineer nötig ist

Viele Organisationen wollen weg von der Cloud, weg von externen Servern, weg von Datenschutzversprechen Dritter und weg von monatlichen Abonnements. Hinzu kommt ein Aspekt, der lange unterschätzt wurde: Ob eine Cloud-Lösung morgen noch erreichbar ist, hängt nicht nur von Technik ab. Geopolitische Spannungen, Sanktionen, Firmenentscheide; all das kann die Verfügbarkeit eines externen Dienstes von einem Tag auf den anderen verändern. Wer lokal arbeitet, hat dieses Risiko nicht. Auch eine nationale Cloud-Lösung ändert daran wenig: Bei einem Cyberangriff oder einem Naturereignis entscheiden andere, wer zuerst wieder online geschaltet wird.

Wer für eine lokale Lösung extra Code braucht, den nur ein externer Engineer versteht und wartet, hat die Abhängigkeit nur verschoben. Statt vom Cloud-Anbieter ist man vom Dienstleister abhängig. Wenn er nicht verfügbar ist, steht die Lösung still.

Bei Grossunternehmen ist das kalkulierbar, denn sie haben interne IT, Verträge und Stellvertretungen. Für eine Gemeindeverwaltung, eine Krisenorganisation, einen Verein oder eine KMU ist es ein Risiko, das den ganzen Vorteil der lokalen Lösung auffrisst.

Die Grössenordnung bis 15 gleichzeitige Nutzer erlaubt eine schlanke Architektur ohne Server und zusätzliche Programmierung.

Was das kostet und einspart

Engineer-basierte Lösungen für Grossunternehmen beginnen schnell im fünfstelligen Bereich, noch bevor die erste Frage gestellt wurde.

Unsere Lösungen bauen auf der vorhandenen Hardware der Organisation auf, oder auf einer dedizierten GPU-Workstation, die deutlich günstiger ist als ein Server. Dazu kommt unser Beratungshonorar. Wir gehen in Vorleistung mit einem ersten Gespräch, um Sie und Ihre Bedürfnisse kennenzulernen. Anhand einigen von Ihnen freigegebener Dokumente erarbeiten wir eine Demo. Wir übernehmen die Wahl des passenden KI-Modells und Parsers, die Parametereinstellung, das System- und RAG-Prompting — alles, was bestimmt, ob die Wissensbasis im Einsatz präzise antwortet.

Wenn wir Sie überzeugen, folgt unser Angebot.

Ihre IT-Abteilung übernimmt den Einkauf (wenn Bedarf besteht), die Installation, die Netzwerkanbindung, die Bereitstellung und den Betrieb der Pufferbatterie. Die IT hat die Kontrolle und die gesamte Infrastruktur verbleibt im eigenen Unternehmen. Wir bringen das Fachwissen für lokale KI, Modell, Architektur und Wissensbasis. Den Rest entscheidet die Organisation selbst.

Wenn intern keine Ressourcen für die Dokumentenaufbereitung zur Verfügung stehen: Wir übernehmen OCR-Bereinigung, Segmentierung, Qualitätskontrolle und das Hochladen in die Wissensbasis.

Die Herausforderung ist das Dokument

Wir werden immer wieder gefragt: Welches ist das beste KI-Modell für eine lokale Wissensbasis?

Das passende Modell zu bestimmen ist eine Aufgabe von vielen. Die Arbeit beginnt früher; bei den Dokumenten selbst.

Es erinnert an Prozessportale: Wer sie aufbaut und befüllt, findet die Dokumente. Wer im Arbeitsalltag unter Druck damit arbeiten muss, findet sie nicht; oder braucht so lange, dass er sie lieber auf dem Desktop ablegt. Meistens nicht in der aktuellen Version.

Eine lokale KI-Wissensbasis löst dieses Problem, wenn die Dokumente sauber aufbereitet sind. Wir haben kürzlich eine Wissensbasis aus einem umfangreichen Quelldokument aufgebaut. Es enthielt, was in der Praxis üblich ist: Tabellen, Karten, Fliesstext, eingebettete Bilder, Seitenzahlen, die im Gesamtdokument wie eigenständige Fragmente wirkten. Doppelte Überschriften. Begriffe, die mehrfach und in unterschiedlichem Kontext auftauchten.

Parser und Systemprompt entscheiden über die Qualität der Antworten. Der Parser muss zum Dokumentformat passen; Tabellen, Bilder, gemischte Layouts brauchen andere Verarbeitung als reiner Fliesstext. Der Systemprompt bestimmt, wie die KI das Ausgelesene interpretiert, gewichtet und beantwortet. Die Wahl des passenden Parsers und KI-Modells sind keine Standardkonfiguration; sie ist Evaluationsarbeit, die wir für jede Dokumentenbasis neu durchführen.

Was das in der Praxis bedeutet

Zur Evaluation gehört mehr als die Modellwahl: Parametereinstellungen, Chunk-Überlappung, Segmentierung, OCR-Nachbearbeitung wo nötig; jede dieser Stellschrauben beeinflusst, wie präzise die Wissensbasis auf eine konkrete Frage antwortet. Wir stellen sie ein, testen, und justieren bis das Ergebnis stimmt.

Das ist handwerklich. Es braucht Zeit.

Interesse an einer lokalen Wissensbasis?

Wir klären in einem ersten Gespräch, ob und wie eine lokale KI-Wissenslösung für Ihre Organisation sinnvoll ist. Gefolgt von, welche Dokumente geeignet sind, welche Hardware in Frage kommt und was der Aufwand realistisch bedeutet.

Kein Angebot ohne Grundlage. Kein Setup ohne Verständnis Ihrer Situation.

Wir bauen lokale KI-Wissenslösungen für Behörden, Krisenorganisationen, KMU, Vereine und Einzelunternehmer ;von der Dokumentenaufbereitung bis zur betriebsbereiten Wissensbasis. Ohne Cloud, ohne Server, ohne Abhängigkeit von externer IT.