Lokale KI-Wissensbasen für Teams bis 15 Personen: Wann eine Workstation ausreichen kann
Eine dokumentenbasierte KI-Wissensbasis kann auf einer dedizierten Workstation und bestehender Standardsoftware aufbauen. Diese Architektur eignet sich vor allem für klar abgegrenzte Anwendungen und kleine Nutzerkreise.
Die Zahl der Nutzerinnen und Nutzer liefert dafür einen ersten Rahmen. Entscheidend sind die tatsächliche Arbeitslast, das eingesetzte Sprachmodell, die Länge des bereitgestellten Kontexts, die Qualität und Struktur der Dokumente sowie die Anforderungen an Antwortgeschwindigkeit, Verfügbarkeit und Sicherheit.
Für Führungskräfte lautet die präzise Ausgangsfrage: Unter welchen Betriebsbedingungen arbeitet eine Workstation den vorgesehenen Anwendungsfall verlässlich?
Eine Workstation kann genügen, wenn der Anwendungsfall begrenzt bleibt
Eine lokale Workstation kommt dann in Betracht, wenn ein Team auf einen bekannten und kontrollierbaren Dokumentenbestand zugreift, wenige Anfragen gleichzeitig stellt und zeitweilige Wartezeiten im Arbeitsablauf verkraftbar sind.
Typische Anwendungsfälle sind interne Fachauskünfte, die Suche in Richtlinien, die Erschliessung von Prozesswissen oder die Vorbereitung von Entscheidungsgrundlagen. Eine solche Lösung kann Dokumente einlesen, Inhalte indexieren, passende Textstellen zu einer Frage suchen und daraus mit einem lokalen Sprachmodell eine Antwort formulieren.
Bestehende Anwendungen wie Open WebUI oder RAGFlow stellen dafür bereits Benutzeroberflächen und Komponenten bereit. Eine Organisation kann damit auf Standardsoftware aufbauen und den Entwicklungsaufwand begrenzen.
Diese Grundlage bleibt ein betreuungsbedürftiges Informationssystem. RAGFlow nennt für die Selbstinstallation unter anderem Docker, mehrere abhängige Dienste und Konfigurationsdateien. Installation, Konfiguration, Aktualisierung, Datensicherung und Einbindung in die bestehende Infrastruktur verlangen deshalb weiterhin technische Zuständigkeit.
Die Teamgrösse beschreibt den Nutzerkreis, die Parallelität bestimmt die Last
Ein Team mit 15 Personen erzeugt sehr unterschiedliche Lastprofile. In einem Fall greifen täglich drei Personen nacheinander auf die Wissensbasis zu. In einem anderen stellen zehn Personen kurz vor einer Sitzung nahezu gleichzeitig umfangreiche Fragen. Beide Systeme besitzen gleich viele berechtigte Nutzerinnen und Nutzer, benötigen jedoch eine andere Leistung. Für die Dimensionierung zählen insbesondere:
Grösse und Rechenbedarf des Sprachmodells
verfügbarer Arbeits- und Grafikspeicher
Länge des bereitgestellten Kontexts
Umfang und Struktur der Dokumentenbasis
Anzahl tatsächlich paralleler Anfragen
erwartete Antwortgeschwindigkeit
Anforderungen an Verfügbarkeit und Ausfallsicherheit
Die technische Dokumentation von Ollama zeigt den Zusammenhang deutlich: Ein grösseres Kontextfenster benötigt mehr Speicher. Bei paralleler Verarbeitung steigt der Speicherbedarf mit der Zahl der Anfragen und der jeweils vorgesehenen Kontextlänge. Reichen die Ressourcen für weitere Anfragen vorübergehend aus, werden sie parallel verarbeitet. Bei knappen Ressourcen entstehen Warteschlangen; bei Überlast kann der Dienst zusätzliche Anfragen mit einer Fehlermeldung zurückweisen.
Damit wird die Nutzerzahl zu einer organisatorischen Kennzahl. Die technische Kennzahl ist die erwartete Spitzenlast. Eine belastbare Auslegung braucht deshalb reale Nutzungsszenarien: Wie viele Personen fragen innerhalb derselben Minute? Wie lang sind ihre Fragen und Antworten? Welche Dokumentauszüge gelangen in den Kontext? Welche Wartezeit akzeptiert der Arbeitsprozess?
Auch eine Workstation übernimmt eine Serverfunktion
Sobald mehrere Arbeitsplätze die Wissensbasis über eine interne Browseradresse aufrufen, stellt die Workstation einen Dienst im Netzwerk bereit. Sie übernimmt damit technisch eine Serverfunktion, auch wenn sie als Arbeitsplatzrechner beschafft wurde und ausserhalb eines klassischen Rechenzentrums steht.
Die präzise Aussage lautet: Für bestimmte kleinere Anwendungen kann eine dedizierte Workstation an die Stelle einer umfangreicheren Serverinfrastruktur treten.
Diese Einordnung hat praktische Folgen. Die Organisation muss festlegen, wo das Gerät steht, wie es gegen unbefugten physischen Zugriff geschützt wird, welche Netzwerkverbindungen zulässig sind und wer den Betrieb überwacht. Ebenso braucht es Regeln für Wartungsfenster, Neustarts, Modellaktualisierungen und Störungen.
Eine Workstation kann einen begrenzten Dienst wirtschaftlich tragen. Für durchgehende Hochverfügbarkeit, redundanten Betrieb oder standortübergreifende Nutzung steigt der Infrastrukturbedarf. Dann rücken Serverarchitekturen, mehrere Rechenknoten oder geeignete externe Dienste in den Vordergrund.
Die Dokumente prägen die Qualität stärker als die Oberfläche
Die Einstiegsfrage lautet häufig: Welches KI-Modell eignet sich am besten für eine lokale Wissensbasis? Das Modell beeinflusst die Antwortqualität und bildet eine von mehreren Stufen des Systems.
Eine dokumentenbasierte Wissensbasis arbeitet meist nach dem Prinzip der Retrieval-Augmented Generation, kurz RAG. Vereinfacht umfasst der Ablauf sieben Schritte:
Ein Parser liest Text und Struktur aus den Dokumenten aus.
Eine OCR-Anwendung erkennt Text auf gescannten Seiten.
Das System zerlegt die Inhalte in geeignete Abschnitte.
Ein Embedding-Modell bildet diese Abschnitte für die Suche ab.
Das Retrieval findet zur Frage passende Stellen.
Das Sprachmodell formuliert daraus eine Antwort.
Quellenhinweise führen zu den verwendeten Ausgangsdokumenten zurück.
Jede Stufe beeinflusst das Ergebnis. Fehlerhaft erkannte Tabellen, getrennte Überschriften, unvollständige OCR-Texte oder ungeeignete Abschnittsgrössen verändern, was das System später finden kann. Auch ein leistungsfähiges Sprachmodell ist auf vollständig und korrekt gefundene Passagen angewiesen.
Open WebUI dokumentiert dafür konfigurierbare Abschnittsgrössen, Überlappungen, Embedding-Modelle, hybride Suche und Re-Ranking. Ein Wechsel des Embedding-Modells erfordert eine erneute Indexierung der Wissensbasis, weil unterschiedliche Modelle ihre Vektoren in verschiedenen, untereinander unvereinbaren Räumen erzeugen.
Die Eignungsfrage umfasst die technische Leistung der Workstation und die Informationsqualität: verbindliche Versionen, erkennbare Gültigkeit, eindeutige Zuständigkeiten und eine Struktur, welche die automatische Verarbeitung trägt.
Eine frühere Erfahrung mit einem Prozessportal zeigt das Grundproblem
Vor einigen Jahren erstellte ich für einen technischen Fachbereich ein Prozessportal auf Basis von Scodi. Es enthielt Vertragsunterlagen, Excel-Bestellwerkzeuge für Investitionsgüter, Währungsumrechner sowie Fest- und Fixpreisvorlagen.
Während des Aufbaus kannte ich die Ablage und fand die benötigten Inhalte zuverlässig. Im Arbeitsalltag zeigte sich eine andere Perspektive: Mitarbeitende unter Zeitdruck bevorzugen kurze Zugriffswege.
Dauert die Suche zu lange, speichern sie Dateien auf dem eigenen Desktop und verwenden diese später weiter.
Dadurch entstehen parallele Ablagen und unterschiedliche Versionsstände.
Eine KI-Wissensbasis kann den Zugriff verkürzen. Ihre Verlässlichkeit hängt zugleich von der zugrunde liegenden Dokumentenführung ab. Widersprüchliche, veraltete oder falsch gekennzeichnete Dokumente gelangen über die Suche in den Antwortkontext und beeinflussen das Ergebnis.
Vor dem technischen Aufbau sind deshalb sechs Fragen zu klären:
Welche Dokumente gelten als verbindlich?
Wer verantwortet ihre Aktualität?
Welche Version ist freigegeben?
Welche Personengruppen erhalten Zugriff auf welche Inhalte?
Welche Dokumente bleiben ausserhalb der Wissensbasis?
Wie werden überholte Inhalte erkannt und entfernt?
Eine lokale Wissensbasis wird damit auch zu einem Prüfstein für die bestehende Informationsordnung. Sie macht sichtbar, wo Verantwortung, Versionierung und Zugriffsregeln bereits tragen und wo Klärungsbedarf besteht.
Ein komplexes Quelldokument beansprucht das gesamte System
In einem Praxistest bauten wir eine Wissensbasis aus einem umfangreichen Quelldokument auf. Es enthielt Tabellen, Karten, Fliesstext, eingebettete Bilder, wiederkehrende Überschriften und Seitenzahlen. Bei der automatischen Verarbeitung erschienen einzelne Seitenelemente teilweise als eigenständige Textfragmente.
Dieser Versuch zeigte den Einfluss des Ausgangsmaterials. Ein reines Textdokument mit klaren Überschriften lässt sich anders verarbeiten als eine Sammlung gescannter Berichte mit Tabellen und Karten. Multimediale und unregelmässig aufgebaute Dokumente erhöhen den Aufwand für Texterkennung, Strukturierung, Indexierung und Qualitätsprüfung. Sie beanspruchen zudem Rechenzeit bei der Aufbereitung, auch wenn die spätere Abfrage schnell erfolgt.
Gigabyte und Seitenzahlen beschreiben einen Teil des Umfangs. Für die Planung zählen zusätzlich Dokumenttypen, Struktur, Änderungsfrequenz, Zugriffsrechte und die Komplexität der erwarteten Fragen.
Evaluation ersetzt Einstellungen nach Gefühl
Chunk-Grösse, Überlappung, Parser, Embedding-Modell, Retrieval und Systemanweisung beeinflussen die Ergebnisse. Einzelne überzeugende Antworten begründen zunächst eine vorläufige Einschätzung. Eine nachvollziehbare Evaluation beginnt mit vorab definierten Testfragen. Dazu gehören:
Fragen mit einer eindeutig belegten Antwort,Fragen mit relevanten Informationen an mehreren Dokumentstellen,Begriffe, die in unterschiedlichen Zusammenhängen vorkommen,Fragen zu Tabellen und strukturierten Inhalten,Fragen, deren Antwort im Dokumentenbestand fehlt, sowieFälle mit veralteten oder widersprüchlichen Quellen.
Zu jeder Frage gehört eine erwartete Antwort oder eine bekannte Fundstelle. Anschliessend wird geprüft, ob das System die relevanten Passagen findet, Quellen korrekt zuordnet und Wissenslücken transparent behandelt.
Für die Workstation kommt ein zweiter Test hinzu: die Lastprüfung. Mehrere Personen stellen typische Fragen in einer realistischen zeitlichen Folge. Gemessen werden Antwortzeit, Warteschlangen, Speicherbelegung, Fehlerrate und Verhalten bei hoher Auslastung. Erst diese Verbindung von fachlicher Evaluation und technischer Lastprüfung zeigt, ob die gewählte Konfiguration den Arbeitsalltag bewältigt.Lokaler Betrieb schafft Kontrolle und verlagert Verantwortung
Bei konsequent lokaler Ausführung bleiben Dokumente, Suchanfragen, Embeddings und Modellantworten innerhalb der vorgesehenen Infrastruktur. Diese Architektur kann externe Datenübertragungen reduzieren und den Speicherort kontrollierbarer machen. Die Verantwortung verlagert sich damit in die Organisation.
Sie umfasst unter anderem:
Benutzerkonten und Zugriffsrechte,
Netzwerk- und Gerätesicherheit,
Verschlüsselung und Datensicherung,
Protokollierung,
Aktualisierungen und Sicherheitskorrekturen,
Wiederherstellung nach einem Ausfall,
Lösch- und Aufbewahrungsregeln sowie
Zuständigkeiten für Dokumente und Systembetrieb.
Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte ordnet technische und organisatorische Massnahmen als zusammengehörig ein. Sie sollen während des gesamten Lebenszyklus der Daten greifen. Bei KI-gestützten Bearbeitungen gilt das Schweizer Datenschutzgesetz direkt. Eine Bearbeitung mit hohem Risiko kann eine Datenschutz-Folgenabschätzung auslösen.
Auch ein vom öffentlichen Internet getrenntes Betriebsumfeld verlangt ein geregeltes Verfahren. Die IT muss festlegen, wie Modelle, Apps, Software und Sicherheitsupdates geprüft und eingespielt werden. Backups, Wiederherstellung und kontrollierte Datenexporte bleiben Bestandteil der Architektur.
Eine begrenzte Demonstration schafft eine Entscheidungsgrundlage
Kosten lassen sich erst nach der Abklärung des Bedarfs seriös einordnen. Neben Hardware und Beratung gehören auch IT-Arbeitszeit, Dokumentenaufbereitung, Sicherheitsprüfung, Zugriffsverwaltung, Datensicherung, Tests, Aktualisierungen und Wiederherstellung zum Gesamtaufwand.
Ein begrenzter Demonstrator schafft hier Klarheit. Er arbeitet mit einem vereinbarten Dokumentenumfang, einem ausgewählten Modell und konkreten Testfragen. Gleichzeitig bildet er typische Nutzungsspitzen ab. Sein Zweck liegt in der Prüfung, ob der Ansatz grundsätzlich trägt und welche Voraussetzungen für einen späteren Betrieb fehlen.
Für Teams bis 15 Personen ist eine Workstation damit eine prüfbare Architekturhypothese. Ihre Tragfähigkeit ergibt sich aus den gemessenen Bedingungen des konkreten Einsatzes. Die Entscheidung sollte auf vier Nachweisen beruhen:
Die Dokumente lassen sich zuverlässig verarbeiten und aktuell halten.
Die Antworten führen nachvollziehbar zu den relevanten Quellen.
Die Workstation bewältigt die gemessene Spitzenlast innerhalb der vereinbarten Antwortzeit.
Betrieb, Sicherheit und Verantwortung sind verbindlich geregelt.
Erst wenn diese vier Bedingungen erfüllt sind, wird aus einer technisch möglichen Installation eine tragfähige Arbeitsgrundlage für das Team.
Quellen und weiterführende Hinweise
Ollama: Context Length
Ollama: FAQ – gleichzeitige Anfragen, Speicherbedarf und Warteschlangen
Open WebUI: Retrieval-Augmented Generation
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter: Leitfaden zu den technischen und organisatorischen Massnahmen des Datenschutzes]
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter: KI und Datenschutz
