Lokale KI im Unternehmen: Mehr als ein Modell
Warum der Erfolg nicht beim Modell beginnt, sondern bei Datenstruktur, Zugriff und Betrieb
Künstliche Intelligenz gehört in vielen Organisationen bereits zum Arbeitsalltag. Sie wertet Dokumente aus, erschliesst internes Wissen und beschleunigt einzelne Prozesse.
Damit wächst auf Führungsebene ein neuer Anspruch: KI soll zuverlässig funktionieren, steuerbar bleiben und sich sicher in die Organisation einfügen.
Bei lokaler KI richtet sich die Aufmerksamkeit häufig zuerst auf Modelle, Hardware und Rechenleistung. Diese Faktoren prägen die technische Umsetzung. Die Grundlage bildet jedoch eine andere Frage:
“Welche Voraussetzungen braucht eine lokale KI, damit sie sich strukturiert, sicher und dauerhaft in ein Unternehmen einfügt?”
Lokale KI wird Teil der betrieblichen Infrastruktur. Dadurch berührt sie Datenordnung, Zugriffskontrolle, Verantwortlichkeiten, Betriebsprozesse und langfristige Wartbarkeit. Der Erfolg hängt vom Zusammenspiel dieser Elemente ab.
1. Der Zweck: Wofür soll die lokale KI eingesetzt werden?
Am Anfang steht der konkrete Nutzen. Eine lokale KI kann sehr unterschiedliche Aufgaben übernehmen. Sie kann interne Dokumente durchsuchbar machen, Betriebs- oder Krisenteams unterstützen, Richtlinien und Verträge auswerten oder administrative Prozesse entlasten. Entscheidend ist, dass der Anwendungsfall präzise beschrieben wird.
Soll die KI Wissen auffindbar machen?
Oder, Entscheidungen vorbereiten?
Soll sie Mitarbeitende im Alltag entlasten?
Oder sensible Dokumente kontrolliert erschliessen?
Vielleicht soll sie in einem bestimmten Fachbereich eingesetzt werden?
Je klarer der Zweck definiert ist, desto gezielter lassen sich Datenquellen, Berechtigungen, technische Komponenten und Betriebsanforderungen bestimmen.
Für einen wissensbasierten Assistenten, der Dokumente schneller auffindbar macht, gelten andere Anforderungen als für ein System, das mehrere Teams mit entscheidungsrelevanten Informationen versorgt. Der Anwendungsfall bestimmt deshalb den angemessenen Umfang der Lösung.
2. Die Datenstruktur: Welche Informationen darf die KI nutzen?
Unternehmenswissen liegt verteilt in Microsoft Teams, auf Netzlaufwerken, in PDF-Dokumenten, E-Mail-Ablagen, Fachsystemen und spezialisierten Anwendungen. Eine lokale KI kann diese Quellen erschliessen und zusammenführen. Dafür braucht sie einen geordneten, freigegebenen und gepflegten Wissensbestand.
Vor der Umsetzung sollten Verantwortliche klären:
Welche Datenquellen werden eingebunden?
Welche Dokumente enthalten vertrauliche Informationen?
Welche Inhalte besitzen regulatorische Bedeutung?
Welche Informationen sind organisationsweit zugänglich?
Welche Daten bleiben ausserhalb des Systems?
Welche Quellen gelten als verbindlich?
Wie werden unterschiedliche Dokumentversionen behandelt?
Wer erkennt und entfernt veraltete Inhalte?
Wie werden Daten klassifiziert, aktualisiert und gelöscht?
Die Qualität der Wissensbasis begrenzt die Qualität der Ergebnisse. Eine leistungsfähige KI kann Zusammenhänge schnell aufbereiten. Veraltete, widersprüchliche oder falsch eingeordnete Quellen bleiben dabei ein Risiko.
Lokale KI macht vorhandene Wissensstrukturen sichtbar. Eine klare Datenordnung stärkt ihre Verlässlichkeit. Ungeordnete Bestände beschleunigen vor allem den Zugriff auf ungeordnete Informationen.
3. Zugriff und Rollen: Wer darf was sehen?
Eine lokale KI kann in bestehende Identitäts- und Berechtigungssysteme eingebunden werden. Single Sign-on ermöglicht die Anmeldung über die vorhandene Unternehmensidentität. Rollenbasierte Zugriffskonzepte steuern, welche Personen bestimmte Quellen und Funktionen nutzen dürfen.
Diese Steuerung erhält besondere Bedeutung, sobald das System mit vertraulichen Dokumenten arbeitet. Mitglieder der Geschäftsleitung benötigen andere Informationen als ein Projektteam. Die Personalabteilung arbeitet mit anderen Daten als der Vertrieb. Ein Krisenstab braucht im Ereignisfall schnellen Zugriff auf ausgewählte Unterlagen.
Ein tragfähiges Berechtigungskonzept beantwortet folgende Fragen:
Wer darf welche Quellen nutzen?
Welche Rollen gibt es?
Wer vergibt, verändert und entzieht Berechtigungen?
Wie werden vertrauliche Bereiche getrennt?
Wie übernimmt das KI-System die Rechte aus den Quellsystemen?
Wie werden Zugriffe protokolliert und überprüft?
Was geschieht bei einem Rollenwechsel oder Austritt?
Wer prüft ungewöhnliche oder besonders sensible Zugriffe?
Die Benutzeroberfläche allein bietet dafür zu wenig Schutz. Die Zugriffskontrolle muss entlang der gesamten Verarbeitungskette wirken: von der Originalquelle über Suchindex und Zwischenspeicher bis zur ausgegebenen Antwort.
So arbeitet die KI innerhalb der Regeln der Organisation und übernimmt deren Schutzprinzipien.
4. Infrastruktur und Betriebsform: Workstation, Server oder Integration?
Lokale KI umfasst unterschiedliche technische Formen. Je nach Anwendungsfall kann eine leistungsfähige Workstation, ein lokaler Server oder eine integrierte Plattform die passende Lösung darstellen.
Eine Workstation für klar abgegrenzte Aufgaben
Eine dedizierte Workstation eignet sich für einen begrenzten Personenkreis und definierte Dokumentensammlungen. Typische Anwendungen sind:
vertrauliche Projektdossiers
interne Entscheidungsgrundlagen
technische Dokumentationen
klar abgegrenzte Analysen
zeitlich begrenzte Vorhaben
In diesem Szenario steht die kontrollierte Bereitstellung ausgewählter Daten im Vordergrund. Die Organisation legt fest, welche Dokumente eingebunden werden, wer mit dem System arbeitet, wie Ergebnisse geprüft werden und wie Speicherung, Löschung und Protokollierung erfolgen.
Eine eigenständige Arbeitsumgebung reduziert Schnittstellen und erleichtert die organisatorische Abgrenzung.
Ein lokaler Server für gemeinsame Nutzung
Ein lokaler Server gewinnt an Bedeutung, sobald mehrere Personen oder Teams dauerhaft mit der KI arbeiten. Dann steigen die Anforderungen an Benutzerverwaltung, Verfügbarkeit, Datensicherung, Überwachung und Rechenleistung.
Diese Betriebsform braucht Antworten auf folgende Fragen:
Wie viele Personen greifen gleichzeitig auf das System zu?
Welche Antwortzeiten werden erwartet?
Welche Datenmengen verarbeitet die Lösung?
Welche Verfügbarkeit benötigen die Arbeitsprozesse?
Wie werden Wartung und Updates organisiert?
Welche Ressourcen stehen für Betrieb und Support bereit?
Eine integrierte Architektur für laufende Datenzugriffe
Eine tiefere Integration eignet sich für Systeme, die kontinuierlich auf interne Quellen zugreifen und bestehende Berechtigungen übernehmen. Dafür braucht es definierte Schnittstellen, angebundene Identitätssysteme und klare Regeln für Synchronisation, Protokollierung und Fehlerbehandlung.
In grösseren oder betriebskritischen Umgebungen können GPU-Systeme, zentrale Rollenmodelle, Betriebsüberwachung und geregelte Wiederanlaufverfahren erforderlich sein.
Die geeignete Betriebsform folgt drei Kriterien: dem fachlichen Zweck, dem Schutzbedarf der Daten und der Fähigkeit der Organisation, das System dauerhaft zu betreiben.
5. Betriebssicherheit: Wie bleibt die KI im Alltag verlässlich?
Ein erfolgreicher Test belegt die grundsätzliche Funktionsfähigkeit. Der verlässliche Einsatz im Alltag verlangt zusätzlich geregelte Betriebsprozesse.
Zur Betriebssicherheit gehören je nach Einsatzszenario:
angemessene Verfügbarkeit
System- und Leistungsüberwachung
Protokollierung relevanter Ereignisse
Zugriffsschutz
Backup und Wiederherstellung
strukturierte Update-Prozesse
Prüfung technischer Änderungen
klare Zuständigkeiten
aktuelle Betriebsdokumentation
regelmässige Kontrolle der Datenquellen
Vorgehen bei Störungen und Sicherheitsvorfällen
Mit zunehmender Einbindung in Arbeitsprozesse wachsen die Folgen eines Ausfalls oder einer Fehlkonfiguration. Falsch gesetzte Berechtigungen können vertrauliche Inhalte offenlegen. Veraltete Quellen können zu ungeeigneten Antworten führen. Ungeprüfte Updates können Funktionen, Modelle oder Schnittstellen verändern.
Betriebssicherheit umfasst deshalb technische Stabilität und organisatorische Verlässlichkeit. Verantwortliche müssen wissen, wer das System überwacht, wer Änderungen freigibt und wer bei einem Vorfall handelt.
6. Ein praktisches Szenario: Lokale KI für einen Krisenstab
Ein Unternehmen stellt fest, dass sein Krisenstab im Ereignisfall viel Zeit mit der Suche nach Plänen, Richtlinien, Kontaktlisten und internen Dokumenten verbringt. Die Informationen sind vorhanden, liegen jedoch verteilt in PDF-Dateien, Netzlaufwerken, Teams-Strukturen und Fachablagen.
Eine lokal betriebene KI kann hier als interne Wissensschnittstelle dienen. Das System greift auf freigegebene Quellen zu, berücksichtigt definierte Berechtigungen und liefert strukturierte Antworten mit Quellenangaben.
Der Krisenstab findet dadurch relevante Informationen schneller. Der konkrete Nutzen entsteht aus fünf abgestimmten Entscheidungen:
Der Zweck ist eingegrenzt: Das System unterstützt die Informationssuche und bereitet Entscheidungen vor.
Die Datenbasis ist definiert: Freigegebene Pläne, Richtlinien und Kontaktlisten bilden den Wissensbestand.
Die Zugriffe sind geregelt: Mitglieder des Krisenstabs erhalten rollenbezogene Rechte.
Die Betriebsform passt zum Szenario: Die Lösung steht auch unter den vorgesehenen Krisenbedingungen zur Verfügung.
Die Verantwortung ist geklärt: Fachpersonen prüfen Quellen und Ergebnisse vor einer Entscheidung.
Das Modell bildet dabei eine technische Komponente. Der betriebliche Wert entsteht durch das Zusammenspiel von Datenordnung, Zugriffskontrolle, Quellenbezug und klaren Zuständigkeiten.
7. Lokale KI ist nicht automatisch die richtige Lösung für jedes Unternehmen
Lokale KI bietet besondere Vorteile bei sensiblen Daten, hohen Vertraulichkeitsanforderungen, spezifischen Integrationsbedürfnissen oder dem Wunsch nach administrativer Hoheit. Cloud-Dienste können bei standardisierten Aufgaben, begrenztem Schutzbedarf und knappen internen Betriebsressourcen eine wirtschaftlich tragfähige Lösung darstellen. Hybride Architekturen verbinden beide Ansätze für unterschiedliche Daten- und Anwendungsklassen.
Welche Form von Kontrolle braucht die Organisation für den konkreten Anwendungsfall?
Für diese Entscheidung sollten Verantwortliche mindestens fünf Aspekte bewerten:
Schutzbedarf und Klassifikation der Daten
erforderliche Kontrolle über Datenflüsse und Zugriffe
benötigte Verfügbarkeit und Leistungsfähigkeit
interne Fähigkeiten für Betrieb und Wartung
langfristige Kosten und Abhängigkeiten
Auf dieser Grundlage lässt sich eine Architektur wählen, die fachliche Anforderungen, Sicherheit und organisatorische Tragfähigkeit zusammenführt.
Fazit: Lokale KI beruht auf fünf Grundlagen
Erstens: einen klaren Zweck.
Die Organisation definiert, welche Aufgabe die KI erfüllt, welchen Nutzen sie schafft und wer ihre Ergebnisse prüft.
Zweitens: eine geordnete Datenstruktur.
Verantwortliche bestimmen, welche Informationen eingebunden, ausgeschlossen, geschützt und priorisiert werden.
Drittens: kontrollierte Zugriffe.
Ein Berechtigungskonzept regelt den Zugang zu Quellen, Funktionen und Ergebnissen über die gesamte Verarbeitungskette.
Viertens: eine passende Betriebsform.
Eine dedizierte Workstation kann klar abgegrenzte Aufgaben abdecken. Lokale Server oder integrierte Architekturen tragen eine dauerhafte und teamübergreifende Nutzung.
Fünftens: geregelte Betriebssicherheit.
Protokollierung, Updates, Datensicherung, Zugriffsschutz, Verfügbarkeit und Zuständigkeiten werden von Beginn an eingeplant.
Erst das abgestimmte Zusammenspiel dieser Grundlagen schafft eine belastbare lokale KI. Damit wird ihre Einführung zu einer Architektur-, Betriebs- und Governance-Entscheidung.
Der Ausgangspunkt bleibt der konkrete Anwendungsfall. Aus ihm folgen Datenbasis, Zugriff, Betriebsform und Verantwortung. Erst danach stellt sich die Frage nach dem passenden Modell.
