Lokale KI im Unternehmen: Mehr als ein Modell

Warum der Erfolg nicht beim Modell beginnt, sondern bei Datenstruktur, Zugriff und Betrieb.

Künstliche Intelligenz ist in vielen Organisationen bereits Teil des Arbeitsalltags geworden. Dokumente werden ausgewertet, internes Wissen wird schneller zugänglich, Prozesse gewinnen an Tempo.

Mit dieser Entwicklung wächst auf Führungsebene ein neuer Anspruch: KI soll nicht nur funktionieren. Sie soll steuerbar, nachvollziehbar und sicher in die Organisation eingebettet sein.

Gerade bei lokaler KI wird deshalb oft zuerst über Modelle, Hardware oder technische Leistungsfähigkeit gesprochen. Diese Fragen sind wichtig. Sie stehen aber nicht am Anfang.

Was braucht lokale KI, damit sie sich strukturiert, integriert und betriebssicher in ein Unternehmen einfügt?

Lokale KI wird Teil der bestehenden Infrastruktur. Damit berührt sie Datenordnung, Zugriffskontrolle, Verantwortlichkeiten, Betrieb und langfristige Wartbarkeit.

1. Der Zweck: Wofür soll die lokale KI eingesetzt werden?

Am Anfang steht der konkrete Nutzen. Eine lokale KI kann sehr unterschiedliche Aufgaben übernehmen. Sie kann interne Dokumente durchsuchbar machen, Betriebs- oder Krisenteams unterstützen, Richtlinien und Verträge auswerten oder administrative Prozesse entlasten. Entscheidend ist, dass der Anwendungsfall präzise beschrieben wird.

Soll die KI Wissen auffindbar machen?
Soll sie Entscheidungen vorbereiten?
Soll sie Mitarbeitende im Alltag entlasten?
Soll sie sensible Dokumente kontrolliert erschliessen?
Soll sie in einem bestimmten Fachbereich eingesetzt werden?

Je klarer der Zweck definiert ist, desto besser lässt sich die Architektur planen.

Eine lokale KI kann als Hilfstool, wie zum Beispiel als wissenbasierter Asstistent, sehr hilfreich sein, Dokumente schneller zu finden.

2. Die Datenstruktur: Welche Informationen darf die KI nutzen?

In Unternehmen liegen Informationen oft verteilt: in Microsoft Teams, auf Netzlaufwerken, in PDFs, in Fachsystemen, in E-Mail-Ablagen oder in spezialisierten Anwendungen. Eine lokale KI kann diese Quellen erschliessen und Wissen besser zugänglich machen. Dafür braucht es jedoch eine saubere Datenstruktur.

Nicht jedes Dokument gehört in jedes KI-System. Nicht jede Information darf für jede Person sichtbar sein. Und nicht jede Quelle hat dieselbe Qualität oder Verbindlichkeit. Vor der Umsetzung müssen deshalb zentrale Fragen geklärt werden:

Welche Datenquellen sollen eingebunden werden?
Welche Dokumente sind vertraulich?
Welche Inhalte sind regulatorisch relevant?
Welche Informationen dürfen organisationsweit zugänglich sein?
Welche Daten müssen ausgeschlossen werden?
Welche Quellen gelten als verbindlich?
Wie werden veraltete oder doppelte Dokumente behandelt?

Diese Datenstruktur ist eine der wichtigsten Grundlagen lokaler KI.

Denn eine KI kann nur so belastbar arbeiten wie die Wissensbasis, auf die sie zugreifen darf. Ohne klare Datenstruktur entsteht kein verlässliches System, sondern ein schneller Zugriff auf ungeordnete Informationen.

3. Zugriff und Rollen: Wer darf was sehen?

Eine lokale KI im Unternehmen kann sich in bestehende Identitäts- und Berechtigungssysteme einfügen. Single Sign-On kann dafür sorgen, dass Mitarbeitende sich mit ihrer bestehenden Unternehmensidentität anmelden. Rollenbasierte Zugriffskonzepte stellen sicher, dass Personen nur auf jene Informationen zugreifen können, die zu ihrer Funktion und Berechtigung passen. Das ist besonders wichtig, wenn die KI mit vertraulichen Dokumenten arbeitet.

Ein Mitglied der Geschäftsleitung darf andere Informationen sehen als ein Projektteam. Die Personalabteilung arbeitet mit anderen Daten als der Vertrieb. Ein Krisenstab benötigt im Ereignisfall schnellen Zugriff auf bestimmte Unterlagen, aber nicht automatisch auf alle Unternehmensinformationen.

Lokale KI braucht deshalb ein klares Berechtigungskonzept.

Wer darf welche Quellen nutzen?
Welche Rollen gibt es?
Wie werden Berechtigungen vergeben und entzogen?
Wie werden vertrauliche Bereiche getrennt?
Wie wird verhindert, dass Informationen über falsche Zugriffe sichtbar werden?
Wie werden Zugriffe protokolliert und überprüft?

Diese Integration stärkt das Vertrauen in die Lösung. Sie sorgt dafür, dass KI nicht ausserhalb der Organisation arbeitet, sondern innerhalb ihrer Regeln.

4. Infrastruktur und Betriebsform: Workstation, Server oder Integration?

Lokale KI bedeutet nicht automatisch, dass eine Lösung tief in die bestehende Unternehmensinfrastruktur integriert werden muss. Je nach Anwendungsfall kann bereits eine leistungsfähige Workstation ausreichen. Das gilt besonders dann, wenn die KI für klar abgegrenzte Aufgaben genutzt wird, etwa für die Auswertung definierter Dokumentensammlungen, vertraulicher Projektdossiers oder interner Entscheidungsgrundlagen.

In solchen Fällen steht nicht die Integration in alle firmeninternen Systeme im Vordergrund, sondern die kontrollierte Bereitstellung der relevanten Daten: Welche Dokumente werden eingebunden? Wer darf mit dem System arbeiten? Wie werden Ergebnisse geprüft? Wie werden Daten gespeichert, gelöscht oder protokolliert?

Eine lokale KI kann also bewusst als eigenständige Arbeitsumgebung aufgebaut werden. Das kann Vorteile haben: weniger Schnittstellen, klarere Abgrenzung, einfachere Kontrolle und geringere Abhängigkeit von bestehenden Systemlandschaften.

Anders sieht es aus, wenn die lokale KI dauerhaft von mehreren Teams genutzt werden soll oder laufend auf interne Quellen zugreifen muss. Dann wird Integration wichtiger. In diesem Fall muss die Lösung mit vorhandenen Systemen kommunizieren, definierte Datenquellen anbinden, Berechtigungen berücksichtigen und langfristig betrieben werden können. Dann stellen sich Fragen zu Schnittstellen, Identitätssystemen, Zugriffsschutz, Backup, Monitoring, Verfügbarkeit und Skalierbarkeit.

Die passende technische Form hängt deshalb vom Einsatzszenario ab. Für manche Organisationen reicht eine dedizierte Workstation. Für andere braucht es einen lokalen Server. In grösseren oder kritischeren Umgebungen kann eine integrierte Architektur mit GPU-Systemen, Rollenmodellen, Protokollierung und Betriebsüberwachung notwendig sein.

Entscheidend ist, dass die Betriebsform zum Zweck, zum Schutzbedarf und zur organisatorischen Verantwortung passt. So entsteht keine unnötig komplexe Lösung, sondern eine lokale KI, die genau dort eingebettet oder abgegrenzt ist, wo es fachlich und sicherheitstechnisch sinnvoll ist.

5. Betriebssicherheit: Wie bleibt die KI im Alltag verlässlich?

Sobald mehrere Teams mit einer lokalen KI arbeiten, wird sie Teil des operativen Gefüges. Dann reicht es nicht mehr, dass das System in einem Test funktioniert. Es muss im Alltag stabil, nachvollziehbar und wartbar sein. Zur Betriebssicherheit gehören unter anderem:

Hochverfügbarkeit
Monitoring
Protokollierung
Zugriffsschutz
Backup und Wiederherstellung
Strukturierte Update-Prozesse
Klare Zuständigkeiten
Dokumentation
Prüfung von Änderungen
Regelmässige Kontrolle der Datenquellen

Diese Punkte entscheiden darüber, ob eine lokale KI zuverlässig genutzt werden kann. Denn je stärker eine Organisation KI in ihre Arbeitsprozesse integriert, desto wichtiger wird die Frage: Was passiert, wenn das System ausfällt, falsche Quellen verwendet, Zugriffe falsch gesetzt sind oder Updates ungeprüft eingespielt werden?

Betriebssicherheit bedeutet deshalb nicht nur technische Stabilität. Sie bedeutet organisatorische Verlässlichkeit.

Ein praktisches Szenario

Ein Unternehmen stellt fest, dass sein Krisenstab im Ereignisfall zu viel Zeit mit der Suche nach Plänen, Richtlinien, Kontaktlisten und internen Dokumenten verbringt. Die Informationen sind vorhanden, aber verteilt. Ein Teil liegt in PDFs, ein Teil auf Netzlaufwerken, ein Teil in Teams-Strukturen, ein Teil in Fachablagen.

Eine lokal integrierte KI kann hier als interne Wissensschnittstelle dienen. Das System greift nur auf freigegebene Quellen zu, berücksichtigt bestehende Berechtigungen und liefert strukturierte Antworten mit Quellenbezug. Das Krisenstab-Team findet relevante Informationen schneller und kann Entscheidungen besser vorbereiten. Der Mehrwert entsteht durch die Kombination aus klar definiertem Zweck, geordneten Daten, kontrollierten Zugriffen, technischer Integration und stabilem Betrieb.

Lokale KI ist nicht automatisch die richtige Lösung für jedes Unternehmen.

Bei einfachen Anwendungsfällen, geringem Schutzbedarf oder klar abgegrenzten Aufgaben können Cloud-Lösungen ausreichend und wirtschaftlich sinnvoll sein. Bei sensiblen Daten, hohen Anforderungen an Vertraulichkeit, interner Wissensordnung oder regulatorischer Verantwortung kann lokale KI jedoch entscheidende Vorteile bieten.

Wichtig ist deshalb nicht die pauschale Entscheidung für oder gegen lokale KI. Wichtig ist die Frage: Welche Form von Kontrolle braucht unsere Organisation?

Wenn Datenflüsse, Zugriffe, Verantwortlichkeiten und Betriebsanforderungen klar beschrieben sind, lässt sich fundiert entscheiden, welche Architektur sinnvoll ist.

Fazit: Lokale KI braucht mehr als ein Modell

Eine lokale KI im Unternehmen beruht auf fünf Grundlagen.

Erstens: ein klarer Zweck.
Die Organisation muss wissen, welche Aufgabe die KI erfüllen soll.

Zweitens: eine geordnete Datenstruktur.
Es muss klar sein, welche Informationen eingebunden, ausgeschlossen, geschützt oder priorisiert werden.

Drittens: kontrollierter Zugriff.
Die KI muss klare Zugriffsregeln haben. Je nach Betriebsform kann das über bestehende Berechtigungen, über ein separates Rollenmodell oder über eine bewusst abgegrenzte Nutzung erfolgen.

Viertens: die passende Betriebsform.
Lokale KI muss nicht immer tief in bestehende Systeme integriert werden. Für klar abgegrenzte Aufgaben kann eine dedizierte Workstation ausreichen. Für grössere, dauerhafte oder teamübergreifende Nutzung können lokale Server, GPU-Systeme oder eine Integration in bestehende Unternehmenssysteme sinnvoll sein.

Fünftens: Betriebssicherheit.
Protokollierung, Updates, Datensicherung, Zugriffsschutz, Verfügbarkeit und Zuständigkeiten müssen von Beginn an mitgedacht werden. Je nach Einsatzszenario können diese Anforderungen einfach oder sehr umfassend ausfallen.

Erst wenn diese Grundlagen zusammenspielen, entsteht eine lokale KI, die im Unternehmen belastbar funktioniert. Lokale KI ist damit eine Architektur-, Betriebs- und Governance-Entscheidung. Sie wird dann wertvoll, wenn Zweck, Daten, Zugriff, Betriebsform und Verantwortung sauber aufeinander abgestimmt sind.