Spickzettel: Befehle für die lokale KI
Die Befehle, die ich beim Testfall am häufigsten brauche, auf einer Seite: für Windows mit Docker und für den Mac. Mit einer Anleitung, wie Sie an einer einzigen Zeile ablesen, ob Ihr Modell in den Grafikspeicher passt.
Lokale KI-Wissensbasis: Was in den Speicher passt
Mein ThinkPad und mein Mac mini haben beide 64 GB Arbeitsspeicher. Trotzdem brauchte das eine für denselben Auftrag viermal so lange. Mein Praxistest mit drei Rechnern zeigt, worauf es bei lokaler KI ankommt und wie Sie den passenden Rechner wählen.
Der Testfall: eine Wissensbasis, mehrere Anwendungen
Ein erfundener Campingplatz, ein ausgearbeiteter Hochwasserplan, zehn Dokumente: So ist der Testfall aufgebaut, aus dem alle lokalen KI-Anwendungen in diesem Blog schöpfen.
KI-Sicherheit: Entscheidend ist die Kontrolle über Daten und Zugriffe
Wie wichtig ist der Serverstandort? Der Standort gehört zur Sicherheitsbewertung. Vier Fragen zu Zugriff, Schlüsseln und Protokollen zeigen, wie weit die Kontrolle über die eigenen Daten reicht, in der Cloud ebenso wie bei der lokalen KI.
Nicht die grösste technische Lösung ist entscheidend, sondern die passende Architektur für den konkreten Einsatz.
Manuela Frenzel / Robert Tischhauser