Was die KI im Dokument nicht sieht
Die KI nennt Dokument, Seite und zuständige Person. Es klingt überzeugend und stimmt trotzdem nicht. Die Fehler stecken in den Dokumenten selbst: im Tabellenkopf, in alten Seitenzahlen, in Bildern ohne Kennzeichnung.
KI-basierter Suchassistent: Welches Dokument gilt jetzt?
Wer bei Hochwasser eine Massnahme sucht, hat keine Zeit zum Blättern. Zwölf Testfragen an einen lokalen Suchassistenten zeigen, welches KI-Modell das richtige Dokument findet und es zuerst nennt.
Fund, Fassung und Befund
Ein lokales Sprachmodell sollte aus einer Wissensbasis mit einem Krisenszenario Hochwasser ein Word-Dokument zur Einarbeitung erstellen. Es nannte die richtige Quelle und erfand sechs Aufgaben, die dort nicht stehen.
Was die KI-Antworten nicht anzeigen
KI-Systeme zitieren bei Nachrichtenfragen vor allem wenige grosse Medien. Nach welchen Kriterien sie auswählen, legt keiner der KI-Anbieter offen.
Vertrauliche Gespräche lokal transkribieren und protokollieren
Wie wird aus einer vertraulichen Besprechung ein geprüftes Protokoll, ohne dass die Aufnahme den eigenen Rechner verlässt? Ich habe es mit einer Testbesprechung des Campingplatzes Seeblick ausprobiert: noScribe transkribiert, ein lokales KI-Modell schreibt das Protokoll, ein eigenes Werkzeug erstellt das Word-Dokument. Das KI-Modell liefert den Entwurf. Die Freigabe bleibt beim Menschen.
Spickzettel: Befehle für die lokale KI
Die Befehle, die ich beim Testfall am häufigsten brauche, auf einer Seite: für Windows mit Docker und für den Mac. Mit einer Anleitung, wie Sie an einer einzigen Zeile ablesen, ob Ihr Modell in den Grafikspeicher passt.
Lokale KI-Wissensbasis: Was in den Speicher passt
Mein ThinkPad und mein Mac mini haben beide 64 GB Arbeitsspeicher. Trotzdem brauchte das eine für denselben Auftrag viermal so lange. Mein Praxistest mit drei Rechnern zeigt, worauf es bei lokaler KI ankommt und wie Sie den passenden Rechner wählen.
Der Testfall: eine Wissensbasis, mehrere Anwendungen
Ein erfundener Campingplatz, ein ausgearbeiteter Hochwasserplan, zehn Dokumente: So ist der Testfall aufgebaut, aus dem alle lokalen KI-Anwendungen in diesem Blog schöpfen.
Wer pflegt die Wissensbasis?
Im Hochwasserszenario meines Testfalls fehlten die Höhen der Messpunkte. Fünf Minuten Arbeit, dachte ich, und dann waren drei weitere Schritte nötig, damit die KI die neue Fassung auch nutzt. Was es heisst, eine Wissensbasis zu pflegen, und warum jemand dafür zuständig sein muss.
KI-Sicherheit: Entscheidend ist die Kontrolle über Daten und Zugriffe
Wie wichtig ist der Serverstandort? Der Standort gehört zur Sicherheitsbewertung. Vier Fragen zu Zugriff, Schlüsseln und Protokollen zeigen, wie weit die Kontrolle über die eigenen Daten reicht, in der Cloud ebenso wie bei der lokalen KI.
Nicht die grösste technische Lösung ist entscheidend, sondern die passende Architektur für den konkreten Einsatz.
Manuela Frenzel / Robert Tischhauser