Was die KI im Dokument nicht sieht
Die KI nennt Dokument, Seite und zuständige Person. Es klingt überzeugend und stimmt trotzdem nicht. Die Fehler stecken in den Dokumenten selbst: im Tabellenkopf, in alten Seitenzahlen, in Bildern ohne Kennzeichnung.
KI-basierter Suchassistent: Welches Dokument gilt jetzt?
Wer bei Hochwasser eine Massnahme sucht, hat keine Zeit zum Blättern. Zwölf Testfragen an einen lokalen Suchassistenten zeigen, welches KI-Modell das richtige Dokument findet und es zuerst nennt.
Fund, Fassung und Befund
Ein lokales Sprachmodell sollte aus einer Wissensbasis mit einem Krisenszenario Hochwasser ein Word-Dokument zur Einarbeitung erstellen. Es nannte die richtige Quelle und erfand sechs Aufgaben, die dort nicht stehen.
Spickzettel: Befehle für die lokale KI
Die Befehle, die ich beim Testfall am häufigsten brauche, auf einer Seite: für Windows mit Docker und für den Mac. Mit einer Anleitung, wie Sie an einer einzigen Zeile ablesen, ob Ihr Modell in den Grafikspeicher passt.
Lokale KI-Wissensbasis: Was in den Speicher passt
Mein ThinkPad und mein Mac mini haben beide 64 GB Arbeitsspeicher. Trotzdem brauchte das eine für denselben Auftrag viermal so lange. Mein Praxistest mit drei Rechnern zeigt, worauf es bei lokaler KI ankommt und wie Sie den passenden Rechner wählen.
Der Testfall: eine Wissensbasis, mehrere Anwendungen
Ein erfundener Campingplatz, ein ausgearbeiteter Hochwasserplan, zehn Dokumente: So ist der Testfall aufgebaut, aus dem alle lokalen KI-Anwendungen in diesem Blog schöpfen.
Wer pflegt die Wissensbasis?
Im Hochwasserszenario meines Testfalls fehlten die Höhen der Messpunkte. Fünf Minuten Arbeit, dachte ich, und dann waren drei weitere Schritte nötig, damit die KI die neue Fassung auch nutzt. Was es heisst, eine Wissensbasis zu pflegen, und warum jemand dafür zuständig sein muss.
Nicht die grösste technische Lösung ist entscheidend, sondern die passende Architektur für den konkreten Einsatz.
Manuela Frenzel / Robert Tischhauser