Betriebsmodelle
Was „on-premises" bei Kasimir konkret bedeutet
On-Premises ist kein Vertriebsversprechen, sondern eine Liste von Prozessen, die auf Ihrer Maschine starten. Das sind sie.
| Komponente | Aufgabe | Läuft lokal |
|---|---|---|
| PostgreSQL mit pgvector | Nutzer, Akten, Dokumentmetadaten, Chatverläufe, Zitatanker, Audit-Log | Ja, in jeder Variante |
| Qdrant | Vektorindex für die Bedeutungssuche und die gewichtete Wortsuche | Ja, in jeder Variante |
| OpenSearch | Klassische Stichwortsuche (BM25) mit deutschem Rechtsanalyzer | Ja, in jeder Variante |
| MinIO | Objektspeicher für die Originaldateien, unverändert im Ursprungsformat | Ja, in jeder Variante |
| Redis | Warteschlange und Cache für die Dokumentverarbeitung | Ja, in jeder Variante |
| Supabase, selbst gehostet | Anmeldung, Sitzungen, Nutzerverwaltung | Ja, in jeder Variante |
| Caddy | Reverse Proxy und TLS-Terminierung | Ja, in jeder Variante |
| Web-Oberfläche, BFF, API, Ingest-Worker | Die Anwendung selbst und die Dokumentaufbereitung | Ja, in jeder Variante |
| BGE-M3 (Sparse-Encoder) | Erzeugt den Wortgewichtungs-Suchschlüssel | Ja, im Prozess, auf CPU |
| BGE-Reranker-v2-m3 (Cross-Encoder) | Liest die Trefferkandidaten gegen die Frage nach und sortiert sie | Ja, im Prozess, auf CPU |
| spaCy-NER (deutsch) | Erkennt Personennamen und Orte für die Redaktion vor dem Modellaufruf | Ja, im Prozess, auf CPU |
| LiteLLM-Proxy | Einziger Ausgangspunkt für sämtlichen Modellverkehr | Ja, in jeder Variante |
| Generierungsmodell | Formuliert die Antwort aus den gefundenen Passagen | Nur in Variante (a) mit GPU |
| Dichtes Einbettungsmodell | Wandelt Frage und Dokumenttext in Bedeutungsvektoren | Nur in Variante (a) mit GPU |
Die ersten zwölf Zeilen laufen in jeder Variante bei Ihnen. Die beiden letzten sind die eigentliche Entscheidung.
Zwei Eigenschaften sind für die Prüfung durch Ihre IT wichtiger als jede Aufzählung:
Der Modellverkehr hat genau einen Ausgang. Sämtliche Aufrufe an ein Sprachmodell laufen durch ein einziges Modul. Direkte Aufrufe an Modellanbieter aus anderen Teilen des Codes sind durch eine Lint-Regel verboten, und ein Test bricht den Build, wenn jemand sie umgeht. Für Ihre IT heißt das: Eine Firewall-Regel und ein Blick in die Konfiguration genügen, um festzustellen, wohin Text die Installation verlässt. Sie müssen uns das nicht glauben, Sie können es messen.
Die Aktentrennung wird in die Suchmaschinen hineingereicht, nicht nachträglich gefiltert. Der Zugriffsfilter auf Aktenebene ist Teil der Suchanfrage an Qdrant und OpenSearch. Passagen aus Akten außerhalb des angefragten Bereichs werden nicht abgerufen und danach ausgeblendet — sie werden gar nicht erst gefunden.
Kasimir ersetzt keine anwaltliche Prüfung.
Offene Fragen? Dreißig Minuten genügen.
Wir gehen die Verarbeitungsorte durch und zeigen die Recherche an einem Fall aus Ihrem Rechtsgebiet.