Betriebsmodelle
Hardware und Betriebsanforderungen
Konkret und ohne Beschönigung. Die folgenden Werte sind Dimensionierungsrichtwerte für die Planung, keine Messwerte aus einer bestehenden Kasimir-Installation.
Grundsystem ohne lokale Modelle
| Position | Richtwert |
|---|---|
| CPU | 8 Kerne Minimum, 16 Kerne empfohlen |
| Arbeitsspeicher | 32 GB Minimum, 64 GB empfohlen |
| Speicher | 500 GB NVMe aufwärts, abhängig vom Aktenbestand; Index und Objektspeicher wachsen mit |
| Betriebssystem | Aktuelles Linux mit Container-Laufzeit |
| Netz | Erreichbarkeit nur im Kanzleinetz oder über VPN; TLS terminiert der mitgelieferte Reverse Proxy |
Der Arbeitsspeicherbedarf entsteht überwiegend durch die Suchmaschinen und die Datenbank. Der Cross-Encoder, der Sparse-Encoder und die Namenserkennung laufen auf CPU. Der Cross-Encoder ist dabei die zeitbestimmende Komponente; die Zahl der nachbewerteten Kandidaten ist bewusst begrenzt, weil er ohne GPU sonst die Antwortzeit dominiert.
Zusätzlich für lokalen Modellbetrieb
| Position | Richtwert |
|---|---|
| GPU-Speicher, Generierungsmodell | Etwa 16–32 GB für ein quantisiertes Modell der 7- bis 14-Milliarden-Klasse; 48–80 GB und mehr für größere oder Mixture-of-Experts-Modelle |
| GPU-Speicher, Einbettungsmodell | Etwa 10–20 GB, je nach Modell und Quantisierung |
| Konsequenz | Zwei Modelle müssen gleichzeitig verfügbar sein. Eine einzelne Consumer-Grafikkarte mit 24 GB reicht für beide zusammen in der Regel nicht |
Wir nennen bewusst keine Token-pro-Sekunde-Zahlen und keine bestimmte Beschleunigerhardware. Wir haben diese Werte nicht selbst gemessen, und zugekaufte Benchmarkzahlen sind keine Zusage.
Betrieb
- Aktualisierungen liefern wir als Container-Abbilder mit dokumentiertem Änderungsstand; das Einspielfenster bestimmen Sie.
- Sicherung und Wiederanlauf gehören zur Installationsplanung und werden einmal vollständig getestet, nicht nur eingerichtet.
- Fernwartung erfolgt über einen Zugang, den Sie öffnen und schließen; jede Sitzung wird protokolliert.
- Verlangt Ihre Kanzlei den Betrieb ohne unseren Zugang, ist das möglich. Dann übernimmt Ihr Systemhaus Einspielung und Störungsbehebung nach unserer Dokumentation.
- Es gibt keine Abrechnung nach Anfragen oder Token. Die Nutzung kann wachsen, ohne dass die Rechnung wächst.
Kasimir ersetzt keine anwaltliche Prüfung.
Offene Fragen? Dreißig Minuten genügen.
Wir gehen die Verarbeitungsorte durch und zeigen die Recherche an einem Fall aus Ihrem Rechtsgebiet.