Zum Inhalt springen
Kasimir

Betriebsmodelle

Hardware und Betriebsanforderungen

Konkret und ohne Beschönigung. Die folgenden Werte sind Dimensionierungsrichtwerte für die Planung, keine Messwerte aus einer bestehenden Kasimir-Installation.

Grundsystem ohne lokale Modelle

Position Richtwert
CPU 8 Kerne Minimum, 16 Kerne empfohlen
Arbeitsspeicher 32 GB Minimum, 64 GB empfohlen
Speicher 500 GB NVMe aufwärts, abhängig vom Aktenbestand; Index und Objektspeicher wachsen mit
Betriebssystem Aktuelles Linux mit Container-Laufzeit
Netz Erreichbarkeit nur im Kanzleinetz oder über VPN; TLS terminiert der mitgelieferte Reverse Proxy

Der Arbeitsspeicherbedarf entsteht überwiegend durch die Suchmaschinen und die Datenbank. Der Cross-Encoder, der Sparse-Encoder und die Namenserkennung laufen auf CPU. Der Cross-Encoder ist dabei die zeitbestimmende Komponente; die Zahl der nachbewerteten Kandidaten ist bewusst begrenzt, weil er ohne GPU sonst die Antwortzeit dominiert.

Zusätzlich für lokalen Modellbetrieb

Position Richtwert
GPU-Speicher, Generierungsmodell Etwa 16–32 GB für ein quantisiertes Modell der 7- bis 14-Milliarden-Klasse; 48–80 GB und mehr für größere oder Mixture-of-Experts-Modelle
GPU-Speicher, Einbettungsmodell Etwa 10–20 GB, je nach Modell und Quantisierung
Konsequenz Zwei Modelle müssen gleichzeitig verfügbar sein. Eine einzelne Consumer-Grafikkarte mit 24 GB reicht für beide zusammen in der Regel nicht

Wir nennen bewusst keine Token-pro-Sekunde-Zahlen und keine bestimmte Beschleunigerhardware. Wir haben diese Werte nicht selbst gemessen, und zugekaufte Benchmarkzahlen sind keine Zusage.

Betrieb

  • Aktualisierungen liefern wir als Container-Abbilder mit dokumentiertem Änderungsstand; das Einspielfenster bestimmen Sie.
  • Sicherung und Wiederanlauf gehören zur Installationsplanung und werden einmal vollständig getestet, nicht nur eingerichtet.
  • Fernwartung erfolgt über einen Zugang, den Sie öffnen und schließen; jede Sitzung wird protokolliert.
  • Verlangt Ihre Kanzlei den Betrieb ohne unseren Zugang, ist das möglich. Dann übernimmt Ihr Systemhaus Einspielung und Störungsbehebung nach unserer Dokumentation.
  • Es gibt keine Abrechnung nach Anfragen oder Token. Die Nutzung kann wachsen, ohne dass die Rechnung wächst.

Kasimir ersetzt keine anwaltliche Prüfung.

Nächster Schritt

Der Server kann in Ihrem Haus stehen.

Wir klären Hardware, Stellplatz, Netz, Aktenbestand und das Betriebsmodell für Ihre Kanzlei.