Unternehmen

Für Unternehmen, die SSO, Benutzerverwaltung und professionellen Support für LiteLLM Proxy benötigen

Info

Holen Sie sich hier Ihren kostenlosen 7-tägigen Testschlüssel hier

Enthält alle Enterprise-Funktionen.

Beschaffung über AWS / Azure Marketplace möglich

Dies deckt ab

• Enterprise-Funktionen
• ✅ Priorisierung von Funktionen
• ✅ Benutzerdefinierte Integrationen
• ✅ Professioneller Support - Dedizierter Discord + Slack

Bereitstellungsoptionen

Selbst gehostet

1. Verwalten Sie selbst – Sie können unser Docker-Image bereitstellen oder ein benutzerdefiniertes Image aus unserem Pip-Paket erstellen und Ihre eigene Infrastruktur verwalten. In diesem Fall erhalten Sie einen Lizenzschlüssel und Support über einen dedizierten Support-Kanal.

2. Wir verwalten – Sie gewähren uns Abonnementzugriff auf Ihrem AWS/Azure/GCP-Konto und wir verwalten die Bereitstellung.

Verwaltet

Sie können unser Cloud-Produkt nutzen, bei dem wir eine dedizierte Instanz für Sie einrichten.

Häufig gestellte Fragen

SLAs + Professioneller Support

Professioneller Support kann bei LLM/Provider-Integrationen, Bereitstellung, Upgrade-Management und der Fehlerbehebung bei LLM-Providern unterstützen. Wir können Ihre eigenen Infrastrukturprobleme nicht lösen, aber wir werden Sie anleiten, diese zu beheben.

• 1 Stunde für Sev0-Probleme – 100 % des Produktionsverkehrs ist ausgefallen
• 6 Stunden für Sev1 – <100 % des Produktionsverkehrs ist ausgefallen
• 24 Stunden für Sev2-Sev3 zwischen 7:00 und 19:00 Uhr PT (Montag bis Samstag) – Einrichtungsprobleme, z. B. Redis funktioniert auf unserer Seite, aber nicht auf Ihrer Infrastruktur.
• 72 Stunden SLA für die Behebung von Schwachstellen in der Software.

Wir können benutzerdefinierte SLAs anbieten, basierend auf Ihren Anforderungen und der Schwere des Problems.

Was kostet die selbst verwaltete Enterprise-Edition?

Selbst verwaltete Enterprise-Bereitstellungen erfordern, dass unser Team Ihre genauen Bedürfnisse versteht. Kontaktieren Sie uns, um mehr zu erfahren

Wie funktioniert die Bereitstellung mit der Enterprise-Lizenz?

Sie stellen einfach unser Docker-Image bereit und erhalten einen Enterprise-Lizenzschlüssel, den Sie zu Ihrer Umgebung hinzufügen, um zusätzliche Funktionen (SSO, Prometheus-Metriken usw.) freizuschalten.

LITELLM_LICENSE="eyJ..."

Keine Daten verlassen Ihre Umgebung.

Häufig gestellte Fragen zu Datensicherheit / Rechtlichem / Compliance

Häufig gestellte Fragen zu Datensicherheit / Rechtlichem / Compliance