📄️ Erste Schritte - E2E Tutorial
End-to-End-Tutorial für LiteLLM Proxy zum
🗃️ Config.yaml
3 Elemente
🗃️ Einrichtung & Bereitstellung
9 Elemente
📄️ Demo App
Hier ist eine Demo des Proxys. Zur Anmeldung übergeben Sie
🗃️ Architektur
8 Elemente
🔗 Alle Endpunkte (Swagger)
📄️ ✨ Enterprise Features
Um eine Lizenz zu erhalten, kontaktieren Sie uns hier
📄️ LiteLLM Proxy CLI
Das litellm-proxy CLI ist ein Befehlszeilentool zur Verwaltung Ihres LiteLLM-Proxys
🗃️ LLM-Anfragen stellen
5 Elemente
🗃️ Authentifizierung
8 Elemente
🗃️ Modellzugriff
2 Elemente
🗃️ Admin UI
8 Elemente
🗃️ Ausgabenverfolgung
3 Elemente
🗃️ Budgets + Ratenbegrenzungen
5 Elemente
🔗 Lastverteilung, Routing, Fallbacks
🗃️ Protokollierung, Alarmierung, Metriken
6 Elemente
🗃️ [Beta] Guardrails
10 Elemente
🗃️ Geheimnismanager
2 Elemente
🗃️ Benutzerdefinierte Plugins erstellen
Anfragen, Antworten und mehr ändern
📄️ Caching
Für OpenAI/Anthropic Prompt Caching, gehen Sie hierhin