Schnellstart

Erstellen Sie Schlüssel, verfolgen Sie Ausgaben, fügen Sie Modelle hinzu, ohne sich um die Konfiguration / CRUD-Endpunkte kümmern zu müssen.

Schnellstart

• Benötigt Proxy-Master-Schlüssel, der gesetzt ist
• Benötigt eine verbundene Datenbank

Folgen Sie der Einrichtung

1. Starten Sie den Proxy

litellm --config /path/to/config.yaml

#INFO: Proxy running on http://0.0.0.0:4000

2. Gehen Sie zur Benutzeroberfläche

http://0.0.0.0:4000/ui # <proxy_base_url>/ui

3. Holen Sie sich den Admin-Benutzeroberflächen-Link auf Swagger

Ihr Proxy Swagger ist im Stammverzeichnis des Proxys verfügbar: z. B.: https://:4000/

4. Ändern Sie den Standardbenutzernamen + Passwort

Stellen Sie das Folgende in Ihrer .env-Datei auf dem Proxy ein

LITELLM_MASTER_KEY="sk-1234" # this is your master key for using the proxy server
UI_USERNAME=ishaan-litellm   # username to sign in on UI
UI_PASSWORD=langchain        # password to sign in on UI

Beim Zugriff auf die LiteLLM-Benutzeroberfläche werden Sie aufgefordert, Ihren Benutzernamen und Ihr Passwort einzugeben

Laden Sie andere Benutzer ein

Erlauben Sie anderen, ihre eigenen Schlüssel zu erstellen/löschen.

Gehen Sie hierhin

Deaktivieren Sie die Admin-Benutzeroberfläche

Stellen Sie DISABLE_ADMIN_UI="True" in Ihrer Umgebung ein, um die Admin-Benutzeroberfläche zu deaktivieren.

Nützlich, wenn Ihr Sicherheitsteam zusätzliche Einschränkungen für die Nutzung der Benutzeroberfläche hat.

Erwartete Antwort