Zum Hauptinhalt springen

SCIM mit LiteLLM

Ermöglicht Identitätsanbietern (Okta, Azure AD, OneLogin usw.), die automatische Bereitstellung, Aktualisierung und Deprovisionierung von Benutzern und Teams (Gruppen) in LiteLLM zu verwalten.

Dieses Tutorial führt Sie durch die Schritte zur Verbindung Ihres IDP mit LiteLLM SCIM-Endpunkten.

Unterstützte SSO-Anbieter für SCIM​

Unten finden Sie eine Liste der unterstützten SSO-Anbieter für die Verbindung mit LiteLLM SCIM-Endpunkten.

  • Microsoft Entra ID (Azure AD)
  • Okta
  • Google Workspace
  • OneLogin
  • Keycloak
  • Auth0

1. Holen Sie sich Ihre SCIM-Mandanten-URL und Ihr Bearer-Token​

Navigieren Sie in LiteLLM zu Einstellungen > Admin-Einstellungen > SCIM. Auf dieser Seite erstellen Sie ein SCIM-Token. Dies ermöglicht Ihrem IDP die Authentifizierung an den LiteLLM /scim-Endpunkten.

2. Verbinden Sie Ihren IDP mit LiteLLM SCIM-Endpunkten​

Navigieren Sie in Ihrem IDP-Anbieter zu Ihrer SSO-Anwendung und wählen Sie Provisioning > New provisioning configuration.

Fügen Sie auf dieser Seite Ihre LiteLLM SCIM-Mandanten-URL und Ihr Bearer-Token ein.

Nachdem dies eingefügt wurde, klicken Sie auf Test Connection, um sicherzustellen, dass Ihr IDP eine Verbindung zu den LiteLLM SCIM-Endpunkten herstellen kann.

3. SCIM-Verbindung testen​

3.1 Weisen Sie die Gruppe Ihrer LiteLLM Enterprise-App zu​

Navigieren Sie in Ihrem IDP-Portal zu Enterprise Applications > Wählen Sie Ihre LiteLLM-App aus.



Nachdem Sie Ihre LiteLLM-App ausgewählt haben, klicken Sie auf Users and Groups > Add user/group.


Wählen Sie nun die Gruppe aus, die Sie in Schritt 1.1 erstellt haben. Fügen Sie sie zur LiteLLM Enterprise-App hinzu. An diesem Punkt haben wir die Production LLM Evals Group zur LiteLLM Enterprise-App hinzugefügt. Der nächste Schritt ist, dass LiteLLM die Production LLM Evals Group automatisch in der LiteLLM-Datenbank erstellt, wenn sich ein neuer Benutzer anmeldet.

3.2 Melden Sie sich bei der LiteLLM-UI über SSO an​

Melden Sie sich bei der LiteLLM-UI über SSO an. Sie sollten zur Entra ID SSO-Seite weitergeleitet werden. Dieser SSO-Anmeldeflow löst LiteLLM aus, die neuesten Gruppen und Mitglieder von Azure Entra ID abzurufen.

3.3 Überprüfen Sie das neue Team in der LiteLLM-UI​

Navigieren Sie in der LiteLLM-UI zu Teams. Sie sollten das neue Team Production LLM Evals Group automatisch in LiteLLM erstellt sehen.