Zum Hauptinhalt springen

Benutzerdefinierte Authentifizierung

Sie können jetzt die standardmäßige API-Schlüssel-Authentifizierung überschreiben.

Hier ist wie

1. Erstellen Sie eine benutzerdefinierte Authentifizierungsdatei.​

Stellen Sie sicher, dass der Antworttyp dem UserAPIKeyAuth Pydantic-Objekt folgt. Dies wird fĂĽr die Protokollierung der Nutzung, die spezifisch fĂĽr diesen BenutzerschlĂĽssel ist, verwendet.

from litellm.proxy._types import UserAPIKeyAuth

async def user_api_key_auth(request: Request, api_key: str) -> UserAPIKeyAuth: 
    try: 
        modified_master_key = "sk-my-master-key"
        if api_key == modified_master_key:
            return UserAPIKeyAuth(api_key=api_key)
        raise Exception
    except: 
        raise Exception

2. Geben Sie den Dateipfad an (relativ zur config.yaml)​

Geben Sie den Dateipfad zur config.yaml an.

Wenn sie sich beispielsweise beide im selben Verzeichnis befinden – ./config.yaml und ./custom_auth.py – sieht es so aus

model_list: 
  - model_name: "openai-model"
    litellm_params: 
      model: "gpt-3.5-turbo"

litellm_settings:
  drop_params: True
  set_verbose: True

general_settings:
  custom_auth: custom_auth.user_api_key_auth

Implementierungscode

3. Starten Sie den Proxy​

$ litellm --config /path/to/config.yaml