Zum Hauptinhalt springen

[Beta]Service Accounts

Verwenden Sie dies, wenn Sie virtuelle Schlüssel erstellen möchten, die nicht einem bestimmten Benutzer gehören, sondern für Produktionsprojekte erstellt werden

Verwendung​

1. Einstellungen für Service Accounts festlegen​

Setzen Sie service_account_settings, wenn Sie Einstellungen erstellen möchten, die nur für Service-Account-Schlüssel gelten

general_settings:
    service_account_settings: 
        enforced_params: ["user"] # this means the "user" param is enforced for all requests made through any service account keys

2. Service-Account-Schlüssel in der LiteLLM Proxy Admin UI erstellen​

3. Service-Account-Schlüssel testen​

curl --location 'https://:4000/chat/completions' \
    --header 'Authorization: Bearer <sk-your-service-account>' \
    --header 'Content-Type: application/json' \
    --data '{
    "model": "gpt-3.5-turbo",
    "messages": [
        {
        "role": "user",
        "content": "hello"
        }
    ]
}'

Erwartete Antwort

{
  "error": {
    "message": "BadRequest please pass param=user in request body. This is a required param for service account",
    "type": "bad_request_error",
    "param": "user",
    "code": "400"
  }
}