Zum Hauptinhalt springen

Erste Schritte mit UI-Logs

Zeigen Sie Ausgaben, Token-Nutzung, Schlüssel und Teamnamen für jede Anfrage an LiteLLM an

Übersicht​

ProtokolltypStandardmäßig verfolgt
Erfolgsprotokolle✅ Ja
Fehlerprotokolle✅ Ja
Anforderungs-/Antwortinhalt gespeichert❌ Standardmäßig nein, aktivieren Sie es mit store_prompts_in_spend_logs

Standardmäßig verfolgt LiteLLM den Inhalt der Anfrage und der Antwort nicht.

Verfolgung - Anforderungs-/Antwortinhalt auf der Protokollseite​

Wenn Sie den Inhalt von Anfragen und Antworten in den LiteLLM-Protokollen anzeigen möchten, müssen Sie diese Einstellung aktivieren

general_settings:
  store_prompts_in_spend_logs: true

Speichern von Fehlerprotokollen in der Datenbank stoppen​

Wenn Sie keine Fehlerprotokolle in der Datenbank speichern möchten, können Sie diese Einstellung deaktivieren

general_settings:
  disable_error_logs: True   # Only disable writing error logs to DB, regular spend logs will still be written unless `disable_spend_logs: True`

Speichern von Ausgabenprotokollen in der Datenbank stoppen​

Wenn Sie keine Ausgabenprotokolle in der Datenbank speichern möchten, können Sie diese Einstellung deaktivieren

general_settings:
  disable_spend_logs: True   # Disable writing spend logs to DB

Automatisches Löschen alter Ausgabenprotokolle​

Wenn Sie Ausgabenprotokolle speichern, ist es ratsam, diese regelmäßig zu löschen, um die Datenbank schnell zu halten.

LiteLLM ermöglicht es Ihnen, dies in Ihrer proxy_config.yaml zu konfigurieren

general_settings:
  maximum_spend_logs_retention_period: "7d"  # Delete logs older than 7 days

  # Optional: how often to run cleanup
  maximum_spend_logs_retention_interval: "1d"  # Run once per day

Sie können steuern, wie viele Protokolle pro Lauf gelöscht werden, indem Sie diese Umgebungsvariable verwenden

SPEND_LOG_RUN_LOOPS=200 # Löscht bis zu 200.000 Protokolle in einem Durchlauf (Batch-Größe = 1000)

Für eine detaillierte Architektur und Funktionsweise siehe Löschen von Ausgabenprotokollen.