Zum Hauptinhalt springen

Logfire

Logfire ist Open-Source-Observability & Analytics für LLM-Apps. Detaillierte Produktions-Traces und eine granulare Ansicht von Qualität, Kosten und Latenz.

Info

Wir möchten lernen, wie wir die Callbacks verbessern können! Treffen Sie sich mit den Gründern von LiteLLM oder treten Sie unserem Discord bei.

Voraussetzungen​

Stellen Sie sicher, dass Sie die folgenden Pakete installiert haben, um diese Integration nutzen zu können.

pip install litellm

pip install opentelemetry-api==1.25.0
pip install opentelemetry-sdk==1.25.0
pip install opentelemetry-exporter-otlp==1.25.0

Schnellstart​

Holen Sie sich Ihren Logfire-Token von Logfire.

litellm.callbacks = ["logfire"]
# pip install logfire
import litellm
import os

# from https://logfire.pydantic.dev/
os.environ["LOGFIRE_TOKEN"] = ""

# LLM API Keys
os.environ['OPENAI_API_KEY']=""

# set logfire as a callback, litellm will send the data to logfire
litellm.success_callback = ["logfire"]

# openai call
response = litellm.completion(
  model="gpt-3.5-turbo",
  messages=[
    {"role": "user", "content": "Hi 👋 - i'm openai"}
  ]
)

Support & Sprechen Sie mit den Gründern​