Zum Hauptinhalt springen

Weights & Biases - Protokollierung von LLM Ein-/Ausgaben

Tipp

Dies wird von der Community gepflegt. Bitte melden Sie einen Fehler, wenn Sie auf einen stoßen https://github.com/BerriAI/litellm

Weights & Biases hilft KI-Entwicklern, bessere Modelle schneller zu erstellen https://wandb.ai

Info

Wir möchten lernen, wie wir die Callbacks verbessern können! Treffen Sie sich mit den Gründern von LiteLLM oder treten Sie unserem Discord bei.

Voraussetzungen​

Stellen Sie sicher, dass Sie pip install wandb für diese Integration ausgeführt haben

pip install wandb litellm

Schnellstart​

Verwenden Sie nur 2 Codezeilen, um Ihre Antworten über alle Anbieter hinweg mit Weights & Biases sofort zu protokollieren

litellm.success_callback = ["wandb"]
# pip install wandb 
import litellm
import os

os.environ["WANDB_API_KEY"] = ""
# LLM API Keys
os.environ['OPENAI_API_KEY']=""

# set wandb as a callback, litellm will send the data to Weights & Biases
litellm.success_callback = ["wandb"] 
 
# openai call
response = litellm.completion(
  model="gpt-3.5-turbo",
  messages=[
    {"role": "user", "content": "Hi 👋 - i'm openai"}
  ]
)

Support & Sprechen Sie mit den Gründern​