Zum Hauptinhalt springen

v1.56.4

Krrish Dholakia
Ishaan Jaffer

deepgram, fireworks ai, vision, admin-UI, Abhängigkeits-Upgrades

Neue Modelle​

Deepgram Speech to Text​

Neue Speech-to-Text-Unterstützung für Deepgram-Modelle. Start hier

from litellm import transcription
import os 

# set api keys 
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")

response = transcription(model="deepgram/nova-2", file=audio_file)

print(f"response: {response}")

Fireworks AI - Vision Unterstützung für alle Modelle​

LiteLLM unterstützt das Inline-Einbetten von Dokumenten für Fireworks AI-Modelle. Dies ist nützlich für Modelle, die keine Vision-Modelle sind, aber dennoch Dokumente/Bilder usw. verarbeiten müssen. LiteLLM fügt #transform=inline zur URL des image_url hinzu, wenn das Modell kein Vision-Modell ist. Code ansehen

Proxy Admin UI​

  • Der Tab Test Key zeigt das in der Antwort verwendete Modell an.
  • Der Tab Test Key rendert Inhalte im Format .md, .py (beliebiges Code-/Markdown-Format).

Abhängigkeits-Upgrades​

Fehlerbehebungen​