Zum Hauptinhalt springen

Behandlung von Bild-URLs

Einige LLM-APIs unterstützen keine URLs für Bilder, aber Base64-Strings.

Für diese wird LiteLLM

  1. Erkennt eine übergebene URL
  2. Prüft, ob die LLM-API eine URL unterstützt
  3. Andernfalls wird der Base64 heruntergeladen
  4. Sendet dem Anbieter einen Base64-String.

LiteLLM speichert dieses Ergebnis auch im Cache, um die Latenz für nachfolgende Aufrufe zu reduzieren.

Das Limit für einen In-Memory-Cache beträgt 1 MB.