Behandlung von Bild-URLs
Einige LLM-APIs unterstützen keine URLs für Bilder, aber Base64-Strings.
Für diese wird LiteLLM
- Erkennt eine übergebene URL
- Prüft, ob die LLM-API eine URL unterstützt
- Andernfalls wird der Base64 heruntergeladen
- Sendet dem Anbieter einen Base64-String.
LiteLLM speichert dieses Ergebnis auch im Cache, um die Latenz für nachfolgende Aufrufe zu reduzieren.
Das Limit für einen In-Memory-Cache beträgt 1 MB.