Provider Files Endpoints
Dateien werden hochgeladen, um sie mit Funktionen wie Assistenten, Fine-Tuning und der Batch-API zu verwenden.
Verwenden Sie dies, um direkt ĂĽber die /files Endpunkte des Anbieters im OpenAI-Format aufzurufen.
Schnellstart​
- Datei hochladen
- Dateien auflisten
- Dateieninformationen abrufen
- Datei löschen
- Dateiinhalte abrufen
- LITELLM PROXY SERVER
- SDK
- Konfigurieren Sie config.yaml
# for /files endpoints
files_settings:
- custom_llm_provider: azure
api_base: https://exampleopenaiendpoint-production.up.railway.app
api_key: fake-key
api_version: "2023-03-15-preview"
- custom_llm_provider: openai
api_key: os.environ/OPENAI_API_KEY
- LiteLLM PROXY Server starten
litellm --config /path/to/config.yaml
## RUNNING on http://0.0.0.0:4000
- Verwenden Sie die /files Endpunkte von OpenAI
Datei hochladen
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="http://0.0.0.0:4000/v1"
)
client.files.create(
file=wav_data,
purpose="user_data",
extra_body={"custom_llm_provider": "openai"}
)
Dateien auflisten
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="http://0.0.0.0:4000/v1"
)
files = client.files.list(extra_body={"custom_llm_provider": "openai"})
print("files=", files)
Dateieninformationen abrufen
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="http://0.0.0.0:4000/v1"
)
file = client.files.retrieve(file_id="file-abc123", extra_body={"custom_llm_provider": "openai"})
print("file=", file)
Datei löschen
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="http://0.0.0.0:4000/v1"
)
response = client.files.delete(file_id="file-abc123", extra_body={"custom_llm_provider": "openai"})
print("delete response=", response)
Dateiinhalte abrufen
from openai import OpenAI
client = OpenAI(
api_key="sk-...",
base_url="http://0.0.0.0:4000/v1"
)
content = client.files.content(file_id="file-abc123", extra_body={"custom_llm_provider": "openai"})
print("content=", content)
Datei hochladen
from litellm
import os
os.environ["OPENAI_API_KEY"] = "sk-.."
file_obj = await litellm.acreate_file(
file=open("mydata.jsonl", "rb"),
purpose="fine-tune",
custom_llm_provider="openai",
)
print("Response from creating file=", file_obj)
Dateien auflisten
files = await litellm.alist_files(
custom_llm_provider="openai",
limit=10
)
print("files=", files)
Dateieninformationen abrufen
file = await litellm.aretrieve_file(
file_id="file-abc123",
custom_llm_provider="openai"
)
print("file=", file)
Datei löschen
response = await litellm.adelete_file(
file_id="file-abc123",
custom_llm_provider="openai"
)
print("delete response=", response)
Dateiinhalte abrufen
content = await litellm.afile_content(
file_id="file-abc123",
custom_llm_provider="openai"
)
print("file content=", content)