LLM-Anmeldeinformationen hinzufĂĽgen
Sie können LLM-Provider-Anmeldeinformationen über die Benutzeroberfläche hinzufügen. Sobald Sie Anmeldeinformationen hinzugefügt haben, können Sie diese bei der Hinzufügung neuer Modelle wiederverwenden.
Eine Anmeldeinformation + Modell hinzufügen​
1. Navigieren Sie zur Seite LLM-Anmeldeinformationen​
Gehen Sie zu Modelle -> LLM-Anmeldeinformationen -> Anmeldeinformation hinzufĂĽgen
2. Anmeldeinformationen hinzufügen​
Wählen Sie Ihren LLM-Provider, geben Sie Ihren API-Schlüssel ein und klicken Sie auf "Anmeldeinformation hinzufügen".
Hinweis: Anmeldeinformationen sind anbieterspezifisch. Wenn Sie Vertex AI auswählen, sehen Sie die Felder Vertex Project, Vertex Location und Vertex Credentials.
3. Anmeldeinformationen bei der Hinzufügung eines Modells verwenden​
Gehen Sie zu Modell hinzufügen -> Vorhandene Anmeldeinformationen -> Wählen Sie Ihre Anmeldeinformationen im Dropdown-Menü aus.
Eine Anmeldeinformation aus einem vorhandenen Modell erstellen​
Verwenden Sie dies, wenn Sie bereits ein Modell erstellt haben und die Anmeldeinformationen des Modells für die zukünftige Verwendung speichern möchten.
1. Modell zur Erstellung einer Anmeldeinformation auswählen​
Gehen Sie zu Modelle -> Wählen Sie Ihr Modell -> Anmeldeinformation -> Anmeldeinformation erstellen
2. Neue Anmeldeinformation bei der Hinzufügung eines Modells verwenden​
Gehen Sie zu Modell hinzufügen -> Vorhandene Anmeldeinformationen -> Wählen Sie Ihre Anmeldeinformationen im Dropdown-Menü aus.
Häufig gestellte Fragen​
Wie werden Anmeldeinformationen gespeichert? Anmeldeinformationen in der Datenbank werden mit LITELLM_SALT_KEY verschlĂĽsselt/entschlĂĽsselt, falls gesetzt. Wenn nicht, werden sie mit LITELLM_MASTER_KEY verschlĂĽsselt. Diese SchlĂĽssel sollten geheim gehalten und nicht an andere weitergegeben werden.