Rotating Master Key

Hier sind unsere empfohlenen Schritte zum Rotieren Ihres Master Keys.

1. Sichern Sie Ihre DB Im Falle von Fehlern während des Verschlüsselungs-/Entschlüsselungsprozesses können Sie so ohne Probleme zum aktuellen Zustand zurückkehren.

2. Rufen Sie /key/regenerate mit dem neuen Master Key auf

curl -L -X POST 'https://:4000/key/regenerate' \
-H 'Authorization: Bearer sk-1234' \
-H 'Content-Type: application/json' \
-d '{
  "key": "sk-1234",
  "new_master_key": "sk-PIp1h0RekR"
}'

Dies wird alle Modelle in Ihrer Proxy_ModelTable mit dem neuen Master Key neu verschlüsseln.

Erwarten Sie Entschlüsselungsfehler in den Logs, da Ihr alter Master Key die neuen Werte nicht mehr entschlüsseln kann.

   raise Exception("Unable to decrypt value={}".format(v))
Exception: Unable to decrypt value=<new-encrypted-value>

3. Aktualisieren Sie LITELLM_MASTER_KEY

In Ihren Umgebungsvariablen aktualisieren Sie den Wert von LITELLM_MASTER_KEY auf den new_master_key aus Schritt 2.

Dies stellt sicher, dass der zum Entschlüsseln aus der DB verwendete Schlüssel der neue Schlüssel ist.

4. Testen Sie es

Machen Sie eine Testanfrage an ein auf dem Proxy gespeichertes Modell mit einem LiteLLM-Schlüssel (neuer Master Key oder virtueller Schlüssel) und prüfen Sie, ob es funktioniert.

 curl -L -X POST 'http://0.0.0.0:4000/v1/chat/completions' \
-H 'Content-Type: application/json' \
-H 'Authorization: Bearer sk-1234' \
-d '{
    "model": "gpt-4o-mini", # 👈 REPLACE with 'public model name' for any db-model
    "messages": [
        {
            "content": "Hey, how's it going",
            "role": "user"
        }
    ],
}'