Datenschutz und Sicherheit

Bei LiteLLM ist der Schutz Ihrer Daten-Privatsphäre und -Sicherheit unsere oberste Priorität. Wir erkennen die entscheidende Bedeutung der Daten, die Sie uns anvertrauen, an und behandeln diese mit höchster Sorgfalt.

Mit LiteLLM Cloud kümmern wir uns um

• Bereitstellung

• Skalierung

• Upgrades und Sicherheitspatches

• Sicherstellung hoher Verfügbarkeit

Sicherheitsmaßnahmen

LiteLLM Cloud

• Wir verschlüsseln alle gespeicherten Daten mit Ihrem LITELLM_MASTER_KEY und Daten während der Übertragung über TLS.
• Unsere Datenbank und Anwendung laufen auf Infrastrukturen von GCP und AWS, teilweise verwaltet von NeonDB.
  • US-Datenregion: Nordkalifornien (AWS/GCP us-west-1) & Virginia (AWS us-east-1)
  • EU-Datenregion Deutschland/Frankfurt (AWS/GCP eu-central-1)
• Alle Benutzer haben Zugriff auf SSO (Single Sign-On) über OAuth 2.0 mit Google, Okta, Microsoft, KeyCloak.
• Audit-Protokolle mit Aufbewahrungsrichtlinie
• Kontrollieren Sie erlaubte IP-Adressen, die auf Ihre Cloud LiteLLM Instanz zugreifen können

Selbst gehostete LiteLLM Instanzen

• Es werden keine Daten oder Telemetriedaten auf LiteLLM Servern gespeichert, wenn Sie selbst hosten
• Für Installation und Konfiguration siehe: Anleitung zum Selbst-Hosting
• Telemetrie: Wir führen keine Telemetrie aus, wenn Sie LiteLLM selbst hosten

Bei Sicherheitsanfragen kontaktieren Sie uns bitte unter support@berri.ai

Sicherheitszertifizierungen

Zertifizierung	Status
SOC 2 Typ I	Zertifiziert. Bericht auf Anfrage für Enterprise-Pläne verfügbar.
SOC 2 Typ II	In Bearbeitung. Zertifikat verfügbar bis 15. April 2025
ISO 27001	Zertifiziert. Bericht auf Anfrage für Enterprise-Pläne verfügbar.

Unterstützte Datenregionen für LiteLLM Cloud

LiteLLM unterstützt die folgenden Datenregionen

• USA, Nordkalifornien (AWS/GCP us-west-1)
• Europa, Frankfurt, Deutschland (AWS/GCP eu-central-1)

Alle Daten, Benutzerkonten und Infrastrukturen sind vollständig zwischen diesen beiden Regionen getrennt

Sammlung personenbezogener Daten

Für selbst gehostete LiteLLM-Benutzer:

• Es werden keine personenbezogenen Daten gesammelt oder an LiteLLM-Server übertragen, wenn Sie unsere Software selbst hosten.
• Alle generierten oder verarbeiteten Daten verbleiben ausschließlich in Ihrer eigenen Infrastruktur.

Für LiteLLM Cloud-Benutzer:

• LiteLLM Cloud verfolgt LLM-Nutzungsdaten – Wir greifen nicht auf den Inhalt von Nachrichten/Antworten Ihrer API-Anfragen oder -Antworten zu oder speichern diese. Sie können die hier verfolgten Felder einsehen.

Verwendung und Weitergabe von personenbezogenen Daten

• Nur Proxy-Administratoren können ihre Nutzungsdaten einsehen, und sie können nur die Nutzungsdaten ihrer Organisation einsehen.
• Proxy-Administratoren haben die Möglichkeit, andere Benutzer/Administratoren zu ihrem Server einzuladen, um deren eigene Nutzungsdaten einzusehen.
• LiteLLM Cloud verkauft oder teilt keine Nutzungsdaten mit Dritten.

Cookie-Informationen, Sicherheit und Datenschutz

Für selbst gehostete LiteLLM-Benutzer:

• Cookie-Daten verbleiben in Ihrer eigenen Infrastruktur.
• LiteLLM verwendet minimale Cookies, ausschließlich zu dem Zweck, Proxy-Benutzern den Zugriff auf die LiteLLM Admin UI zu ermöglichen.
• Diese Cookies werden in Ihrem Webbrowser gespeichert, nachdem Sie sich angemeldet haben.
• Wir verwenden keine Cookies für Werbung, Tracking oder andere Zwecke, außer zur Aufrechterhaltung Ihrer Anmeldesitzung.
• Die einzigen verwendeten Cookies sind für die Authentifizierung des Benutzers und die Sitzungsverwaltung für die App-Benutzeroberfläche unerlässlich.
• Sitzungs-Cookies verfallen, wenn Sie Ihren Browser schließen, sich abmelden oder nach 24 Stunden.
• LiteLLM verwendet keine Cookies von Drittanbietern.
• Die Admin-Benutzeroberfläche greift auf das Cookie zu, um Ihre Anmeldesitzung zu authentifizieren.
• Das Cookie wird als JWT gespeichert und ist für keinen anderen Teil des Systems zugänglich.
• Wir (LiteLLM) greifen nicht auf diese Cookie-Daten zu und teilen sie für keinen anderen Zweck.

Für LiteLLM Cloud-Benutzer:

• LiteLLM verwendet minimale Cookies, ausschließlich zu dem Zweck, Proxy-Benutzern den Zugriff auf die LiteLLM Admin UI zu ermöglichen.
• Diese Cookies werden in Ihrem Webbrowser gespeichert, nachdem Sie sich angemeldet haben.
• Wir verwenden keine Cookies für Werbung, Tracking oder andere Zwecke, außer zur Aufrechterhaltung Ihrer Anmeldesitzung.
• Die einzigen verwendeten Cookies sind für die Authentifizierung des Benutzers und die Sitzungsverwaltung für die App-Benutzeroberfläche unerlässlich.
• Sitzungs-Cookies verfallen, wenn Sie Ihren Browser schließen, sich abmelden oder nach 24 Stunden.
• LiteLLM verwendet keine Cookies von Drittanbietern.
• Die Admin-Benutzeroberfläche greift auf das Cookie zu, um Ihre Anmeldesitzung zu authentifizieren.
• Das Cookie wird als JWT gespeichert und ist für keinen anderen Teil des Systems zugänglich.
• Wir (LiteLLM) greifen nicht auf diese Cookie-Daten zu und teilen sie für keinen anderen Zweck.

Richtlinien für die Meldung von Sicherheitslücken

Wir schätzen die Rolle der Sicherheits-Community beim Schutz unserer Systeme und Benutzer. Um eine Sicherheitslücke zu melden

• Senden Sie eine E-Mail an support@berri.ai mit Details
• Beschreiben Sie die Schritte zur Reproduktion des Problems
• Stellen Sie alle relevanten zusätzlichen Informationen bereit

Wir werden alle Berichte umgehend prüfen. Beachten Sie, dass wir derzeit kein Bug-Bounty-Programm anbieten.

Schwachstellenscans

• LiteLLM führt grype Sicherheitsscans auf allen erstellten Docker-Images durch.
  • Siehe grype litellm Check auf ci/cd.
  • Aktueller Status: ✅ Bestanden. Keine Schwachstellen mit hoher/kritischer Schwere gefunden.

Rechtliche/Compliance-FAQs

Beschaffungsoptionen

1. Rechnungsstellung
2. AWS Marketplace
3. Azure Marketplace

Anbieterinformationen

Gesetzlicher Firmenname: Berrie AI Incorporated

Telefonnummer des Unternehmens: 7708783106

Kontaktperson für Sicherheitsvorfälle: krrish@berri.ai

Kontaktperson für allgemeine sicherheitsbezogene Fragen: krrish@berri.ai

Wurde der Anbieter geprüft / zertifiziert?

• SOC 2 Typ I. Zertifiziert. Bericht auf Anfrage für Enterprise-Pläne verfügbar.
• SOC 2 Typ II. In Bearbeitung. Zertifikat verfügbar bis 15. April 2025.
• ISO 27001. Zertifiziert. Bericht auf Anfrage für Enterprise-Pläne verfügbar.

Wurde ein Informationssicherheitsmanagementsystem implementiert?

• Ja - CodeQL und ein umfassendes ISMS, das mehrere Sicherheitsbereiche abdeckt.

Werden Schlüsselereignisse protokolliert – Authentifizierung, Erstellung, Aktualisierung von Änderungen?

• Ja – wir haben Audit-Protokolle

Verfügt der Anbieter über ein etabliertes Programm für das Management von Cybersicherheitsvorfällen?

• Ja, Incident Response Policy auf Anfrage erhältlich.

Verfügt der Anbieter über eine Richtlinie zur Offenlegung von Schwachstellen? Ja

Führt der Anbieter Schwachstellenscans durch?

• Ja, regelmäßige Schwachstellenscans werden durchgeführt, wie im Abschnitt Schwachstellenscans detailliert beschrieben.

Name des Unterzeichners: Krish Amit Dholakia

E-Mail des Unterzeichners: krrish@berri.ai