vLLM Souveränität: Open-Source-Inferenz auf Schweizer Infrastruktur
vLLM ist Open Source unter der Apache-2.0-Lizenz. Für Souveränität ist das entscheidend: Du kannst LLM-Inferenz mit hohem Durchsatz auf deiner eigenen GPU-Infrastruktur in der Schweiz betreiben, mit vollem Einblick in den Code, der deine Daten verarbeitet.
Wer die API von OpenAI, Azure OpenAI oder AWS Bedrock für Inferenz nutzt, schickt jeden Prompt und jede Modellausgabe durch US-Infrastruktur. Diese Infrastruktur untersteht US-Recht und ist über den CLOUD Act ohne Schweizer Rechtsweg zugänglich. Deine Prompts und Completions verlassen die Schweizer Jurisdiktion nur dann nicht, wenn die Inferenz-Engine selbst auf Schweizer Boden läuft.
Souveränität ist mehr als die Frage, wo die GPUs stehen. Das EU Cloud Sovereignty Framework definiert acht Dimensionen, die darüber entscheiden, ob ein Anbieter wirklich souverän ist.
Warum vLLM für souveräne Inferenz eine gute Wahl ist
Anders als proprietäre Inferenz-APIs von OpenAI, Google oder Amazon bietet dir vLLM:
- Kein Vendor-Lock-in: Betreibe jedes kompatible Open-Weight-Modell (Llama, Mistral, Qwen und weitere)
- Vollständige Auditierbarkeit des Codes: Jede Zeile von vLLM ist auf GitHub einsehbar
- Keine Datenabflüsse: Prompts und Ausgaben bleiben auf deiner Infrastruktur, ohne Ausnahme
- Community-Governance: Apache-2.0-Lizenz, aktive Open-Source-Community
- Hardware-Flexibilität: Betrieb auf GPUs von NVIDIA, AMD oder Intel, ohne Freigabe durch einen API-Anbieter
VSHN betreibt vLLM auf Schweizer Kubernetes-Clustern mit GPU-Scheduling. Zusammen mit dem Schweizer Eigentum und Betrieb von VSHN entsteht so eine durchgehend souveräne Inferenz-Plattform.
vLLM-Souveränität im Vergleich
| Dimension | OpenAI API | Azure OpenAI | AWS Bedrock Inference | VSHN Managed vLLM |
|---|---|---|---|---|
| Eigentümerschaft | OpenAI (USA) | Microsoft (USA) | Amazon (USA) | VSHN AG (Schweiz) |
| Anwendbares Recht | US-Recht | US-Recht | US-Recht | Schweizer Recht |
| CLOUD Act | Betroffen | Betroffen | Betroffen | Nicht betroffen |
| Datenstandort | USA | Regional (US-kontrolliert) | Regional (US-kontrolliert) | Schweiz (Cloudscale, Exoscale oder nach deiner Wahl) |
| Inferenz-Engine | Proprietär | Proprietär | Proprietär | Open Source (vLLM, Apache 2.0) |
| Zugriff auf Prompt-Daten | Anbieter hat Zugriff, Nutzung für Training möglich | Microsoft hat Zugriff | Amazon hat Zugriff | VSHN hat betrieblichen Zugriff nur für autorisierten Support, nie für Modelltraining |
| Zugriff durch Personal im Ausland | Subprozessor-Liste von OpenAI | Teams weltweit, Fernzugriff von ausserhalb EU und EFTA für Reparaturen | Supportteams weltweit, darunter USA und Indien | VSHN Canada für nächtlich geplante Arbeiten; keiner mit der Option Schweiz-only |
| Zertifizierungen | SOC 2 | SOC 2, ISO 27001 | SOC 2, ISO 27001 | ISO 27001, ISAE 3402 Type II |
VSHN-Selbstbewertung zur Souveränität
Wir haben das Cloud Sovereignty Framework der EU (v1.2.1, Oktober 2025) auf unsere eigenen Dienste angewandt. Dieses Framework wurde im April 2026 bei der EUR-180-Mio.-Ausschreibung der EU für souveräne Cloud zur Bewertung von Anbietern eingesetzt. Drei rein europäische Anbieter erreichten SEAL-3, während ein Konsortium mit Google Cloud nur SEAL-2 erzielte.
Dies ist eine Selbstbewertung, keine formale SEAL-Zertifizierung. Wir veröffentlichen sie aus Transparenzgründen, damit Kunden unser Souveränitätsprofil anhand derselben strukturierten Kriterien bewerten können, die auch die EU verwendet.
| # | Dimension | Gewichtung | Bewertung | Nachweis |
|---|---|---|---|---|
| SOV-1 | Strategisch | 15% | Stark | Schweizer AG, kein ausländischer Mutterkonzern, alle Aktionäre Schweizer Bürger (Handelsregister) |
| SOV-2 | Rechtlich | 10% | Stark | Schweizer Recht (AGB), kein CLOUD Act, EU-Angemessenheitsbeschluss |
| SOV-3 | Daten & KI | 10% | Stark | Schweizer Rechenzentren als Standard. Souveränes Key Management via Managed OpenBao + Swiss HSM |
| SOV-4 | Operativ | 15% | Stark | Schweizer 24/7-Betrieb, Swiss-only-Support-Option. Alle Services auf Vanilla Kubernetes |
| SOV-5 | Lieferkette | 20% | Stark | Infrastruktur-agnostisch, der Kunde wählt den Anbieter. Open-Source-Software |
| SOV-6 | Technologie | 15% | Stark | 100% Open Source. VSHN trägt zu K8up (CNCF Sandbox) bei und pflegt Project Syn |
| SOV-7 | Sicherheit | 10% | Stark | ISO 27001, ISAE 3402 Type II, Swiss SOC. FINMA-regulierte Kunden |
| SOV-8 | Umwelt | 5% | Mittel | DC-Betreiber: Green Datacenter AG (ISO 22301/27001/27701), Exoscale Sustainability. VSHN-CSR-Richtlinie |
Gesamtbewertung: SEAL-3-Äquivalent, dieselbe Stufe, die auch die Gewinner der EU-eigenen Souveränitätsausschreibung erreicht haben. Kein Bieter in der EU-Ausschreibung erreichte SEAL-4: Dafür braucht es vollständige EU-Kontrolle ohne kritische Abhängigkeiten ausserhalb der EU, und jeder Cloud-Anbieter hängt von Hardware aus Asien und den USA ab und von Open-Source-Projekten, die US-Stiftungen wie die Linux Foundation und die CNCF tragen.
Schweizer Infrastruktur testen: APPUiO (Managed Kubernetes, kostenlos testen), Exoscale (Swiss IaaS). Hilfe bei der Wahl? Kontaktiere uns.
Souveränitätsanalyse für dein Inferenz-Setup
Wenn du Inferenz über US-gehostete APIs betreibst oder souveräne Alternativen prüfst, bewerten wir dein aktuelles Setup anhand des EU-Frameworks und entwerfen ein vLLM-Deployment, das deine Prompts und Modellausgaben unter Schweizer Jurisdiktion hält.