Partnerschaft mit VSHN rund um vLLM
Du bringst die Kundenbeziehung und die AI/ML-Expertise mit: Entwicklung von LLM-Anwendungen, Modellauswahl, Prompt Engineering, Inferenz-Optimierung. VSHN bringt den Betrieb der vLLM-Infrastruktur, das Management der GPU-Cluster, Monitoring, Skalierung und 24/7-Betrieb. Gemeinsam liefert ihr eine vollständige vLLM-Lösung, ohne dass eine der beiden Seiten Fähigkeiten aufbauen muss, die sie nicht hat.
Warum das funktioniert
Der Umsatz von VSHN kommt aus dem Betrieb des GPU-Clusters, nicht aus der LLM-Anwendung oder dem Prompt Engineering, die deine Arbeit sind. Rund 86 Prozent sind dieser laufende Betrieb, der Rest ist Support und Change Requests. Deine Anwendungs- und Modellarbeit bleibt also ganz deine.
- Kein Interesse an deiner Anwendungsebene: Unser Umsatz hängt von der Verfügbarkeit des Clusters ab, nicht von deinem Entwicklungsmandat
- Deine Kundenbeziehung bleibt bestehen: VSHN betreibt die Infrastruktur im Hintergrund
- Eine Tatsache, kein Versprechen: Die Umsatzverteilung ist der Grund, warum wir nichts davon hätten, in deinen Teil des Stacks zu wechseln
Wie wir zusammenarbeiten
Lead-Partner-Modell. Für jedes Projekt ist einer von uns der zentrale Ansprechpartner für den Kunden. Wer die Führung übernimmt, hängt vom Projekt ab und wird pro Engagement vereinbart. Der Lead Partner treibt das Projekt voran, übernimmt die Rechnungsstellung und ist erste Anlaufstelle für Support.
Gemeinsame Lieferung. Du übernimmst Beratung, Integration und Projektmanagement. VSHN übernimmt Infrastrukturbetrieb, Monitoring, Backups und SLA. Oder umgekehrt, je nach Projekt. Die Aufgabenteilung wird pro Engagement vereinbart, nicht in eine starre Struktur gezwängt.
Flexible Abrechnung. Rechnungsstellung an den Kunden gemeinsam oder getrennt, pro Projekt vereinbart. Beide Modelle werden unterstützt: Jede Partei stellt ihren Anteil direkt in Rechnung, oder eine Partei stellt den Gesamtbetrag in Rechnung und verteilt ihn weiter.
Geschützte Beziehungen. Kein Unterlaufen. Dein Kunde bleibt dein Kunde. Bestehende Beziehungen werden von beiden Seiten respektiert, mit vertraglichen Schutzklauseln für beide Parteien.
Aufgabenteilung bei vLLM
| Deine Rolle | VSHNs Rolle |
|---|---|
| Entwicklung der LLM-Anwendung | Betrieb der vLLM-Infrastruktur |
| Modellauswahl | Management der GPU-Cluster |
| Prompt Engineering | Monitoring, Alerting und 24/7-Incident-Response |
| Inferenz-Optimierung | Skalierung und SLA |
| Projektmanagement und Kundenbeziehung |
Die Kundenbeziehung bleibt bei dir. Die Inferenzserver gibst du ab.
Du hast die LLM-Anwendung gebaut, und vLLM liefert dahinter das Modell aus. GPU-Knoten gesund und das Serving richtig skaliert zu halten, ist eine andere Arbeit als die an der Anwendung, und sie hört am Feierabend nicht auf.
Dann läuft das Lead-Partner-Modell in eine Richtung: Du bleibst die einzige Ansprechperson deines Kunden und stellst ihm Rechnung, VSHN betreibt vLLM im Hintergrund, mit einem Vertrag zwischen dir und uns.
Wir betreiben, was wir kennen. vLLM muss nach dem VSHN-Standard aufgesetzt sein, damit wir den Betrieb rund um die Uhr übernehmen können: wer nachts um drei den Anruf entgegennimmt, muss das System kennen. Ein bestehendes Deployment wird zuerst auf diesen Stand gebracht.
Partner, die vLLM liefern
Unser Partnernetzwerk wächst. Die aktuellen VSHN-Partner findest du unter servala.com/partners.
Partner werden
Möchtest du vLLM-Inferenz-Infrastruktur gemeinsam mit uns liefern? Lass uns erkunden, wie wir uns ergänzen.
Partnerschafts-Gespräch buchen oder Partnerschaftsanfrage starten.