Jedes KI-Team stellt irgendwann dieselbe Frage: Zahlen wir weiter pro Token an ein Frontier-Labor oder betreiben wir ein Open-Weight-Modell selbst? Die ehrliche Antwort hängt von drei Dingen ab: wie viele Tokens Sie tatsächlich nutzen, wie stark Sie eine GPU auslasten können und mit welcher Basis Sie vergleichen.
Veröffentlichte Break-even-Schätzungen schwanken um etwa das Fünfzigfache, weil sie unterschiedliche Modelle, Hardware, Auslastung und Engineering-Kosten annehmen. Wir fassen zusammen, worin sich die Analysen von 2026 einig sind, zeigen die Formel und geben einen Entscheidungsrahmen. Alle Preise und Break-even-Werte unten sind Schätzungen von Anbietern oder Blogs, keine Benchmarks, die wir selbst gemessen haben.
Wie die Token-Preise tatsächlich funktionieren
Frontier-APIs berechnen pro Million Eingabe- und Ausgabe-Tokens, wobei Ausgabe mehrfach teurer ist als Eingabe. Die Quellen, die wir geprüft haben, nennen für Frontier-Modelle grob 2 bis 5 US-Dollar pro Million Eingabe-Tokens und 12 bis 30 US-Dollar pro Million Ausgabe-Tokens, während günstigere Open-Weight-Modelle über Drittanbieter-APIs einen Bruchteil kosten. Preise ändern sich oft, nehmen Sie sie als Größenordnung.
Selbst-Hosting dreht die Kostenstruktur um. Sie zahlen für Hardware oder gemietete GPU-Zeit, ob Sie sie nutzen oder nicht; die Kosten pro Token sind also im Wesentlichen Fixkosten geteilt durch die Zahl der tatsächlich bedienten Tokens.
Die Break-even-Formel
Ein einfaches Modell: Kosten pro Million Tokens = monatliche Infrastrukturkosten ÷ (monatlich bediente Tokens in Millionen). Dazu kommen Engineering und Betrieb. Die Auslastung steckt im Nenner: Eine GPU, die zu 20 % läuft, bedient fünfmal weniger Tokens als eine zu 100 % ausgelastete.
Beispiel, kein Benchmark: Angenommen, ein gemieteter GPU-Server kostet 1.500 US-Dollar im Monat und bedient bei guter Auslastung 1,5 Milliarden Tokens im Monat. Das sind etwa 1 US-Dollar pro Million Tokens vor Engineering-Zeit. Bei 20 % Auslastung bedient derselbe Server 300 Millionen Tokens, und die Kosten steigen auf etwa 5 US-Dollar pro Million, was schlechter sein kann als eine API im mittleren Preissegment.
Was die Analysen von 2026 sagen
Die gemeinsame Erkenntnis der Leitfäden, die wir geprüft haben: Selbst-Hosting lohnt sich nur bei hohem, stetigem Volumen (SitePoint, Aliteq und andere). Die Zahlen weichen ab:
| Basis | Berichteter Break-even |
|---|---|
| Frontier-APIs (Premium-Klasse) | Grob 2 bis 6 Millionen Tokens pro Arbeitstag in einer Analyse; 10 bis 20 Millionen pro Tag in einer anderen, für ein offenes Modell mit 27B bis 70B auf einer gemieteten GPU der H100-Klasse |
| Günstige gehostete Open-Weight-APIs | Oft 50 Millionen Tokens pro Tag und mehr, weil die API schon günstig ist |
| Auslastungsschwelle | Etwa 60 % oder mehr, um Frontier-Preise zu schlagen, laut einem Leitfaden |
Die Lehre: Vergleichen Sie mit der richtigen Basis. Wenn Sie Frontier-Preise für Aufgaben zahlen, die ein kleineres offenes Modell gut erledigt, ist die Ersparnis groß. Wenn Sie schon ein günstiges gehostetes offenes Modell aufrufen können, ist der Fall für eigene Hardware allein nach Kosten schwach.
Die Kosten, die Rechner weglassen
Engineering. Ein Leitfaden schätzt zwei bis vier Wochen Anfangsarbeit für Serving, Batching, Monitoring und Fallbacks.
Betrieb. Dieselbe Quelle setzt den laufenden Aufwand bei etwa 10 bis 20 % der Zeit eines Senior-Engineers an, dazu das Bereitschaftsrisiko, wenn der Modellserver Teil eines Produkts ist.
Leerlauf und Spitzen. Sie müssen für Spitzen ausstatten und die Täler bezahlen. APIs skalieren für Sie auf null.
Qualitätslücke und Drift. Sie verantworten Evaluierungen, Upgrades und Sicherheitsfilter, wenn ein besseres offenes Modell erscheint.
Gründe für Selbst-Hosting jenseits der Kosten
Datenschutz und Souveränität. Regulierte Daten dürfen Ihre Umgebung womöglich nicht verlassen. Siehe unseren Leitfaden zum EU AI Act und die Regulierungsübersicht 2026, warum das zunimmt.
Latenz und Offline-Betrieb. Modelle auf dem Gerät oder vor Ort vermeiden Netzwerk-Umwege und laufen ohne Verbindung. Siehe Edge Computing.
Anpassung. Feinabgestimmte kleine Modelle können allgemeine bei engen Aufgaben schlagen und zum Produkt-Burggraben werden; mehr dazu in Monetarisierung feinabgestimmter SLMs.
Planbarkeit. Eine feste Monatsrechnung lässt sich leichter budgetieren als Nutzung, die mit dem Traffic schwankt.
Ein praktischer Entscheidungsrahmen
Mit der API beginnen. Prototypen Sie mit einem Frontier-Modell, um zu lernen, welche Qualität Sie brauchen.
Tokens und Spitzen messen. Protokollieren Sie einen Monat lang Tokens pro Aufgabe und Tag, bevor Sie etwas kaufen.
Ein offenes Modell mit Ihren Daten testen. Besteht es Ihre Evaluierung, leiten Sie diese Aufgabe zuerst an ein günstiges gehostetes offenes Modell.
Selbst hosten, wenn das Volumen stetig und groß ist oder Datenregeln es verlangen. Peilen Sie mindestens 60 % Auslastung an.
Einen hybriden Router nutzen. Routinearbeit an ein lokales oder offenes Modell, schwierige Fälle an ein Frontier-Modell. Die Kosten sinken, ohne die Qualität zu deckeln. Wenn Sie Hilfe bei der Dimensionierung wünschen, sprechen Sie mit uns oder sehen Sie sich unsere KI-Leistungen an.
Häufig gestellte Fragen
Ist Selbst-Hosting eines LLM günstiger als eine API?
Nur bei ausreichendem, stetigem Volumen. Mehrere Analysen von 2026 setzen den Break-even gegenüber Frontier-APIs je nach Modellgröße und Hardware bei etwa 2 bis 20 Millionen Tokens pro Tag an, gegenüber günstigen gehosteten Open-Weight-APIs deutlich höher. Bei geringem Volumen ist die API meist günstiger, sobald Engineering-Zeit eingerechnet ist.
Sind Open-Weight-Modelle so gut wie Frontier-Modelle?
Für viele klar umrissene Aufgaben wie Klassifikation, Extraktion, Zusammenfassung und alltägliche Coding-Hilfe ja, besonders nach Feinabstimmung. Bei schwierigstem Schlussfolgern und langen Agenten-Aufgaben liegen Frontier-Modelle meist weiter vorn. Testen Sie mit Ihren eigenen Daten.
Welche versteckten Kosten hat Selbst-Hosting?
Anfängliches Engineering (ein Leitfaden schätzt zwei bis vier Wochen), laufender Betrieb (etwa 10 bis 20 % einer Senior-Stelle), ungenutzte GPU-Zeit, Monitoring, Sicherheitshärtung und Modell-Updates.
Wann sollte ich aus Datenschutzgründen statt wegen der Kosten selbst hosten?
Wenn Daten Ihre Umgebung aus rechtlichen, vertraglichen oder Souveränitätsgründen nicht verlassen dürfen, kann ein lokales oder privates Cloud-Modell unabhängig vom Preis die einzige Option sein. Kombinieren Sie es mit Zugriffskontrollen und Protokollierung.