Günstig im Benchmark, teuer im Betrieb

Der echte Verbrauch: das Vier- bis Sechsfache

Wir haben den tatsächlichen Token-Verbrauch im echten Loop gemessen – über alle Iterationen einer Anfrage hinweg – und ihn dem Direct-Lauf gegenübergestellt, also einem einzelnen Aufruf an die Schnittstelle des Modells ohne Agent darum herum (Spalte «rohe API»). Messung vom 28. Oktober 2026, dieselben Fälle wie im September:

→ Tabelle seitlich wischen

Eine einzige Support-Anfrage verbraucht im echten Agenten also nicht 5'000 bis 10'000, sondern 23'000 bis 58'000 Tokens. Wer mit dem Listenpreis × einer Anfrage rechnet, unterschätzt seine Kosten um das Vier- bis Sechsfache. (Die Claude-Modelle zählen für denselben Text mehr Tokens, weil sie anders zerlegen; der Faktor ist davon unabhängig.)

Die Umkehrung: der Input-Preis entscheidet

Der Loop-Verbrauch besteht zu über 99 % aus Input (dem immer wieder neu gesendeten Kontext); das Modell selbst schreibt je Anfrage nur 140 bis 510 Tokens. Rechnet man die echten Loop-Kosten, zählt fast nur noch der Input-Preis, und die Rangfolge aus dem Direct-Vergleich kehrt sich um:

→ Tabelle seitlich wischen

Die Cloud-Preise sind Listenpreise für jeden Input-Token, umgerechnet zum SNB-Kurs vom 28.10.2026. Die Cloud-Anbieter halten rund die Hälfte des Inputs im Zwischenspeicher und verrechnen diesen Teil günstiger; ihre echten Kosten liegen also eher noch tiefer.

In der rohen API ist GPT-5.6-sol das sparsamste Modell (die wenigsten Tokens je Aufruf). Im echten Loop gewinnt, wer den Input am günstigsten anbietet: Claude Haiku 5.5 kostet seit der jüngsten Preisrunde nur noch 0.10 USD je Million Input-Tokens, ein Zehntel seines Vorgängers, und liegt damit klar vorne. Unser self-hosted Modell, das wir auf eigenen GPUs in der Schweiz betreiben, liegt mit rund 0.6 CHF/Mio. Input auf Platz zwei, weit unter den grossen Cloud-Modellen. Bei 1'000 Anfragen pro Tag heisst das grob: ~600 CHF/Monat bei uns gegen ~2'400 bei GPT-5.6-sol oder ~2'700 bei Claude Sonnet 5.5, bei vergleichbarer Treffsicherheit im Agenten.

Nachmessung 28. Oktober 2026: Die Tabellen zeigen die aktuellen Modelle. Im Juni lag unser Modell im Loop noch vorne (~24 CHF gegen ~38 bei Claude Haiku 4.5); seither hat Anthropic die Haiku-Preise auf ein Zehntel gesenkt. Ausserdem rechnet die Messung jetzt mit dem tatsächlichen Anteil von Input und Output je Anfrage statt mit der früheren Annahme von 85 % Input.

Zur Einordnung: Unsere self-hosted Vollkosten von rund 0.6 / 3.0 CHF pro Million Tokens sind so kalkuliert, dass sie unsere Infrastruktur tragen – die GPU-Kosten sind bereits eingerechnet, nicht ein verstecktes Extra obendrauf. Die ~20 CHF/1'000 sind damit eine Vollkosten-Zahl, kein geschönter Grenzpreis, der nur die eine zusätzliche Anfrage rechnet. Unser Verrechnungspreis, also der Preis, den wir Kunden verrechnen, liegt bei 1.00 / 5.00 CHF (siehe «Womit unser Agent denkt»); damit kommt unser Modell im Loop auf rund 33 CHF/1'000, weiterhin deutlich unter GPT-5.6-sol und Claude Sonnet 5.5. Der einzige Vorbehalt: Diese Rechnung setzt eine vernünftige Auslastung der GPU voraus. Läuft sie weitgehend leer, verteilen sich die Fixkosten auf weniger Anfragen, und die effektive Rate steigt. Bei realem Support-Volumen ist genau das aber gegeben.

Der grösste Spar-Hebel hat mit der Modellwahl gar nichts zu tun: weniger Iterationen, ein kleineres Werkzeug-Set pro Anfrage, knapperer Kontext. Genau daran arbeiten wir – es senkt die Kosten bei jedem Modell.

Die Entscheidung – und warum sie hält

Setzen wir die drei Teile zusammen, fällt die Wahl auf Qwen3.5-35B-A3B, self-hosted auf Schweizer Infrastruktur, nicht aus einem einzelnen Bestwert, sondern aus der besten Kombination:

• Treffsicherheit auf Frontier-Niveau, also auf dem Niveau der führenden Cloud-Modelle – 92 % im Juni, 97 % im September und im Oktober gegen die Schnittstelle (A-02 und A-03), im echten Agenten im Oktober gleichauf mit Claude Haiku, Sonnet und Opus 5.5 sowie GPT-5.6-sol, dazu 100 % bei Parametern und Über-Trigger-Disziplin: kein Werkzeugaufruf, wo keiner nötig ist.
• Integrität im Betrieb: null Leaks, also Werkzeugaufrufe, die als Text in der Antwort landen statt ausgeführt zu werden, null Leerantworten, null Fehler im echten Agenten (September und Oktober), genau dort, wo im Juni Infomaniak-Qwen, Opus 4.8 und DeepSeek scheiterten.
• Tiefe Loop-Kosten und kurze Antwortzeit: ein Neuntel von Claude Opus 5.5, ein Viertel von GPT-5.6-sol, mit 2.9 Sekunden im Agenten etwa halb so lange wie die Cloud-Modelle. Günstiger ist heute Claude Haiku 5.5, das aber ausserhalb der Schweiz rechnet und im Agenten rund 5 Sekunden braucht.
• Datensouveränität: ein offenes Modell unter der freien Lizenz Apache-2.0, das wir in der Schweiz betreiben und konfigurieren, keine fremde Cloud-Blackbox, die sich über Nacht ändern kann. Wie das aussieht, zeigte GPT-5.4 im September: auf unveränderter Testoberfläche fiel es von 97 % auf 15 % (A-03).

Proof of Concept: es läuft, und der Benchmark bewacht es

Das ist keine Empfehlung auf Papier – das Modell ist im Einsatz. Es beantwortet reale Support-Anfragen durch genau die Pipeline, die wir in A-03 vermessen haben, mit genau den Fixes, die wir dabei gebaut haben.

Und es bleibt unter Kontrolle: Unser Benchmark ist der Eintrittstest für jede Änderung. Kein Modellwechsel, kein Upgrade kommt in den produktiven Agenten, ohne diese Fälle in vier Sprachen, durch den echten Loop, bestanden zu haben. Wenn morgen ein Modell messbar besser passt – treffsicherer, integerer, günstiger im Loop, mit unseren Souveränitäts-Anforderungen vereinbar – wechseln wir. Datengetrieben, nicht marketinggetrieben, und nie auf Verdacht.

Das ist der Unterschied zwischen «wir nutzen das beste Modell» als Behauptung und als belegter, wiederholbarer Prozess.

Damit schliesst der Modell-Dreiteiler. Wenn Sie wissen wollen, was Ihr Agent im echten Loop wirklich kostet – wir haben die Methodik, die Rohdaten und das Modell, das es belegt. Kontakt.