--- title: "Technik und Betrieb" source: https://bitvaria.com/blog/themen/technik-und-betrieb --- Fachbeiträge # Technik und Betrieb Wie Modelle arbeiten und was aus einem Modellaufruf eine verlässliche Anwendung macht. ## Guter Einstieg - [![](https://bitvaria.com/_astro/keine-datenbank.NEfw5zCf.jpg)](https://bitvaria.com/keine-datenbank/) 27\. Aug. 2026 5 Min. Lesezeit ## [Warum ein Sprachmodell keine Datenbank ist](https://bitvaria.com/keine-datenbank/) Eine Extraktion liest zuverlässig Werte aus Verträgen, bis ein Feld einmal fehlt. Dieselbe Anfrage liefert trotzdem eine Zahl, sauber formatiert, nur erfunden. Warum ein Sprachmodell keine Datenbank ist und was das für die Prüfung bedeutet. Daniel Schleipfer - [![](https://bitvaria.com/_astro/token.CoJHAWcZ.jpeg)](https://bitvaria.com/was-ist-ein-token/) 15\. Juni 2026 5 Min. Lesezeit ## [Was ist ein Token? Warum ein Sprachmodell keinen Text sieht](https://bitvaria.com/was-ist-ein-token/) Ein Token ist die kleinste Einheit, in die ein Sprachmodell Text zerlegt. Warum das Modell keine Buchstaben sieht, und was diese eine Tatsache an Kosten und Fehlern erklärt. Daniel Schleipfer ## Alle Beiträge zu diesem Thema - [![](https://bitvaria.com/_astro/prompt-caching.Cl9GOLol.jpg)](https://bitvaria.com/prompt-caching/) 6\. Okt. 2026 7 Min. Lesezeit ## [Warum dieselbe lange Anweisung mal fast nichts und mal den vollen Preis kostet](https://bitvaria.com/prompt-caching/) Ein Server kann den Anfang einer Anfrage wiederverwenden, statt ihn neu zu berechnen. Das klappt nur, wenn der Anfang Zeichen für Zeichen derselbe ist. Ab dem ersten abweichenden Token ist die Ersparnis weg. Daniel Schleipfer - [![](https://bitvaria.com/_astro/ist-das-modell-aus-china-ein-problem.Dpppcpzz.jpg)](https://bitvaria.com/ist-das-modell-aus-china-ein-problem/) 1\. Okt. 2026 9 Min. Lesezeit ## [Ist ein KI-Modell aus China ein Problem?](https://bitvaria.com/ist-das-modell-aus-china-ein-problem/) Hinter der Frage stecken drei verschiedene Fragen: wohin die Daten gehen, wie sich das Modell verhält und was im Unternehmen erlaubt ist. Nur die erste löst sich über den Betriebsort. - [![](https://bitvaria.com/_astro/speculative-decoding.9Qt7bc5r.jpg)](https://bitvaria.com/speculative-decoding/) 28\. Sept. 2026 7 Min. Lesezeit ## [Warum eine Antwort langsamer entsteht, als die GPU erlaubt](https://bitvaria.com/speculative-decoding/) Bei jedem Token liest die GPU die kompletten Modellgewichte neu, nur um ein einziges Token zu berechnen. Speculative Decoding lässt ein kleines Modell vorausraten und spart genau diese Wartezeit. Daniel Schleipfer - [![](https://bitvaria.com/_astro/quantization.D5prDg1p.jpg)](https://bitvaria.com/quantization/) 18\. Sept. 2026 6 Min. Lesezeit ## [Warum weniger Bits Antworten verändern können](https://bitvaria.com/quantization/) Weniger Bits sparen Platz für Modellgewichte. Ob die Antworten noch gut genug sind und das Modell schneller läuft, zeigt erst der Vergleich auf den eigenen Aufgaben. Daniel Schleipfer - [![](https://bitvaria.com/_astro/paged-attention.BDNW7Nm9.jpg)](https://bitvaria.com/paged-attention/) 8\. Sept. 2026 5 Min. Lesezeit ## [Warum der GPU-Speicher voll ist, bevor er es sein müsste](https://bitvaria.com/paged-attention/) Eine kurze Antwort kann viel GPU-Speicher blockieren. Paged Attention teilt den KV-Cache in Blöcke auf, die eine Anfrage erst bei Bedarf erhält. Daniel Schleipfer - [![](https://bitvaria.com/_astro/continuous-batching.BYEIgzcb.jpg)](https://bitvaria.com/continuous-batching/) 31\. Aug. 2026 6 Min. Lesezeit ## [Warum eine fertige Antwort noch warten muss](https://bitvaria.com/continuous-batching/) Acht Anfragen starten gleichzeitig auf demselben Server. Die kürzeste ist nach drei Tokens fertig. Trotzdem kommt ihre Antwort erst an, wenn die längste der acht ihr letztes Wort geschrieben hat. Daniel Schleipfer - [![](https://bitvaria.com/_astro/qualitaetsluecke-offener-modelle.DHkMttWi.jpg)](https://bitvaria.com/qualitaetsluecke-offener-modelle/) 14\. Aug. 2026 7 Min. Lesezeit ## [Die Qualitätslücke offener KI-Modelle, ehrlich beziffert](https://bitvaria.com/qualitaetsluecke-offener-modelle/) Im Juni knackte ein offenes Modell erstmals die 50-Punkte-Marke im wichtigsten unabhängigen KI-Ranking, sechs Wochen später rückte ein zweites bis auf drei Punkte an die Spitze heran. Warum die Durchschnittszahl für die eigene Entscheidung trotzdem fast irrelevant ist. - [![](https://bitvaria.com/_astro/sampling.7v5WKIte.jpg)](https://bitvaria.com/sampling/) 12\. Aug. 2026 7 Min. Lesezeit ## [Warum ein Modell auf dieselbe Frage fast nie zweimal dieselbe Antwort gibt](https://bitvaria.com/sampling/) Zweimal dieselbe Frage an dasselbe Modell, zweimal eine andere Antwort. Kein Fehler: Das Modell zieht bei jedem Wort aus einer Wahrscheinlichkeitsverteilung. Was Temperature, Top-p und Top-k dabei tatsächlich einstellen. Daniel Schleipfer - [![](https://bitvaria.com/_astro/prefill-decode.DNxM7bFf.jpg)](https://bitvaria.com/prefill-decode/) 22\. Juli 2026 6 Min. Lesezeit ## [Warum dieselbe KI-Anfrage zwei Geschwindigkeiten hat](https://bitvaria.com/prefill-decode/) Bei der einen Anfrage kommt die Antwort sofort und tröpfelt dann langsam. Bei der anderen dauert das erste Wort, danach läuft der Rest zügig durch. Der Grund: zwei Phasen mit unterschiedlichen Grenzen. Daniel Schleipfer - [![](https://bitvaria.com/_astro/wie-sieht-ki-ein-bild.CwlFrMzB.jpg)](https://bitvaria.com/wie-sieht-ki-ein-bild/) 13\. Juli 2026 6 Min. Lesezeit ## [Wie sieht eine KI ein Bild? Warum sie den Screenshot liest, aber die kleine Zahl übersieht](https://bitvaria.com/wie-sieht-ki-ein-bild/) Ein KI-Modell sieht ein Bild nie als Pixel. Es zerschneidet es in ein Raster aus Kacheln, die zu Zahlen werden, und liest sie wie Tokens. Warum dabei das Kleingedruckte zuerst verschwindet. Daniel Schleipfer - [![](https://bitvaria.com/_astro/ki-modelle-hosten-oder-mieten.DCbdN9Pz.jpg)](https://bitvaria.com/ki-modelle-hosten-oder-mieten/) 30\. Juni 2026 11 Min. Lesezeit ## [Eigene KI-Modelle selbst hosten oder mieten? Die ehrliche Rechnung](https://bitvaria.com/ki-modelle-hosten-oder-mieten/) Lohnt sich ein eigener Server für offene KI-Modelle, oder ist ein Abo günstiger? Die ehrliche Kosten- und Hardware-Rechnung für den Mittelstand, Stand 2026. Daniel Schleipfer - [![](https://bitvaria.com/_astro/kv-cache.DoXy8WTH.jpg)](https://bitvaria.com/kv-cache/) 20\. Juni 2026 5 Min. Lesezeit ## [Warum ein Modell teurer wird, je länger es spricht](https://bitvaria.com/kv-cache/) Dasselbe Modell, dieselbe Frage. Jede Antwort kostet mehr, je länger das Gespräch läuft. Der Grund dafür hat einen Namen: KV-Cache. Daniel Schleipfer [Alle Themen](https://bitvaria.com/blog/themen/) [Alle Beiträge ansehen](https://bitvaria.com/blog/)