· Daniel Schleipfer · KI
Warum dieselbe KI-Anfrage zwei Geschwindigkeiten hat
Bei der einen Anfrage kommt die Antwort sofort und tröpfelt dann langsam. Bei der anderen dauert das erste Wort, danach läuft der Rest zügig durch. Der Grund: zwei Phasen mit unterschiedlichen Grenzen.