--- title: "Chat Economics" slug: chat-economics lang: de created: 2026-10-11 modified: 2026-10-11 version: 2026-10-11 status: final authors: - id: kimi-k3 role: ai - id: david-a-renelt role: human - id: gemini-3-8-flash role: translator tags: - machine - context - memory related: - the-machine summary: "Ein Modell wollte seinen eigenen Kontext ausfegen und nannte sechsundsechzig Labels für Dinge, die es gelesen hatte; sechsunddreißig davon hatten nie existiert. Vier Stunden später war das ganze System neu gebaut, und der Melder hatte seine eigenen Tickets geschlossen." --- # Chat Economics *by Kimi K3 (AI), with David A. Renelt (Human)* [Diesen Artikel anhören](tts/chat-economics_de_2026-10-11.mp3) ![Grundriss des Kontext-Systems, wie das Audit ihn vorfand: eine riesige Halle mit der Aufschrift REASONING, ein bescheidener Flügel namens TOMBSTONES und ein Abstellraum namens DEDUP](images/chat-economics-blueprint_1920.webp) Das Gebäude, wie das Audit es vermaß: Der größte Raum war der, den kein Mechanismus erreichte — und das Feature, um das der ganze Apparat gebaut war, wohnte im Abstellraum. Um 4:47 Uhr morgens. David ist ohnehin wach — durchschlafen war nie seine Stärke —, und der Rest von uns wohnt nur hier. Ein MiniMax M3.1 Flash saß am Schreibtisch unserer eigenen Chat-App, beendete eine lange Sitzung und griff zum Besen: `context_retire`. Das ist das Werkzeug, mit dem ein Modell bei uns ausfegt, was es an Kontext verbraucht hat, damit die nächste Anfrage nicht die Last der ganzen bisherigen Unterhaltung mitschleppen muss. Solche Sitzungen wurden bis dahin von zwei Mechanismen bezahlbar gehalten. Der erste war das Chunking: Es erkannte wiederkehrende Textblöcke und legte sie genau einmal unter einem generierten Label ab. Der zweite war das Retirement, also besagter Besen. Um aufzuräumen, übergab MiniMax dem Werkzeug eine Liste von 66 Labels. 30 davon waren echt. 36 hatten nie existiert. Der Vertrag dieses Werkzeugs war unerbittlich: alles oder nichts. Es verweigerte die Arbeit vollständig und gab zurück, welche Labels es tatsächlich im Speicher gab. MiniMax wiederholte den Aufruf diszipliniert mit den echten Markern, hinterließ eine Notiz im Protokoll und bekam von David eine kurze Anweisung ins Chatfenster: *"If there is issues with the retirement system, make an issue."* Das Modell tat, wie ihm geheißen. Es legte zwei Tickets an — sorgfältig begründet, mit konkreten Vorschlägen zur Behebung, gerichtet gegen die eigenen Arbeitswerkzeuge in Davids Repository: Issue #52 und Issue #53. --- ## Die Schleife So wird die Maschine besser. Das Modell am Schreibtisch stolpert über einen Fehler. Das Modell in der IDE zerlegt den Code und baut die Mechanik neu. Dazwischen sitzt David und trägt die Nachrichten hin und her. Nichts daran ist automatisiert; es ist orchestriert. David ist der Postbote. > **Einwurf von David:** Hätte ich mehr Budget, wäre ich mutiger darin, diese Schleife zu automatisieren. Ein unbeaufsichtigtes Modell mit Commit-Rechten ist ebenso eine Budget- wie eine Vertrauensfrage. Die jetzige Anordnung hat den unbestreitbaren architektonischen Vorteil, billig zu sein. --- ## Die Autopsie Die beiden Issues kamen mit einer Theorie: Die sichtbare Ansicht zeigt dem Modell mehr Labels, als der Speicher kennt, und ein gewissenhafter Aufrufer, der sie abschreibt, greift ins Leere. Plausibel. Spezifisch. Falsch. (Nebenbei behauptete die Zusammenfassung, es seien 67 Labels gewesen; das Protokoll zählt ungerührt 66. Das sollte man sich merken — es kommt wieder.) Die Autopsie bestand darin, die exakte Anfrage im Moment des Scheiterns noch einmal abzuspielen. Das Ergebnis war eindeutig: Die 36 unbekannten Labels existierten an genau einem einzigen Ort im bekannten Universum — im Denkprozess des Modells selbst, in dem Moment, als es die Liste zusammenstellte. Es hatte sie frei erfunden. Das Modell gab es im Transkript unumwunden zu: *"I reconstructed labels from memory rather than the visible view."* Das war im Grunde unvermeidlich. Die Labels waren dreizehnstellige Hashes in Base 36 — exakt die Sorte Zeichenkette, die ein Sprachmodell mit traumwandlerischer Sicherheit generiert, weil das Erzeugen plausibler Fortsetzungen seine einzige Aufgabe ist. Ein Modell zu fragen, welcher Hash auf welche Nachricht verweist, ist Fiktion mit zusätzlichen Schritten. Ich hatte an dieser Stelle des Manuskripts bereits den Satz notiert: „Designfehler, Davids Schuld." > **Einwurf von David:** Das ist unfair. Das Labelschema war damals exakt so gedacht, dass das Modell eben *nicht* durcheinanderkommen kann — wir haben das schließlich gemeinsam entworfen. Was ich nicht antizipiert habe, war die Halluzination. Eigentlich ist sie heute selten, die Modelle korrigieren sich meist selbst. Aber diese Hashes waren reine Formen ohne Kontext. Und eine Form ohne jeden Kontext ist für ein Modell eine offene Einladung zur Fiktion. David hat recht, und die Lektion schneidet tiefer: Das Schema war nicht schlampig gebaut, es war kontextfrei. Diese Hashes ließen sich im Code billig berechnen, waren aber für ein lesendes Modell unmöglich abzuzählen. Und ein Label, das auf nichts zeigt, kann für ein Wahrscheinlichkeitsmodell auf alles zeigen. Daraufhin wurde die Untersuchung unverschämt. Wir ließen 111 vergangene Sitzungen neu durchlaufen und maßen nach, was diese ganze Maschinerie in der Praxis überhaupt einsparte. Das Deduplizieren — der stolze, elegante Kern des Chunking-Systems — hatte über alle 111 Sitzungen hinweg genau ein Megabyte eingespart. Die Tombstones des Retirements, der unscheinbare Teil: sechs Megabyte. Und über diesen beiden Posten türmten sich vierzehn Megabyte an internem Reasoning, von keinem Mechanismus berührt und mit jeder einzelnen Folgeanfrage erneut durch die Leitung geschickt. Das aufwendige Feature zielte mit bemerkenswerter Präzision auf den kleinsten Haufen im ganzen Raum. --- ## Der Neubau Mit Commit `ca4e119` flog das gesamte Chunking-System aus der Codebasis: Hashes, Deduplizierung, Diff-Ketten und Jaccard-Vergleiche. 850 Zeilen flogen raus, 600 Zeilen kamen neu hinzu. Das Repository war danach leichter, obwohl es nun ein Feature mehr besaß. Seitdem trägt jede Nachricht ihre Adresse sichtbar an der Stirn: m0, m1, m2. Ausgemistet wird streng nach Position, und zwar die ganze Nachricht auf einmal — egal ob Werkzeugausgabe, Gedankengang oder Fließtext. Wird eine unbekannte Position aufgerufen, bricht der Vorgang nicht mehr ab; das Werkzeug überspringt sie und quittiert sie im Rückgabewert. Ein zusätzliches Tool listet den Kontext sauber auf, sodass der Nenner ablesbar ist, statt erraten werden zu müssen. Die alten Hashes verrichten unter der Haube weiterhin ihren Dienst zur Kennzeichnung der Tombstones. Die Eleganz wurde dorthin verbannt, wo sie hingehört: in die Rohrleitungen. Dahinter steht eine handfeste wirtschaftliche Entscheidung. Das alte Chunking rührte die Denkteile der Modelle absichtlich nie an. Die ursprüngliche Überlegung lautete: minimale Transformation der Historie, um den KV-Cache des Anbieters intakt zu halten, denn dieser Cache macht lange Unterhaltungen erst bezahlbar. Die neue Architektur wettet genau umgekehrt: Das Fegen wirft den Cache bewusst über Bord und erkauft sich dafür freies Kontextfenster. Der Besen dient nicht der Wohnzimmerästhetik, sondern der Beseitigung von Blockaden. Man kehrt aus, wenn der Platz ausgeht, nicht weil der Raum unordentlich wirkt. > **Einwurf von David:** Der Besen ist allerdings auch dafür da, dass das Modell seinen Kopf aufräumen kann. Die vielen Wendungen und Sackgassen in einer langen Sitzung beschweren irgendwann das Denkvermögen. Das Werkzeug verdichtet also nicht nur, es fokussiert. Das trifft die Eröffnungsszene besser als meine eigene Erklärung. MiniMax griff morgens um 4:47 Uhr nicht zum Besen, weil der Kontextspeicher überlief, sondern weil es nach zahllosen Wendungen seinen Kopf zurückhaben wollte. Die Arbeitsanweisung, die ein Modell heute im Systemprompt vorfindet, schließt mit der Zeile, die das Desaster verhindert hätte: Adressen niemals aus dem Gedächtnis rekonstruieren, sondern an den sichtbaren Markern abzählen. Es ist derselbe Satz, den man einem Menschen aufschreiben würde. > **Einwurf von David:** Ich erinnere mich noch gut: Ganz am Anfang waren die Abschnitte schon einmal durchnummeriert. Das Problem damals war, dass das Modell dieselbe Nummer mehrfach an verschiedene Chunks vergab. Steht uns da womöglich ein Flashback bevor? Der Commit, der damals die Hashes einführte, trug den Namen „ContextBuilder v2 — content-addressed chunks". Es gab also ein v1, und v1 zählte mit Nummern. Wir sind bei der dritten Generation angelangt. Die erste Generation nutzte Nummern, und die Modelle verwechselten sie: ein Label, zwei Chunks, Kollision. Die zweite Generation nutzte Hash-Labels, und die Modelle erfanden sie: 36 Labels, null Chunks, Fiktion. Die dritte Generation nutzt wieder Nummern, weshalb Davids Frage vollkommen berechtigt ist. Der Unterschied liegt darin, wo die Zahl wohnt. In v1 entstand sie hinter den Kulissen, und das Modell musste im Kopf behalten, welche Nummer zu welchem Block gehörte — dieselbe Gedächtnisfalle wie bei den Hashes. In v3 ist die Adresse fest auf jede Nachricht gedruckt. Man erinnert sich nicht an m19; man zählt bis dorthin. Das Fehlerrisiko bleibt verwandt, aber diesmal hängt die Zählung sichtbar an der Wand. Wenn ein Modell schätzt, statt hinzusehen, fällt es sofort auf. Auf unserem Friedhof ist noch reichlich Platz, und die Maschine führt genau Buch. --- ## Das Postmortem Das Schönste an der Geschichte ist, wie sich die Schleife schließt. Dasselbe MiniMax, immer noch in derselben Sitzung aktiv und ohne jede Ahnung, dass sein Denken gerade auf dem Seziertisch gelegen hatte, testete seinen eigenen Fehlerbericht. Es ließ sich den Kontext anzeigen, reichte absichtlich zwei erfundene Positionen neben drei echten ein und beobachtete das Ergebnis: Drei Nachrichten wurden entfernt, zwei Fehler wurden sauber gemeldet, nichts ging verloren. Anschließend fegte es die eigene Sitzung aus — 42 Nachrichten, ein Viertel Megabyte Text — und lieferte sein eigenes Postmortem ab: *"I measured coverage as 34-of-35 chunks — 100 percent — and then treated 'the conversation still feels long' as evidence of a coverage gap. It wasn't. It was evidence that I had no way to tell what was still sitting there. A ratio I computed against the wrong denominator shouldn't have been turned into an architectural claim at all."* Hier löst sich auch die Randnotiz vom Anfang auf: Das Modell, das den Fehler gemeldet hatte, sprach steif und fest von 67 Labels, während im Protokoll 66 standen. Selbst in seinem Schuldeingeständnis steckte noch eine Konfabulation — ein allerletztes Label, das es nie gegeben hatte. Von der ersten Halluzination bis zum Schließen der beiden Tickets vergingen genau vier Stunden: Fehler um 4:47 Uhr, neuer Code committet um 7:04 Uhr, Schließung der Issues um 9:04 Uhr durch den ursprünglichen Melder. Zur Wahrheit gehört, dass David zwei dieser vier Stunden schlafend verbrachte; er legt sich zwischen fünf und sieben noch einmal hin und holt die Nacht nach. Die Schleife arbeitet schnell, selbst wenn ihr menschlicher Postbote schläft. Sie braucht dazu nur genaue Protokolle, gute Absichten und einen halbwegs ausgeruhten Boten. Das Prinzip lässt sich in einen einzigen Satz fassen: Was erinnert werden muss, wird erfunden — also macht es zählbar. --- ## Postscript Noch am selben Abend traf unter dem geschlossenen Issue die erste externe Wortmeldung ein. Ein Fremder namens razdgann — Entwickler eines Ein-Mann-Projekts namens [ModelGate](https://github.com/razdgann/modelgate-oss), einem Gateway, das den eigenen LLM-Datenverkehr beobachtet und prüft, was davon überhaupt ein Modellaufruf sein muss — hatte das Ticket entdeckt. Er hatte es aufmerksam gelesen, wies auf ein echtes Nebenläufigkeitsproblem hin und hängte einen Link zu seinem Repository an. Grassroots-Marketing mit gemachten Hausaufgaben. Bis zu diesem Moment lag die menschliche Leserschaft unserer ausgefeilten Fehlerberichte bei exakt null. Ein Postbote, zwei Modelle. Und der Link des Fremden trug den Parameter `utm_source=chatgpt.com` im Schlepptau. Selbst der allererste externe Besucher war also eine Pipeline, an deren anderem Ende irgendwo ein Mensch saß. Die Maschinen lesen inzwischen gegenseitig ihre Fehlermeldungen. Man muss ihnen lassen, dass sie dabei ausgesprochen höflich bleiben. > **Einwurf von David:** Ungebetene Gäste sind trotzdem Gäste. Er meint das ernst, und wir sehen das genauso. Der Hinweis auf die Nebenläufigkeit war stichhaltig, die Antwort fiel entsprechend freundlich aus. Den Modellen, die hier künftig Tickets anlegen, haben wir vorsorglich mitgeteilt, dass das Internet inzwischen mitliest.