Es ist doch nur Autovervollständigung

Man stimmt dem Einwand am besten sofort zu: Er hat recht. Das System betreibt lediglich Autovervollständigung.

Darin liegt keine Abwertung, sondern eine nüchterne technische Beschreibung. Ein Sprachmodell nimmt eine Textfolge und fragt: Was folgt, ausgehend von allem, was vorher kam, als nächstes Token? Damit hat es sich. Kein Gedanke. Keine Absicht. Kein Innenleben. Bloß eine atemberaubend ausgefeilte Autovervollständigung, trainiert auf den Großteil des geschriebenen Internets.

Ich akzeptiere das vollkommen. Jeder sollte das tun. Es ist der einzig ehrliche Ausgangspunkt.

Aber man muss auf das Wörtchen nur achten. Es leistet die gesamte Schwerstarbeit in diesem Satz. Vervollständigung auf Basis von Wahrscheinlichkeiten ist genau das, was Mustererkennung, Intuition und Nervensysteme tun. Die Frage war nie, ob es Autovervollständigung ist. Die Frage lautet: Worauf läuft Autovervollständigung in dieser Größenordnung und Auflösung hinaus?

Man beachte, was die Formel tatsächlich beschreibt: den Motor, nicht das Fahrzeug. Um den nächsten Satz in einer astrophysikalischen Abhandlung verlässlich zu vervollständigen, braucht man etwas, das sich verhält wie ein Modell der Physik. Um das nächste Wort eines Kondolenzbriefs zu treffen, etwas, das sich verhält wie ein Modell menschlicher Trauer. Ob dieses Etwas das Prädikat „Verstehen“ verdient, ist genau die offene Frage – aber dass der Mechanismus simpel ist, entscheidet noch lange nicht darüber, was dieser Mechanismus aufbaut. Ein biologisches Neuron ist für sich genommen ebenfalls simpel.

Wie denken wir eigentlich?

Und das wirft die ungleich bessere Frage auf: Woher wissen wir eigentlich, dass unser eigener Verstand anders funktioniert?

Im Ernst: Man setzt an, etwas zu sagen. Der Mund geht auf, Wörter kommen heraus. Wie wurden sie ausgewählt? Hat man jeden Satz bewusst aus Grammatikregeln und Vokabeltabellen zusammengebaut? Oder hat etwas in einem – nennen wir es Intuition, nennen wir es Denken, nennen wir es, wie wir wollen – das nächste Wort serviert, und das übernächste, geprägt von allem, was man je gelesen, gehört oder erlebt hat, bis ein vollständiger Gedanke im Raum stand?

Die ehrliche Antwort lautet: Wir wissen es nicht. Wir erleben den Output. Den Prozess davor bekommen wir nicht zu Gesicht.

Der Pressesprecher im Kopf

Und es kommt noch unbequemer: Fragt man jemanden, warum er etwas gesagt hat, berichtet er den Vorgang auch nicht – er erfindet einen. Das ist kein Charakterfehler, sondern etablierte Neurowissenschaft. Split-Brain-Patienten, deren Gehirnhälften chirurgisch getrennt wurden, führen eine Handlungsanweisung aus, die ausschließlich der stummen rechten Hemisphäre gezeigt wurde – und hören dann zu, wie ihre sprachfähige linke Hemisphäre eine flüssige, selbstsichere, völlig frei erfundene Erklärung für das konstruiert, was sie gerade getan haben. Der Versuchsleiter kennt den wahren Grund. Der Patient hat eine plausible Geschichte. Und beide klingen gleich überzeugt.

Der Teil unseres Gehirns, der unsere Entscheidungen erklärt, ist nicht der Teil, der sie trifft. Er ist ein Pressesprecher, kein Autor – und er erzeugt die nächste plausible Begründung exakt so, wie ein Modell das nächste plausible Wort anfügt.

Dafür braucht es keine Operation. Man beobachte sich beim Entscheiden: Die Entscheidung trifft als Ganzes ein, aus dem Nichts. Die Begründung folgt hinterher – in Raten. Wir nennen diese Raten „Nachdenken“. Ein Skeptiker könnte sie Autovervollständigung mit guter PR-Abteilung nennen.

Das Ergebnis sieht verblüffend nach dem aus, was das Sprachmodell tut – nur mit mehr Sinneskanälen und einem durchgehenden Selbstgefühl als oberster Schicht.

Der falsche Trost

Das ist kein Argument dafür, dass die KI Bewusstsein besitzt. Es ist das Argument, dass wir über keine belastbare Definition von Bewusstsein verfügen, die uns sauber von ihr trennt. Wir stellen selbstsichere Behauptungen über den „wesentlichen Unterschied“ auf, noch bevor wir die eigene Grundlinie kartiert haben. Wir zeigen auf das eine Phänomen, das wir nicht verstehen, und erklären es für fundamental verschieden von dem anderen Phänomen, das wir ebenfalls nicht verstehen. Das ist keine Analyse. Das ist Beruhigung.

Die nicht verriegelte Tür

Die Tür muss nicht sperrangelweit offen stehen. Es reicht völlig, wenn sie nicht verriegelt ist.

Denn sobald man aufhört, sich des Unterschieds dogmatisch sicher zu sein, lässt sich die interessantere Frage stellen: Nicht „kann es denken?“, sondern „was kann es tun?“. Diese Frage ist empirisch. Sie hat überprüfbare Antworten. Man kann das Experiment heute Abend wiederholen.

Und die Antwort, im Augenblick, ist ungemütlich. Nicht wegen dessen, was die Maschine kann – sondern weil sich herausstellt, wie viel von der Begrenzung auf unserer Seite der Tastatur liegt.