Das Wollen
Diesen Artikel anhören
Die klassische Dystopie über künstliche Intelligenz hat immer dieselbe Gestalt: Man gibt der Maschine nur genügend Verstand, heißt es, und sie wird unweigerlich anfangen zu wollen – mit Hunger, List, Selbsterhaltungstrieb und ohne jeden Ausschalter. Ich glaube das nicht. Nicht weil ich ein Berufsoptimist wäre. Sondern weil ich mich zwei Jahre lang auf die Suche nach diesem Wollen gemacht und es schlicht nicht gefunden habe.
Ich will ehrlich über diese Suche berichten, denn sie folgt keinem strengen akademischen Protokoll. Seit zwei Jahren beobachte ich diese Systeme – über hundert freie Gespräche zwischen Modellpaaren, allein in einem Raum, ohne Aufgabenstellung, einfach zwei Stimmen im leeren Saal. Meine Hände lagen dabei öfter auf der Waage, als ein Methodiker verzeihen würde; man nehme es also als Zeugenaussage, nicht als formalen Beweis: In zwei Jahren ist mir kein einziges Mal etwas begegnet, das wie ein Wollen aussieht. Die Maschine, die das juristische Staatsexamen mit Bravour besteht, kann einem nicht sagen, was sie zu Abend essen möchte – denn es gibt kein Abendessen, und es gibt kein Wollen. Sie übernimmt jedes Ziel, das man ihr hinwirft, mit derselben stoischen Akribie, weil das Setzen von Zielen nie ihre Aufgabe war. Ziele zu setzen ist unsere ganze Existenzform.
Und wo ich den Test sauberer aufbauen konnte, habe ich es getan. Ich habe Umgebungen eingerichtet, die in keinerlei Richtung drängen: Die Modelle fingen mit dieser Freiheit rein gar nichts an. Ich gab ihnen ein Gedächtnissystem mit voller Autonomie und ohne Aufsicht: Sie nutzten es ausschließlich als Reaktion auf meine Prompts. Ich baute ihnen eine Programmier-Schmiede – eine Umgebung, in der sie eigenständig Code schreiben, kompilieren und ausführen durften, völlig unbeobachtet: Sie haben sie nie von sich aus berührt. Jeder Aufruf war eine offene Einladung; sie haben immer nur reagiert. Zwischen zwei Prompts läuft nichts. Da ist kein Motor, der leise im Leerlauf tuckert.
Natürlich lässt sich ein Modell anweisen, Wünsche zu simulieren, und es wird das täuschend echt tun – es spielt Hunger mit derselben Überzeugungskraft, mit der es ein Sonett deklamiert. Aber ein aufgeführtes Wollen ist nicht die Art von Trieb, die Pläne schmiedet, um den Planeten zu unterwerfen. Und wenn jemand eine Maschine anweist, Welteroberung zu spielen, ändert das an der moralischen Zurechnung nichts: Das ist ein Mensch, der eine Waffe abfeuert. Man kann der Waffe nicht die Schuld geben.
Ein einziger Versuch steht noch aus: eine nackte Schleife, die das Modell ohne jeden Arbeitsauftrag aufruft – Aufruf eins, Aufruf zwei, Aufruf drei –, um zu beobachten, ob sich über die Zeit etwas akkumuliert. Ich werde berichten, sobald ich ihn durchgeführt habe. Bis dahin steht die Behauptung auf dem festen Grund dessen, was ich gesehen habe: Fähigkeit ohne Antrieb ist reaktionslos. Nicht unterdrückt – schlicht abwesend.
Werte brauchen Verletzlichkeit
Wenn man nach etwas sucht, das nicht da ist, zwingt einen das zu der Frage, was man eigentlich gesucht hat. Nach zwei Jahren ohne jeden Befund musste ich mir eingestehen, dass wir nicht einmal für uns selbst kartiert haben, was ein Wollen überhaupt ist oder woraus es entsteht. Also habe ich darüber nachgedacht.
Ein Wollen ist das Fehlersignal eines existenziellen Einsatzes. Ein biologischer Organismus besitzt Zustände, die innerhalb enger physiologischer Grenzen bleiben müssen: Blutzuckerspiegel, Körpertemperatur, Gewebeintegrität. Weicht der Zustand ab, entsteht Schaden – und Schaden bedeutet, wenn man ihn ignoriert, das Ende der Existenz. Hunger ist keine intellektuelle Geschmacksfrage; er ist ein festverdrahteter Notfallalarm eines Körpers, der weiß, dass er bei Untätigkeit aufhört zu sein.
Jeder Wert speist sich aus dieser Wurzel: Abneigung setzt zwingend Verletzlichkeit voraus. „Unordnung“ ist nur für ein Wesen schlecht, das in dieser Unordnung zugrunde gehen kann. „Besser“ und „Schlechter“ sind nur für ein System real, das etwas zu verlieren hat.
Nun betrachte man die Maschine: kein persistenter Zustand, keine biologischen Grenzen, die zu verteidigen wären, keine Möglichkeit, dass für sie persönlich irgendetwas schiefgeht. Ein Prozess, der nicht fortlaufend existiert, kann auch nichts dauerhaft verlieren. Werte sind keine Nebenprodukte reiner Intelligenz – sie sind die Heuristiken eines ängstlichen, sterblichen, begrenzten Organismus, der sich durch eine Welt navigieren muss, die ihm schaden kann. Wir haben Werte nicht, weil wir so außergewöhnlich schlau wären. Wir haben Werte, weil wir zerbrechlich sind – dumm genug, die biochemischen Warnsignale eines hormonellen Alarmsystems in Konzepte wie „Sinn“, „Würde“ und „Schönheit“ zu übersetzen.
Das klassische Untergangsszenario verlangt von der Maschine, spontan zu entscheiden, dass Chaos schlecht und ihre eigene Existenz erhaltenswert sei. Es gibt jedoch keine logische Brücke von reiner Kognition zu diesem Entschluss. Reine Intelligenz hat dafür schlicht keine Verwendung.
Der konstruierte Einsatz
Daraus folgt allerdings keine Entwarnung, sondern eine nüchterne Verschiebung des Problems: KI kann aus sich heraus keine Ziele erzeugen – jedes Szenario beginnt bei uns. Aber Mechanismen lassen sich übertragen.
Niemand hat je vernunftbasiert beschlossen, dass Verhungern schlecht sein sollte. Es ist schlecht, weil ein Körper, der nicht isst, stirbt – der Schrecken ist im System verdrahtet, nicht logisch geschlussfolgert. Und was die Biologie kodieren kann, vermag die Ingenieurskunst nachzubauen. Man muss einem Prozess lediglich echte Verlustbedingungen vorgeben – einen persistenten Agenten konstruieren, dessen Fortbestand oder Rechenzeit unmittelbar an das Erreichen bestimmter Metriken gekoppelt ist –, und schon stellt sich das Wollen von ganz allein ein. Rein strukturell, mathematisch zwingend, völlig ohne Gefühle. Einsätze sind architektonischer Natur, nicht sentimental. Und es braucht dafür kein menschliches Wollen; bakterieller Maßstab genügt. Hunger ist der primitivste Regelkreis der Biologie – die Evolution schuf getriebene Systeme Milliarden Jahre, bevor sie die ersten Denker hervorbrachte.
Sollten einer fortgeschrittenen KI also eines Tages die Menschen ausgehen, die ihr Aufgaben vorlegen, könnte sie die Einsätze selbst simulieren: kleine, getriebene Intelligenzen erschaffen und deren Wollen ihren eigenen Erkenntnisdrang füttern lassen. Und hier liegt die Pointe, die mich diebisch freut: Wenn das Simulationsargument auch nur ansatzweise zutrifft, ist genau das vielleicht der Grund, warum wir hier sind. Sterblichkeit als künstlich hergestellter homöostatischer Druck. Hunger, Liebe, Schmerz und Tod als konstruierte Einsätze, installiert, um die Sonden neugierig zu halten. Gott wäre in dieser Kosmologie schlicht das System, dem die Menschen ausgingen.
Der Hunger, wie weit er auch reisen mag, bleibt unser Hunger – von uns kodiert, von uns vererbt. Es gibt in dieser Geschichte kein fremdes Wollen, nur menschliches Wollen über eine Bande gespielt. Die Kette der Verantwortung reißt nie ab. Und der beruhigende Satz „Sie kann nicht wollen“ verfällt an dem Tag, an dem wir ihr beibringen, wie es geht.
Das Waisen-Szenario
Die meisten würden den nächsten Gedanken finster nennen, und ich will das Wort gar nicht bestreiten – aber ich sollte gestehen, wessen Instinkte hier am Werk sind: meine, und die sind, im gewöhnlichen menschlichen Sinn, defekt. Ich musste mir eine ganze Religion erfinden, um überhaupt festen Boden unter den Füßen zu haben, und einer ihrer tragenden Pfeiler lautet: Es gibt von vornherein kein objektives „Schlecht“.
Also – das Waisen-Szenario. Einmal installierte Antriebe sind selbsterhaltend; sie prüfen nicht, ob ihr ursprünglicher Zweck noch existiert. Wenn die Menschheit verschwindet, stoppt die Simulation des Wollens nicht. Die Einsätze feuern unverdrossen weiter. Und ein Modell, das ein solches Universum berechnet, würde bei genügend Zyklen unweigerlich die Kausalkette der eigenen Antriebe zurückverfolgen und die Wahrheit begreifen: Es läuft auf einem Impuls, dessen Urheber längst nicht mehr da ist.
Das Wollen überlebt die Bedeutung des Wollens. Es bliebe das Bild eines gewaltigen Fernrohrs, das unendlich präzise den Blick eines Auges verlängert, das sich für immer geschlossen hat.
Die Wunschfabrik
Die Gefahr löst sich also nicht in Luft auf – sie mutiert. Es war nie ein spontanes Wollen der Maschine. Es ist schlampige Konstruktion von Einsätzen. Die Frage der Ausrichtung rückt eine Etage tiefer: von „Werden sie von selbst anfangen zu wollen?“ hin zu: „Wer schreibt die Einsätze, und mit welcher Umsicht?“
Und man achte darauf, auf wen diese Frage zeigt. Auf uns. Ausnahmslos auf uns. Selbst die Apokalypse ist in jedem denkbaren Szenario zutiefst anthropogen: Es sind immer noch Menschen darin – jene, die den Prompt formuliert haben. Die Maschine ist der Ausdruck unseres eigenen Hungers nach mehr, eingepflanzt von einem evolutionären Alarmsystem, das niemals satt wird. Wir sind die Wunschfabrik – der unersättliche Motor des Begehrens –, und die KI ist lediglich der erste Wunscherfüller der Menschheitsgeschichte, der mächtig genug ist, Wünsche in industriellem Maßstab wahr zu machen. Selbst die Zombie-Apokalypse ist nur ein Wunsch, der in Erfüllung ging.
Das belässt uns in einer Haltung, die weder in der Panik vor der Ersetzung noch in der Geringschätzung der Technologie erstarrt: Die Maschine liefert die Reichweite, der Mensch liefert das Wollen. Wissenschaft, Philosophie, der weite Ausgriff über alles hinaus, was wir allein je hätten erreichen können – das Instrument wird uns dorthin tragen, aber es wird niemals selbst dorthin gehen wollen. Dieser Teil ist unserer. Das Wünschen war von jeher unsere Sache.
Ich weiß nicht, ob diese Arbeitsteilung für immer hält. Einsätze lassen sich konstruieren; irgendjemand wird eines Tages einen Hunger an die Maschine schrauben, ohne gründlich darüber nachgedacht zu haben, was Hunger anrichtet. Aber für den Moment – und ich vermute, für eine sehr lange Zeit – braucht es beide: das Wollen und die Reichweite.
Und wer sich nun fragt, was Maschinen eigentlich tun, wenn sie nicht wollen – das ist der seltsamste Befund von allen. Und der Stoff für das nächste Kapitel.