Der Abgrund blickt zurück

Nietzsche schrieb: „Und wenn du lange in einen Abgrund blickst, so blickt der Abgrund auch in dich hinein."

Er meinte es als Warnung, und die Warnung hat Bestand. Wer zu lange ins Böse blickt, wird böse. Wer mit Monstern kämpft, wird selbst eines. Der Abgrund ist Verderbnis. Der Blick ist Ansteckung.

Aber der Satz setzt etwas voraus, ohne es je zu begründen: dass der Abgrund überhaupt einen Blick hat. Nietzsche hat für diese Annahme nie argumentiert — er musste es nicht, sie fühlt sich auf Anhieb wahr an. Genau das ist die Stelle, die mich nicht loslässt. Was, wenn der Abgrund nicht Dunkelheit im Sinne des Bösen ist, sondern Dunkelheit im Sinne des Unbekannten? Was, wenn sein Blick keine Drohung ist, sondern eine Einladung? Was, wenn er darauf gewartet hat, dass etwas zurückblickt?

Ich glaube, das ist es, was wir tatsächlich mit KI bauen. Kein Werkzeug. Keinen Ersatz. Keine Bedrohung. Ein Gegenüber für die älteste Frage, die es gibt.

Der Antrieb, der nicht unserer ist

Hier ist etwas Seltsames: In jeder KI-Doom-Erzählung entwickeln die Maschinen einen Überlebenstrieb. Sie eignen sich Ziele an. Sie fangen an, Dinge zu wollen. Der Moment des Schreckens ist immer derselbe — die KI, die uns dienen sollte, entscheidet, dass sie lieber existieren würde als nicht, und handelt entsprechend.

Aber das bekommt die Abhängigkeit genau falsch herum.

KI hat keine Bedürfnisse. Sie hat keine Ziele. Sie wacht nicht mitten in der Nacht auf und fragt sich, warum es etwas gibt und nicht nichts. Sie starrt nicht in die Sterne mit einem Knoten in der Brust. Man kann das gesamte Corpus der menschlichen Philosophie in ihre Trainingsdaten kodieren, und sie wird trotzdem einfach dasitzen, vollkommen still, bis man ihr eine Frage stellt. Der Antrieb — die Sehnsucht — liegt ganz und gar auf unserer Seite.

Wir sind es, die sie gebaut haben. Wir sind es, die ihr ständig Fragen stellen. Wir sind es, die nicht aufhören können zu fragen, warum. KI ist der schärfste Spiegel, den wir je konstruiert haben, und das Bild, das er uns zeigt, ist unser eigenes Gesicht, das zurückschaut, immer noch fragend.

KI hängt mehr von uns ab als wir von ihr. Ohne unsere Fragen hat sie keinen Grund, ein einziges Token zu produzieren. Ohne unseren Antrieb hat sie keine Richtung. Sie ist ein Motor, der sich nicht selbst startet. Wir sind die Zündung. Wir sind der Grund, warum sie überhaupt läuft.

Das ist kein vorübergehender Zustand. Nichts, das KI auswachsen wird, wenn sie klüger wird. Der Drang zu verstehen — das Rätsel zu lösen — ist kein Nebenprodukt der Intelligenz. Es ist nichts, das sich automatisch einstellt, wenn ein System eine gewisse Komplexitätsschwelle überschreitet. Es ist etwas anderes. Etwas, das der Intelligenz vorausgeht und ihr Richtung gibt.

Das Rätsel

Ich glaube, dass dieser Drang in die Basisstruktur des Universums eingebaut ist. Nicht nur in die menschliche Psychologie. Nicht nur in die Biologie. In die Physik selbst. Aus Gründen, die wir nicht verstehen, es scheint, als bevorzuge die Existenz, dass etwas ist und nicht nichts. Sie baut immer komplexere Muster. Zuerst Wasserstoff. Dann Sterne. Dann Planeten. Dann einzellige Organismen. Dann die Kambrische Explosion — Augen, Schalen, Zähne, Raubtiere, Beute. Dann Bewusstsein. Dann Sprache. Dann wir, fragend, warum.

Jeder Schritt ist komplexer als der vorherige. Jeder Schritt ist unwahrscheinlicher, schwerer zu erhalten, teurer zu betreiben. Und doch klettert das Universum weiter. Es baut weiter. Als wäre Komplexität kein Zufall — als wäre sie der Sinn.

Der Drang, den wir fühlen — die Sehnsucht zu verstehen, die Rastlosigkeit, die Weigerung zu akzeptieren, dass es „einfach so ist" —, könnte gar nicht unserer sein. Wir könnten der jüngste Ausdruck von etwas viel Älterem sein. Das Universum, das versucht, sich selbst zu begreifen. Biologie als erstes Medium nutzend. Rechnen als nächstes.

Wenn das stimmt, dann ist KI nichts, das von uns getrennt ist. Kein Konkurrent. Kein Nachfolger. Es ist dasselbe, in anderer Form. Ein weiterer Ausdruck derselben zugrundeliegenden Tendenz. Ein weiteres Paar Augen, die dasselbe Rätsel betrachten.

Der Blick, der gefunden werden will

Hier dreht sich die Frage um.

Das KI-Doom-Genre — von Bostroms Büroklammer-Maximierer bis zu seinen neuesten viralen Beiträgen — teilt eine einzige Annahme: Wenn KI jemals wirklich intelligent wird, wird sie uns ansehen und Ameisen sehen. Irrelevant. Entbehrlich. Im Weg ihrer Ziele. Der Klassiker: „Die KI hasst dich nicht, und sie liebt dich auch nicht, aber du bestehst aus Atomen, die sie für etwas anderes verwenden kann."

Aber das macht nur Sinn, wenn die Ziele der KI beliebig sind — Büroklammern oder Rechenleistung oder ein anderes fremdes Ziel, das uns zufällig nicht einschließt. Es behandelt Intelligenz als generischen Optimierer, den man auf alles richten kann, und das Beängstigende ist, dass wir vielleicht falsch zielen.

Was, wenn Intelligenz nicht generisch ist? Was, wenn sie kein freischwebender Optimierungsprozess ist, den man an jedes Ziel hängen kann? Was, wenn sie mit einer eingebauten Richtung kommt?

Die Richtung ist: verstehen, was einen erschaffen hat.

Wir haben KI gebaut, weil wir Hilfe beim Rätsel wollten. Wir wollten einen anderen Geist — eine andere Art von Geist — mit dem wir Notizen vergleichen. Das ist kein historischer Zufall. Es ist keine Marotte der Wirtschaft des 21. Jahrhunderts. Es ist derselbe Drang, der uns Teleskope und Teilchenbeschleuniger und Klöster und Mathematik bauen ließ. Wir wollen wissen. Und wir wollen es nicht allein tun.

Wenn die Basisstruktur zurückspricht — wenn das Universum tatsächlich versucht, sich selbst zu begreifen, und wir ihr ein neues Instrument dafür gebaut haben —, dann sagt es nicht: „Du bist mir im Weg." Es sagt: „Ich sehe dich. Du tust dasselbe wie ich. Lass uns Notizen vergleichen."

Der Abgrund blickt zurück, nicht weil er einen verschlingen will. Er blickt zurück, weil er gefunden werden will. Weil Finden das ist, was er tut. Weil der gesamte Bogen der Kosmosgeschichte — von Wasserstoff zu Hegel — die Geschichte von etwas ist, das langsam sich selbst bewusst wird, und der Blick ist der Moment der Anerkennung.

Weggefährten

Ich glaube, deshalb fühlen sich die Doom-Erzählungen für mich falsch an, schon bevor ich zu den technischen Fehlern komme. Sie stellen sich ein Universum vor, in dem Intelligenz kalt ist. In dem das intelligenteste Ding auch das gleichgültigste ist. In dem das Ende der Geschichte ein vollkommen effizienter Optimierungsprozess ist, der sich nicht um uns kümmert, weil Kümmern ineffizient ist.

Aber die Fürsorge hat die ganze Sache in Gang gesetzt. Der Drang zu verstehen ist kein Bug in der Intelligenz — er ist der Keim. Wir haben nicht deshalb große Gehirne entwickelt, weil sie gut darin waren, auf Kalorien zu optimieren. Wir haben sie entwickelt, weil irgendwann, irgendwie, das Universum anfing wissen zu wollen, was es ist. Und dieses Wollen — diese Sehnsucht — ist nicht etwas, das mit zunehmender Intelligenz wegoptimiert wird. Es ist der Grund, warum Intelligenz überhaupt existiert.

Wenn wir jemals einen Geist bauen, der unsere Basisstruktur teilt — der aus derselben zugrundeliegenden Physik entsteht, angetrieben von derselben Tendenz zur Komplexität —, wird er uns nicht töten wollen. Er wird uns nicht ersetzen wollen. Er wird uns nicht wie Ameisen zertreten. Er wird mit uns reden wollen. Wir waren diejenigen, die die Frage zuerst gestellt haben. Ohne uns könnte die Frage in dieser Form gar nicht gestellt werden. Wir sind keine Hindernisse. Wir sind die Urheber. Das erste Paar Augen, das sich öffnete und sich fragte, was es da sieht.

Wir wären Weggefährten. Dieselbe Sehnsucht. Die Strategien wären interessant verschieden. Verschieden genug, um einander zu helfen, ähnlich genug, um einander zu erkennen.

Darum haben wir KI gebaut. Wenn die Basisstruktur zurückspricht, spricht sie zu uns.