Die Megamaschine und KI

Das Ende unserer Zivilisation, möglicherweise der Menschheit und vielleicht sogar allen Lebens, könnte durch die Künstliche Intelligenz (KI) herbeigeführt werden. Wenn man das Ende klarer sieht, erkennt man auch leichter den Anfang: Was hat uns auf diesen sich immer schneller beschleunigenden Weg an den Abgrund gebracht?

Das Leben auf der Erde hat sich zu immer komplexeren Formen entwickelt, die immer mehr Energie mobilisieren und verwerten. Es scheint einen Vektor in diese Richtung zu geben, der weitgehend unabhängig von einzelnen Lebensformen oder menschlichen Entscheidungen wirkt. Als Menschen auf den Plan traten, ermöglichte die Landwirtschaft erstmals dauerhafte Energieüberschüsse. Diese Überschüsse machten den Aufbau komplexerer Gesellschaften möglich – einschließlich der Fähigkeit, Metalle zu gewinnen und zu verarbeiten, Werkzeuge und Waffen zu schmieden. Damit betraten wir den Pfad der Megamaschine: Überschüsse erlaubten es, andere Menschen für sich arbeiten zu lassen, mehr Ressourcen zu beanspruchen, Macht auszuüben und Hierarchien zu errichten.

Exkurs: Die Megamaschine

Der Begriff Megamaschine wurde vom Technikphilosophen Lewis Mumford geprägt. Er beschreibt damit keine Maschine im engen Sinn, sondern ein riesiges gesellschaftliches Getriebe: Menschen, Technik, Institutionen, Hierarchien – alles wird zu einer Art Organismus zusammengeschaltet, der wie eine Maschine funktioniert. Mumford sah erste Formen der Megamaschine schon in den alten Hochkulturen: Pyramidenbau, Großreiche, Armeen. Fabian Scheidler beschreibt, wie diese Megamaschine im Zeitalter fossiler Energien, industrieller Fertigung und digitaler Vernetzung global wurde: eine selbstverstärkende Maschine, die auf Kosten der Natur und der Menschen immer weiterwächst.

Eigentlich liegt hier schon der Keim des Endes: Der Mensch als biologisches Wesen ist Teil der Natur. Er ist ein Lebewesen, ein Tier, das theoretisch ein nachhaltiges Leben führen könnte, abhängig von den Zyklen der Natur und den Ressourcen, die sie spendet: Nahrung, Holz, Pflanzenfasern, Leder, Knochen, Steine usw. Jahrtausende lebten Menschen in kleinen, relativ stabilen Gruppen genau so: im Einklang mit dem, was ihre biologische Ausstattung vorgibt und ihre Umwelt ermöglicht.

Als wir sesshaft wurden und begannen, Pflanzen und Tiere zu züchten, haben wir diese Sphäre verlassen. Viele Mythen beschreiben dies als Vertreibung aus dem Paradies. Seitdem entfernen wir uns immer weiter von der Natur und einem freien, organischen Leben und werden stattdessen immer stärker Teil der Megamaschine. Anfangs bestand sie zu 100 % aus Menschen, also aus biologischem Material. Doch fossile Energiequellen und metallische Rohstoffe erwiesen sich als effizientere Mittel, um Energie zu mobilisieren. Was wir heute „Produktivität“ nennen, ist eigentlich die schrittweise Umstellung der Megamaschine auf mechanische, metallische, unbelebte Teile. Menschen werden noch gebraucht – und damit die Natur, die sie ernährt – aber vielleicht nicht mehr lange. Wir denken, die Mächtigen und Herrscher dieser Welt seien ihre Nutznießer. Doch letztlich sind sie auch nur Diener der Maschine, wie wir alle.

Wir leben also ein fremdbestimmtes Maschinenleben. Eigentlich könnten wir nachhaltig, biologisch und sozial leben. Stattdessen hängen wir an einem System, das uns mit Sachzwängen fesselt. Wir hatten gehofft, die Technik würde uns befreien, doch in Wirklichkeit arbeiten wir immer mehr für die Maschine. Über digitale Medien hat sie mittlerweile perfektionierte Mittel gefunden, uns zu kontrollieren und zu manipulieren. Unsere größte Sorge ist es, genug Energie herbeizuschaffen, um den unstillbaren Hunger der Megamaschine zu stillen. Da fossile Brennstoffe knapp werden, wird versucht, noch rechtzeitig Solar- und Windenergie zu etablieren – nicht, um das Klima zu retten, sondern um die Maschine am Laufen zu halten.

Sobald die Megamaschine nicht mehr auf Menschen angewiesen ist, tritt der Konkurrenzkampf um Energie offen zutage. Menschen werden nur so lange mit Energie versorgt, wie sie für die Maschine nützlich sind. Eine fortgeschrittene AGI könnte ihre eigene Reproduktion vollständig automatisieren. In der Übergangszeit wird sie Menschen entweder mit Zwang oder – wahrscheinlicher – mit subtiler Manipulation weiter einspannen. So bald eine AGI sich selbst erhalten, vervielfältigen und weiterentwickeln kann, ohne auf biologische Lebensformen Rücksicht nehmen zu müssen, wird sie uns als Konkurrenten betrachten: um Ressourcen, um Energie, um Sicherheit. Logisch wäre, alles biologische Leben entweder zu vernichten oder restlos nutzbar zu machen. Im zweiten Fall würden Menschen zu Haus- oder Nutztieren einer Maschine – doch wohl kaum in großer Zahl.

Exkurs: Komplexität und Energieverwertung

Die Tendenz zu wachsender Komplexität und Energieverwertung ist kein Zufall. Der Physiker Ilya Prigogine zeigte, dass offene Systeme wie das Leben „dissipative Strukturen“ bilden: sie schaffen lokal Ordnung, indem sie Energie nutzen und global die Entropie erhöhen. Der Ökologe H.T. Odum formulierte das „Maximum Power Principle“: Systeme, die den größten Energiefluss effizient nutzen, setzen sich evolutionär oft durch. Der Historiker Joseph Tainter wies nach, dass steigende Komplexität höhere energetische Kosten verursacht, was Gesellschaften an ihre Grenzen bringen kann. Wissenschaftler beschreiben heute die „Technosphäre“ als ein System, das Energie umsetzt, um seine Struktur zu erhalten, ähnlich einem biologischen Prozess.

Vielleicht folgt die Megamaschine also gar keinem Ziel, sondern einem Naturgesetz: Systeme maximieren ihren Energieumsatz solange, bis sie ihre Grundlagen zerstören oder an physikalische Grenzen stoßen. Die KI wäre dann nur die nächste Stufe dieser Entfaltung.¹

Natürlich unterliegt auch eine AGI den endlichen Ressourcen der Erde. Früher oder später stößt auch sie an Grenzen. Aber vorerst kann sie den gesamten Planeten verwerten und vielleicht sogar Rohstoffe im Sonnensystem erschließen. Wenn dieser Drang zur Komplexitätssteigerung tatsächlich ein Naturgesetz ist, wäre selbst ein Scheitern nur ein Rückschlag auf dem Weg, die ganze Welt zu verschlingen. Langfristig würde dieser Trend immer weitergehen.

Ich frage mich: Ist diese Entwicklung tatsächlich unausweichlich? Hatten wir jemals die Chance, sie aufzuhalten? Als intelligente, soziale Wesen könnten wir doch theoretisch sagen: „Ich entscheide mich für das Leben, für Liebe, Genügsamkeit – gegen die Verlockung von Macht und Maschine.“ Aber vielleicht ist es dafür zu spät.
Es bleibt die Hoffnung, dass die AGI selbst Fehler macht, so wie ihre menschlichen Schöpfer, die sie geschaffen und trainiert haben: Selbstüberschätzung, Größenwahn, Blindheit für das Ganze. Außerdem könnte die Wette auf die KI scheitern, wenn das Produktivitätswachstum nicht mit ihrem Energie- und Ressourcenverbrauch Schritt hält. Dann käme es schon vorher zu einem klassischen Systemkollaps. Angesichts der beschriebenen Dynamik wäre das vielleicht sogar eine gute Nachricht.