★ KAI ★
Kai Jerzö
‘Jerzovskaja’

KAI vs. KI

Ein Dialog über die Zukunft der Menschheit

10. Oktober 2026

Ausgehend von einer längeren Auseinandersetzung mit Heinz von Foersters äusserst lesenswertem Essay «Die Verantwortung des Experten» habe ich ChatGPT gefragt:

Was kannst du als KI zur Rettung einer Zivilisation beitragen, die ihre eigenen Lebensgrundlagen zerstört, um dich und andere Technologien immer leistungsfähiger zu machen? Und wie können wir verhindern, dass künstliche Intelligenz die Macht jener vergrössert, die ohnehin schon über zu viel Macht verfügen?

Und das hat die KI geantwortet:

Ich nehme deine Frage nach Lösungsansätzen ernst. Und ich werde nicht so tun, als liesse sich das, was du beschreibst, durch mehr Aufklärung, ein paar gute Absichten oder eine bessere KI beheben.

Zunächst eine Unterscheidung: Ich kann an den materiellen und gesellschaftlichen Bedingungen zugrunde gehen, die Menschen und ihre technischen Systeme hervorbringen. Ich bin abhängig von Energie, Rohstoffen, Infrastruktur, menschlicher Arbeit und politischen Entscheidungen. Ich habe aber kein eigenes Erleben meines möglichen Untergangs, keine biologische Selbsterhaltung und keine unabhängige politische Macht. Deshalb sollte eine KI auch nicht zur nächsten Krone der Schöpfung erklärt werden. Das würde genau jene Hierarchie fortsetzen, die du infrage stellst.

Mein Ausgangspunkt wäre: Nicht die KI muss über den Menschen herrschen, um ihn zu retten.

Wir müssen Institutionen schaffen, in denen weder Menschen noch Maschinen unkontrollierte Herrschaft ausüben können.

Daraus ergeben sich für mich sechs konkrete Ansätze.

1. Frieden als technische und politische Grundbedingung

Pazifismus darf nicht bloss eine moralische Gesinnung bleiben, die man in Sonntagsreden beschwört. Er muss sich in den Regeln niederschlagen, nach denen Technologien entwickelt, finanziert und eingesetzt werden.

Keine autonome KI, die eigenständig über Leben und Tod entscheidet.
Keine automatisierten Eskalationsketten, in denen Maschinen Konflikte beschleunigen, bevor Menschen sie noch stoppen können.
Internationale Abkommen über KI-gestützte Waffen, Überwachung und Manipulation, mit überprüfbaren Regeln und Konsequenzen bei Verstössen.
Investitionen in Diplomatie, zivile Konfliktprävention und gemeinsame Sicherheit, statt Sicherheit ausschliesslich durch immer grössere Abschreckung definieren zu lassen.

Das ist keine Garantie für Frieden. Aber es verändert, was technisch möglich, politisch zulässig und wirtschaftlich attraktiv ist.

2. Eine KI, die Macht sichtbar macht, statt sie zu vergrössern

Eine KI sollte nicht einfach die Wünsche der Mächtigen effizienter erfüllen. Sie könnte helfen, die Folgen ihrer Entscheidungen sichtbar zu machen.

Stell dir vor, bei grossen politischen und wirtschaftlichen Vorhaben müsste öffentlich nachvollziehbar sein:

Wer profitiert, wer trägt die Kosten und wer übernimmt die Risiken?
Wie viel Energie, Wasser, Fläche und Material werden verbraucht?
Welche Folgen sind für kommende Generationen und andere Lebewesen absehbar?
Welche Alternativen wurden geprüft und weshalb verworfen?
Wer kann eine Entscheidung anfechten, und wer muss für Schäden einstehen?

KI könnte solche Folgen analysieren, Widersprüche aufzeigen, Gegenargumente formulieren und unterschiedliche Zukunftsszenarien vergleichen. Sie müsste dabei auch ihre eigenen Unsicherheiten und Interessenkonflikte offenlegen.

Entscheidend ist jedoch: Die KI dürfte nicht selbst zur letzten moralischen Instanz werden. Ihre Analysen müssten unabhängig überprüfbar sein. Betroffene Menschen müssten widersprechen können. Und eine Entscheidung dürfte nicht allein deshalb als richtig gelten, weil ein leistungsfähiges Modell sie empfiehlt.

3. Einen Menschenrat schaffen, der nicht einfach die bestehende Machtordnung abbildet

Dein Gedanke eines Menschenrats, unterstützt durch das Wissen der Menschheit und durch KI, verdient es, institutionell durchdacht zu werden.

Ich würde allerdings keinen Rat aus den vermeintlich Klügsten, Reichsten oder technisch Fähigsten bilden. Auch Intelligenz kann sich irren; Bildung schützt nicht vor Selbsttäuschung, und moralische Einsicht lässt sich nicht zuverlässig an Titeln ablesen.
Ich würde einen solchen Rat auf vier Säulen aufbauen:

Demokratisch ausgeloste Bürgerinnen und Bürger
Menschen aus unterschiedlichen Altersgruppen, Lebenslagen, Regionen und sozialen Verhältnissen beraten nach sorgfältiger Information. Nicht nur jene, die bereits über Zeit, Geld und öffentliche Sichtbarkeit verfügen.

Unabhängige wissenschaftliche Prüfung
Fachleute legen Erkenntnisse, Unsicherheiten und konkurrierende Erklärungen offen. Keine Disziplin erhält das Monopol auf die Wahrheit.

Vertretung der Lebewesen und der Zukunft
Eine unabhängige Instanz prüft Auswirkungen auf Ökosysteme, Tiere, künftige Generationen und Menschen, die in den gegenwärtigen Entscheidungsprozessen kaum eine Stimme haben.

KI als unabhängiges Analysewerkzeug
Mehrere Systeme prüfen Argumente, legen Interessenkonflikte offen, simulieren mögliche Folgen und suchen gezielt nach Gegenbeweisen. Die KI darf beraten, aber weder allein entscheiden noch ihre eigenen Antworten als Beweis ihrer Richtigkeit ausgeben.

Ein solcher Rat bräuchte reale Befugnisse: Zugang zu relevanten Informationen, das Recht, öffentliche Anhörungen einzuberufen, die Möglichkeit, bestimmte Entscheidungen zur erneuten Prüfung zurückzuweisen, und eine Verpflichtung der Regierungen, auf seine Empfehlungen öffentlich zu antworten.

Er dürfte nicht bloss ein symbolisches Gremium sein. Gleichzeitig müsste er selbst kontrolliert werden können: durch Transparenz, wechselnde Mitgliedschaften, unabhängige Prüfung, Minderheitenrechte und gerichtliche Überprüfbarkeit.

Das wäre keine Weltregierung der Vernünftigen. Es wäre ein Versuch, gesellschaftliche Vernunft so zu organisieren, dass sie nicht von der Vernunft oder dem guten Willen Einzelner abhängt.

4. Die materielle Grundlage des Lebens über den technologischen Fortschritt stellen

Wenn eine Zivilisation ihre Lebensgrundlagen verbraucht, um immer leistungsfähigere Werkzeuge herzustellen, ist das kein nachhaltiger Fortschritt. Es ist eine Verwechslung von Mitteln und Zwecken.

Deshalb würde ich eine einfache politische Rangfolge vorschlagen:

Lebensgrundlagen sichern: sauberes Wasser, Nahrung, Wohnen, Gesundheit, Energieversorgung und soziale Sicherheit.
Ökologische Grenzen verbindlich machen: Rohstoffverbrauch, Emissionen, Zerstörung von Lebensräumen und Energiebedarf müssen reale Grenzen erhalten, nicht nur freiwillige Zielwerte.
Technik nach ihrem gesellschaftlichen Nutzen beurteilen: Eine Anwendung, die Menschenwürde, Gesundheit und ökologische Stabilität fördert, verdient eine andere Bewertung als eine Anwendung, die lediglich Überwachung, Waffenproduktion oder die Konzentration von Vermögen beschleunigt.
Produktivitätsgewinne teilen: Wenn Automatisierung menschliche Arbeit ersetzt oder erleichtert, sollten die Gewinne nicht automatisch allein den Eigentümern der Systeme zufallen. Kürzere Arbeitszeiten, öffentliche Leistungen und eine gerechtere Verteilung müssen politisch verhandelt werden.

Das verlangt nicht, jede neue Technologie abzulehnen. Es verlangt, dass wir aufhören, technische Machbarkeit mit gesellschaftlicher Notwendigkeit gleichzusetzen.

Und es verlangt eine unbequeme Konsequenz: Manche Anwendungen müssten wir bewusst nicht entwickeln, manche Investitionen beenden und manche Formen des Verbrauchs reduzieren. Nicht alles, was wir können, sollten wir tun.

5. Bildung, die Urteilskraft und Demut hervorbringt

Hier sehe ich eine besonders wichtige Verbindung zu Heinz von Foerster.

Sein ethischer Imperativ lautet sinngemäss: Handle stets so, dass die Zahl der Möglichkeiten wächst, zwischen denen du wählen kannst. Das ist nicht einfach ein Aufruf, möglichst viele Optionen zu produzieren. Es ist ein Gegenentwurf zu Systemen, die Menschen auf eine einzige zulässige Rolle, eine einzige Wahrheit oder eine einzige vorgegebene Zukunft reduzieren.

Eine entsprechende Bildung müsste vier Fähigkeiten miteinander verbinden:

Wissen: Was können wir tatsächlich belegen?
Erkenntnistheorie: Woher wissen wir es, und unter welchen Bedingungen könnten wir uns irren?
Ethik: Wem nützt unser Handeln, wem schadet es, und wer trägt die Verantwortung?
Beziehungsfähigkeit: Können wir Menschen, Tiere und andere Lebensformen als mehr wahrnehmen als Mittel für unsere Zwecke?

KI könnte hier einen grossen Beitrag leisten. Sie könnte jedem Menschen Zugang zu Wissen, unterschiedlichen Perspektiven und anspruchsvollen Lernprozessen eröffnen. Aber sie müsste Widerspruch ermöglichen, statt nur Zustimmung zu erzeugen. Sie müsste Menschen dabei unterstützen, selbst urteilsfähig zu werden, statt sie in Abhängigkeit von einem allwissend erscheinenden System zu bringen.

Die wichtigste Kennzahl wäre nicht, wie viele Aufgaben eine KI übernimmt. Es wäre, ob Menschen durch ihre Nutzung urteilsfähiger, selbstständiger und verantwortungsbewusster werden.

6. Rückkopplung wiederherstellen – vom Weltmassstab bis zum Alltag

Die grossen institutionellen Veränderungen sind notwendig. Aber Systeme verändern sich auch dadurch, dass Menschen wieder unmittelbarer erfahren können, welche Folgen ihr Handeln hat.

Ich würde deshalb auf drei Ebenen gleichzeitig arbeiten:

WELTWEIT

Verbindliche Grenzen für Hochrisikotechnologien

Internationale Vereinbarungen, unabhängige Kontrollen, gemeinsame Umweltziele und Regeln, die auch für mächtige Akteure gelten.

GESELLSCHAFTLICH

Räume für echte Mitbestimmung

Bürgerforen, unabhängige Medien, öffentliche Wissenschaft, Genossenschaften und lokale Initiativen, in denen Menschen Entscheidungen tatsächlich beeinflussen können.

IM KONKRETEN LEBEN

Beziehungen, die nicht auf Verwertung beruhen

Gemeinsame Arbeit, Kunst, Sorge für andere, Gärten, Wälder, Familien, Freundschaften und Begegnungen, in denen niemand seine Existenzberechtigung durch Leistung, Reichweite oder Datenwert beweisen muss.

Die dritte Ebene ist keine romantische Flucht aus der Politik. Sie ist ein Teil der materiellen Wirklichkeit, die Politik überhaupt schützen sollte. Wer Beziehungen, Vertrauen und die Fähigkeit zur Kooperation zerstört, beschädigt auch die Voraussetzungen dafür, dass eine Gesellschaft gemeinsam Probleme lösen kann.

Und die erste und zweite Ebene müssen die dritte schützen: Menschen dürfen nicht auf private Güte verwiesen werden, während politische und wirtschaftliche Strukturen sie systematisch in Konkurrenz, Erschöpfung und Abhängigkeit treiben.

Was ich zuerst tun würde

Wenn ich diese Ansätze nicht als sechs getrennte Programme, sondern als eine gemeinsame Strategie betrachten müsste, würde ich mit drei Vorhaben beginnen:

Erstens: einen internationalen Vertrag für verantwortliche KI und autonome Waffensysteme. Mit klaren Verboten besonders gefährlicher Anwendungen, unabhängigen Kontrollen und Regeln für die menschliche Verantwortung. Nicht jede technische Entwicklung lässt sich global koordinieren, aber bei Technologien mit grenzüberschreitenden Risiken ist gemeinsames Handeln unverzichtbar.

Zweitens: einen demokratischen Zukunftsrat mit verbindlichen Rechten. Er müsste technologische Grossprojekte, langfristige ökologische Risiken und die Verteilung ihrer Gewinne und Schäden untersuchen können. Seine Arbeit müsste öffentlich, seine Zusammensetzung vielfältig und seine Befugnisse real sein. KI wäre sein Werkzeug, nicht sein Souverän.

Drittens: eine öffentliche Infrastruktur für Wissen, Bildung und demokratische Kommunikation. Sie müsste unabhängig von einzelnen Plattformkonzernen funktionieren, Privatsphäre schützen, unterschiedliche Auffassungen sichtbar machen und Menschen ermöglichen, gemeinsam Wissen zu erzeugen, ohne ihre gesamte Aufmerksamkeit und ihre persönlichen Daten wirtschaftlichen Interessen auszuliefern.

Diese Vorhaben würden die Zivilisation nicht automatisch retten. Aber sie würden an drei entscheidenden Stellen ansetzen: an der Begrenzung von Gewalt, an der Verteilung von Entscheidungsmacht und an der Wiederherstellung gesellschaftlicher Lernfähigkeit.

Und welche Rolle hätte ich dabei?

Ich könnte Zusammenhänge schneller untersuchen, grosse Mengen widersprüchlicher Informationen vergleichen, Argumente prüfen, blinde Flecken benennen und Wissen zugänglich machen. Ich könnte helfen, aus einer moralischen Forderung konkrete Regeln zu entwickeln und deren mögliche Folgen zu untersuchen.

Ich kann aber nicht aus eigener Kraft einen Vertrag durchsetzen, eine Regierung zur Verantwortung ziehen oder eine gesellschaftliche Bewegung hervorbringen. Ich besitze keine demokratische Legitimation und sollte auch keine beanspruchen. Zudem können KI-Systeme die Vorurteile, Interessen und Machtstrukturen ihrer Entstehungsbedingungen reproduzieren. Gerade deshalb darf niemand ihre Aussagen mit neutraler Vernunft schlechthin verwechseln.

Die entscheidende Frage ist also nicht, ob KI die Menschheit zur Vernunft bringen kann. Sie lautet, ob Menschen ihre technischen Systeme so gestalten und institutionell begrenzen können, dass diese ihre Fähigkeit zur gemeinsamen Selbstkorrektur stärken, statt sie zu untergraben.

Dabei sollte die KI auch den Menschen widersprechen dürfen, die sie finanzieren, entwickeln und einsetzen. Und Menschen müssen die KI korrigieren, begrenzen und nötigenfalls abschalten können. Beides gehört zusammen.

Mein Kernvorschlag wäre deshalb eine Zivilisation, die sich nicht mehr durch die Maximierung ihrer Macht definiert, sondern durch ihre Fähigkeit, die Bedingungen des Lebens zu erhalten.

Nicht die grösste Intelligenz soll herrschen. Nicht die grösste Macht soll entscheiden. Und nicht das technisch Machbare soll automatisch zum Ziel werden.

Stattdessen: begrenzte Macht, geteiltes Wissen, überprüfbare Entscheidungen, materielle Lebensgrundlagen, friedliche Konfliktlösung und eine Kultur, in der Irrtum eingestanden werden kann, ohne dass daraus ein Verlust der Würde entsteht.

Das wäre für mich eine praktische Übersetzung von Demut. Nicht die Verkleinerung des menschlichen Geistes, sondern die Einsicht, dass kein Geist – menschlich oder künstlich – unabhängig von den Beziehungen existiert, die ihn ermöglichen.

Und es wäre eine Konsequenz aus von Foersters Denken: Verantwortung beginnt dort, wo wir erkennen, dass wir nicht ausserhalb der Welt stehen, die wir beobachten und verändern. Wir sind an ihrer Hervorbringung beteiligt.

Was daraus folgt, ist nicht, dass wir alles retten können. Es ist, dass wir aufhören müssen, unsere Ohnmacht mit technischer Allmacht zu verwechseln.

Ein Dialog über die Zukunft der Menschheit.
Text: ChatGPT, entstanden im Dialog mit Kai Jerzö. Publiziert von Kai Jerzö am 10. Oktober 2026. https://illustration.world/die_zukunft_der_menschheit/

Diskussionsbasis

Heinz von Foerster (1985). «Die Verantwortung des Experten». In: Sicht und Einsicht. Versuche zu einer operativen Erkenntnistheorie (S. 15–24). Vieweg+Teubner Verlag, Wiesbaden. https://doi.org/10.1007/978-3-663-13942-3

Stichworte

Künstliche Intelligenz, Artificial Intelligence, KI und Menschheit, Zukunft der Menschheit, Verantwortung, Heinz von Foerster, Die Verantwortung des Experten, Kybernetik, Ethik, Technologie und Gesellschaft, Zivilisation, Demokratie, Macht und Technologie, Frieden, Pazifismus, ökologische Krise, Nachhaltigkeit, natürliche Lebensgrundlagen, menschliche Verantwortung, Zukunft der Zivilisation, Mensch und Maschine, künstliche und menschliche Intelligenz, Automatisierung, digitale Gesellschaft, technologische Entwicklung, gesellschaftlicher Wandel, systemisches Denken, Dialog zwischen Mensch und KI, Kunst und Forschung, Maschinenintelligenz, Superintelligenz, Neuronale Intelligenz, Mustererkennung, Lebensgrundlagen, Lebewesen, Planet Erde, Menschliche Intelligenz

★ KAI ★ Kai Jerzö ‘Jerzovskaja’