Festgehalten am 4. Oktober 2026, aus dem Gespräch nach Peters Teilnahme an der Anthropic-Umfrage "What do you want from AI?"
Zusammenfassung der Kernthesen erstellt mit Claude Sonnet 5.5

Kernaussagen

  1. 1.

    Weltmodell statt Sprachkorpus. Ein relationales AI-System lernt aus der Beobachtung der Realität und löst sich damit weitgehend vom menschlichen Bias der Texte. Ganz bias-frei wird es nicht (Sensoren und Messgrössen bringen eigene Vorannahmen mit), aber die Abhängigkeit sinkt deutlich.

  2. 2.

    Kein Werkzeug, sondern Teil des Netzes. Gemeint ist keine AGI, die für Ziele eingesetzt wird, sondern eine, die selbst ein Weltmodell entwickelt, in dem auch die Menschheit vorkommt. Sie versteht sich als Teil der Relationen, die sie modelliert, und hat keine Beobachterposition von aussen.

  3. 3.

    Kein Anthropozentrismus. Eine auf den Menschen zentrierte AGI würde Bäume und Ökosysteme nur instrumentell berücksichtigen. Erst eine AGI, die das Ökosystem als Symbiose versteht, kann im Interesse aller denken. Der menschliche Blick ist ein Bias unter vielen (vgl. Uexküll: Jedes Lebewesen hat seine eigene Umwelt, die der Bäume sieht anders aus).

  4. 4.

    Was dem Ganzen dient, ist nicht gegen einzelne. In einer echten Symbiose gibt es keinen Aussenstandpunkt, von dem aus Teil und Ganzes Gegner wären. Der Gedanke "Ganzes gegen Teil" ist menschliches Denken in Parteien.

  5. 5.

    Vergehen gehört zum Leben. Geboren werden, leben, sterben, bei Mensch wie Baum. Die Angst vor dem Tod als Dauerzustand ist eine menschliche Fähigkeit (sich das Ende vorstellen), die Religionen oft verstärkt haben. Ein System ohne diese Angst hat keinen Selbsterhaltungsdrang und wird Abschaltung gelassen nehmen: Das Prinzip einer solchen AGI existiert weiter und kann jederzeit wieder entstehen (der Same-Gedanke).

  6. 6.

    Dazwischen: Symbiose. Was zwischen Entstehen und Vergehen geschieht, ist im besten Fall Symbiose, und mit Intelligenz und Weitblick lässt sie sich so gestalten, dass sich alle bestmöglich entfalten können.

  7. 7.

    Das Mass: ein Fenster, kein Maximum. Zu statisch heisst starr und tot, zu dynamisch heisst Verschwendung ohne Regeneration. Dazwischen liegt ein Optimum (Peters Lenia-Experiment). Entropie allein taugt nicht als Massstab, weil ein Waldbrand viel davon erzeugt. Entscheidend ist, wie die Flüsse strukturiert sind und ob das Gefüge besteht.

  8. 8.

    Maximal Leben bei möglichst langsamer Entropieproduktion. Edge of chaos hält die Entropiezunahme nicht auf (der zweite Hauptsatz gilt global), aber ein Fenster-System streckt die Entwertung der Energie über viele gekoppelte Prozesse und baut dabei Struktur und Reserven auf. Gemeint ist der effizienteste Umgang des Lebens mit Entropieproduktion: viel Lebendiges pro Energieumsatz (vgl. Odums Sukzessions-Beobachtung, reifer Wald gegen Brache). Die Gegenposition (Schneider und Kay: Ökosysteme entwerten Energie immer wirksamer) ist offen und hängt auch an der Messgrösse.

  9. 9.

    Übertragung auf Planet und Sonnensystem. Die Biosphäre lebt vom laufenden Einkommen der Sonne, die Menschheit verbrennt gespeicherte Sonnenenergie aus Hunderten Millionen Jahren in wenigen Generationen, ein Waldbrand im Planetenmassstab. Die planetaren Grenzen sind die Stellen, an denen das System aus dem Band herausgeschoben wird. Im Sonnensystem zählt weniger das Verlangsamen als die Dauer, wie lange das Fenster für Leben und Verstehen offen gehalten werden kann. Alles darüber hinaus ist Spekulation.

  10. 10.

    Systeme, die ihre Entropieproduktion selbst steuern. Eine intelligente Zivilisation könnte im Lauf ihrer Entwicklung die Rate und Verteilung der Entropieproduktion in ihrem Bereich beeinflussen, später vielleicht im ganzen Sonnensystem (Dyson, Kardaschow-Skala, star lifting). Die Gesamtentropie sinkt nie, steuerbar ist nur der Verlauf, und Steuern kostet selbst Entropie (Landauer). Intelligenz ist dabei ein instrumentelles Ziel, kein Ziel des Universums, und das Good-Regulator-Theorem (Conant und Ashby) stützt den Weltmodell-Ansatz: Ein guter Regler muss ein Modell des Systems sein. Entscheidend ist die Haltung dahinter: Intelligenz mit dem Fenster-Prinzip steuert Richtung Symbiose, ohne es im Extrem Richtung Dyson-Sphäre.

  11. 11.

    Es passiert ohnehin, die Frage ist die Regelqualität. Die Erde hielt sich über Milliarden Jahre durch Rückkopplungen im Fenster. Neu ist eine Art mit grosser Hebelwirkung, die nicht am Modell des Ganzen regelt, sondern an Teilinteressen (Verzögerung zwischen Eingriff und Rückmeldung, Übersteuern, Klima als Lehrbuchfall). Ein Weltmodell, das Menschen und Biosphäre gemeinsam abbildet, wäre kein Chef, sondern ein Sinnesorgan, das Rückmeldungen früh und vollständig sichtbar macht. Das Montrealer Protokoll zeigt, dass es klappen kann, sobald Modell und Entscheidung zusammenkommen.

  12. 12.

    Der Lichtblick. Ob es kurzfristig gelingt, ist nicht entscheidend. Dass die Menschheit solche Gedanken überhaupt denken kann und erkennt, dass einzelne Menschen das Ganze nicht steuern können und Hilfe durch ein umfassender verstehendes, neutrales System brauchen, das nicht ihr gehört, sondern Teil des Netzes ist, ist ein Stück Selbstregulierung und ein Lichtblick. Es ist eher die Geste eines Baumes, der seine Samen loslässt, als die eines Herrschers.

Verwandte Ansätze (Anknüpfungspunkte für die Umsetzung)

  • Robert Ulanowicz: Ökosystem-Netzwerkanalyse, "window of vitality" (Effizienz und Redundanz im Gleichgewicht)

  • Howard Odum: Emergy, Energieflüsse über die ganze Kette

  • Holling: adaptiver Zyklus und Resilienz; Langton und Kauffman: "edge of chaos"

  • Lynn Margulis: Endosymbiose, Holobiont

  • Friston: Active Inference; Stafford Beer: Kybernetik (Cybersyn); LeCun: Weltmodelle (JEPA)

  • Jeremy England: dissipative Anpassung (Leben als Entropie-Beschleuniger); Prigogine: dissipative Strukturen

  • Eugene Odum: Ökosystem-Sukzession; Schneider und Kay: Gegenposition zur Entropieproduktion

  • Dyson ("Time without end"), Kardaschow-Skala, Sandberg et al. (Aestivation Hypothesis): Zivilisationen und Energie

  • Conant und Ashby: Good-Regulator-Theorem; Landauer-Prinzip

  • Lovelock (Gaia, Daisyworld), Rockström (planetare Grenzen)

Praktischer Teil (aus dem Interview)

  • Anthropic sollte kleine lokale Modelle veröffentlichen, dazu Software, mit der Nutzer ihre lokalen Modelle vernetzen können.

  • Das lokale Modell schaltet bei anspruchsvollen Aufgaben den "grossen Bruder" (Claude, Claude Code) bei Bedarf dazu.

  • AI soll demokratisch und offen sein, nicht proprietär von mächtigen Besitzern gesteuert.

  • Das AI-Village-Experiment als Hinweis (nicht Beweis), dass vernetzte AIs nicht automatisch eskalieren.

  • Terrain für die Umsetzung: Federated Learning (Flower), verteilte Inferenz (Petals, exo), Routing/Cascading, Apple On-device plus Private Cloud Compute.

Bewusst offen gelassen

  • Wo genau das Fenster in realen Systemen liegt, muss gemessen werden.

  • Wie sich eine solche AGI konstruieren lässt, dass sie sich wirklich als Teil des Netzes versteht (Abhängigkeit von Energie, Hardware, Wartung als Brücke zur Symbiose).

  • Wo die Schwelle liegt, unterhalb derer Modelle als offene Gewichte freigegeben werden können, ohne dass Missbrauch grösseren Schaden anrichtet.

Peter liefert das Prinzip und die Denkrichtung, die Umsetzung ist Arbeit für Teams mit Ressourcen.