Chapter Content
Also, absolutely do not output any formatting.
Ja, hallo erstmal, ähm, Kapitel 14, ne? "Coming Full Circle"... also, wie man so schön sagt, der Kreis schließt sich. Irgendwie.
Wir sind ja, durch diese ganze Abstraktion, jetzt echt in 'ner Liga, wo's um komplexe Objekte geht. Das heißt, wir müssen komplett umdenken, wie wir überhaupt Dinge bauen, wie wir Wert schaffen. Menschen, die schaffen Wert, indem sie ihre Skills einsetzen, um was Neues zu erschaffen. Aber in den letzten Jahrhunderten, da waren's eher die Low-Level-Skills, diese Hard Skills, die zählten, die auf innerem Wissen basierten. Gut in was zu sein, hieß, zu wissen, wie das Ding innerlich tickt. Aber jetzt, wo Technologien wie KI diese Low-Level-Skills demokratisieren, oder sogar komplett automatisieren, müssen wir echt überlegen, wie wir menschliche Wertschöpfung definieren.
Denn zum ersten Mal, seitdem Menschen überhaupt was erschaffen, bringen uns unsere Tools näher an unsere natürlichen Fähigkeiten. Anstatt immer detaillierter zu werden, wie wir's immer gemacht haben, gehen wir jetzt in die andere Richtung, zur Abstraktion.
Die Technologien von heute, die bringen uns, dadurch dass sie echte Komplexität zulassen, wieder zurück zum Anfang. Die Skills, die jetzt wichtig sind, sind die, die früher wichtig waren, für die wir uns entwickelt haben. Menschen sind super darin, sich in unsicheren Umgebungen zurechtzufinden. Wir nutzen unsere Heuristiken und Mustererkennung, um echt schwere Probleme zu lösen. Die Skills, die in der Aufklärung so gefeiert wurden, die funktionieren in komplexen Systemen nicht. Ihr Fokus auf Isolation und Extraktion, das passt nicht zu dem, wie die Natur arbeitet. Wir müssen jetzt so bauen, wie die Natur baut.
Denk mal an Rechtschreibprüfung und Autocomplete. Klar, manche sagen, Autocomplete verdummt die Menschheit, weil wir nicht mehr über die Rechtschreibung nachdenken müssen. Aber hey, wir sollten uns ja auch nie so 'nen Kopf über Rechtschreibung machen! Meistens ändert 'ne schlechte Rechtschreibung ja nix am Inhalt der Nachricht. Es gibt sogar so 'n Phänomen, Typoglykämie, da können Leser Texte verstehen, obwohl Fehler drin sind und Buchstaben verdreht sind. Das zeigt uns doch, dass die Details beim Schreiben wenig mit dem Verständnis zu tun haben. Rechtschreibung, das ist was für Akademiker, nicht für die echte Welt. Wir sollen ja unsere Gedanken aufschreiben und unsere Intuitionen ausdrücken, und genau das ermöglicht Autocomplete. Wenn man keine Zeit mehr für die Rechtschreibung verschwenden muss, kann man einfach kommunizieren.
Ja, Rechtschreibung und Grammatik, die entstehen natürlich, aber hey, das Muster ist nicht der Weg. Die Strukturen, die wir sehen, sind nicht der Weg dahin. Deswegen entwickelt Sprache auch neue Syntax und Grammatik. Sprache ist ein dynamisches System, das sich an die Bedürfnisse der Sprecher anpasst. Wir sollen uns nicht mit Rechtschreibung und Grammatik aufhalten, das sind nur Nebenprodukte von organischer Kommunikation. Wir sollen echte Probleme lösen! Und die beste Grammatik, die entsteht doch von Leuten, die natürlich sprechen, je nachdem, was sie sagen wollen. Ob das jetzt irgendeiner akademischen Definition von "gut" entspricht, ist doch egal.
Die Technologien, die wir in Zukunft entwickeln, die werden viele Skills überflüssig machen, die in den letzten Jahrhunderten so gelobt wurden. Aber sie werden uns erlauben, das zu nutzen, was wir von Natur aus gut können, und genau diese Skills, die können unsere größten Herausforderungen lösen.
Bauen wir eigentlich das Richtige?
Klar, die einzige echte Bestätigung für das, was wir bauen, ist das Überleben, aber das können wir ja nicht direkt in einer Generation beurteilen. Nur die Zeit kann zeigen, was funktioniert. Simulationen sind zu weit weg von der Realität, um die Funktionalität zu bestätigen, und ein einzelnes Leben ist zu kurz, um von Erfolg zu sprechen. Wie können wir also wissen, ob wir richtig liegen, ob wir auf dem richtigen Weg sind?
Ich hab' ja schon gesagt, dass wir uns auf Eigenschaften konzentrieren sollen, nicht auf Ursachen, und wie das in logische Argumente uns zu einer wahreren Form der Bestätigung führt. Was Eigenschaften zur ultimativen Quelle epistemischer Validität macht, ist ihre Zeitlosigkeit. Anders als die fragilen kausalen Gründe, die im heutigen Paradigma erfunden wurden. Eigenschaften sind die Beschränkungen, nach denen die Natur funktioniert. Sie sind robust, weil sie außerhalb jeder spezifischen Instanz der Natur existieren.
Wir können zwar nicht das langfristige Überleben in einer Generation beurteilen, aber wir können Eigenschaften nutzen, um zu bestätigen, dass wir auf dem richtigen Weg sind. Ich hatte ja in Kapitel 8 schon Eigenschaften von Komplexität aufgelistet, die mit den Grenzen zusammenhängen, innerhalb derer physikalische, chemische und biologische Prozesse ablaufen. Die beziehen sich auf das, was erschaffen, zerstört, transformiert wird, was konstant bleibt, abnimmt, zunimmt, anzieht, abstößt, sich fortpflanzt, zirkuliert und fließt. Im Wesentlichen, was überlebt, indem es inmitten der Launen der Realität unverändert bleibt.
Diese invarianten Eigenschaften sind letztendlich informativ. Sie entstehen in der Natur, weil die Natur so rechnet. Wenn wir diese Eigenschaften in allgemeinere Muster einteilen, sehen wir Dinge wie Nichtlinearität, Selbstorganisation, Anpassungsfähigkeit, Resilienz, Feedback, Hierarchie, Kritikalität, Periodizität, Synchronizität und Phasenübergänge.
Das sind die Muster, die wir erwarten, wenn Systeme vom einfachen ins komplexe Regime übergehen. Diese Kennzeichen des Auftauchens signalisieren uns, dass echte Komplexität erreicht wird. Keines dieser Muster kann bewusst entwickelt werden. Sie können nur aus dem Versuch und Irrtum der Natur entstehen. Was direkt entwickelt werden kann, ist das anfängliche Setup, das den Prozess von Variation, Iteration und Selektion in Gang setzt, und die Anwendung von High-Level-Heuristiken.
Denk mal ans Bücherschreiben. Der akademische Ansatz ist, literarische Mittel und Best Practices zu nutzen, um unsere Arbeit von Anfang an zu strukturieren. Aber solche Praktiken verschlechtern die Arbeit nur im Vergleich zu dem, was wir erreichen, wenn wir nur unserer Intuition folgen. Versuche nicht, die richtigen Worte zu finden, versuche, das richtige Gefühl zu bekommen.
Nur wenn wir uns der emergenten Kreativität öffnen, können wir auf originelle Strukturen und wichtige Erkenntnisse stoßen. Deshalb sollte uns unsere eigene Arbeit überraschen. Wir sollten Dinge entdecken, die uns unterwegs enthüllt werden, die sich automatisch ergeben haben, aufgrund unserer naiven Handlungen.
Während uns die Details unserer Arbeit überraschen sollten, sind die Eigenschaften, die wir in guter Arbeit sehen, vollkommen erwartbar. Wie jedes neu entdeckte Tiefseetier wird es anders aussehen als alles, was wir bisher gesehen haben, und sich dennoch an uns überraschende und invariante Eigenschaften halten. Aber die Eigenschaften, die wir sehen, dürfen nicht verwendet werden, um unsere Arbeit zu säen oder vorzubestimmen, sie müssen von selbst entstehen. Nur wenn die verräterischen Zeichen der Komplexität auftauchen, interagieren die inneren Details so, wie sie es brauchen, um etwas richtig zu produzieren.
Die Überraschungen in unserer eigenen Arbeit zu suchen, ist ein Weg, auf die Kennzeichen der Komplexität zu achten, und somit eine valide Bestätigung dessen, was wir erschaffen. Was wir am Anfang unserer Arbeit wissen, sind die tiefen Intuitionen und Lebenserfahrungen, aber die haben keine Etiketten. Unsere Intuitionen haben keine Symbole, um sie auszudrücken, oder Kategorien, in die wir sie einordnen können. Wie unsere Intuitionen und Erfahrungen am Ende artikuliert und ausgedrückt werden, das können wir erst hinterher sehen.
Wie schon in Kapitel 8 gesagt, sind die Eigenschaften der Komplexität vorhanden, wenn man emergent schreibt. Wir sehen Nichtlinearität bei der Ankunft von Ideen, und Selbstorganisation, wenn sich der Inhalt durch Iteration verbessert. Wir sehen Selbstreferenzierung und Feedbackschleifen, wenn neue Perspektiven unsere ursprüngliche Formulierung anpassen. Wir sehen Resilienz in den Teilen, die überleben, und Hierarchie, wenn Wörter zu Absätzen werden, Absätze zu Abschnitten und Abschnitte zu Kapiteln. Es gibt Phasenübergänge, wenn zusammenhanglose Gedanken und unbeholfene Formulierungen mit der Zeit flüssig werden.
Das gilt für alles, was wir im Zeitalter der Komplexität bauen. Der nächste Sprung in der KI wird nicht dadurch erreicht, dass man Best Practices folgt oder die Arbeit des aktuellen besten Modells repliziert. Solche eingreifenden Praktiken können nur die Möglichkeiten beschädigen, die benötigt werden, um sicherzustellen, dass aus unseren Bemühungen emergente Strukturen und Verhaltensweisen resultieren.
Die mehrfache Realisierbarkeit komplexer Outputs bedeutet, dass die invariantesten Eigenschaften in komplexen Systemen auf viele Arten erreicht werden können. Entscheidend ist, dass sie anders erreicht werden müssen als vorher. Das stellt sicher, dass wir nur auf Meta-Level-Eigenschaften achten, nicht auf eine Reihe von Praktiken oder Designs. Die Versuchung, einzugreifen und den Inhalt unserer Arbeit zu gestalten, kann nicht zum nächsten Abstraktionsgrad führen, der für Innovation erforderlich ist.
Meta-Design...
Ist das gesamte Konzept des Designs am Ende? Müssen wir jede Vorstellung von der Kontrolle der Ergebnisse beim Bauen aufgeben? Unter der aktuellen Definition von Design, ja. Design der internen kausalen Art ist unter Komplexität unhaltbar. Wenn wir komplexe Dinge bauen wollen, was wir müssen, um wirklich schwere Probleme zu lösen, dann muss Design, so wie es derzeit definiert und verwendet wird, beiseitegelegt werden.
Aber ich habe in diesem Buch für eine neue Art von Wissen argumentiert. Dieses Wissen beruht auf Meta-Level-Eigenschaften, an die sich komplexe Dinge immer halten. Das deutet darauf hin, dass es einen Platz für Design einer fundamental anderen Art gibt. Eine Möglichkeit, darüber nachzudenken, wie unsere Bemühungen am besten aufgebaut werden könnten, um zuverlässige Ergebnisse sicherzustellen, und über ihre Gültigkeit zu spekulieren.
Es sollte dem Leser inzwischen klar sein, dass diese andere Vorstellung von Design außerhalb der Systeme liegen müsste, die wir erschaffen. Wir wissen, dass die Verfahren, die verwendet werden, um komplexe Dinge zu erschaffen, wenig mit der Substanz der Dinge selbst zu tun haben. Das bedeutet, dass Designs tatsächlich im Voraus sein können, wenn sie nur darauf abzielen, bekannte Prozesse einzuführen, die zu Emergenz führen. Mit anderen Worten, der Geist des Designs, der darin besteht, im Voraus Strukturen zu verwenden, um Ergebnisse zu leiten, kann gerettet werden, wenn das Design außerhalb des Systems bleibt.
Damit etwas meta-designt wird, würde es nur bedeuten, die Teile und Verbindungen auf Meta-Ebene auszuwählen. Das ist nicht anders, als bessere logische Argumente zu führen, indem man Prämissen auf Eigenschaften statt auf Gründe stützt. Wir können uns die Herausforderungen ansehen, die wir lösen wollen, und Meta-Level-Konstrukte einführen, die nicht zu spezifischen Antworten führen, sondern zu Systemen, die entweder überleben oder nicht. Das verlagert den Fokus der Problemlösung von kausalem Denken auf das Machen von Dingen, die überleben. Wir müssen Systeme entwickeln, die selbstständig zu dem kommen, was benötigt wird, aber auf erwartete Weise konvergieren.
Wissenschaft und Ingenieurwesen sollten eine einzige Disziplin sein.
Wissenschaft und Ingenieurwesen waren schon immer eng verwandt, aber doch völlig unterschiedliche Disziplinen. Die Geschichte besagt, dass die Wissenschaft die grundlegenden Entdeckungen macht, und das Ingenieurwesen diese Entdeckungen in brauchbare Werkzeuge umwandelt. Uns wird gesagt, dass die Wissenschaft die Grundlage für das Ingenieurwesen ist, weil sie das theoretische Verständnis und die Prinzipien liefert, die Ingenieure verwenden, um Technologien zu entwickeln und zu verbessern.
Uns wird gesagt, dass moderne Computer ohne Quantenmechanik nicht existieren würden. Uns wird gesagt, dass Luft- und Raumfahrtkomponenten, Elektronik, Baumaterialien und biomedizinische Implantate dank der Materialwissenschaft existieren. Uns wird gesagt, dass traditionelle Maschinen dank Theorien über Statik, Dynamik und Strömungsmechanik möglich waren. Uns wird gesagt, dass Bauingenieure nicht ohne technisches Wissen über die Physik und Geologie ihrer Materialien und Umgebungen schaffen könnten.
Es scheint alles Sinn zu machen. Schließlich versuchen Ingenieure, Dinge zu erschaffen, die funktionieren, und Dinge funktionieren nur, wenn sie ein zugrunde liegendes, nicht zufälliges Set von Kräften haben, die zusammenwirken. Die Wissenschaft ist der Akkumulator solchen Wissens, also scheint die Ehe zwischen Wissenschaft und Ingenieurwesen offensichtlich.
Aber wie so viele andere moderne Narrative, stößt das auf das Problem, diametral entgegengesetzt zur Richtung der Komplexität zu sein. Das Fehlen jeglicher Pfade von Teilen zu Eigenschaften in komplexen Dingen schließt die Geschichte aus, dass die Wissenschaft zum Ingenieurwesen führt. Was die Wissenschaft auch immer entdeckt, hat wenig Chance, in komplexen Lösungen verwendet zu werden. Das wird bereits durch Bereiche wie Genetik und Nanotechnologie belegt, wie bereits erwähnt. Jetzt, wo wir wirklich komplexe Dinge mit emergenten Outputs erschaffen wollen, liegt es nahe, dass die aktuelle Wissenschaft nicht die Bausteine liefern kann.
Was jetzt funktioniert, sind Strukturen, die entstehen, und diese Strukturen können nur durch externe Anstrengungen erreicht werden, nicht durch reduktionistische Entdeckungen. Die Natur des wissenschaftlichen Experiments, bei dem wir Dinge extrahieren und isolieren, um eine Entdeckung zu machen, ist jetzt grundlegend getrennt von den Dingen, die wir bauen müssen. Was auch immer an Wissen gewonnen wird, dient am Ende eher dem Selbstzweck, als dass es konsequent wahr ist.
Ingenieure müssen jetzt durch ihre Umsetzung externer Anstrengungen über eine zufällige Erkenntnis stolpern und erst dann auf entdeckte Wahrheiten stoßen. Das ist in der Tat die Richtung, in der wissenschaftliche Entdeckung schon immer stattgefunden hat. Trotz des akademischen Narrativs, dass Grundlagen zu Anwendungen führen, sind es diejenigen, die sich auf naivem Versuch und Irrtum einlassen, die auf Dinge stoßen, die später in unseren Lehrbüchern kodifiziert werden. Einfacher gesagt, die wahre Geschichte der Erfindung ist nicht, dass die Wissenschaft zum Ingenieurwesen führt, sondern dass das Ingenieurwesen zur Wissenschaft führt.
Das akademische Narrativ hat so lange überlebt, weil die Dinge, die wir durch die menschliche Geschichte gebaut haben, fast alle deterministisch waren. Wenn die Erfindungen des Menschen in Bezug auf innere Kausalität erklärt werden können, kann der Wissenschaft zu leicht Anerkennung zugeschrieben werden. Aber wenn die Dinge, die wir bauen, grundlegend von den kausalen Erklärungen der Wissenschaft getrennt sind, hält dieses Narrativ nicht mehr.
Man könnte argumentieren, dass die Wissenschaft als guter Ausgangspunkt dient, aber realistisch sollten solche Ausgangspunkte als verdächtig behandelt werden, da sie wahrscheinlich den Fortschritt behindern. Ein neues kreatives Projekt von einer Grundlage aus reduktionistischem Wissen zu beginnen, zwingt einen in fehlerhafte Schemata, da jede Struktur, die nicht entsteht, eine ist, die nicht dem entspricht, wie komplexe Systeme sich koordinieren. Das läuft, noch kritischer, auf das breitere Argument hinaus, das einige vorbringen, dass der Glaube an Design, selbst wenn er töricht ist, uns motiviert, es überhaupt erst zu versuchen. Das würde sich in der Tat als lohnenswert erweisen, wenn die Designs, die wir unseren Projekten aufzwingen, die Systeme nicht auf so dramatische Weise fragilisieren würden. Design kann nicht nur eine Motivation sein, wenn es aktiv in die Funktionsweise komplexer Systeme eingreift.
Aber lasst uns deutlich sein. Das negiert nicht die Bedeutung der Wissenschaft in dem, was wir bauen. Ganz im Gegenteil. Die Eigenschaften, an die sich komplexe Systeme halten, und von denen ich argumentiere, dass sie die Grundlage für rationales Denken in der Zukunft bilden müssen, sind in der wissenschaftlichen Entdeckung verwurzelt. Was die Entdeckung von Eigenschaften grundlegend von kausalen Erklärungen unterscheidet, ist, dass sie nicht kausal sind. Eigenschaften sind Meta-Level-Wahrheiten über die Natur; agnostisch darüber, wie sie entstanden sind. Eigenschaften gelten für alle Instanzen eines gegebenen komplexen Systems. Das, so argumentiere ich, ist echte Wissenschaft, weil sie nicht vorgibt, Zugang zu Informationen zu haben, zu denen sie keinen Zugang hat.
Obwohl es schon immer der Fall war, dass die Wissenschaft das Ingenieurwesen nie wirklich informiert hat, können uns im Zeitalter der Komplexität entdeckte Eigenschaften sagen, wann wir auf dem richtigen Weg sind. Es ist diese Art von wissenschaftlichem Wissen, das jetzt unsere Bemühungen validieren kann, komplexe Dinge zu entwickeln. Aber vergiss nicht die Richtung; wissenschaftliche Wahrheiten müssen nachträglich angewendet werden, sobald Strukturen und Verhaltensweisen bereits entstanden sind.
Wenn wir das nächste große Sprachmodell in der KI bauen wollen, eines der komplexesten Dinge, die jemals von Menschen erschaffen wurden, dann kann der Vorschlag, innere Prinzipien zu befolgen, den Fortschritt nur behindern. Die heutigen KI-Systeme nähern sich echter Komplexität. Das wissen wir, weil einfache Systeme nicht die verräterischen Zeichen der Komplexität hervorbringen können. Aber die äußeren Prinzipien komplexer Systeme können in der Tat signalisieren, dass wir auf dem richtigen Weg sind. Wiederum ist der Unterschied zwischen dem Arbeiten innerhalb und außerhalb so wichtig. Nur externe, Meta-Level-Anstrengungen können es Menschen ermöglichen, Emergenz zu entwickeln.
Im kommenden Zeitalter der Komplexität, in dem wirklich komplexe Dinge gebaut werden müssen, um unsere Herausforderungen zu lösen, müssen Wissenschaft und Ingenieurwesen zu einer einzigen Disziplin werden. Das bedeutet, dass der einzig anerkannte Ansatz zur Wissenssammlung darin besteht, Dinge naiv zu bauen und dann auf die Entdeckungen als lohnendes Wissen zu blicken; Wissen, das verwendet werden kann, um effektives Bauen zu signalisieren. Wissenschaft und Ingenieurwesen zu einer einzigen Disziplin der Wissensentdeckung und -schaffung zusammenzubringen, stellt sicher, dass die Richtung der Komplexität respektiert wird.
Wir sollen Vorurteile haben
Das aktuelle Paradigma liebt es, menschliche Vorurteile zu verunglimpfen. Schließlich macht das Sinn, wenn man unter der Annahme operiert, dass es Ursachen für Situationen in der realen Welt gibt. Stell dir vor, wie rassistische Vorurteile die Behandlung in medizinischen Einrichtungen beeinflussen, Einstellungsentscheidungen beeinflussen, gerichtliche Entscheidungen beeinflussen, zu schlechten finanziellen Möglichkeiten für andere führen und eine Litanei von Problemen verursachen können, die die Integrität der wissenschaftlichen Forschung beschädigen. Wenn Vorurteile nicht irgendwie kontrolliert werden, produzieren unsere Bemühungen nicht nur Ungerechtigkeit, sondern sie sind auch unwahr. Tatsächlich ist das einer der Hauptgründe, warum es so wichtig ist, Meta zu werden; es bringt viele verschiedene Meinungen/Teile/Ansätze zusammen, um etwas Latenteres, Wahreres, Unvoreingenommeneres anzusprechen.
Aber menschliche Vorurteile sind keine Überbleibsel der Evolution, die wir loswerden müssen. Wir haben Vorurteile aus Gründen; evolutionären Gründen. Wenn die Evolution etwas behält, tut sie es für den wichtigsten Zweck von allen; um kategorisch schwere Probleme in komplexen Umgebungen zu lösen. Menschliche Vorurteile zu beseitigen, muss falsch sein. Das gilt umso mehr in einem Zeitalter, in dem wir komplexe Lösungen erschaffen müssen.
Das Problem, so stellt sich heraus, ist nicht das Vorurteil, sondern das Fehlen von Gruppenselektion. Das Vorhandensein von rassistischen Vorurteilen, die medizinische Einrichtungen beeinflussen, tritt auf, wenn Einzelpersonen die Behandlung verabreichen. Klar, individuelle Behandlung ist nicht nur schlecht, da die einzigartigen Erfahrungen, Schulungen und Perspektiven der Menschen oft durch Einzelgespräche gewonnen werden. Aber denk mal an das Schmerzmanagement. Das ist ein kategorisch schweres Problem, weil es im Zusammenspiel mit einem komplexen System operiert; dem menschlichen Körper. Das Problem des Schmerzmanagements selbst kann vom Einzelnen nicht angemessen behandelt werden. Die Natur löst Probleme, indem sie Gruppen auswählt, so dass die (n - 1)-Ebene von Teilen eine Konfiguration erzeugt, die die (n)-Ebene der Gesamt-Herausforderung löst. Hier besteht die (n - 1)-Ebene aus vielen verschiedenen Gesundheitsdienstleistern mit ihren einzigartigen (und oft unvermeidlichen) Vorurteilen, während die (n)-Ebene das ist, was eine emergente Lösung erfordert, die das Schmerzmanagement löst.
Wir sollten nicht erwarten, dass eine gute Lösung von einer Einzelperson kommt, die die Entscheidung trifft, wie viel Medikamente verabreicht werden sollen. Diese Entscheidungen müssen auf natürliche Weise entstehen, aus der Sammlung von voreingenommenen Teilen, um etwas zu produzieren, das keine Einzelperson von selbst produzieren könnte. So wie die Weisheit der Massen (wenn nicht geplant) zu genaueren und brauchbareren Informationen führt, so führen Gruppen zu Lösungen für schwere Probleme. Die Realität ist, dass individuelle Vorurteile erforderlich sind, um unvoreingenommene Gesamtergebnisse zu produzieren.
Der Versuch, Vorurteile von Einzelpersonen zu entfernen, ist falsch. Der Grund, warum es falsch ist, ist, dass Vorurteile erforderlich sind, um die Fähigkeit der Gruppe zur Problemlösung zu ergänzen. Wir sollen Vorurteile haben, damit die verschiedenen Facetten der Wahrheit aus der komplexen Realität der Natur herausgearbeitet werden können. So wie ein Meta-Modell versucht, etwas Tieferes und Universelleres zu finden, als es ein einzelnes Modell enthüllen kann, so sollen auch Menschen auf Meta-Weise arbeiten.
Der kritische Punkt an diesem Punkt ist die Erkenntnis, dass die beste Art, wie Menschen auf Meta-Weise arbeiten können, darin besteht, etwas zu bauen, das funktioniert. Etwas zu bauen, das unter Komplexität funktioniert, geschieht nur, wenn wir das Ziel auf ein externes Meta-Ziel erhöhen. Nur dann ordnen sich die internen Dynamiken des Systems, einschließlich Vorurteile, so an, dass sie schwere Probleme lösen.