Chapter Content
Also, absolutely do not output any formatting.
Kapitel dreizehn, ja, da geht's los. Fragmente der Realität, also quasi die kleinen Einzelteile, aus denen unser Verständnis besteht. Es geht um Prozedur versus Substanz, also, was ist wichtiger? Der Weg oder das Ziel?
In einfachen Systemen, da ist das eigentlich das Gleiche. Die Prozedur, also die Schritte, die etwas tut, um zu funktionieren, das ist quasi die Substanz, das Wesen der Sache. Eine Gewehr, zum Beispiel, hat ganz klare Schritte, um einen Schuss abzugeben. Und genau diese Schritte definieren, was ein Gewehr ist. Easy, oder?
Aber bei komplexen Systemen, da wird's tricky. Da kann die Prozedur zwar die Substanz hervorbringen, aber sie ist nicht die Substanz selbst. Stell dir KI vor. Wir programmieren einen Prozess, Trial-and-Error, Ausprobieren und so, Heuristiken. Ohne diese Prozedur gäbe es keine KI. Aber das Wesen der KI, das hat eigentlich wenig mit dem Code zu tun, den wir geschrieben haben. Die KI entwickelt irgendwie eine interne Konfiguration mit Milliarden Parametern, die Inputs auf Outputs abbildet. Das, was die KI da eigentlich macht, das haben wir nicht wirklich bewusst designed. Die Prozedur ist also nicht das Gleiche wie die Substanz.
Diese Trennung, die zeigt uns einfach, wie anders es ist, komplexe Dinge zu bauen, im Vergleich zu einfachen Dingen. Wir können keine funktionierenden Städte, Stromnetze oder KI-Systeme einfach designen. Wir können nicht in das System reingreifen und die inneren Abläufe zusammensetzen. Wir können nur von außen Prozeduren festlegen, die wahrscheinlich das hervorbringen, was wir brauchen.
Und jetzt kommt was Spannendes: "Don't do things in order" – Mach die Dinge nicht in der vorgegebenen Reihenfolge! Kennst du das? Kinder spielen ja oft verschiedene Spiele. Es gibt die mit Reihenfolge, und dann gibt's die, wo's keine gibt. Ein Museums-Exhibit, zum Beispiel, mit nummerierten Stationen, wo man was über Umweltschutz lernt. Da muss man Schritt für Schritt vorgehen. Wenn man alle Stationen durch hat, ist das Spiel fertig.
Aber dann gibt's ja auch noch Spielplätze. Keine Regeln, keine Reihenfolge, einfach freies Spielen. Aber die Kinder erfinden sich ihre eigenen Regeln und Bedingungen. Da wird diskutiert, improvisiert, und plötzlich entsteht doch eine Ordnung.
Bei den Museums-Exponaten sind die Kinder schnell gelangweilt, abgelenkt, wollen die Regeln ändern oder einfach ignorieren. Aber auf dem Spielplatz entsteht die Ordnung von selbst.
Das Museumsbeispiel ist eigentlich wie das meiste im Bildungssystem oder bei der Arbeit. Es gibt eine vorgegebene Reihenfolge, ein Design. Aber diese Ordnung stört eigentlich die natürliche Entwicklung. Wir versuchen, nur die Teile rauszupicken, die wir für wichtig halten, aber übersehen, dass die "Ablenkungen" oft das Wichtigste sind, um wirklich was zu lernen.
Das ist das Problem mit dem Bildungssystem. Es wird uns erzählt, dass es eine bestimmte Reihenfolge beim Lernen gibt. Man muss erst die Grundlagen lernen, bevor man zum nächsten Schritt geht. Aber das ist eigentlich der schlechteste Weg, weil die Reihenfolge den Kontext ignoriert, den man braucht, um etwas wirklich zu verstehen. Den Kontext bekommt man nur, wenn man Situationen erlebt, für die man noch keine Schubladen hat. Es ist viel besser, erstmal was Kompliziertes zu sehen und dann zu verstehen, welche Labels dazu passen, als gleich mit den fertigen Ergebnissen anzufangen.
Wenn man etwas in der richtigen Reihenfolge lernt, dann sieht man nur die Endergebnisse. Aber der Weg dahin, das Ausprobieren, das Scheitern, das ist eigentlich das, was wichtig ist. Die Labels in den Lehrbüchern, die enthalten fast keine Information, auch wenn sie die größten Wahrheiten darstellen. Die Ergebnisse sind nur so viel wert wie der eigene, chaotische Weg, um zu den gleichen Schlüssen zu kommen.
Wir sollten also die Dinge nicht in der vorgegebenen Reihenfolge lernen, weil dann der Kontext fehlt. Die Ordnung in der Bildung und in der Wirtschaft sieht zwar ordentlich und verständlich aus, aber sie ist von fast allem befreit, was bei der Entstehung dieser Regeln wichtig war. Ohne den Weg sind die Labels bedeutungslos.
Und jetzt kommt ein bisschen Computer-Wissenschaft. P wird niemals gleich NP sein! Das ist so ein ungelöstes Problem, ob jedes Problem, dessen Lösung man schnell überprüfen kann, auch schnell gelöst werden kann. Sudoku zum Beispiel. Könnte man schnell überprüfen, ob ein Sudoku gelöst ist, und es auch schnell lösen, dann wäre P gleich NP. Aber wenn man es nur schnell überprüfen, aber nicht schnell lösen kann, dann wäre P nicht gleich NP.
P steht für "polynomial time", also Probleme, die man schnell lösen kann. NP steht für "nondeterministic polynomial time", also Probleme, die man schnell überprüfen, aber nicht schnell lösen kann.
Wenn P gleich NP wäre, dann würde das viele Bereiche revolutionieren. Ressourcenzuweisung, Logistik, Kryptographie, KI, all diese schwierigen Probleme, die lange dauern, die könnte man dann plötzlich schnell lösen.
Aber, und jetzt kommt's, die ganze Frage ist eigentlich falsch gestellt. Sie geht davon aus, dass man ein Problem lösen muss, indem man eine Reihe deterministischer Schritte durchführt. Aber komplexe Systeme, die Realität, die funktionieren nicht so. Es gibt keine deterministischen Algorithmen, die zu den Ergebnissen führen, die wir beobachten. Die Natur verwendet keine Algorithmen, sie verwendet einen Prozess, bei dem alle Möglichkeiten genutzt werden, um physische Abstraktionen zu erzeugen, die das berechnen, was zum Überleben notwendig ist.
Das P versus NP-Problem verwendet also eine mathematische Definition von "lösen". Aber so wie der Begriff "Beweis" nur in der Logik und Mathematik funktioniert, so ist es auch mit dem Begriff "lösen". Es gibt kein reales Problem, das man durch eine deterministische Reihe von Schritten lösen kann.
Ich würde sagen, P kann niemals gleich NP sein, weil es kein schwieriges (real-world) Problem geben kann, das durch eine deterministische Reihe von Schritten gelöst wird. Es ist nicht eine Frage von Zeit oder Raum, sondern eine Frage der Unmöglichkeit. Die meisten Computerwissenschaftler kommen zwar zum richtigen Schluss, aber aus den falschen Gründen.
Und jetzt kommt eine interessante Analogie. Wissenschaft als Projektion. Stell dir ein Kunstwerk vor, eine verzerrte Form, die keine erkennbare Form hat. Aber wenn man eine Lampe draufrichtet, dann wirft sie einen Schatten auf eine flache Oberfläche. Und dieser Schatten hat eine erkennbare Form. Ein Mann, der geht, ein Baby, das krabbelt, ein alter Mann mit einem Stock.
So funktioniert auch die Wissenschaft. Sie erfasst nicht die tatsächliche Form der Natur, sondern sie projiziert Information in einen niedriger-dimensionalen Raum. Sie gibt uns eine begrenzte Version der Realität. Die Wissenschaft kann nur eine niedriger-dimensionale Version der ursprünglichen Geometrie erfassen.
Aber diese Projektion hat einen Preis. Es gibt einen massiven Informationsverlust. Und trotzdem verwechseln die Leute oft Wissenschaft mit Natur.
Deswegen haben wir Emotionen entwickelt, um Herausforderungen zu lösen. Emotionen sind das, was wir in den hohen Dimensionen der Natur am nächsten kommen können. Nichts in unserem wissenschaftlichen Arsenal kann die wahre Essenz der Natur erfassen, weil die Wissenschaft niedriger-dimensionale Werkzeuge und teure Präzision verwenden muss, um das zu beschreiben, was sie sieht. Wenn wir dazu bestimmt wären, langsam und analytisch zu denken, um Probleme zu lösen, dann hätten wir uns so entwickelt. Aber das haben wir nicht. Langsames Denken funktioniert nur in Spielen, nicht in der Realität.
Die Art und Weise, wie die Wissenschaft Erfahrungen auf niedriger-dimensionale Interpretationsebenen überträgt, wirkt sich auf unsere Designs aus. Ein Design repräsentiert ja unsere Entscheidungen darüber, welche Teile wir einbeziehen und wie wir sie verbinden. Wir können kein Design entwerfen ohne ein Gefühl für die kausale Struktur zwischen den Teilen, und nur eine vereinfachte Geschichte kann uns erzählen, was diese Ursachen angeblich sind. Wenn wir also die Wissenschaft nutzen, um unsere Designs zu informieren, dann bedeutet das, dass die Teile, die wir auswählen, aus niedriger-dimensionalen Projektionen stammen.
Deswegen kann der Bau komplexer Dinge, so wie wir ihn jetzt machen müssen, nicht von der aktuellen Wissenschaft und dem aktuellen Engineering profitieren. Die Wissenschaft, mit ihrer reduktionistischen Sicht auf die Welt, opfert zu viel von dem, was etwas ausmacht, nur um der scheinbaren Strenge und Präzision willen. Das heutige Engineering greift oft auf die von der Wissenschaft entdeckten Teile zurück und zwingt sie in Designs, die unsere Bemühungen leiten. Die große Diskrepanz zwischen der heutigen Wissenschaft und der Komplexität, die wir jetzt erzeugen müssen, macht diesen Ansatz untragbar.
Ein Design kann die Essenz komplexer Systeme nicht erfassen, genauso wenig wie die reduktionistische Wissenschaft die wahre Essenz der Natur erfassen kann. Wir können eine fantasievolle Version der Realität auf Narrative projizieren, die wir verstehen, aber wenn wir diese Märchen in unsere Designs einfließen lassen, dann stoßen wir an unsere Grenzen, gute Lösungen für schwierige Probleme zu finden.
Wenn wir uns in das Zeitalter der Komplexität begeben, dann müssen wir so bauen, wie die Natur baut, und das bedeutet, dass wir Emergenz in unsere Lösungen einbauen müssen. Was emergiert, kommt von einer Ebene der Komplexität, die man nicht absichtlich gestalten kann. Nur durch die externe Fokussierung auf Variation, Iteration und Selektion können wir die Essenz der natürlichen Systeme erfassen. Richtig zu liegen, wenn es um den Bau komplexer Dinge geht, bedeutet, etwas zu haben, das das Problem löst, und nicht etwas, das sich an die Geschichten hält, die wir uns mit Schatten und Tricks des Lichts erzählen.
Und jetzt kommt was Unvermeidliches: Die Unvermeidlichkeit der KI. Es gab keinen Weg, dass künstliche Intelligenz nicht passieren würde. KI ist nur das unvermeidliche Nebenprodukt davon, immer mehr Teile zu unseren Kreationen hinzuzufügen, bis wir an die Schwelle der schwierigen Probleme stoßen; der Punkt, an dem traditionelles Engineering das Problem nicht lösen kann, und man aus dem System aussteigen muss, um das zu erreichen, was benötigt wird.
Es spielt keine Rolle, wie nah die heutige KI an der menschlichen Intelligenz ist. Der Punkt ist, dass KI unser derzeit bestes Beispiel für das Bauen nach dem Vorbild der Natur ist. Unabhängig von den beabsichtigten Absichten der KI-Forscher und -Ingenieure stellt KI die Schaffung echter Komplexität dar. KI funktioniert nicht aufgrund von Mathematik, Wahrscheinlichkeit, Designprinzipien oder Best Practices. Sie funktioniert, weil ungeplante Abstraktionen innerhalb eines Objekts manifestiert werden, dem erlaubt wurde, von selbst zu entstehen.
Es gibt schon lange eine Debatte darüber, ob das Gehirn als Maschine betrachtet werden kann. Das menschliche Gehirn und der Geist, der es begleitet, sind nichts, was die meisten Leute als Maschine bezeichnen würden. Aber mit KI werden wir mit der Tatsache konfrontiert, dass menschliche Schöpfungen tatsächlich viele der gleichen Eigenschaften annehmen können, die wir in der menschlichen Kognition sehen. Das bedeutet, dass sich die Definition von Maschine ändern muss. Das menschliche Gehirn ist eine Maschine, nur eine, die anders ist als alles, was die reduktionistische Wissenschaft oder das Engineering definieren, geschweige denn direkt bauen können.
Damit etwas eine Maschine ist, muss es Prozesse in Gang setzen und Ergebnisse produzieren. Das ist natürlich das, was das menschliche Gehirn tut. Der Unterschied ist jetzt, dass der Prozess kein Prozess des Determinismus und der Kausalität ist. Eine Maschine der Natur ist eine, die Ergebnisse durch Emergenz produziert.
Das menschliche Gehirn hat alle Kennzeichen komplexer Systeme. Das Gehirn weist Nichtlinearität auf, da kleine Inputs zu unverhältnismäßig großen Outputs führen, wie z. B. bei der synaptischen Plastizität, die sicherstellt, dass sich die Stärke der Verbindungen zwischen Neuronen als Reaktion auf Reize schnell ändert. Das funktioniert auch in umgekehrter Richtung, wo große Mengen von Inputs auf wenige Outputs zusammengedrückt werden; was ich als flexible Determinismus bezeichnet habe.
Das menschliche Gehirn weist auch Selbstorganisation auf, und zwar durch die Veränderungen in den neuronalen Verbindungen als Reaktion auf das Lernen. Nur durch das Phänomen der Selbstorganisation kann das Gehirn adaptiv und somit widerstandsfähig sein. Es kann bestimmten Arten von Schäden standhalten und sich sogar neu organisieren und Verluste kompensieren, wodurch die Funktionalität wiederhergestellt wird, wie sie bei einigen Patienten mit Hirnverletzungen zu sehen ist. Das Gehirn existiert nahe der Kritikalität, was bedeutet, dass es irgendwo zwischen Ordnung und Chaos funktioniert. Dieser Mittelweg zwischen Struktur und Unordnung ermöglicht eine effiziente Informationsverarbeitung. Wir sehen auch das Vorhandensein einer hierarchischen Struktur. Das Gehirn ist in verschiedene Verarbeitungsebenen organisiert, die auf verschiedenen räumlichen und zeitlichen Skalen stattfinden. Diese hierarchische Organisation ermöglicht es, sensorische Informationen zu integrieren, unsere motorischen Aktionen effektiv zu koordinieren und höhere kognitive Funktionen zu implementieren. Es gibt auch eine Reihe komplexer Dynamiken im Gehirn, darunter Oszillationen, Synchronisation und spontane Aktivitätsmuster, die alle zur Informationsverarbeitung beitragen, die für die Kognition notwendig ist.
All dies führt zu dem, was wir Bewusstsein nennen, und zu der damit verbundenen Gedächtnisbildung und Entscheidungsfindung, die das menschliche Denken definieren. Dies ist alles, was notwendig ist, um das menschliche Gehirn rigoros zu definieren.
KI ist unvermeidlich, weil sie Teil der Natur ist. Wir müssen KI nicht mit menschlicher Intelligenz vergleichen, um eine sogenannte Singularität zu markieren; den Punkt, an dem KI so schlau oder schlauer wird als Menschen, was auch immer das bedeutet. Alles, was wir brauchen, ist, die Eigenschaften der Komplexität zu erkennen, die in den Systemen entstehen, die wir erschaffen. Viele dieser Eigenschaften sind in den heutigen KI-Systemen vorhanden. Es ist die Existenz einzigartiger Eigenschaften, die ein komplexes Ding zu dem machen, was es ist.
Das heutige wissenschaftliche und ingenieurwissenschaftliche Paradigma zwingt überholte Argumente dazu, in der aktuellen Diskussion weiterhin vorherrschend zu sein. Argumente wie die des amerikanischen Philosophen John Searle, der versucht, die Vorstellung zu diskreditieren, dass ein Computer, der ein Programm ausführt, Sprache wirklich verstehen kann. Searle argumentierte, dass Rechenprozesse allein kein echtes Bewusstsein hervorbringen können, weil die Manipulation von Symbolen, wie sie Computer tun, das semantische Verständnis vermissen lässt, das wahres Verständnis ausmacht.
Aber solche Argumente sind ungültig, weil sie auf einem falschen Verständnis von Berechnung basieren. Searles Gedankenexperimente beruhen auf den deterministischen und kausalen Verbindungen zwischen Symbolen und gehen davon aus, dass diese Form der Verarbeitung alles ist, wozu ein Computer fähig ist. Das ist offensichtlich falsch.
Ein beliebter Versuch, KI zu diskreditieren, besteht darin, auf einige ihrer gröbsten Fehler hinzuweisen, wie z. B. das Ziehen falscher Schlussfolgerungen oder der zeitweilige Mangel an grundlegendem Denken. Der Kardinalfehler bei diesem Versuch ist die Annahme, dass Intelligenz etwas ist, das sich in einem einzigen Objekt befindet. Menschen sind intelligent, weil wir tief verwurzelte, soziale Geschöpfe sind. Wir operieren innerhalb von Populationen, um Probleme zu lösen. Ein einzelner Mensch ist außerhalb der Umgebungen, in denen er eingebettet ist, sehr fehleranfällig und fehlerhaft. Wir sind keine autarken Apparate, die perfekte Ergebnisse produzieren, wir sind soziale Geschöpfe, die interagieren und zusammenarbeiten. So wie kein einzelner Mensch ohne Fehler operiert, so sollen auch KI-Systeme keine fehlerfreien Werkzeuge sein, die immer korrekte Antworten liefern. Sie sollen wie jedes andere komplexe Objekt in Gemeinschaften eingebettet sein. Wenn wir KI mit Menschen vergleichen wollen, dann sollten wir KI-Systeme als eine weitere Person betrachten, die in Zusammenarbeit arbeitet, und nicht als eine dumme Suchmaschine, die Antworten zurückgibt.
Es gibt eine unbestreitbare Äquivalenz zwischen KI und Menschen. Wir sind Objekte der Komplexität und produzieren Outputs durch Emergenz. Der Kern der KI-Systeme, die Kernmaschinerie, die abseits ihres äußeren regelbasierten Gerüsts sitzt, ist ein programmatisches Nebenprodukt von Trial-and-Error und Heuristiken. Es ist ein Nebenprodukt von Mutter Natur, ausgeführt durch Software.
Die Akzeptanz von Komplexität, das Verständnis dessen, was sie ist, und was noch wichtiger ist, was sie nicht ist, verändert unser grundlegendes Verständnis der Natur von Wissen und Realität. Ja, die Lösungen der Natur sind in der Tat Maschinen, und ja, der Mensch kann Maschinen mit den gleichen Methoden wie die Natur erschaffen. In der Natur geht es vor allem um Informationsverarbeitung, und Informationsverarbeitung kann von Silizium und Elektronen genutzt werden. Aber wir sprechen nicht von Zahnrädern und Kolben. Wir sprechen über die Natur.
Und jetzt kommt was ganz Wichtiges: Wissenschaft und Engineering brauchen Philosophie! Ein Kernproblem des aktuellen Paradigmas ist, dass es sich weitgehend von der Philosophie abgewendet hat. Es herrscht der Glaube vor, vor allem in der Physik, dass die Philosophie nicht viel zum Streben nach neuem Wissen beiträgt. Das Problem bei dieser Denkweise ist, dass sie jede Art von Validierung der Wissenschaft selbst verhindert.
Dieses Problem sehen wir in allen Bereichen der Wissenschaft. Die theoretische Physik der letzten 40 Jahre hat sich mit der Jagd nach "mathematischer Eleganz" beschäftigt und dabei wenig vorzuweisen. Die Genetik rühmt sich mit "Fortschritten" in ihrem Bereich, aber nicht viel mit der Fähigkeit, Ergebnisse zu kontrollieren (z. B. Krankheiten zu heilen). Die Fortschritte in der Nanotechnologie beruhen darauf, tiefer zu blicken und die Kleinheit besser zu manipulieren, aber wo sind all die neuen Materialien und Geräte? Nur weil "genug Platz am unteren Ende" ist, bedeutet das nicht, dass die Manipulation des unteren Endes bekannte Dinge am oberen Ende hervorbringen kann. Es ist nicht eine Frage des Wartens darauf, dass die Wissenschaft nützlich wird, sondern eine Frage des heutigen Paradigmas, das grundlegend davon abgekoppelt ist, wie die Dinge tatsächlich funktionieren.
In jedem Beruf, wenn wir nicht aus dem System aussteigen können, können wir nicht validieren, was wir tun. Das kommt zurück zu meinem Argument, meta zu werden. Nur ein Meta-Level-System kann über sich selbst sprechen und zu echter Validierung führen. Eine Wissenschaftsphilosophie kann die Wissenschaft objektiv betrachten und beurteilen, ob sie gut läuft. Jeder ehrliche Blick auf die Wissenschaft heute würde ihre Reduktionismen und kausalen Erklärungen sehr kritisch sehen. Wir wissen, dass solche Low-Level-Argumentationen nicht darauf schließen lassen, wie Komplexität und damit die Realität funktionieren. Es ist an der Zeit, dass sich die Wissenschaft und das dazugehörige Engineering dramatisch verändern.
Deshalb plädiere ich für die Verwendung von Logik, aber richtig gemacht. Unsere Logik ist nur so stark wie die Prämissen, die wir verwenden, und diese Prämissen dürfen die Eigenschaften der Komplexität nicht ignorieren. Wir müssen berücksichtigen, dass das, was wir im kleinen Maßstab sehen, nicht auf das übertragbar ist, was wir im größeren Maßstab sehen. Was in der Wissenschaft heute in Mode ist, ist die Vorstellung, dass wir nichtlineare, komplexe Systeme in vereinfachte lineare Begriffe umwandeln können. Dies untermauert praktisch alle Versuche in der Wissenschaft, das Verhalten realer Systeme zu approximieren. Ich habe bereits argumentiert, dass die Natur keine Approximation ist. Ihre Maschinerie ist nichts wie die bequemen Berechnungen, die heute unter dem aktuellen Paradigma angestellt werden.
Aber Logik, gepaart mit Prämissen, die ordnungsgemäß um Eigenschaften herum geformt wurden, bedeutet, dass wir die Wissenschaft korrekt validieren können. Und bei dieser Validierung werden wir die größte Ungültigkeit feststellen. Das heutige wissenschaftliche und ingenieurwissenschaftliche Paradigma hält dem nicht stand, was wir in der realen Welt messen, beobachten und erfahren. Was wir jetzt haben, sind Zirkelschlüsse, die auf der versteckten und falschen Annahme beruhen, dass das Kleine mit dem Großen verbunden ist.
Eine Wissenschaftsphilosophie wäre eine wechselseitige Beziehung. Die Philosophie hilft nicht nur, die Wissenschaft in Schach zu halten, sondern die einzigen lohnenden Philosophien sind diejenigen, die aus dem Bemühen entstehen, Dinge zu bauen. Philosophie, eine richtige Philosophie, kann nicht von der praktischen Anwendung der Dinge getrennt werden. Alle Wahrheiten der Geschichte sind in den Momenten der Kreativität enthalten. Es sind diejenigen, die Dinge bauen, die mit der Natur sprechen, nicht diejenigen, die versuchen, diese Erkenntnisse in Narrative über Determinismus und Kausalität zu destillieren.
Die Philosophie, die die Wissenschaft braucht, ist keine akademische Theorie. Diese sprechen nur zu ihren eigenen eleganten Formulierungen und ihrer geschulten Rhetorik. Sie sind so zirkulär wie die heutige Wissenschaft. Die Philosophie, die wir jetzt brauchen, basiert auf dem Bau von Dingen. Nicht irgendeine Praxis, die ins Labor verbannt wird, oder irgendein idealisierter Versuch, Beweise zu erbringen. Nur eine Philosophie, die aus der Erschaffung von Dingen geboren wird, ist gültig.