Chapter Content
Ah, chapitre douze... Bon, au-delà des plans, hein? Un truc du genre... la complexité, c'est plus simple que la simplicité. Ouais, c'est un peu contre-intuitif, non?
On dirait que la complexité, on en parle comme si c'était super difficile à gérer. Mais en fait, ça vient de l'idée fausse que la complexité, c'est juste une version plus compliquée de ce qu'on voit dans les systèmes simples. Tu vois? Du coup, on se noie dans les détails. Et là, forcément, ça devient galère. Mais bon, courir après les détails dans des systèmes complexes, c'est comme chasser des fantômes, quoi. Ça n'a aucun sens de se battre avec des trucs qui n'ont quasiment rien à voir avec ce qu'on vit réellement.
Ce qu'il faut comprendre, c'est que la complexité, ça produit des structures et des comportements qu'on ne voit pas dans les éléments qui la composent. Et c'est ça qui fait que c'est plus simple que la simplicité, quand il s'agit de prendre des décisions. Parce que les systèmes simples, eux, ils nous montrent des mécanismes hyper détaillés, plein de détails, vu que c'est de là que viennent leurs résultats. Mais dans la complexité, ces détails, ben, ils ne correspondent pas à ce qui se passe dans la vraie vie.
C'est pour ça que les maths et la physique, ça a l'air si compliqué. En fait, d'une certaine manière, ça l'est, mais c'est compliqué à cause de leur simplicité justement. C'est que quand on se concentre sur les détails minuscules d'un truc, on se prend les pieds dans le tapis. Les tableaux noirs des profs de physique sont couverts d'équations, mais c'est justement parce qu'ils simplifient, euh... enfin, ils gamifient les objets de la nature à mort, quoi! Ces détails-là, ils ne disent rien des choses qu'on observe à plus grande échelle.
Les humains, on résout les problèmes avec des heuristiques, avec une pensée rapide, tu vois. Pas parce qu'on n'est pas capables de gérer la complexité, hein, mais justement parce que c'est comme ça qu'on gère la complexité! Suggérer qu'on ferait mieux de ralentir notre pensée pour décortiquer chaque petit détail, c'est un peu... euh... comment dire? Obtus, quoi.
Et puis, la pathologisation de la pensée rapide, par les psychologues et par la société en général, c'est un peu le résultat de l'idée fausse qui est à la base de la notion de design. C'est que, seulement quand on pense qu'on est censé connaître tous les détails, est-ce qu'on va dire que la pensée abstraite, rapide, de haut niveau, c'est problématique. On rend les problèmes du monde réel difficiles juste parce qu'on les aborde de manière réductionniste, en essayant de comprendre des détails qui n'ont pas vraiment d'importance, quoi.
Alors, le mythe du génie... On nous explique souvent les progrès humains par la présence de génies exceptionnels, qui ont compris des trucs que les autres n'arrivaient pas à comprendre. Tu ouvres n'importe quel livre d'histoire, et tu vois une liste de noms... des gens qui auraient eu une vision particulière des secrets de la nature. Mais le progrès par abstraction, ça détruit cette idée qu'on doit les progrès humains à des génies. Et puis, l'idée de génie, ça ne correspond pas vraiment à ce qu'on sait de la manière dont on résout les problèmes.
En fait, les problèmes, on les résout en transformant de l'information, d'un ensemble d'inputs à un ensemble d'outputs. Dans les systèmes simples, ça se fait par des chemins causaux bien définis, mais ce n'est pas ce qu'on voit dans la nature. Les outputs que la nature produit, ils viennent de l'émergence. Et, comme on l'a déjà dit, l'émergence, ça vient des configurations les plus probables qui se produisent statistiquement, qui correspondent à la structure intrinsèque des problèmes. Et la présence de ces configurations les plus probables, ça n'existe que parce que tous les arrangements possibles le permettent. C'est tout le groupe qui donne son existence et son sens à ce qu'on mesure, à ce qu'on observe, à ce qu'on vit.
Si le système physique était une phrase, et la meilleure configuration un mot poignant, tous les autres mots de la phrase, c'est ce qui donne du sens à ce mot poignant. Et ça marche pareil, que ce soit un mot, une phrase, un paragraphe, une section, un chapitre ou un livre entier. La différence entre ces choses, elle est réelle, mais ça n'a aucun sens, aucune utilité en dehors du groupe de niveau supérieur. Un paragraphe, ça ne veut rien dire en dehors de la section qu'il soutient. La nature, elle utilise toujours toute la collection de possibilités à un certain niveau d'abstraction physique, pour résoudre le problème. La nature, elle sélectionne en utilisant le groupe.
C'est pour ça qu'il ne peut pas y avoir une seule personne qui résout un problème toute seule. Attribuer la solution à un individu, c'est comme remercier un seul mot pour donner du sens à une phrase. Ce n'est pas possible pour des individus de résoudre des problèmes. Le simple fait d'attribuer une cause à des individus, ça va à l'encontre de toute explication intellectuellement honnête du fonctionnement de la nature. Si tu isoles un mec sur une île pour qu'il survive, son couteau, il a été fait par d'autres, et sa connaissance des abris, il l'a reçue du village d'où il vient. La version la plus isolée d'une personne qui survit, elle dépend quand même complètement de l'écosystème. Et aujourd'hui, cet écosystème, c'est notre économie, un réseau de dépendances incroyablement complexe. L'idée que les individus résolvent des problèmes, c'est aussi faux que c'est scientifiquement illétré.
Bien sûr, ce n'est pas comme ça qu'on écrit l'histoire. Les livres d'histoire, ils satisfont le besoin qu'on a de donner un ordre au chaos, de trouver une cause à ce qu'on voit. Mais en fait, les causes profondes, dans la complexité, c'est de la fiction. Ça ne veut pas dire qu'il n'y a pas de mécanismes qui amènent ce qu'on vit, hein, bien sûr que si, mais ces mécanismes, ils ne fonctionnent pas avec des chemins déterministes et des causes profondes. Donc, l'attribution de causes, dans la complexité, ce n'est pas scientifique.
L'histoire est pleine d'histoires de géants de l'innovation. Des gens qui ont apparemment fait des contributions exceptionnelles à leur domaine. Les Einstein du monde, qui auraient eu une intelligence hors du commun. On va même disséquer le cerveau de ces gens-là pour voir ce qui les rend différents! Bien sûr, il y a des gens qui ont plus d'intérêt et de motivation que d'autres. Et peut-être que sans ces gens-là, l'innovation ne serait pas arrivée au même moment. Mais elle serait arrivée, c'est sûr. La réalisabilité multiple, ça nous montre que l'invention, ça peut arriver de plein de manières différentes, dans plein de cultures différentes. Et ce n'est pas juste une affirmation en l'air, c'est une réalité statistique. L'attribution, elle va à celui qui était au bon endroit au bon moment. Et personne n'invente quelque chose de nouveau sans les contributions innombrables d'autres personnes, anonymes, dans la société.
Le progrès par abstraction, c'est automatique et inévitable. C'est le groupe qui opère au niveau (n) qui résout les problèmes pour le niveau (n + 1). Ce n'est pas une histoire de géants et de génies. Il n'y avait pas de géants, seulement des épaules. Et ce n'est pas juste des jolies phrases, hein, c'est pour décrire le progrès humain d'une manière qui correspond à une explication honnête de la nature.
Alors, pourquoi les gens croient que les choses complexes sont conçues?
Si tu regardes une vie réussie, quelle que soit ta définition du succès, tu vas voir ce qui ressemble à un système conçu. Il y aura des éléments qui semblent s'emboîter parfaitement. Mais ces éléments, ils ont émergé avec le temps pour devenir la structure nécessaire pour résoudre les défis de cette vie. La structure d'une vie, comme toutes les solutions de la nature, elle émerge du chaos. C'est pour ça que les livres de la section business des librairies sont tellement trompeurs. Ils parlent comme s'il y avait un chemin vers le succès. Que si on suit la même approche que l'auteur, notre vie va suivre le même chemin. Mais dans la vraie vie, il n'y a pas de chemins, parce que la nature n'a pas de chemins. Suivre la structure émergée d'une autre vie, comme si c'était un chemin déterministe, c'est complètement impossible. Il n'y a aucune manière statistique de configurer les entrailles de deux systèmes complexes de la même manière.
En fait, penser qu'il y a des chemins dans des situations complexes, c'est pire que sans intérêt, c'est carrément nuisible. Suivre la structure émergée d'une autre vie, comme si c'était un chemin, c'est intervenir dans l'émergence naturelle de sa propre vie. C'est empêcher ce qui devrait couler et empêcher ce qui devrait se rassembler.
Une grande partie de ce qu'on ressent quand on mange, c'est du narratif. C'est-à-dire que ce n'est pas tant l'interaction chimique de la nourriture avec notre langue, mais plutôt l'histoire qu'on nous raconte sur la nourriture qu'on est en train de manger. Un nouveau restaurant ouvre, en faisant de la pub pour ses recettes uniques ou son approche particulière de la cuisine. Mais les ingrédients, en réalité, ils ne donnent pas vraiment des saveurs uniques. Ce restaurant va sûrement avoir le même goût que la plupart des autres restaurants du même genre. Bien sûr, ce genre de faits, ce n'est pas très vendeur, et puis les gens ont envie de croire que c'est différent, que c'est intéressant.
C'est pour ça que le café a meilleur goût dans une tasse spéciale que dans une tasse normale. Les humains, on cherche du sens, et pour ça, on attribue des causes aux choses, même si ces causes n'existent pas vraiment. Essaye de convaincre quelqu'un que son restaurant préféré n'est pas vraiment différent des autres, et il ne sera pas d'accord du tout. Les gens sont très attachés aux histoires.
Être convaincu que son restaurant préféré est différent des autres, ce n'est pas grave. Mais quand il s'agit d'autres domaines de la vie, ce narratif du design, ce n'est pas si anodin. Pense aux politiques qu'on adopte dans notre société. Les gouvernements essaient de réduire les risques et d'améliorer les conditions sociales en se basant sur des recherches. Par exemple, la santé, où le financement, les réglementations des assurances et l'accès à certains services dépendent des recherches et de l'expertise des scientifiques. Les politiques dites "fondées sur des preuves" essaient d'évaluer l'efficacité de différentes interventions et de décider comment répartir les ressources. Les recommandations de santé publique s'appuient sur la science pour nous donner des informations essentielles sur la transmission des maladies et les facteurs de risque, ce qui conduit à des recommandations et à des directives. Les chercheurs fournissent des preuves sur la sécurité et l'efficacité des médicaments ou des dispositifs médicaux, ce qui finit par influencer les décisions réglementaires.
Derrière tous ces exemples, il y a le narratif du design, l'idée qu'on peut utiliser les connaissances qu'on a acquises grâce à l'expérimentation (réductionniste) et qu'on peut appliquer ces connaissances pour prendre des décisions dans le monde réel. Au début, ça a l'air logique. On fait des expériences, on identifie les facteurs causaux qui contribuent à ce qu'on espère améliorer dans la société.
Mais il y a ce mot "causal". Il ne faut pas grand-chose pour convaincre quelqu'un qu'il y a une connexion causale. C'est pour ça que le narratif du design fonctionne comme ça. Il y a un sentiment de contrôle dans le design, parce que ça nous dit qu'on peut découvrir quelque chose sur la manière dont le monde fonctionne et qu'on peut appliquer cette connaissance pour mettre en place une nouvelle solution. Mais il y a une énorme déconnexion entre ce que la recherche trouve grâce à l'isolation et ce qui se passe réellement dans le monde réel.
Ce n'est pas une critique des gouvernements, hein, c'est plutôt une critique du paradigme actuel, qui repose sur le narratif du design, et de la manière dont ça devient de plus en plus problématique. Le narratif du design est profondément erroné parce qu'il repose sur une idée fausse: l'idée que les connaissances causales qu'on acquiert grâce au paradigme scientifique actuel peuvent être utilisées pour construire de bonnes solutions dans le monde réel. On peut s'attendre à ce qu'une telle approche produise des résultats irréalistes et potentiellement dangereux.
Pourquoi est-ce si facile pour les humains de croire que les designs qu'on met en place déterminent réellement les résultats? La réponse, c'est que les explications causales ne peuvent pas être vraiment validées dans la complexité, et donc elles ont le champ libre. Comme on l'a vu, l'isolation d'une chose ne nous dit presque rien sur la manière dont le système plus grand fonctionne. La plupart des gens ont tendance à croire qu'un élément isolé est lui-même la cause de quelque chose, parce qu'on nous a dit que les éléments sont liés de manière causale aux outputs qu'on observe. On peut toujours donner une explication après coup à ce qu'on voit, tant que ça s'inscrit dans le paradigme scientifique, en utilisant ses outils et ses narratifs habituels.
On peut toujours créer un narratif qui semble raisonnable pour tout ce qu'on observe. On peut même assembler ces narratifs pour en faire des arguments parfaitement logiques. On peut construire un argument logique valable pour ceux qui croient que la terre est plate. Il suffit d'utiliser des prémisses qui sont elles-mêmes vraies et qui mènent de manière plausible à la conclusion qu'ils tirent. Mais s'il y a une hypothèse cachée dans ces prémisses qui est manifestement fausse, l'argument est faussé de manière discrète.
Quand les explications sont données à l'intérieur d'un paradigme scientifique et d'ingénierie qui est cassé, elles sont essentiellement non falsifiables. C'est parce que, peu importe la technique mathématique ou statistique utilisée, on ne peut pas dépasser ses failles logiques. La science ne peut pas se sauver de la mauvaise logique. Aucune quantité de mathématiques sophistiquées ou d'essais contrôlés randomisés ne peut nier le fait qu'il y a une différence entre le fait que quelque chose joue un rôle et le fait de savoir quel est ce rôle.
Ça ne s'applique pas aux choses négatives évidentes. Si une étude confirme la présence de cyanure dans l'eau, alors des politiques doivent être mises en place pour limiter cet ingrédient toxique. L'argument que je présente, c'est à quel point il est problématique de construire des choses en se basant sur le narratif du design. Pense à la manière dont le cyanure s'est retrouvé dans l'eau. L'industrie minière utilise du cyanure pour traiter et extraire l'or et l'argent du minerai. Un grand nombre de produits chimiques et pharmaceutiques sont rendus possibles grâce aux composés de cyanure. Le cyanure est utilisé dans la galvanoplastie pour déposer des métaux comme l'or et l'argent sur des surfaces à des fins de protection ou de décoration. Tout cela peut poser des risques importants pour la santé et l'environnement, et aucune étude ne peut absolument confirmer que ces matériaux peuvent être utilisés en toute sécurité.
Le narratif du design nous dit que quelque chose joue un rôle, mais il ne nous dit pas quel est son rôle complet, et encore moins que l'idée que les choses ont des rôles est elle-même erronée. Le cyanure n'interagit pas seulement avec les métaux pour atteindre un résultat souhaité par l'homme, il interagit avec les systèmes de d'innombrables manières. Si on suppose qu'il y a un contrôle et un déterminisme entre les éléments plus petits et les éléments plus grands, on construira toujours des solutions qui finiront par faire plus de mal que de bien.
Le schéma n'est pas le chemin.
Les structures qui émergent dans des environnements complexes sont celles qui se précipitent à partir d'une action naïve et non informée. Les essais et les erreurs, c'est comme ça que la nature crée, et il n'y a pas d'exception. L'erreur au cœur du paradigme scientifique et d'ingénierie actuel, c'est de croire qu'une fois qu'une structure est observée, on a maintenant le plan nécessaire pour refaire l'objet nous-mêmes.
Mettre en place des structures pour construire des choses complexes, ça se heurte au problème que j'appelle "le schéma n'est pas le chemin". Il y a une croyance profondément ancrée dans le système éducatif, ainsi que dans l'industrie, que les éléments qu'on découvre par l'observation nous donnent des informations sur la manière de construire des choses. Mais c'est exactement le contraire de la complexité. Les choses complexes ne produisent pas d'outputs en utilisant un chemin pour y arriver.
Le paradigme scientifique et d'ingénierie actuel essaie de suggérer que le mot "complexité" est un terme mal défini. Au contraire, la complexité a des caractéristiques bien établies qui vont indéniablement à l'encontre du narratif actuel sur la manière dont les choses sont créées, sur ce qui constitue une véritable connaissance et sur la manière dont notre économie est façonnée.
Les éléments d'un système qui sont découverts et analysés par le réductionnisme n'ont presque rien à voir avec la structure et les comportements qui émergent dans les systèmes de la nature. Éplucher les couches d'une cellule ne va pas te dire comment la cellule fonctionne. Ça surprendrait beaucoup de gens, et plus d'un scientifique ne serait pas d'accord, mais c'est parce qu'ils envisagent le fonctionnement de la cellule en termes de réductionnisme.
Ce n'est pas que construire des choses complexes signifie qu'on n'a pas besoin de réarrangement, de changement d'éléments ou qu'on ne doit pas se concentrer sur le fait de bien faire les transitions entre les choses. Tout ça se fait. Mais ces décisions sont prises pour répondre à des signaux de haut niveau, plutôt que de les adapter à une structure prédéfinie.
Pense à la différence entre écrire une histoire qui suit une structure narrative délibérée et écrire une histoire qui sonne bien. Ce sont deux approches très différentes, et seule la seconde produira une écriture de qualité supérieure. La première aura des interventions qui se produisent parce qu'elle suppose que le schéma est le chemin nécessaire pour y arriver. Une structure préexistante interviendra dans le flux naturel des mots, interférant avec l'émergence innée des mots qui fonctionnent vraiment.
La meilleure écriture n'est pas le résultat de l'utilisation délibérée d'une structure, mais plutôt de la poursuite de ses sentiments non étiquetés à propos d'un sujet particulier. Toutes les grandes œuvres laissent émerger leurs structures. Mais ce n'est pas suffisant pour ceux qui étudient les grandes œuvres. Ils veulent quelque chose de précis, quelque chose de systématique, quelque chose à eux: une théorie. Les universitaires regardent l'écriture et remarquent une structure authentique, comme le passage d'une introduction des sujets à une tension croissante, le point culminant d'un climax et la résolution d'un grand défi. Une telle structure existe effectivement dans toutes les grandes œuvres. Le problème commence quand quelqu'un prend cette structure et croit qu'il est maintenant en possession du plan pour créer sa propre grande œuvre.
Le piège est facile à éviter. Pourquoi ne pas commencer notre travail en présentant au lecteur les principaux sujets, puis en commençant à poser des défis, et ainsi de suite. Si toutes les grandes œuvres ont ce schéma, pourquoi ne pas structurer notre travail en conséquence? Mais ça produira toujours des choses pédantes et inauthentiques. Les gens peuvent toujours détecter les mauvais designs. Écrire par design oblige à parsemer son écriture de choses qu'on ne dirait jamais. C'est le fait de prêter attention aux indices émotionnels et à l'intuition qui permet à la bonne structure et au bon contenu d'émerger. Construire comme la nature construit.
L'imposition d'une structure sur un travail qui émerge naturellement interféra toujours avec le processus d'émergence. Ça doit interférer d'une manière dommageable à cause de la direction de la complexité. L'ADN peut te dire qui était sur les lieux du crime, mais il ne peut pas te dire comment guérir les maladies ou concevoir des bébés en bonne santé avec les traits souhaités. Le schéma n'est pas le chemin; voir ce qui a émergé n'a aucune influence sur la manière de faire émerger à nouveau cette chose. Le processus d'émergence, par lequel des abstractions physiques sont créées par la sélection de groupe, de sorte que les détails de niveau inférieur sont subsumés dans des constructions de niveau supérieur, ne fonctionne pas par un déterminisme strict.
Écrire un livre est un bon exemple d'entreprise sérieuse. Il faut consacrer beaucoup d'efforts à prendre des révélations et à les développer longuement. La quantité d'efforts nécessaires pour écrire un livre est souvent liée à la motivation, car beaucoup ont du mal à maintenir leur inspiration assez longtemps pour terminer une publication aussi importante. Mais ça devrait nous sembler étrange. On ne devrait écrire un livre que sur des sujets qu'on connaît bien et dont on parle avec plaisir. Si c'est le cas, pourquoi les livres semblent-ils être des entreprises aussi ardues?
C'est ça, le problème avec le design. La seule raison pour laquelle les gens ne voudraient pas s'asseoir et parler de sujets qui les passionnent, c'est parce que quelque chose fait obstacle à cette activité des plus naturelles. Et ce qui fait obstacle, c'est le design. Quand on pense à un livre, on pense à la construction définie, à la chose qu'on nous dit qu'un livre est censé être. Ça nous fait immédiatement commencer à remettre en question nos impulsions naturelles et à les encadrer autour de designs plutôt que d'émotions.
Bien sûr, ce n'est pas seulement une question de livres. L'écriture d'un livre est un exemple de la facilité avec laquelle les tâches importantes et difficiles tombent dans le piège du design. On essaie de forcer notre travail dans des structures attendues, pour finalement perdre la structure naturelle qui aurait émergé en l'absence de design. Et soyons clairs. Il n'y a pas de comparaison entre les structures qu'on essaie de concevoir et les structures qui émergent naturellement, par le biais d'essais et d'erreurs passionnés. Il y a une coordination profonde entre les détails internes qui ne peuvent pas être vus ou étiquetés. Ces structures n'ont pas de noms. Elles ne peuvent pas être codifiées et suivies par d'autres. Elles ne peuvent émerger que de l'ignorance délibérée des structures précédentes.
La réponse ultime de l'IA ne sera pas une guérison.
On entend souvent dire que l'IA devient de plus en plus puissante. Que l'intelligence de nos systèmes d'IA se rapproche de celle qu'on observe chez les humains, du moins dans certains domaines spécifiques. Avec ce battage médiatique sur l'IA vient l'idée que tout ce que les humains ont déjà découvert ne fera que s'améliorer à mesure que l'IA deviendra plus intelligente. Une superintelligence devrait apporter de nouvelles guérisons, car elle prendrait tous les bouts de découverte que nous avons actuellement et atteindrait des connaissances plus approfondies, en trouvant des corrélations et en faisant des connexions que les humains seuls ne pourraient jamais faire. Après tout, plus d'intelligence devrait conduire à plus d'innovation.
J'espère que le lecteur comprend maintenant ce qui ne va pas dans ce raisonnement. Premièrement, la comparaison entre l'IA et l'intelligence humaine est largement injustifiée, car l'intelligence ne peut pas être mesurée d'une manière scientifiquement honnête. Deuxièmement, l'IA pourrait représenter un type d'intelligence différent, pas nécessairement meilleur. Différentes personnes résolvent différents problèmes. Même comparer l'intelligence humaine à l'intelligence animale est erroné, étant donné que les humains ne survivent pas face aux mêmes facteurs que les autres animaux. L'IA est quelque chose de nouveau, pas quelque chose qui est nécessairement meilleur.
Mais même si on admet que l'IA sera, dans un certain sens, plus capable que les humains, l'argument selon lequel notre science et notre ingénierie actuelles ne feront que s'améliorer a une faille fatale. Il suppose que notre approche actuelle sera prolongée. Comme je l'ai montré, le paradigme actuel est lui-même fondamentalement incorrect, car il va à l'encontre de la direction de la complexité. Et c'est la complexité que nous devons maintenant construire.
Dans la découverte et le développement de médicaments, l'IA est utilisée pour prédire comment différentes molécules vont interagir, dans le but d'accélérer le processus de découverte de médicaments. Dans l'analyse génétique, l'IA est utilisée pour analyser des données génétiques afin d'identifier les mutations et les variations associées aux maladies. En science des matériaux, l'IA est utilisée pour découvrir comment de nouveaux matériaux pourraient être fabriqués. Et ainsi de suite.
Mais tous ces exemples utilisent l'IA pour faire de la science et de l'ingénierie réductionnistes. Comme on l'a déjà dit, regarder de plus près un gène te dira plus de choses sur le gène, mais pas grand-chose sur une maladie. Une superintelligence ne révélera pas de guérison, parce qu'on n'était pas sur cette voie depuis le début. Il n'y a rien à prolonger si ce avec quoi l'IA doit travailler est déconnecté des résultats du monde réel.
Imagine l'IA comme le célèbre ordinateur du Guide du voyageur galactique de Douglas Adams. Nommé Deep Thought, cet appareil a été construit pour donner la réponse à la "Question ultime sur la vie, l'univers et tout le reste". La réponse humoristique était bien sûr "42". Le battage médiatique autour de l'IA l'imagine comme quelque chose de semblable à une telle machine, apportant des solutions incroyablement puissantes à des problèmes difficiles. Si notre grande question était liée à la santé humaine, on pourrait imaginer que l'IA nous donne le moyen de guérir les maladies. Mais si je devais deviner, la version de Deep Thought de l'IA ne produirait pas une guérison comme réponse ultime, mais quelque chose de plus proche de l'esprit de "arrêtez de manger des cochonneries".
En fait, c'est une réponse beaucoup plus rigoureuse et scientifique que l'idée qu'on peut concevoir des remèdes contre les maladies. Je ne dis pas que les guérisons ne sont pas possibles, je dis seulement que la meilleure réponse dans la complexité est de permettre aux systèmes de fonctionner naturellement, pas d'intervenir avec le design. C'est pourquoi la complexité est plus simple que la simplicité. La prise de décision dans la complexité ne prétend pas savoir des choses qu'elle ne sait pas. Il n'y a qu'un nombre limité d'informations à utiliser pour prendre les meilleures décisions. Des choses basées sur l'ensemble relativement petit de propriétés universelles qui représentent la connaissance convergée. Décider d'éviter les environnements nocifs est une décision simple, qui aide probablement à prévenir les maladies, et qui est beaucoup plus intelligente et rationnelle que d'espérer une guérison conçue.
La réponse ultime de l'IA ne sera pas une guérison pour la même raison que le projet du génome humain n'a pas fait grand-chose pour guérir les maladies en utilisant la connaissance de la génétique. Utiliser l'IA en science pour faire ce que la science fait déjà ne peut qu'exacerber le problème. On peut utiliser l'IA pour découvrir de nouvelles choses sur les gènes, mais cette découverte ne sera jamais responsable des choses qu'on veut changer; du moins pas sans causer des effets secondaires néfastes et imprévus.
Si l'IA atteint une véritable forme d'intelligence supérieure, elle réalisera que la poursuite de la connaissance causale est le problème, et elle trouvera des solutions qui ne ressembleront en rien à ce que le paradigme actuel suppose que les solutions scientifiques sont censées ressembler. Voilà, je crois qu'on a fait le tour. À bientôt, peut-être!