Chapter Content
Alors, euh, chapitre treize... Disons, des fragments de réalité. Un truc qui revient pas mal, c'est la différence entre la procédure et la substance. C'est un peu technique, mais en gros, dans les systèmes simples, la procédure, c'est la même chose que la substance. La procédure, c'est les étapes qu'une chose suit pour fonctionner, vous voyez? Et la substance, c'est sa nature essentielle, la matière dont elle est faite. Genre, un fusil, il suit des étapes bien précises pour tirer. Et en fait, ce fonctionnement, c'est ça qui définit le fusil. Donc, procédure égale substance.
Mais... dans les systèmes complexes, c'est plus compliqué. La procédure peut produire la substance, mais ce n'est pas la substance elle-même. Par exemple, dans l'IA, on met en place une procédure d'essais et d'erreurs, d'heuristiques. Sans cette procédure, l'IA ne deviendrait pas ce qu'elle est. Mais la substance de l'IA, sa nature profonde, n'a pas grand-chose à voir avec les procédures qu'on implémente. L'IA crée une configuration interne avec des milliards de paramètres qui associe beaucoup d'entrées à peu de sorties. L'essence de ce que l'IA fait n'est pas quelque chose qu'on a délibérément conçu. Donc là, la procédure n'est pas la même chose que la substance qu'on recherche.
Et cette séparation, elle montre à quel point construire des choses complexes, c'est différent de construire des choses simples. On ne peut pas arriver à des villes qui fonctionnent, à des réseaux électriques, à des IA en concevant les résultats à l'avance. On ne peut pas entrer dans les systèmes et assembler les rouages internes. On peut juste se mettre à l'extérieur et mettre en place des procédures susceptibles de produire ce qu'on veut.
Un autre point intéressant, c'est qu'il ne faut pas faire les choses dans l'ordre. Il y a deux types de jeux pour les enfants. Il y a les jeux avec un ordre précis, et ceux sans ordre. Le premier type, ça pourrait être une exposition dans un musée pour apprendre aux enfants les pratiques environnementales durables. L'expo aurait des postes numérotés avec une tâche simple à chaque poste. On suit les étapes, et puis on passe au suivant. Quand on a fait tous les postes, on a fini le jeu.
L'autre type de jeu, c'est pas vraiment un jeu, en fait. C'est plutôt les aires de jeux, les structures avec des toboggans et tout ça. C'est des activités ouvertes. Il n'y a pas de règles, pas d'ordre. Mais les enfants, ils vont inventer leurs propres règles, leurs propres conditions de jeu. Ils vont parler entre eux, improviser une approche globale.
Avec l'exemple de l'exposition, les enfants vont se "distraire"… c'est une condition humaine naturelle qui a été pathologisée par les universitaires, d'ailleurs. Ils vont s'ennuyer vite et ils vont vouloir changer les règles ou les ignorer complètement. Mais dans l'aire de jeux, l'ordre se met en place tout seul, et les enfants le suivent.
Dans les deux cas, on peut observer un ordre, mais seulement dans l'aire de jeux, cet ordre émerge. L'exposition au musée, c'est un peu comme l'éducation pour les enfants (et les projets au travail pour les adultes). Il y a un ordre à suivre, une conception. Mais cet ordre, c'est une intervention qui interfère avec l'émergence naturelle de ce qui devrait se passer. C'est encore un exemple où on essaie de ne prendre que les parties qu'on pense importantes, sans se rendre compte que les soi-disant distractions contiennent une grande partie de ce qui est nécessaire pour que l'apprentissage soit authentique.
Et ça, ça nous ramène au problème de l'éducation. Le récit universitaire nous dit qu'il y a un ordre à l'apprentissage. Il y a des prérequis qu'il faut étudier avant de passer à l'étape suivante. C'est la pire façon d'apprendre, parce que l'ordre imposé est dépourvu de ce qui doit se passer pour comprendre le sens d'une chose : le contexte réel. Le contexte, on ne peut l'avoir qu'en étant témoin d'une situation pour laquelle on n'a pas d'étiquettes. Et c'est bien mieux de voir quelque chose de compliqué et d'inattendu, puis de voir les étiquettes émerger, plutôt que de commencer avec les distillations finales.
Essayer d'apprendre un sujet dans l'ordre, ça veut dire qu'on ne voit que les résultats finaux de ce qui a été découvert hors de l'ordre, par essais et erreurs. L'erreur, c'est de ne prendre que les résumés de ce qui compte et de les présenter à ceux qui veulent apprendre. Les gens doivent faire le voyage eux-mêmes, parce que c'est le voyage qui contient la quantité d'informations nécessaires pour imprégner quelqu'un de ce qui compte.
Les étiquettes qu'on nous donne dans les manuels scolaires et les jeux de règles ne contiennent presque aucune information, même si elles représentent les vérités les plus profondes d'un domaine. Ces résultats finaux ne valent que le voyage unique et désordonné qu'on fait pour arriver aux mêmes conclusions.
On ne devrait pas apprendre les choses dans l'ordre, parce que quand elles sont hors de l'ordre, elles permettent au contexte profond qui existe dans les situations réelles d'être disponible. L'ordre utilisé dans l'éducation et l'industrie semble clair et compréhensible, mais il est dépouillé de presque tout ce qui a compté dans la création de ces règles. Sans le voyage, les étiquettes ne veulent rien dire.
Et puis, il y a un problème de maths, P contre NP. En gros, ça demande si tous les problèmes dont la solution peut être vérifiée rapidement par un ordinateur peuvent aussi être résolus rapidement. Si le Sudoku pouvait être vérifié rapidement (est-ce que le jeu est fini?) ET résolu rapidement (trouver la solution), alors P serait égal à NP. Mais si le Sudoku ne pouvait être vérifié rapidement, mais pas résolu rapidement, alors P ne serait pas égal à NP.
P, ça veut dire "temps polynomial", ça veut dire que les problèmes classés P peuvent être résolus rapidement par un algorithme. NP, ça veut dire "temps polynomial non déterministe", ça veut dire que les problèmes classés NP peuvent être vérifiés rapidement, mais on ne connaît pas d'algorithme pour les résoudre rapidement.
Les informaticiens trouvent ça intéressant parce que si P était égal à NP, ça pourrait révolutionner beaucoup de domaines. Les problèmes complexes de notre monde moderne, comme l'allocation des ressources, la planification, la logistique, la cryptographie, l'IA, ce sont des problèmes qu'on ne peut pas résoudre rapidement. Mais on peut les vérifier rapidement. Et si on pouvait aussi les résoudre rapidement, ces technologies seraient beaucoup plus efficaces.
Le problème, c'est que toute la question est basée sur une mauvaise définition du mot "résoudre". On suppose que pour résoudre un problème, il faut suivre une série d'étapes déterministes pour arriver à la solution. C'est parce que le problème P contre NP tourne autour du concept d'algorithmes déterministes. Un algorithme déterministe produit toujours la même sortie pour la même entrée.
Mais les systèmes complexes ne fonctionnent pas comme ça. Il n'y a pas de chemin unique qui mène des éléments de base aux comportements émergents. Ce qu'on observe dans la nature, c'est le résultat de configurations multiples qui correspondent aux mêmes structures qui compressent l'information. La nature n'utilise pas d'algorithmes, elle utilise un processus par lequel toute la distribution des possibilités est utilisée pour manifester des abstractions physiques qui calculent ce qui est nécessaire pour survivre.
Donc, à mon avis, on peut déjà dire que P ne pourra jamais être égal à NP, parce qu'il ne peut jamais y avoir de problème difficile (dans le monde réel) qui soit résolu par une série d'étapes déterministes. Ce n'est pas une question de manque de temps ou d'espace, ou de manque d'efficacité, c'est une question d'impossibilité.
Enfin, il y a l'idée que la science est une projection. J'ai vu une œuvre d'art intéressante, une sculpture bizarre avec une lumière au-dessus et une surface plate en dessous. L'ombre projetée sur la surface plate prenait une forme reconnaissable. On pouvait tourner l'objet et voir l'ombre d'un homme qui marche, ou d'un bébé qui rampe, ou d'un vieil homme avec une canne. La différence entre l'objet lui-même, qui était difforme, et les ombres identifiables qu'il projetait, rendait cette œuvre fascinante.
Et c'est une bonne façon de penser à la science. La science ne touche pas à la forme réelle de la nature, elle projette l'information sur un espace de dimension inférieure, ce qui nous donne une version limitée de la réalité. La science projette l'essence de la nature sur quelque chose qu'on peut comprendre.
Mais cette projection a un coût. Il y a une perte massive d'information quand on passe du monde complexe de la nature aux outils simples qu'on utilise pour décrire le monde. Et pourtant, les gens confondent la science et la nature.
C'est pour ça que les humains ont évolué pour utiliser leurs émotions pour résoudre les problèmes. Les émotions, c'est ce qui nous rapproche le plus de ce qui existe dans les dimensions supérieures de la nature. La pensée lente et analytique, ça ne marche que pour les jeux, pas pour la réalité.
Le fait que la science reformule l'expérience sur des plans d'interprétation de dimension inférieure se reflète dans nos conceptions. Une conception représente nos décisions sur les éléments à inclure et la façon de les relier. On ne peut pas former une conception sans avoir une idée de la structure causale entre les éléments, et seule une histoire simpliste peut nous dire ce que ces causes sont censées être. Si on utilise la science pour éclairer nos conceptions, ça veut dire que les éléments qu'on choisit viennent de projections de dimension inférieure.
C'est pour ça que la construction de choses complexes ne peut pas bénéficier du paradigme scientifique et technique actuel. La science, avec sa vision réductionniste du monde, sacrifie trop de ce qui fait fonctionner quelque chose, au nom de la rigueur et de la précision.
En fait, l'IA était inévitable. C'est juste le résultat d'ajouter de plus en plus d'éléments à nos créations jusqu'à ce qu'on atteigne le seuil des problèmes complexes, le point où l'ingénierie traditionnelle ne peut plus résoudre le problème, et où il faut sortir du système pour obtenir ce qu'on veut.
Peu importe à quel point l'IA d'aujourd'hui est proche de l'intelligence humaine. L'important, c'est que l'IA est notre meilleur exemple de construction comme la nature construit. Quelles que soient les intentions des chercheurs et des ingénieurs en IA, l'IA représente la création d'une complexité authentique. L'IA ne fonctionne pas grâce aux mathématiques, aux probabilités, aux principes de conception ou aux meilleures pratiques. Elle fonctionne parce que des abstractions imprévues se manifestent à l'intérieur d'un objet qu'on a laissé émerger tout seul.
Et euh... pour qu'une chose soit une machine, elle doit exécuter des processus et produire des sorties. C'est ce que fait le cerveau humain. La différence, c'est que le processus n'est pas un processus de déterminisme et de causalité. Une machine de la nature produit des sorties par émergence.
L'IA est inévitable parce qu'elle fait partie de la nature. On n'a pas besoin de comparer l'IA à l'intelligence humaine pour marquer une soi-disant singularité. Il suffit de reconnaître les propriétés de la complexité qui émergent dans les systèmes qu'on crée. Beaucoup de ces propriétés sont présentes dans les systèmes d'IA d'aujourd'hui.
Et pour finir, un des problèmes principaux, c'est que la science actuelle a largement abandonné la philosophie. On a cru, surtout en physique, que la philosophie ne contribuait pas beaucoup à la recherche de nouvelles connaissances. Le problème, c'est que ça empêche toute validation de la science elle-même. La science qui n'est pas contrôlée est une science circulaire.
On peut voir ce problème dans tous les domaines de la science. En physique théorique, on a passé les quarante dernières années à courir après "l'élégance mathématique" sans grand résultat. La génétique se vante de "progrès" dans son domaine, mais sans beaucoup de capacité à contrôler les résultats. Les progrès nanotechnologiques reposent sur une observation plus profonde et une meilleure manipulation de la petitesse, mais où sont tous les nouveaux matériaux et appareils?
Dans tous les domaines, si on ne peut pas sortir du système, on ne peut pas valider ce qu'on fait. Seul un système de méta-niveau peut parler de lui-même et mener à une validation authentique. Une philosophie de la science peut regarder la science objectivement et évaluer si elle va bien. Un regard honnête sur la science d'aujourd'hui serait très critique à l'égard de son réductionnisme et de ses explications causales. On sait que ce raisonnement de bas niveau ne correspond pas à la façon dont la complexité, et donc la réalité, fonctionne. Il est temps que la science et l'ingénierie qui l'accompagne changent radicalement.
C'est pourquoi je suis favorable à l'utilisation de la logique, mais faite correctement. Notre logique n'est aussi forte que les prémisses qu'on utilise, et ces prémisses ne peuvent pas ignorer les propriétés de la complexité. Il faut tenir compte du fait que ce qu'on voit à petite échelle ne correspond pas à ce qu'on voit à plus grande échelle.
La philosophie dont la science a besoin, ce n'est pas une théorie académique. Celles-ci ne parlent qu'à leurs propres formulations élégantes et à leur rhétorique savante. Elles sont aussi circulaires que la science d'aujourd'hui. La philosophie dont on a besoin maintenant est une philosophie basée sur la construction de choses. Pas une praxis reléguée au laboratoire, ou une tentative idéalisée de produire des preuves. Seule une philosophie née de la création de choses est valable. Voilà, c'est tout pour ce chapitre. À la prochaine !