Chapter Content
Bon, alors, euh... on va parler d'un truc un peu différent aujourd'hui. On va, comment dire, explorer une nouvelle façon de voir... disons, l'éducation et la connaissance, quoi.
En gros, on a un système d'éducation qui, enfin, qui part du principe qu'on apprend des trucs importants à l'école et qu'on va s'en servir plus tard pour résoudre des problèmes dans la vraie vie. C'est l'idée, quoi. Mais, euh, le truc, c'est que, bah, y a une déconnexion entre ce qu'on apprend et la réalité complexe qui nous attend.
En fait, les seules "vérités" qui comptent vraiment, quand on crée des solutions complexes, c'est celles qui émergent après coup, quoi. Et puis, c'est même mieux d'agir un peu naïvement, de faire des essais et des erreurs, plutôt que d'essayer d'appliquer des trucs qu'on a appris avant. Parce que, franchement, ça peut bloquer le progrès et la découverte, quoi.
La plupart des matières qu'on nous enseigne à l'école, euh, elles sont basées sur cette idée de "design", tu vois ? Genre, on apprend des trucs sur les atomes, les gènes, la politique, la géologie, le calcul, l'orthographe... et on pense qu'on va utiliser tout ça pour améliorer le monde. On nous dit qu'il y a des liens de cause à effet entre ces connaissances et les solutions qu'on va créer. On nous dit que si on apprend l'orthographe, c'est pour écrire des trucs importants un jour. Que si on apprend le calcul, c'est pour comprendre les machines qu'on va construire.
Mais, ça, ça marche pas vraiment quand on doit créer des trucs vraiment complexes, quoi. Un livre, par exemple, c'est un truc complexe. Y'a des personnages, des lieux, des intrigues, des sous-intrigues, des thèmes... Tout ça interagit de plein de façons différentes. L'histoire, elle émerge de ces interactions, souvent de façon imprévisible. Un bon livre, ça s'écrit pas en appliquant une structure narrative pré-définie. Ça sort de tentatives, d'erreurs, de l'expression d'intuitions, quoi.
Et ben, maintenant, c'est pareil pour la technologie. Avant, la déconnexion entre l'école et le monde réel, c'était juste pas efficace. Mais maintenant, c'est plus grave. Si on doit construire des trucs vraiment complexes, bah, les connaissances académiques, elles suffisent plus. Avant, on pouvait concevoir des abstractions basées sur ce qu'on avait appris à l'école. Mais, si on doit construire un truc comme un livre, c'est plus possible.
Les solutions technologiques qu'on a besoin maintenant, elles ressemblent plus à des œuvres d'art qu'aux machines de la révolution industrielle. La connaissance des forces et de l'énergie, ça va pas nous aider à assembler les machines du futur. Des meilleures institutions politiques, on va pas les créer en collant des concepts de civisme et de démocratie. La solution, elle doit être comme les solutions de la nature : des objets complexes dont le fonctionnement interne émerge d'essais, d'erreurs, d'heuristiques et d'une bonne dose d'action naïve.
Et pourtant... et pourtant, les connaissances qu'on enseigne à l'école, elles sont importantes, quoi. Ce serait ridicule de ne pas transmettre les grandes découvertes de l'humanité aux générations futures. Voir ce qui a déjà été fait, ça motive à faire des découvertes, à construire des choses meilleures. Et puis, ça évite de redécouvrir et de réinventer sans arrêt. Alors, comment on fait pour concilier le fait que cette idée de "design", ça marche plus, avec le fait qu'on doit quand même enseigner ce qui a déjà été découvert ?
Il faut qu'on redéfinisse ce que ça veut dire "apprendre". Il faut qu'on revienne à cette idée de propriétés "méta", tu vois, qu'on utilise avec un raisonnement logique. Ces propriétés, elles sont pas basées sur des causes, elles sont pas là pour nous guider. Elles servent juste de signaux "après coup" qui indiquent qu'on a réussi quelque chose. C'est comme ça qu'on peut construire des trucs complexes de façon valide.
Prends l'atome, par exemple. C'est une vraie découverte et il faut l'enseigner. Mais la connaissance des atomes, ça va pas te dire comment créer des médicaments efficaces ou produire de meilleurs matériaux. Ça peut paraître bizarre pour un chimiste, mais faut se rappeler de cette idée de "design". C'est facile de croire qu'on a un lien de cause à effet direct entre ce qu'on fait et ce qui arrive à la fin.
Y'a une sensation de contrôle, dans le "design". On a l'impression de découvrir des trucs sur le fonctionnement du monde et d'utiliser ces connaissances pour résoudre des problèmes. Mais la déconnexion fondamentale entre ce que la recherche trouve en isolant les choses et ce qui se passe dans la vraie vie, ça rend ça impossible. C'est pas parce que la découverte de médicaments est de plus en plus systématique et ciblée qu'on maîtrise les résultats sur la santé de façon déterministe. On peut toujours s'attendre à des effets secondaires.
La seule vraie validation, c'est la survie, quoi. Un médicament qui fait disparaître le mal de tête, un matériau qui est solide, ça marche. On n'a pas besoin de savoir pourquoi c'est efficace. La raison pour laquelle quelque chose est bien, c'est parce que ça survit aux tests. Et ça inclut toutes les précautions de sécurité nécessaires, parce que les tests doivent respecter les normes de sécurité. Toutes les raisons qu'on donne après coup pour expliquer le succès, c'est surtout une façon de justifier ce qu'on a fait.
Les seules choses qui valent vraiment la peine d'être connues, c'est : 1) qu'on est en train de construire un truc complexe, et 2) que ce qu'on est en train de créer correspond aux critères du problème. Pour la découverte de médicaments, ça demande pas une connaissance des atomes dans un sens causal (genre, la connaissance des atomes qui mène à la conception de médicaments). Ça demande plutôt une connaissance des propriétés qui signalent qu'on est en train de créer quelque chose de complexe, et la démonstration que ce qu'on a créé, ça marche.
Nos tentatives pour créer des solutions, elles doivent être basées sur des essais et des erreurs naïfs, pas sur le "design". La découverte de médicaments, elle serait plus efficace si on la faisait comme on écrit un livre. On mélange des composés chimiques un peu au hasard, et on commence à voir des structures et des comportements qui émergent. Ces structures et ces comportements nous indiquent qu'on est sur la bonne voie. On peut identifier certaines propriétés structurelles et comportementales des composés qui semblent potentiellement efficaces. C'est pas des trucs spécifiques à un seul médicament, c'est des trucs "méta" à beaucoup de médicaments de la même catégorie.
On s'attendrait à voir une certaine cohérence dans l'apparence physique du composé, en termes de couleur, de texture, de forme... pour indiquer la pureté et la stabilité. On regarderait la solubilité du composé, pour voir s'il se dissout bien dans l'eau et dans les graisses, ce qui est crucial pour l'absorption et la distribution dans le corps. On observerait la vitesse de dissolution, pour voir si le médicament est bien absorbé par le corps. On vérifierait s'il résiste bien à la lumière, à l'air et aux variations de température, pour s'assurer qu'il ne se dégrade pas trop vite. L'apparition d'une relation dose-réponse indiquerait des aspects de sa toxicité et de son efficacité. On pourrait aussi regarder si le composé cible des systèmes ou des symptômes spécifiques.
La tentation, c'est de concevoir intentionnellement ces propriétés dans le médicament dès le début, en utilisant la connaissance de la chimie. On pourrait commencer par concevoir une molécule avec une structure spécifique et bien définie qui minimise la variabilité du point de fusion, de la solubilité et de la stabilité. On pourrait choisir des groupes fonctionnels spécifiques qui sont connus pour favoriser la solubilité dans l'eau et dans les graisses. On pourrait contrôler la taille et la forme des particules de la substance pour optimiser la vitesse de dissolution et améliorer l'absorption. On pourrait sélectionner des liaisons chimiques et des motifs structurels qui confèrent une résistance à la dégradation dans différentes conditions. On pourrait utiliser des relations structure-activité (RSA) pour essayer d'établir une relation dose-réponse prévisible. Et on pourrait utiliser la connaissance des interactions moléculaires et des cibles biologiques pour que nos composés interagissent avec les cibles souhaitées.
Tout ça, ça semble raisonnable, quoi. La connaissance de la façon de contrôler la cohérence, la solubilité, la vitesse de dissolution, la résistance aux conditions, les relations dose-réponse et le ciblage, elle existe. Alors, pourquoi on l'utiliserait pas ?
Pour la même raison qu'écrire un livre en suivant une structure narrative pré-définie, ça va pas donner un bon livre. Oui, on va avoir un essai ou un livre, mais il va être ennuyeux et pédant. Les différents éléments de la solution ne vont pas bien fonctionner ensemble. La découverte de médicaments, ça a toujours été quelque chose de réel, mais cette idée de "design" que l'industrie utilise, ça contient pas mal de fiction. On pourrait même dire que la dépendance au "design" dans la découverte de médicaments, ça cause plus de problèmes que ça n'en résout.
Les propriétés, c'est pas des trucs qu'il faut concevoir dans les systèmes qu'on crée. C'est des trucs qu'il faut remarquer après que des essais et des erreurs naïfs aient produit quelque chose qui marche. Oui, c'est possible de concevoir les propriétés dans une solution, et ça va effectivement te donner les propriétés souhaitées. Le médicament va avoir de la cohérence, de la solubilité, etc. Mais il va aussi avoir plein d'effets secondaires qui font que la solution vaut à peine la peine d'être utilisée.
Les produits pharmaceutiques, c'est qu'un exemple. Le truc, c'est que, pour créer des solutions complexes, il faut utiliser les propriétés pour signaler que l'action naïve fonctionne, pas pour concevoir le système comme une série d'étapes additives de propriétés qui sont reliées par des liens de cause à effet. La réalité, c'est qu'on peut créer de meilleurs traitements et de meilleurs matériaux en travaillant de l'extérieur, en mettant plus l'accent sur la mise en œuvre réussie des essais et des erreurs que sur la conception de résultats spécifiques.
Mais, si on n'a pas besoin de la connaissance des atomes pour faire de meilleurs médicaments ou de meilleurs matériaux, alors pourquoi se donner la peine d'apprendre les atomes ? Parce que la connaissance des atomes, c'est pas pour utiliser les atomes pour faire de meilleures choses. L'étude des atomes, elle nous enseigne des propriétés importantes, liées à la façon dont certains systèmes s'organisent et se comportent.
La connaissance réductionniste qu'on a accumulée jusqu'à présent, elle doit pas être vue comme des pièces avec lesquelles on va construire un avenir meilleur. Elle doit être vue comme des exemples de solutions de la nature qui ont des propriétés universellement vraies, et la connaissance de ces propriétés peut nous aider à valider que nos efforts fonctionnent.
Regarde comment la connaissance des atomes peut être très utile dans des domaines complètement en dehors de la chimie. La connaissance que les électrons occupent des niveaux d'énergie spécifiques dans un atome, ça peut suggérer un modèle utile pour des systèmes de communication numérique robustes, où des états bien définis assurent l'intégrité du signal. Les liaisons plus faibles entre les atomes, qui donnent de la flexibilité aux matériaux, ça peut suggérer une meilleure approche pour la collaboration tout en restant flexible. La façon dont les électrons externes dictent le comportement atomique, ça peut être le signe d'une protocoles d'interaction efficaces dans des systèmes très connectés. Les arrangements qu'on voit dans les réseaux atomiques pourraient être plus largement applicables à l'urbanisme.
Le truc, c'est que, c'est sûr que ça vaut la peine d'étudier les atomes, mais pas pour les relier causalement à des systèmes plus grands via le "design". C'est important parce qu'ils montrent des propriétés universelles que la nature respecte, et que des systèmes analogues à différentes échelles vont probablement fonctionner selon des contraintes similaires.
Quand il s'agit des connaissances qu'on enseigne aux générations futures, faut qu'on se débarrasse de cette idée de "design". Les éléments de connaissance isolés qui apparaissent dans les manuels, c'est pas des chemins pour créer des solutions dans le monde réel. C'est des exemples qui démontrent des propriétés universellement vraies. Des propriétés que beaucoup d'autres systèmes vont présenter. C'est la connaissance de ces propriétés, combinée à notre capacité humaine naturelle à faire des essais et des erreurs et à penser de façon heuristique, qui va nous mener aux meilleures solutions.
En gros, il faudrait faire de l'alchimie, quoi.
Une critique qu'on entend souvent sur la recherche en intelligence artificielle, c'est que ça ressemble plus à de l'alchimie qu'à une vraie science. Le progrès en IA, il bénéficie pas beaucoup du "design" délibéré ou de la pensée réductionniste. Il a avancé en ajoutant plus de données, en utilisant plus de puissance de calcul et en mélangeant les hyperparamètres de façon relativement ad hoc. Ce qui déplaît aux scientifiques et aux statisticiens traditionnels.
Mais, maintenant, on devrait comprendre que ce travail ad hoc et désordonné, c'est précisément ce que l'IA doit être. L'IA approche de la vraie complexité, comme elle doit le faire pour résoudre des problèmes difficiles, et la vraie complexité, on peut pas la créer avec le "design". La fiction de cause à effet du réductionnisme scientifique traditionnel, ça va pas améliorer l'IA.
Le succès de l'IA d'aujourd'hui, il est dû au fait que l'apprentissage profond est basé sur une approche fondamentalement différente de la science traditionnelle, des statistiques et des logiciels basés sur des règles. Comme les villes, les réseaux électriques et le marché, l'IA n'obtient pas ses résultats les plus importants grâce aux conceptions délibérées des ingénieurs. L'IA atteint ses éléments internes nécessaires grâce à un processus externe qui ressemble à la façon dont la nature crée des solutions.
Mais, comme d'habitude, cette idée de "design", elle revient dans les efforts des scientifiques et des ingénieurs. La nature ad hoc avec laquelle l'ingénierie de l'IA progresse aujourd'hui, ça sonne trop peu sophistiqué. Les chercheurs d'aujourd'hui veulent concevoir des architectures neuronales et les nombreuses pièces qui se trouvent à l'intérieur.
Mais, au fond, c'est de l'alchimie qu'on est censés faire. On est censés mélanger des trucs un peu au hasard et attendre de voir ce qui se passe. En fait, c'est une approche beaucoup plus rigoureuse que d'opérer en se basant sur des fictions de "design". Au lieu de prétendre avoir accès à des informations qu'on n'a pas, l'approche alchimique reste à l'extérieur des systèmes et attend de voir ce qui se passe. Elle laisse la nature converger vers des solutions.
Bien sûr, l'alchimie a jamais produit d'or, donc l'analogie s'arrête là. Mais le truc, c'est que, prendre du recul et laisser la nature converger, c'est pas anti-scientifique. C'est une fausse idée utilisée par les scientifiques traditionnels qui sont coincés dans un paradigme (espérons-le) mourant. Une partie du retour aux sources, c'est d'embrasser le même esprit qui a poussé nos ancêtres à transmuter le banal en quelque chose de précieux.
Faut qu'on redéfinisse la rigueur, quoi.
C'est important d'être rigoureux en science et en ingénierie. La rigueur, c'est comme ça qu'on établit la fiabilité et la validité de ce qu'on découvre et de ce qu'on construit. Ça garantit que la quête humaine de prendre des décisions éclairées repose sur notre capacité à tirer des conclusions valides. On veut construire une fondation sur laquelle le travail futur peut être assemblé. Tout ça contribue à la confiance et à la crédibilité que le public mérite, quand il s'attend à pouvoir se fier aux théories et aux inventions qu'on produit.
Mais, la perception actuelle de ce qui est considéré comme rigoureux devient de plus en plus problématique. Les scientifiques et les profanes considèrent que les compétences "dures" sont plus rigoureuses que quelque chose de haut niveau et de moins précis. Quand on regarde une théorie remplie d'équations mathématiques, elle apparaît plus forte qu'une théorie avec seulement des mots et des diagrammes. La précision exprimée dans des systèmes formels rend les choses beaucoup plus concrètes. Mais y'a un coût à cette précision qui est commodément ignoré par notre paradigme actuel. Quand on exprime nos découvertes avec précision, en utilisant des symboles mathématiques ou des calculs de causalité, on perd une grande partie du contexte qui donne du sens aux choses.
Et pourtant, on est des créatures causales. On a besoin d'ancrer ce qu'on perçoit dans le monde à des choses définies. On a besoin de savoir que ce qu'on mesure, qu'on observe et qu'on expérimente peut être placé dans des modèles réalistes qui nous aident à prendre de meilleures décisions.
J'ai déjà expliqué dans ce livre à quoi ressemble la vraie rigueur dans un contexte de complexité. C'est la création d'arguments logiques dont les prémisses reposent sur des propriétés intemporelles plutôt que sur des raisons causales. Mais ça suffit pas à satisfaire notre besoin de causalité et de déterminisme. Oui, les propriétés agissent comme des contraintes auxquelles on s'attend à ce que les choses complexes adhèrent. On peut les utiliser pour raisonner si on est sur la bonne voie quand on construit des solutions complexes. Mais elles ont aussi une sorte de tissu conjonctif. C'est pas simplement des propriétés distinctes sans aucune relation.
Reprenons l'exemple d'un livre. Les livres ont des structures narratives qui passent d'une mise en place vers des défis croissants, et finalement vers des solutions à ces défis. Comme je l'ai dit, cette structure ne doit pas être utilisée pour semer ou guider l'écriture, mais seulement comme des signaux après coup que l'écriture se passe bien. Les différentes parties de la structure narrative sont des propriétés d'une bonne écriture, mais ces propriétés ont une connexion "méta-causale" entre elles. La mise en place mène à la tension croissante, qui passe à un point culminant, qui finit par déboucher sur une résolution.
La structure narrative de l'écriture peut être vue comme une structure externe, "méta", dont les parties agissent comme des propriétés qui sont reliées causalement. Ça veut dire que si on déplace notre définition de la connaissance vers l'extérieur, loin des causes internes des choses, on peut sauver la causalité et le déterminisme que les humains utilisent pour raisonner.
C'est une concrétude bien placée, contrairement à la concrétude mal placée qui s'est produite à cause de notre paradigme scientifique et d'ingénierie réductionniste. Quand la causalité est utilisée au niveau "méta", elle devient un outil formidable pour raisonner sur ce qu'on est en train de construire. Y'a une structure et une raison à ce qui existe au niveau "méta". Ça apporte une approche beaucoup plus réaliste à la rigueur quand on parle de la création de choses complexes.
L'humanité doit redéfinir la rigueur comme ce qui existe à l'extérieur des systèmes qu'on espère créer. C'est là que les humains ont d'abord rencontré la causalité intuitive et le déterminisme dont dépendent notre conscience de soi et notre raison. Pas dans les entrailles des systèmes déterministes, ou dans les symboles sophistiqués de nos théories et de nos explications, mais dans le monde naturellement complexe dans lequel on a appris à survivre. Peut-être que la plus grande découverte de l'humanité sera la réalisation que le progrès, dans sa meilleure forme, nous rapproche de l'endroit où on a commencé.