Chapter Content
Alors, euh, chapitre neuf... ouais... "La vie n'est pas un jeu". Bon, c'est un titre un peu, un peu direct, hein. On va parler des maths, mais... pas comme d'habitude. On va voir ça comme... un "résidu" de la nature, si on veut.
Les maths, elles ont toujours été là, dans la science, la technologie... On a utilisé l'arithmétique pour l'agriculture, le commerce, les impôts... La géométrie pour construire. Même les calendriers, c'était des maths pour suivre le temps et comprendre les étoiles. Et puis, les statistiques, les théories économiques... Tout ça, c'est basé sur des principes mathématiques. Einstein, la relativité, la mécanique quantique... C'est pareil, tout est fondé sur les maths. Et les premiers ordinateurs, c'était des théories mathématiques de calcul.
Aujourd'hui, on dit souvent que les maths, c'est la science la plus "pure". On pense que c'est grâce aux maths qu'on rend la science rigoureuse. Plus on est précis, mathématique, plus on est méticuleux, quoi. On suppose que les maths, c'est le langage de la nature, parce que les systèmes naturels montrent des symétries, des structures qu'on retrouve dans les maths.
Mais... voilà, le truc, c'est que quand on applique les maths, ça marche surtout dans des situations artificielles. Prends le poker, par exemple. Les maths peuvent aider à gagner, en utilisant les probabilités, les stratégies mathématiques. Mais le poker, c'est pas vraiment la vraie vie, hein. Y a des règles très claires, si tu les suis pas, tu joues pas correctement. Le poker, c'est un jeu, pas la vie.
Si t'aimes pas cet exemple, pense à l'optimisation d'itinéraire. Trouver le meilleur chemin parmi plein de possibilités. Les maths peuvent aider. C'est un problème difficile, et ça a l'air plus réaliste que le poker. Après tout, on a toujours eu besoin de s'orienter. Mais même ça, c'est artificiel. Dans la nature, y a pas de routes. Y a des arbres, des feuilles, des branches, de la matière organique... mais pas de routes. Les routes, c'est nous qui les faisons, des sentiers, des chemins. C'est un sous-produit de notre monde moderne, avec ses dimensions réduites.
Le poker, l'optimisation d'itinéraire... Y a des équivalents dans la vraie vie, genre négocier le prix d'une voiture, trouver le chemin le plus rapide pour aller au travail. Mais ça reste des situations assez artificielles. Acheter une voiture, c'est des règles, des conventions sociales. Y a pas beaucoup de marge de manœuvre. Compare ça à croiser un ours dans la forêt. Y a pas de règles, juste l'instinct, la reconnaissance des schémas, des décisions émotionnelles à prendre vite. Mais ça veut pas dire qu'il y a pas de négociation. Faut évaluer la position de l'ours, ses intentions, les menaces potentielles. On pense pas à ça comme une négociation, parce que ça va vite. On utilise pas l'information de manière précise, mathématique, mais on l'utilise, crois-moi.
Le chemin le plus rapide pour aller au travail, tu peux le trouver avec des maths, parce qu'on conduit dans un environnement structuré, avec des règles bien définies. Si les maths s'appliquent à plein de choses dans notre monde moderne, c'est parce qu'on a configuré nos vies comme des jeux. Quand c'est un jeu, y a des pièces visibles, explicables. C'est cette simplicité qui permet aux maths de s'accrocher aux éléments du système.
Mais plus on s'éloigne des jeux, plus on va vers des environnements naturels, plus on perd cette "accroche". Ce qui était distinct, transparent, contrôlable, ça devient flou dans la complexité. Les maths perdent leur emprise sur les systèmes qu'elles essaient de décrire. On dit souvent que c'est une simple approximation, mais la complexité, c'est pas juste une version boostée des systèmes déterministes, c'est autre chose. Aucune formule mathématique va t'aider à négocier avec un ours, ou à te frayer un chemin dans une forêt dense et vierge.
On pourrait dire : "Oui, mais on vit dans un monde de jeux, presque personne croise des ours pour aller au travail". Mais l'ère de la complexité remet ça en question. C'est vrai que notre société est basée sur des règles de jeux qui se prêtent aux maths. Mais quand la complexité devient notre mode de fonctionnement, ça change tout.
On ne cherche plus à construire des machines simples, on doit comprendre comment la complexité fonctionne. C'est pas un domaine scientifique de niche, c'est... tout. Nos théories de la nature, nos définitions de la connaissance, du talent, notre utilisation d'une pensée plus souple, heuristique, c'est ça qui compte maintenant. Et ça rend l'utilisation des maths pour décrire la nature de plus en plus problématique, parce qu'on commence à comprendre qu'on peut pas ignorer la complexité.
Après, attention, toutes les maths ne sont pas ultra-précises et déterministes. Les probabilités, par exemple, elles essaient de tenir compte de l'incertitude, du hasard dans le monde réel. Avec les probabilités, on a un cadre pour quantifier, raisonner sur les situations imprévisibles.
Mais les probabilités ont aussi ce problème d'"accroche". Dans toute évaluation probabiliste, y a l'idée de diviser quelque chose par quelque chose d'autre, de comparer deux choses. Si on veut calculer la probabilité de tirer un as d'un jeu de cartes, on identifie le nombre total de résultats possibles, puis le nombre de résultats favorables, et on divise. La probabilité de tirer un as (4 dans un jeu) d'un jeu de 52 cartes, c'est 4/52. On peut calculer ça parce qu'on peut "accrocher" notre cadre probabiliste aux détails d'une situation artificielle.
Bien sûr, y a des méthodes plus avancées que de calculer des ratios, mais ça revient toujours à faire une comparaison. Utiliser les probabilités, ça veut dire qu'on compare implicitement la probabilité qu'un événement se produise à la probabilité qu'il ne se produise pas.
Un jeu de cartes, c'est une chose, mais imagine faire une comparaison dans un environnement naturel. Il faudrait que le numérateur soit le nombre de fois qu'un événement se produit, et le dénominateur le nombre total d'événements qui pourraient se produire. Comment tu calcules ça ? On pourrait faire une estimation raisonnable pour le numérateur, mais le dénominateur ? Impossible. On peut pas connaître le nombre total d'événements possibles, parce que ce nombre est virtuellement infini dans la nature.
Si les ratios te semblent trop simplistes pour décrire les probabilités, on peut parler des distributions. Quand on voit une distribution de probabilités sur un graphique, on visualise les valeurs d'une fonction mathématique, qui représente la probabilité de chaque résultat possible d'une variable aléatoire. En d'autres termes, les résultats produits par des choses naturelles.
Les distributions de probabilités, les assureurs les utilisent pour évaluer les risques, calculer les primes, dans la modélisation financière pour gérer les risques, dans le contrôle qualité pour surveiller, améliorer les normes des produits, dans la recherche médicale, l'épidémiologie, les essais cliniques pour analyser les données de santé, pour prévoir la météo, la demande de la chaîne d'approvisionnement, pour optimiser les stocks, et dans l'IA, avec les méthodes statistiques et les algorithmes d'apprentissage automatique.
Si les probabilités sont si limitées pour refléter les situations naturelles, pourquoi on les utilise autant ? Parce que tout ce que j'ai cité, ça se passe dans le cadre de règles structurées et de conventions sociales, dans le monde qu'on a créé.
Les probabilités, ça vient des jeux de hasard. C'est logique. L'origine d'une chose n'invalide pas son utilisation, mais ça nous montre comment on a imaginé les probabilités au départ : un outil pour prendre des décisions dans les jeux de hasard. C'est peu probable qu'on les aurait découvertes dans un environnement naturel. Ça veut pas dire que le hasard joue aucun rôle dans la vraie vie, juste que la version du hasard de la nature ne suit pas les règles simplistes d'un cadre créé par l'homme.
Y a que les jeux qui sont assez restreints pour calculer un nombre qui nous dit la probabilité que quelque chose se produise. Ça veut dire que les maths, même avec les probabilités, sont assez déconnectées de ce qu'est la nature, de comment elle fonctionne. Si on est dans des environnements contraints, les maths sont un excellent outil pour prendre des décisions et décrire des processus internes. Mais dès qu'on entre dans le monde de la complexité réelle, les maths perdent leur emprise sur le fonctionnement des choses. Ça remet pas en question les maths pures, qui s'intéressent juste aux concepts abstraits, aux conséquences théoriques. Mais pour les applications mathématiques, y compris leur utilisation dans les théories physiques fondamentales, ça suggère une limite profonde à leur validité.
Quand les choses qu'on construit sont simples, les maths appliquées sont très utiles pour résoudre nos problèmes, elles offrent une façon rigoureuse de raisonner sur la conception de nos systèmes. Mais quand on entre dans une ère où on crée des choses vraiment complexes, l'idée que les maths sont la source de la rigueur devient très douteuse.
Beaucoup de gens comprennent cette déconnexion entre les maths et la réalité. La plupart des étudiants se plaignent de l'inutilité des maths dans leur vie. On ignore souvent cette plainte, avec l'excuse habituelle que les maths, même si elles sont pas directement applicables, nous aident à mieux penser. C'était peut-être vrai pendant les Lumières, la Révolution industrielle, mais ça tient plus quand on construit des choses vraiment complexes. En fait, si on est honnête, les maths peuvent facilement nous encourager à penser de travers, comme on l'a vu avec l'exemple du ratio.
Y a pas que les étudiants qui remarquent le manque d'utilité des maths. Si on regarde ceux qui les utilisent en bourse, on voit un avantage pour ceux qui ont les moyens d'exploiter les écarts de prix des actifs, ou d'autres formes d'asymétrie d'information. Mais ces avantages sont subtils, et utiles que pour ceux qui ont déjà réfléchi à des choses plus fondamentales. Si les maths étaient si puissantes, y aurait beaucoup plus de gens qui gagneraient beaucoup d'argent en bourse. C'est pareil pour les paris sportifs. Y a peut-être un petit avantage pour ceux qui cherchent à faire des profits réguliers, mais pas assez pour la plupart des gens. Et tout ça, ça ignore le biais de survie.
L'idée que les maths et les probabilités correspondent au monde réel, ça vient d'une époque où c'était le cas. Mais c'est pas l'époque dans laquelle on entre. Faire des petits profits en bourse, ou avec des paris, c'est une chose. Mais créer des choses vraiment complexes ?
L'argument que notre monde moderne rend les calculs mathématiques utiles commence à perdre du terrain. Les connaissances liées aux STEM (science, technologie, ingénierie, maths) doivent être revues en profondeur pour rester pertinentes face à la complexité. Plus on augmente le niveau d'abstraction physique dans les choses qu'on construit, plus on s'éloigne de la connaissance profonde, pour aller vers des choses qui deviennent gérables par essais-erreurs, l'heuristique, la reconnaissance de schémas.
C'est pas un argument contre les maths, mais plutôt contre la façon dont on les applique actuellement. Les maths, c'est plus de l'abstraction que du calcul, et la complexité, c'est ça. Pas seulement au niveau de l'information, mais aussi physiquement. Mais on utilise surtout les maths de manière causale, comme si elles expliquaient le fonctionnement interne des systèmes qu'on crée. C'est une approche qui va s'avérer intenable à l'ère de la complexité.
On nous dit souvent que l'IA est possible grâce aux maths. L'apprentissage profond utilise des méthodes d'algèbre linéaire, comme les opérations sur les matrices, les espaces vectoriels, les valeurs propres, etc. Il utilise le calcul différentiel avec ses gradients et ses dérivées, ainsi que le calcul intégral et l'optimisation. Il y a les distributions, les espérances, les variances des probabilités, les statistiques bayésiennes, les chaînes de Markov, la théorie des graphes, la combinatoire, etc. On pourrait croire que l'IA, c'est juste l'application des maths à l'informatique. Ça a l'air d'une belle réussite des maths appliquées.
D'une certaine manière, c'est vrai, mais c'est trompeur. On utilise les maths pour construire l'échafaudage des systèmes d'IA, mais c'est pas ça qui fait marcher l'IA. L'IA marche grâce à des propriétés émergentes qui n'ont pas été programmées dans le système. Les maths, c'est comme les fourmis individuelles d'une colonie. Les fourmis individuelles ont des caractéristiques importantes, mais ce sont pas des fourmis spécifiques qui résolvent des problèmes difficiles, c'est la collection de fourmis. C'est le fait de lâcher des milliers de "fourmis" qui permet à l'IA de se matérialiser et de calculer les résultats nécessaires. Les maths, c'est comment on construit les pièces individuelles du processus de haut niveau qu'on doit mettre en place : essais-erreurs combinés à l'heuristique. Après ça, les systèmes convergent de manière qu'on peut pas comprendre de manière déterministe, causale.
Pour mettre en place l'échafaudage qui permet aux essais-erreurs de se produire dans un logiciel, les ingénieurs en IA ont besoin de calculer des choses comme les distances, les vitesses et les mélanges. L'IA utilise des calculs de distance quand elle essaie de réduire l'écart entre la meilleure estimation du modèle et les quantités ou étiquettes réelles. L'IA utilise les vitesses quand elle utilise le calcul pour calculer les valeurs des paramètres. L'IA utilise le mélange quand elle multiplie de grandes matrices pour transformer des données. On utilise bien les maths dans les systèmes d'IA actuels. Mais pas parce que les maths exploitent l'essence de la façon dont les systèmes complexes produisent leurs résultats, mais plutôt parce que les maths sont la seule façon qu'on a de coder les distances, les vitesses et les mélanges dans la machine.
Les maths nous donnent un moyen de définir les distances, les vitesses et les mélanges de manière computationnelle. Mais les concepts de distances, de vitesses et de mélanges n'appartiennent pas aux maths, ce sont des aspects nécessaires de tout processus qui cherche à fonctionner par essais-erreurs et heuristiques de haut niveau. Il pourrait y avoir de meilleures façons d'utiliser les distances, les vitesses et les mélanges que tout ce que les maths peuvent exprimer ou capturer, mais pour l'instant, les maths, c'est tout ce qu'on a. Les vecteurs et les matrices des maths sont utiles, mais y a aucune raison de croire que leur existence (potentiellement platonique) est la façon dont la nature fonctionne.
C'est pas les maths qui font marcher l'IA, ce sont les concepts qui sont au cœur des essais-erreurs et de l'utilisation de l'heuristique. Il faut comprendre les maths comme un simple résidu de ce qui se passe dans la nature, pas comme une explication définitive de son fonctionnement interne.
Mais le paradigme scientifique et technique actuel est imprégné de l'idée que les maths expliquent le fonctionnement des choses complexes. On le voit dans le malaise qu'ont les scientifiques et les ingénieurs face à l'"alchimie" de l'IA. Ça les dérange que l'IA ressemble plus à un art qu'à une science. On améliore les systèmes d'IA, pas par une conception soignée ou un raisonnement causal profond, mais en mélangeant, en associant, en ajoutant des données et de la puissance de calcul pour obtenir des résultats. Ça a l'air tellement peu rigoureux.
C'est la lutte contre l'alchimie de la recherche en IA qui pose problème. Les chercheurs veulent trouver une description plus rigoureuse du fonctionnement interne de l'IA. Mais y a rien à trouver. On sait comment marche l'IA, tant qu'on s'éloigne de la version causale du "comment". Seule une connaissance superficielle liée à l'information, au calcul et à l'évolution peut décrire ce que fait l'IA. L'exercice académique qui consiste à fouiller dans les systèmes pour trouver une histoire déterministe racontée par une théorie mathématique élégante est absurde dans la complexité. Les maths, c'est pas comment marche l'IA, c'est comment on la configure.
Le fait que les maths ne soient qu'un résidu de la réalité nous montre comment on doit construire des choses complexes. On doit revoir notre compréhension de ce que représentent les maths. C'est pas quelque chose qui peut décrire comment quelque chose de complexe fonctionne en interne, ni nous guider sur la façon de construire des solutions complexes. Il n'y aura jamais de théorie mathématique appropriée sur le fonctionnement interne des choses complexes. Les maths, au mieux, c'est un outil utile pour programmer les types d'échafaudages computationnels nécessaires pour s'assurer que les essais-erreurs se produisent dans une machine.
Ça change radicalement notre façon de penser les maths appliquées, et plus largement (et plus important), ce que signifie apporter de la rigueur à la science et à l'ingénierie. Les maths, c'est pas un langage universel avec lequel on peut comprendre l'univers, c'est un cadre pour créer, penser aux constructions computationnelles qui mettent en place les systèmes, mais ne régissent pas leur fonctionnement.
Malgré le fait que les maths, les probabilités soient intrinsèquement déconnectées du fonctionnement interne de la complexité, les probabilités offrent un outil analogique utile. On peut imaginer que les phénomènes naturels produisent leurs résultats selon une gamme de valeurs possibles. C'est ce que les distributions de probabilités essaient de capturer.
La plupart des distributions de probabilités ont des pics, là où les valeurs sont le plus concentrées. Ça veut dire que le pic, c'est l'ensemble des valeurs qu'on est le plus susceptible d'observer. On est plus susceptible d'observer ces valeurs parce qu'elles se produisent le plus souvent. Si on lance un dé à six faces équilibré plusieurs fois, on s'attend à ce que chaque nombre apparaisse à peu près le même nombre de fois, ce qui produit une distribution uniforme (ligne plate). Mais si on biaise le dé, en faisant en sorte qu'il tombe surtout sur le numéro 6, un pic apparaît dans la distribution des valeurs, ce qui nous montre que le 6 est un résultat plus probable.
On peut relier le concept de distributions à pics à l'entropie, la réalisabilité multiple. Le pic d'une distribution représente la configuration statistiquement la plus probable. C'est exactement comme ça que l'entropie relie un arrangement de pièces à un état macroscopique donné. Ce sont les arrangements qui se produisent le plus souvent qui mènent à ce qu'on peut s'attendre à voir. Dans le même esprit, il y a le concept de réalisabilité multiple, qui signifie que les propriétés les plus invariantes dans les systèmes complexes peuvent être atteintes de la manière la plus possible. Puisque le pic d'une distribution, c'est ce qu'on s'attend à voir, et que ça correspond au mécanisme par lequel l'entropie aboutit à des structures, des comportements invariants, on peut penser que le pic d'une distribution de probabilités est une structure, un comportement émergent.
Une réalisation essentielle, c'est que le pic n'est rien sans le reste de la distribution. Le pic nous montre ce à quoi s'attendre, puisqu'il représente les configurations microscopiques statistiquement les plus probables du système. Mais ça veut pas dire que les autres configurations sont pas importantes. Au contraire, ces configurations moins probables jouent un rôle essentiel dans la formation de la distribution globale. Les configurations les plus probables n'existeraient pas si toutes les autres configurations n'étaient pas présentes. Sans ces configurations moins probables, les propriétés statistiques du système cesseraient d'exister.
Pourquoi c'est important ? Quel est le rapport avec la construction de choses à l'ère de la complexité ? Ça nous montre que la nature doit utiliser toute la distribution pour faire fonctionner la complexité. Ça a des conséquences majeures pour l'erreur de la science moderne qui consiste à essayer de comprendre les choses par l'isolement. Ça nous montre que le réductionnisme, sous toutes ses formes, doit être fondamentalement faux, parce qu'il est intrinsèquement déconnecté de ce qu'on observe, de ce qu'on mesure, de ce qu'on expérimente.
Il y a rien de "rigoureux", de "scientifique" à découper les choses pour essayer de faire de la rétro-ingénierie de la nature. C'est aussi vrai scientifiquement que pour les choses qu'on construit. J'expliquerai ces conséquences plus tard. Pour l'instant, comprends que l'isolement fait par le réductionnisme ne résiste même pas aux principes mathématiques, scientifiques que le paradigme actuel est censé adorer.
Y a deux façons d'utiliser les maths pour prendre une décision. On peut faire le calcul, vivre avec les résultats, ou comprendre les propriétés universelles dont parlent les maths. Pour la première option, regarde comment on applique les maths, les probabilités aujourd'hui. En investissement, on calcule le rendement attendu, le risque des investissements. En comptabilité, on calcule les résultats liés à la budgétisation, à la planification financière. En ingénierie, on simule, on analyse le comportement des structures dans différentes conditions, on analyse, on manipule les signaux, on étudie la stabilité, la performance de différents systèmes de contrôle. En science, on simule des phénomènes physiques, on prévoit des résultats expérimentaux. Dans tous ces cas, l'utilisation des maths consiste à faire des calculs pour obtenir un résultat.
Mais l'autre facette des maths est liée à leurs propriétés, pas à leurs calculs. Une propriété, c'est un aspect descriptif d'un objet, d'un phénomène. Ça répond à la question "Comment est l'objet ?", pas à "Comment il produit ses résultats ?". Les maths sont pleines de propriétés importantes qui nous montrent comment un système formel se comporte, les contraintes auxquelles il adhère. Si on les considère comme leur propre phénomène, les maths peuvent éclairer des propriétés importantes et universelles des systèmes. Paradoxalement, c'est plus vrai pour les maths pures que pour les maths appliquées. Les maths pures étudient les schémas à l'intérieur des maths elles-mêmes, n'essaient pas d'atteindre les phénomènes physiques pour décrire ce qui se passe, ni de faire des décomptes, des prédictions spécifiques. Les maths pures souffrent moins de leur déconnexion avec la réalité, parce qu'elles n'essaient de découvrir rien d'autre que leurs propres résultats internes. On peut dire que ça rend les maths pures plus pertinentes pour la construction de choses complexes que les maths appliquées d'aujourd'hui.
Même si elles ne sont qu'un résidu de la réalité, on n'a pas besoin de jeter les maths. J'ai déjà montré comment la compréhension conceptuelle des distributions de probabilités est un allié puissant pour comprendre comment fonctionne la nature. Mais c'est très différent de faire un calcul, de regarder ce qui sort. Faire un calcul pour connaître le résultat d'une situation complexe suggère que les maths peuvent nous dire quelque chose qu'elles ne peuvent pas. Mais apprécier les propriétés des maths peut éclairer les systèmes, parce que les maths sont elles-mêmes un système. Un exemple simple : apprécier ce que les probabilités disent sur le compromis entre le risque et le rendement, plutôt que d'essayer de calculer une valeur de risque réelle. Le premier est un schéma qui parle de la dynamique de l'information, tandis que le deuxième fait comme si les maths reflétaient le fonctionnement interne du système qui nous intéresse.
La prise de décision dans la complexité devrait exploiter les propriétés des maths, des probabilités, pas leurs calculs. Les calculs imposent le déterminisme aux systèmes. Ça change le cadre de prise de décision, ça passe d'un cadre qui utilise des comportements généraux à un cadre qui prétend savoir ce que les systèmes vont faire spécifiquement. Le premier est un outil puissant pour prendre des décisions, le deuxième est dangereux, naïf.
Les maths sont un résidu de la nature, mais c'est un système digne d'être étudié, parce qu'il peut nous dire des propriétés qui sont universellement vraies. On peut baser nos décisions sur les maths, en associant leurs propriétés inhérentes, pas leurs calculs, aux prémisses de nos arguments rationnels. Au-delà de ça, comme je l'expliquerai bientôt, il s'avère que les maths peuvent être plus qu'une simple description de schémas. Elles peuvent en fait créer des choses.
Y a une relation directe entre la "gamification" de la vie, l'idée de conception. Quand on suppose qu'on peut modéliser le monde comme des jeux, on importe ces modèles dans la conception de nos systèmes du monde réel. On suppose que la causalité visible dans les jeux doit aussi être présente dans les situations complexes, qu'on peut toujours contrôler efficacement les éléments internes.
Mais le monde réel n'est pas une extension chaotique de ce qu'on voit dans les jeux. C'est pour ça qu'appliquer ce qu'on trouve dans les modèles simplistes du monde universitaire à la vraie vie est si profondément problématique. La nature ne fait pas ce que font les systèmes simples, ni littéralement, ni comme une approximation.
Pour le paradigme scientifique, technique d'aujourd'hui, l'idée de ne pas se fier à la connaissance causale interne semble impossible. Où sont les meilleures pratiques ? Les modèles de conception ? Les normes de l'industrie ? On est censé bricoler et espérer le mieux ? Mais en fait, ce "bricolage" est beaucoup plus rigoureux que tout ce que le paradigme réductionniste actuel peut offrir. Quand on regarde comment les problèmes vraiment difficiles deviennent gérables, on voit bien que l'action naïve, la reconnaissance de schémas sont en fait la façon la plus efficace de construire des choses complexes. Ce qui rend les essais-erreurs plus gérables, même pour les humains, c'est de fonctionner au plus haut niveau de méta, pour pas se heurter à des limitations computationnelles insurmontables. En gardant les énoncés de problèmes aussi généraux que possible, en créant des éléments internes très flexibles, le bricolage devient un moyen beaucoup plus efficace de construire des solutions.
La plupart des ingénieurs auraient du mal à comprendre comment l'IA pourrait être faite sans conception. Ils partent de leur point de départ actuel, essaient de concevoir le niveau d'abstraction suivant. Imagine un ingénieur qui travaille à améliorer une nouvelle structure de mémoire, comme une matrice ou un tenseur. Il ferait appel à des principes de conception, à des normes de l'industrie pour structurer sa création. Dans ce cas, l'ingénieur travaille sur un seul composant du système global, et cette pièce est essentiellement déterministe.
Mais on peut plus supposer le rôle que joue la structure de mémoire. Connaître le rôle que quelque chose joue et connaître ce rôle, c'est deux choses très différentes. Le rôle d'une structure de mémoire perd son sens dans un objet complexe qui utilise toute la distribution. La structure de mémoire correcte sera celle qui émergera, quand on la considérera dans le contexte de l'ensemble du système d'IA. La seule façon pour la structure de mémoire correcte d'émerger, c'est de la construire de l'extérieur, pas de se soucier de la conception spécifique d'un meilleur composant isolé. Les éléments internes de ce qu'on construit doivent être flexibles, pas spécifiques. C'est pas à nous de savoir à quoi la structure de mémoire devrait ressembler, seulement que son émergence fait partie d'un tableau plus grand.
La conception est un sous-produit de la "gamification" de la vie. Ça a bien marché pour presque tout ce qu'on a construit, parce qu'on a façonné notre monde autour des règles structurées et des conventions des machines simples. Mais la complexité rapproche les comportements de la vraie vie de la façon dont on construit les choses. La conception, comme les jeux, ne peut pas rendre la vie gérable.
Y a une prise de conscience croissante de la façon dont une grande partie de la science est non reproductible. Ça remet en question la fiabilité des résultats originaux publiés dans les revues scientifiques. Si on peut pas reproduire ce qu'un scientifique dit avoir trouvé, comment faire confiance ?
La crise de la reproductibilité est pire pour les sciences "molles". La psychologie est touchée par des problèmes de reproductibilité depuis le début. C'est pas surprenant. Alors qu'un domaine comme la physique mesure des choses par rapport à des systèmes simples, des domaines comme la psychologie essaient de mesurer, d'expliquer l'esprit, qui découle de la chose la plus complexe de toutes : le cerveau humain. C'est une chose pour plusieurs scientifiques de mesurer la même fréquence de lumière émise par un atome, mais essaie de faire en sorte que beaucoup de scientifiques mesurent la même émotion, peu importe ce que ça veut dire.
Les psychologues essaient de faire de leur domaine quelque chose comme la physique, avec ses définitions précises, ses explications causales. C'est pas suffisant de noter les attributs de l'anxiété chez les individus. Pour être considéré comme un "vrai scientifique", les psychologues doivent établir un lien causal entre l'anxiété et une définition de la pensée déformée. Il faut identifier un ensemble de causes profondes, reconstituer une histoire pour montrer le chemin de la source au résultat.
C'est cette "envie de physique" dans les sciences "molles" qui mène à leur version de la crise de la reproductibilité, parce qu'on essaie de mesurer des choses mal définies. Un spécialiste du comportement essaiera de montrer que le comportement humain a une cause profonde. Il pourrait mesurer une activité dans une région du cerveau pendant que quelqu'un semble manifester le comportement, pour expliquer les mécanismes neuronaux sous-jacents au comportement. Mais l'idée que le comportement humain a des causes profondes est en grande partie une fiction, puisque c'est pas comme ça que les objets complexes produisent leurs résultats.
Indépendamment du domaine, on attribue généralement le manque de reproductibilité à une mauvaise technique scientifique. Une conception expérimentale défectueuse, des méthodologies incohérentes ou mal définies, une mauvaise application des méthodes statistiques, une mauvaise gestion des données, des différences dans l'étalonnage de l'équipement, une foule de biais cognitifs sont tous considérés comme des coupables de la crise de la reproductibilité.
Mais la vraie source de la non-reproductibilité, c'est le manque de déterminisme dans la nature. La reproductibilité est importante pour la recherche de qualité, mais c'est irréaliste pour tout sauf les systèmes les plus simples. La science réductionniste a choisi de définir la connaissance en termes d'isolement, d'extraction. On s'attend à contrôler les variables, à séparer, à confiner les régions d'intérêt, à mesurer des choses très spécifiques. Mais c'est pas comme ça que marche la nature. La nature n'a pas de causes profondes, de voies déterministes. Y a aucune raison de s'attendre à une reproductibilité dans la nature, parce qu'il y a aucune raison de penser que la nature prend le même chemin deux fois.
Imagine deux poteaux métalliques qui sortent du sol, à environ 1 mètre de distance. Imagine que je te dis de te tenir à quelques mètres, de lancer un frisbee entre les poteaux, sans que le frisbee ne les touche. C'est facile. Mais imagine que je rapproche les poteaux, à environ 60 centimètres. Le défi est plus difficile, mais faisable. Mais ensuite, je rapproche les poteaux pour que la distance entre eux soit plus petite que le diamètre du frisbee. On pourrait quand même le faire, en lançant le frisbee verticalement. Plus on contraint le système, plus il est difficile de faire passer le frisbee à travers l'espace.
Notre exemple des poteaux, du frisbee est analogue à l'inadéquation entre la nature, les outils qu'on utilise pour la mesurer. Les poteaux sont les phénomènes de la nature, notre tentative de faire passer le frisbee entre les poteaux est notre mesure. Plus on contraint artificiellement les phénomènes par le réductionnisme (on rapproche les poteaux), moins on peut s'attendre à ce que notre mesure soit reproductible (faire passer le frisbee à travers les poteaux sans les toucher).
La science réductionniste nous dit de "gamifier" le monde, en l'isolant, en le contrôlant, en le contraignant. On place la nature dans des laboratoires, on inspecte ses morceaux, on s'attend à ce que les autres mesurent la même chose. C'est comme rapprocher de plus en plus les poteaux et s'attendre à ce que beaucoup de gens lancent toujours le frisbee entre les poteaux. Bien sûr, un individu peut développer des "compétences" pour reproduire un bon tir, mais il est peu probable que beaucoup de gens le fassent.
Les humains ne sont pas faits pour travailler dans des environnements confinés. Les humains, comme l'une des solutions de la nature, sont très flexibles. On fonctionne mieux dans des environnements complexes, en résolvant des problèmes catégoriquement difficiles. On a beaucoup de façons de lancer un frisbee. C'est parce que les humains sont multidimensionnels, on est censé opérer dans des environnements qui sont aussi ou plus dimensionnels que nous, pour remplir l'espace des possibilités avec nos capacités. Mais dès qu'un jeu est créé, on est confiné à opérer dans des règles contraintes. Plus l'environnement est "gamifié", plus on doit restreindre artificiellement nos capacités naturelles.
Le réductionnisme "gamifie" la nature. Il la serre dans des espaces confinés, prétend qu'elle est beaucoup plus simple qu'elle ne l'est. En faisant ça, on peut s'en sortir avec des mesures précises, parce qu'on fait comme si la nature était elle-même précise. Mais la nature n'est pas précise. La physique peut mesurer des choses comme la constante gravitationnelle, la vitesse de la lumière, la constante de structure fine à plusieurs décimales, mais c'est déconnecté de la façon dont la nature fonctionne. Ça a pas de sens en soi. Ce sont des morceaux qui sont statistiquement étalés dans les agrégations mal définies de la nature. Elles ne sont pas causales de manière significative. La physique est plus reproductible seulement parce qu'elle définit plus artificiellement la nature. Toute autre science qui fait de même rencontrera des problèmes de reproductibilité à mesure que la complexité de ses phénomènes augmente.
Essayer de faire de meilleures sciences, avec les définitions d'aujourd'hui, n'aidera pas une étude honnête de la nature. Aucune amélioration de la conception expérimentale, de la cohérence de la méthodologie, de l'utilisation appropriée des statistiques, d'une meilleure gestion des données, d'un étalonnage supérieur de l'équipement, d'une réduction des biais humains ne peut résoudre le problème. C'est le réductionnisme qui est en faute, parce qu'il crée un décalage entre ce qu'on étudie, notre capacité à le mesurer.
La science, c'est l'histoire de la création d'outils de mesure qui sont contraints, pour faire des mesures précises. Mais cette contrainte de nos outils est comme forcer notre lancer de frisbee à prendre une forme non naturelle de plus basse dimension. La prémisse cachée, erronée que les morceaux isolés parlent de la structure, du comportement agrégés (c'est-à-dire le monde réel) a permis à la science de s'en sortir avec leurs mesures précises. La physique peut s'en sortir parce qu'elle s'intéresse principalement aux choses non complexes. Mais on peut pas en dire autant quand on monte l'échelle de la complexité. On devrait s'attendre à ce que la chimie soit moins reproductible, la biologie encore moins, les sciences sociales extrêmement.
Tant que les chercheurs agissent tous comme des physiciens, ils contraindront la nature bien trop pour mesurer grand-chose de conséquent, et encore moins des choses reproductibles. Un spécialiste du comportement qui utilise une