Chapter Content
A ver, a ver, vamos a hablar un poquito... Mmm, sí, de eso de "Más Allá de los Planos," ¿no? O sea, como el título dice, vamos a ir más allá de lo obvio, ¿vale? Porque, mira, la complejidad... a veces la vemos como si fuera algo súper difícil de manejar, ¿no? Como que nos da miedo. Pero, en realidad, yo creo que es más simple que la propia simplicidad. Sí, sí, lo que oyes.
El problema viene, pienso yo, de esa idea falsa de que la complejidad es como una versión más complicada de los sistemas simples. O sea, solo cuando intentamos controlar un montón de detalles se vuelve difícil, ¿no? Pero, ¡ojo! En sistemas complejos, intentar controlar cada detalle es como perseguir fantasmas. No tiene sentido preocuparse por cosas que, en realidad, no influyen mucho en lo que experimentamos.
A ver, sabemos que la complejidad genera estructuras y comportamientos que no vemos en las piezas individuales que la forman. Y eso es lo que la hace más simple que la simplicidad, sobre todo a la hora de tomar decisiones. Porque en los sistemas simples, vemos muchísimos detalles y mecanismos, porque ahí es donde se producen los resultados. Pero, en la complejidad, esos detalles no se corresponden con lo que vemos en la vida real.
Por eso las matemáticas y la física parecen tan difíciles. Y en cierto modo lo son, pero son difíciles por su simplicidad. Solo cuando nos preocupamos por los detalles más pequeños nos enredamos en un lío. Las pizarras de las clases de física están llenas de ecuaciones, pero solo porque están simplificando al máximo los objetos de la naturaleza. Esos detalles no tienen nada que ver con lo que vemos a gran escala.
Los humanos resolvemos problemas usando heurísticas, o sea, atajos mentales, y pensando rápido. Y no es porque no podamos manejar la complejidad, sino porque así es como se maneja. Decir que los humanos estaríamos mejor si pensáramos más despacio para analizar cada detalle es, vamos, una tontería.
Y esa manía que tienen los psicólogos y la sociedad en general de criticar el pensamiento rápido viene de esa idea errónea del diseño. Solo si pensáramos que tenemos que conocer todos los detalles diríamos que pensar rápido y de forma abstracta es un problema. Nosotros mismos complicamos los problemas del mundo real porque los analizamos de forma reduccionista, intentando controlar detalles que no importan.
Ahora bien, ¿qué pasa con el mito del genio? Siempre nos dicen que el progreso humano se debe a genios excepcionales que descubrieron cosas que los demás no podían. Abre cualquier libro de historia y verás un montón de nombres, gente que supuestamente tuvo una visión especial de los secretos de la naturaleza. Pero el progreso por abstracción, o sea, entendiendo las cosas en un nivel más alto, elimina esa idea de que el progreso humano se debe al genio. Es más, la idea de genio no encaja con lo que sabemos sobre cómo se resuelven los problemas.
Los problemas se resuelven transformando información. En sistemas simples esto ocurre por vías causales directas, pero en la naturaleza no es así. Lo que la naturaleza produce surge por emergencia, y la emergencia viene de las configuraciones más probables que ocurren estadísticamente, que coinciden con la estructura inherente de los problemas. Y esas configuraciones más probables solo ocurren porque todas las configuraciones posibles lo hacen posible. Se necesita todo el grupo para dar sentido a lo que medimos, observamos y experimentamos.
A ver, si el sistema físico fuera una frase, y la mejor configuración fuera una palabra importante, todas las demás palabras de la frase son las que le dan sentido a esa palabra importante. Da igual si hablamos de una palabra, una frase, un párrafo, una sección, un capítulo o un libro entero. La diferencia entre esas cosas es real, pero no tienen sentido ni utilidad fuera del grupo superior. Un párrafo no significa nada fuera de la sección que apoya. La naturaleza siempre usa todas las posibilidades a un nivel de abstracción física para resolver el problema. La naturaleza selecciona usando el grupo.
Por eso nadie puede resolver un problema solo. Atribuir la solución a un individuo es como decir que una sola palabra le da significado a una frase. Es imposible que un individuo resuelva un problema. Atribuir causas a individuos va en contra de cualquier explicación honesta de cómo funciona la naturaleza. Si un hombre está solo en una isla y sobrevive, el cuchillo que usa lo hicieron otros, y el conocimiento sobre cómo construir refugios lo aprendió en su pueblo. Incluso la persona más aislada depende profundamente del ecosistema. Y hoy en día, ese ecosistema es nuestra economía, que es una red de dependencias increíblemente compleja. La idea de que los individuos resuelven problemas es tan ingenua como científicamente incorrecta.
Claro que los libros de historia no se escriben así. Los libros de historia intentan satisfacer esa necesidad humana de encontrar causas, de darle orden al caos. Los humanos quieren señalar algo como la causa de lo que vemos. Pero las causas raíz, en la complejidad, son una ficción. Eso no quiere decir que no haya mecanismos que produzcan lo que experimentamos. Claro que los hay. Pero esos mecanismos no funcionan por vías deterministas ni causas raíz. Atribuir causas, en la complejidad, no es científico.
La historia está llena de cuentos sobre gigantes de la innovación. Gente que hizo contribuciones importantes en su campo. Los Einsteins del mundo, que tenían una inteligencia especial. Incluso diseccionamos sus cerebros para ver qué los hacía diferentes. Claro, algunas personas tienen más interés y motivación que otras. Y quizá, sin esas personas, la innovación no habría ocurrido en ese momento. Pero seguro que habría ocurrido. La "realización múltiple" nos dice que la invención puede ocurrir de muchas maneras diferentes, en muchas culturas diferentes. No es una simple opinión, es una realidad estadística. La atribución va a quien estaba en el lugar y el momento adecuados. Y nadie inventa nada nuevo sin las contribuciones de muchísimas otras personas anónimas en la sociedad.
El progreso por abstracción es automático e inevitable, logrado por el grupo que opera en el nivel "n", resolviendo problemas para el nivel "n + 1". No es una historia de gigantes ni genios. No hubo gigantes, solo hombros sobre los que subirse. Y no son solo palabras bonitas, se trata de describir el progreso humano de forma que coincida con una explicación honesta de la naturaleza.
Y, ¿por qué la gente cree que las cosas complejas están diseñadas? Si ves una vida exitosa, sea cual sea tu definición de éxito, verás algo que parece un sistema diseñado. Habrá piezas que encajan perfectamente. Pero esas piezas han surgido con el tiempo para convertirse en la estructura necesaria para resolver los desafíos de esa vida. La estructura de una vida, como cualquier solución de la naturaleza, surge de la confusión. Por eso los libros de la sección de negocios de una librería engañan tanto. Hablan como si hubiera un camino hacia el éxito. Como si, al seguir el mismo enfoque específico que el autor, la vida del lector seguiría el mismo camino. Pero en el mundo real no hay caminos, porque en la naturaleza no hay caminos. Seguir la estructura que surgió en la vida de otra persona, como si fuera un camino determinista, no se puede hacer. No hay forma de configurar las entrañas de dos sistemas complejos de la misma manera.
De hecho, creer que hay caminos en situaciones complejas es peor que inútil, es dañino. Seguir la estructura que surgió en otra vida, como si fuera un camino fijo, es intervenir en el surgimiento natural de tu propia vida. Es impedir que las cosas fluyan, y evitar que lo que debería unirse lo haga.
Gran parte de lo que sentimos al comer es narrativa. O sea, no es tanto la interacción química de la comida con la lengua, sino la historia que nos cuentan sobre la comida. Abre un nuevo restaurante para desayunar, anunciando recetas únicas o un enfoque especial de la comida. Pero los ingredientes no aportan sabores muy diferentes. Seguro que ese lugar sabe como cualquier otro sitio para desayunar. Claro, eso no funciona para el marketing, y además la gente quiere creer que algo es diferente e interesante.
Por eso el café sabe mejor en una taza especial que en una normal. Los humanos buscamos significado, y lo hacemos asignando causas a las cosas, aunque esas causas no existan. Intenta convencer a alguien de que su restaurante favorito no es diferente de los demás, y te discutirán con pasión. La gente está muy apegada a las historias.
Creer que tu restaurante favorito es diferente de todos los demás no hace daño. Pero cuando hablamos de otras áreas de la vida, esa narrativa del diseño no es tan inocente. Pensemos en las políticas que se aprueban en nuestra sociedad. Los gobiernos intentan reducir los riesgos y mejorar las circunstancias sociales basándose en la investigación. Por ejemplo, la atención médica, donde la financiación, las normas de los seguros y el acceso a servicios específicos se basan en la investigación y la experiencia de los científicos. Las políticas basadas en pruebas buscan evaluar la eficacia de diferentes intervenciones y decidir cómo asignar los recursos. Las recomendaciones de salud pública se basan en la ciencia para obtener información importante sobre la transmisión de enfermedades y los factores de riesgo, lo que lleva a la creación de directrices y recomendaciones. Los investigadores ofrecen pruebas sobre la seguridad y la eficacia de los medicamentos o los dispositivos médicos, que terminan influyendo en las decisiones de los reguladores.
Detrás de todos estos ejemplos está la narrativa del diseño, la idea de que podemos usar el conocimiento obtenido a través de la experimentación (reduccionista) y aplicar ese conocimiento para tomar decisiones en el mundo real. Al principio tiene sentido: hacer experimentos y determinar los factores causales que contribuyen a lo que esperamos mejorar en la sociedad.
Pero ahí está esa palabra: causal. No cuesta mucho convencer a alguien de que existe una conexión causal. Por eso la narrativa del diseño se sale con la suya. El diseño da una sensación de control, porque nos dice que podemos descubrir algo sobre cómo funciona el mundo y aplicar ese conocimiento para crear la siguiente solución. Pero hay una gran diferencia entre lo que la investigación descubre en el aislamiento y lo que ocurre en el mundo real.
No es una crítica a los gobiernos, sino al paradigma actual que se basa en la narrativa del diseño, y cómo esto se está volviendo cada vez más problemático. La narrativa del diseño tiene un defecto grave: se basa en una premisa falsa, la idea de que el conocimiento causal interno obtenido a través del paradigma científico actual puede usarse para crear buenas soluciones en el mundo real. Un enfoque así debería producir resultados poco realistas y potencialmente peligrosos.
¿Por qué es tan fácil para los humanos creer que los diseños que creamos determinan los resultados? La respuesta es que las explicaciones causales no pueden validarse realmente en la complejidad, y por eso se les da una carta blanca. Como vimos, aislar algo no nos dice mucho sobre cómo funciona el sistema más grande. La razón por la que la mayoría de la gente tiende a creer que una pieza aislada es la causa de algo es porque a nuestra sociedad le han dicho que las piezas están conectadas causalmente con los resultados que experimentamos. Se puede dar cualquier explicación a posteriori de lo que vemos, siempre que esté dentro del paradigma científico, usando sus herramientas y narrativas establecidas.
Siempre podemos crear una narrativa razonable para cualquier cosa que observemos. Incluso podemos unir esas narrativas en argumentos lógicos perfectos. Alguien que cree que la Tierra es plana puede construir un argumento lógico válido. Solo tiene que usar premisas que sean verdaderas y que lleven a la conclusión que quiere sacar. Pero si hay una suposición oculta en esas premisas que es claramente falsa, el argumento es falso sin que se note.
Cuando se dan explicaciones dentro de un paradigma científico y de ingeniería defectuoso, son esencialmente imposibles de refutar. Porque, independientemente de la técnica matemática o estadística que use el paradigma, no puede superar sus fallos lógicos. La ciencia no puede salvarse de la mala lógica. Ninguna cantidad de matemáticas complicadas o ensayos controlados aleatorios puede negar el hecho de que hay una diferencia entre que algo tenga un papel y saber cuál es ese papel.
Esto no se aplica a las cosas negativas obvias. Si un estudio confirma la presencia de cianuro en el suministro de agua, entonces deben aplicarse políticas para mitigar el ingrediente tóxico. El argumento que estoy planteando se refiere a lo problemático que es construir cosas basándose en la narrativa del diseño. Pensemos en cómo llegó el cianuro al suministro de agua. La industria minera usa cianuro para procesar y extraer oro y plata del mineral. Una gran variedad de productos químicos y farmacéuticos son posibles gracias a los compuestos de cianuro. El cianuro se usa en el electroplateado para depositar metales como el oro y la plata sobre las superficies con fines protectores o decorativos. Todo esto puede suponer importantes riesgos para la salud y el medio ambiente, y ningún estudio puede confirmar que estos materiales puedan usarse de forma segura.
La narrativa del diseño nos dice que algo tiene un papel, pero no nos dice cuál es su papel completo, y mucho menos el hecho de que la idea de que las cosas tienen papeles es errónea. El cianuro no solo interactúa con los metales para lograr un resultado deseado por los humanos, sino que interactúa con los sistemas de innumerables maneras. Si asumimos el control y el determinismo entre las piezas más pequeñas y las piezas más grandes, siempre estaremos construyendo soluciones que, en última instancia, hacen más daño que bien.
¡Ojo! El patrón no es el camino.
Las estructuras que surgen en entornos complejos son las que se precipitan a partir de la acción ingenua y desinformada. El ensayo y error es cómo crea la naturaleza, y no hay excepciones. La falacia en el corazón del paradigma científico y de ingeniería actual es la creencia de que, una vez que se observa una estructura, tenemos el plano necesario para hacer el objeto nosotros mismos.
Poner en marcha estructuras como forma de construir cosas complejas se topa con el problema de que el patrón no es el camino. Existe una creencia profundamente arraigada en el sistema educativo, así como en la industria, de que las piezas que descubrimos a través de la observación nos informan sobre cómo construir cosas. Pero esto va en la dirección opuesta a la complejidad. Las cosas complejas no producen resultados usando un camino para llegar allí.
El paradigma científico y de ingeniería actual intenta sugerir que la palabra complejidad es un término mal definido. Al contrario, la complejidad tiene características bien establecidas que chocan con la narrativa actual sobre cómo se crean las cosas, qué constituye un conocimiento genuino y cómo se crea nuestra economía.
Las piezas de un sistema que son descubiertas y analizadas por el reduccionismo no tienen casi nada que ver con la estructura y los comportamientos que surgen en los sistemas de la naturaleza. Quitar las capas de una célula no te va a decir cómo funciona la célula. Esto sorprendería a muchos, y más de unos pocos científicos no estarían de acuerdo, pero esto es porque están enmarcando el funcionamiento de la célula en términos de reduccionismo.
No es que construir cosas complejas signifique que no tengamos uso para la reorganización, el intercambio de piezas o el enfoque en conseguir que las transiciones entre las cosas sean correctas. Todo esto ocurre. Pero estas decisiones se toman para atender a las señales de alto nivel en lugar de ajustarlas a alguna estructura predefinida.
Pensemos en la diferencia entre escribir una historia que sigue una estructura narrativa deliberada y escribir una que simplemente suena bien. Estos son dos enfoques muy diferentes, y solo el segundo producirá una escritura superior. El primero tendrá intervenciones que ocurren porque asume que el patrón es el camino necesario para llegar allí. Una estructura preexistente intervendrá en el flujo natural de las palabras, interfiriendo con la emergencia innata de palabras que realmente funcionan.
La mejor escritura surge no a través del uso deliberado de la estructura, sino persiguiendo los sentimientos no etiquetados de uno sobre un tema en particular. Todas las grandes obras dejan que sus estructuras emerjan. Pero esto no es suficiente para los que estudian las grandes obras. Quieren algo preciso, algo sistemático, algo que puedan llamar suyo: una teoría. Los académicos observarán la escritura y notarán una estructura genuina, como el flujo de una introducción de temas a la tensión creciente, el pico de un clímax y la resolución de algún gran desafío. Tal estructura existe en todas las grandes obras. El problema comienza cuando alguien toma esa estructura y cree que ahora posee el plano para crear su propia gran obra.
Es fácil caer en la trampa. ¿Por qué no comenzar nuestro trabajo introduciendo al lector a los temas principales, luego comenzar a plantear desafíos, y así sucesivamente? Si todas las grandes obras tienen este patrón, ¿por qué no estructurar nuestro trabajo en consecuencia? Pero esto siempre producirá cosas pedantes e inauténticas. La gente siempre puede detectar los malos diseños. Escribir por diseño obliga a uno a llenar su escritura con cosas que nunca diría. Es atender a las señales emocionales y a la intuición lo que permite que la estructura y el contenido correctos emerjan. Construir como construye la naturaleza.
La imposición de la estructura en un trabajo que, de otro modo, surge de forma natural siempre interferirá con el proceso de emergencia. Debe interferir de forma perjudicial debido a la dirección de la complejidad. El ADN puede decirte quién estaba en la escena del crimen, pero no puede decirte cómo curar enfermedades o diseñar bebés sanos con los rasgos deseados. El patrón no es el camino; ver lo que ha surgido no tiene ningún mandato sobre cómo hacer que esa cosa emerja de nuevo. El proceso de emergencia, por el cual las abstracciones físicas son creadas por la selección de grupo, de tal manera que los detalles de bajo nivel son subsumidos en constructos de alto nivel, no opera a través de un determinismo estricto.
Escribir un libro es un gran ejemplo de un proyecto serio. Se debe poner mucho esfuerzo en tomar revelaciones y exponerlas en detalle. La cantidad de esfuerzo requerido para escribir un libro a menudo está conectado a la motivación, ya que a muchos les resulta difícil mantener la inspiración el tiempo suficiente para terminar una publicación tan grande. Pero esto debería parecernos extraño. Uno solo debería escribir un libro sobre cosas con las que está profundamente familiarizado y cómodo hablando. Si este es el caso, ¿por qué los libros parecen empresas tan arduas?
Este es el problema con el diseño. La única razón por la que la gente no querría sentarse y hablar de temas que les apasionan es porque algo se está interponiendo en esta actividad tan natural. Y lo que se está interponiendo es el diseño. Cuando pensamos en un libro, estamos pensando en el constructo definido; la cosa que nos dicen que se supone que es un libro. Esto nos hace comenzar inmediatamente a cuestionar nuestros impulsos naturales y a enmarcarlos alrededor de los diseños en lugar de las emociones.
Por supuesto, esto no es solo sobre libros. La escritura de libros es un ejemplo de cómo las tareas grandes y difíciles caen tan fácilmente en la trampa del diseño. Intentamos forzar nuestro trabajo en las estructuras esperadas, solo para perder la estructura natural que habría surgido en ausencia del diseño. Y seamos claros. No hay comparación entre las estructuras que uno intenta diseñar y las estructuras que emergen naturalmente, a través del ensayo y error apasionado. Existe una profunda coordinación entre los detalles internos que no se pueden ver ni etiquetar. Estas estructuras no tienen nombres. No pueden ser codificadas y seguidas por otros. Solo pueden surgir del ignorar intencionalmente las estructuras precedentes.
Y para terminar, la respuesta final de la IA no será una cura.
A menudo oímos que la IA se está volviendo más poderosa. Que la inteligencia de nuestros sistemas de IA se está acercando a la que se ve en los humanos, al menos en algunas áreas específicas. Junto con esta publicidad de la IA viene la idea de que cualquier cosa que los humanos ya han descubierto solo mejorará a medida que la IA se vuelva más inteligente. Una superinteligencia debería traer nuevas curas, ya que tomaría cualquier pedazo de descubrimiento que tengamos actualmente y alcanzaría conocimientos más profundos, encontrando correlaciones y haciendo conexiones que los humanos solos nunca podrían hacer. Después de todo, más inteligencia debería conducir a más innovación.
Espero que el lector ahora aprecie lo que está mal con esta línea de razonamiento. Primero, la comparación entre la IA y la inteligencia humana está en gran medida injustificada, ya que la inteligencia no puede medirse de ninguna manera científicamente honesta. Segundo, la IA podría representar un tipo diferente de inteligencia, no necesariamente una mejor. Diferentes personas resuelven diferentes problemas. Incluso comparar la inteligencia humana con la inteligencia animal es defectuoso, dado que los humanos no están sobreviviendo contra los mismos factores que otros animales. La IA es algo nuevo, no algo que sea necesariamente mejor.
Pero incluso si permitimos que la IA sea, en algún sentido, más capaz que los humanos, el argumento de que nuestra ciencia e ingeniería actuales solo mejorarán tiene un defecto fatal. Asume que nuestro enfoque actual se extenderá. Como he demostrado, el paradigma actual es en última instancia incorrecto, ya que va en contra de la dirección de la complejidad. Y es la complejidad lo que debemos construir ahora.
En el descubrimiento y desarrollo de fármacos, la IA se está utilizando para predecir cómo interactuarán las diferentes moléculas, en un esfuerzo por acelerar el proceso de descubrimiento de fármacos. En el análisis genético, la IA se está utilizando para analizar datos genéticos para identificar mutaciones y variaciones asociadas con enfermedades. En la ciencia de los materiales, la IA se está utilizando para descubrir cómo se podrían fabricar nuevos materiales. Y así sucesivamente.
Pero todos estos ejemplos utilizan la IA para hacer ciencia e ingeniería reduccionista. Como ya se ha dicho, mirar más de cerca un gen te dirá más sobre el gen, pero no mucho sobre una enfermedad. Una superinteligencia no revelará una cura, porque nunca estuvimos en ese camino para empezar. No hay nada que extender si con lo que la IA debe trabajar está desconectado de los resultados del mundo real.
Imaginemos a la IA como el famoso ordenador de La Guía del Autoestopista Galáctico de Douglas Adams. Llamado Pensamiento Profundo, este dispositivo fue construido para dar la respuesta a la "Pregunta Última de la Vida, el Universo y Todo". La respuesta humorística fue, por supuesto, "42". La publicidad que rodea a la IA la imagina como algo parecido a tal máquina, trayendo soluciones inimaginablemente poderosas a problemas difíciles. Si nuestra gran pregunta estuviera relacionada con la salud humana, podríamos imaginar a la IA proporcionándonos la forma de curar las enfermedades. Pero si tuviera que adivinar, la versión de la IA de Pensamiento Profundo no produciría una cura como su respuesta final, sino algo más cercano al espíritu de "deja de comer basura".
De hecho, esta es una respuesta mucho más rigurosa y científica que la noción de que podemos diseñar curas para las enfermedades. No estoy diciendo que las curas no sean posibles, solo que la mejor respuesta bajo la complejidad es permitir que los sistemas funcionen naturalmente, no intervenir con el diseño. Por eso la complejidad es más simple que la simplicidad. La toma de decisiones bajo la complejidad no pretende saber cosas que no sabe. Solo hay tantas piezas de información para manejar para tomar las mejores decisiones. Cosas basadas en el conjunto relativamente pequeño de propiedades universales que representan el conocimiento convergido. Decidir evitar entornos dañinos es una decisión simple, una que probablemente ayuda a prevenir enfermedades, y es mucho más inteligente y racional que esperar alguna cura diseñada.
La respuesta final de la IA no será una cura por la misma razón que el proyecto del genoma humano ha hecho poco para curar las enfermedades utilizando el conocimiento de la genética. Usar la IA en la ciencia para hacer lo que la ciencia ya está haciendo solo puede exacerbar el problema. Podemos usar la IA para descubrir nuevas cosas sobre los genes, pero este descubrimiento nunca será responsable de las cosas que queremos cambiar; al menos no sin causar efectos secundarios dañinos e imprevistos.
Si la IA alcanza una verdadera forma de inteligencia superior, se dará cuenta de que la búsqueda del conocimiento causal es el problema, y propondrá soluciones que no se parecen en nada a lo que el paradigma actual asume que se supone que son las soluciones científicas.