Chapter Content
Vale, a ver, vamos a hablar un poco de este… digamos, nuevo comienzo, ¿no? Y también de una educación diferente. En fin…
Como ya vimos antes, ¿eh?, una parte de todo este rollo es que el sistema educativo actual es consecuencia de… una forma de pensar, ¿sabes? Una narrativa ahí establecida. Se supone que los estudiantes tienen que aprender los conceptos más importantes que se han ido recopilando a lo largo del tiempo, y luego usar eso como base para su vida laboral. Se parte de la idea de que lo que aprendemos en la escuela, pues, nos va a servir para diseñar soluciones cuando nos graduemos, ¿no?
Pero, a ver, la desconexión entre las partes y el todo hace que eso sea prácticamente imposible en el mundo que viene. Las únicas verdades que realmente importan cuando estamos construyendo soluciones complejas son las que surgen después, o sea, a posteriori. Además, es muchísimo mejor actuar un poco… ingenuamente, ¿no?, cuando te metes en este proceso de ensayo y error que es necesario para descubrir cosas, que intentar intervenir usando esos fundamentos que aprendiste antes. Porque esa intervención lo único que hace es frenar el progreso y el descubrimiento, sobre todo en situaciones complejas. Ya lo hemos visto, ¿no?
La mayoría de las cosas que se enseñan en la escuela, pues, giran en torno a esta idea del diseño. Si aprendemos sobre el descubrimiento de los átomos, los genes, la historia, la geología, el cálculo… lo que sea, se espera que todo eso nos sirva para mejorar el mundo. Nos dicen que hay conexiones causales entre ese conocimiento y las soluciones que vamos a construir. Nos dicen que si aprendemos a escribir bien, pues, algún día escribiremos algo importante. Que si aprendemos cálculo, vamos a entender el movimiento y la energía dentro de las máquinas que vamos a ensamblar. Que si sabemos de historia, pues, vamos a crear mejores gobiernos y estructuras.
Pero, a ver, ese tipo de conocimiento no sirve para nada cuando las soluciones que necesitamos tienen que ser cosas complejas. Un libro es una cosa compleja. Tiene personajes, escenarios, tramas, subtramas, temas… y todo eso interactúa de muchas maneras diferentes. La narrativa que recibe el lector surge de esas interacciones, y muchas veces de forma… inesperada, ¿no? La buena escritura no se consigue cuando alguien guía sus palabras con una estructura narrativa y figuras literarias. Eso surge después, después de muchos intentos fallidos de expresar tus ideas.
Y esto, pues, se parece mucho al proceso que tenemos que seguir para construir nuestras tecnologías. Antes, la desconexión entre la universidad y el mundo real era simplemente… ineficiente. Los estudiantes podían seguir entendiendo cómo funcionaban las cosas en su campo usando el conocimiento académico. Aunque los descubrimientos siempre se han basado en el ensayo y error, la implementación final consistía en abstracciones diseñadas, y esos diseños se podían adaptar al conocimiento académico y a las buenas prácticas. Pero eso ya no funciona si lo que tenemos que construir es complejo.
Las soluciones tecnológicas que necesitamos ahora se parecen más a libros y obras de arte que a las máquinas de la Revolución Industrial. Saber de movimiento o de energía no nos va a ayudar a construir las máquinas del futuro. No vamos a conseguir mejores gobiernos y estructuras simplemente uniendo conceptos básicos sobre participación ciudadana y principios democráticos. La solución que funcione tiene que ser como las soluciones de la naturaleza: objetos complejos cuyo funcionamiento interno surge del ensayo y error, de la heurística y de un poco de… ingenuidad, ¿no?
Y, ojo, que el conocimiento que se enseña en la escuela es importante. Sería absurdo no enseñar los grandes logros de la humanidad a las nuevas generaciones. Ver lo que se ha hecho motiva a la siguiente generación a hacer sus propios descubrimientos y a construir cosas mejores. Y, claro, también evita que la gente tenga que redescubrir cosas que ya se sabían. Entonces, ¿cómo conciliamos el hecho de que esta narrativa del diseño ya no funciona con la idea de que debemos enseñar lo que ya se ha logrado?
Pues, tenemos que redefinir lo que significa aprender, y eso nos lleva de vuelta a la redefinición del conocimiento. De nuevo, solo las propiedades de alto nivel, usadas junto con el razonamiento lógico, pueden considerarse efectivas en situaciones complejas. Las propiedades no se ven afectadas por esta narrativa del diseño, porque no son inherentemente sobre causas. No son cosas que te guíen o te den instrucciones, sino que sirven como señales a posteriori de que se ha logrado algo. Preocuparse por las propiedades es la forma de construir cosas complejas de forma correcta, porque las propiedades son externas a las fuerzas internas que hacen que las cosas funcionen.
Piénsalo, el átomo. Es un descubrimiento real y debería enseñarse en cualquier currículo científico. Pero el conocimiento de los átomos no te dice cómo crear fármacos efectivos o producir mejores materiales. Esto puede sonar raro para un químico farmacéutico o un científico de materiales, pero recuerda la narrativa del diseño. No hace falta mucho para convencer a alguien de que sus acciones tienen una conexión causal con lo que ocurre al final.
Hay una sensación de control en el diseño, porque nos dice que podemos descubrir algo sobre cómo funciona el mundo y aplicar ese conocimiento para resolver problemas. Pero la desconexión fundamental entre lo que la investigación encuentra de forma aislada y lo que realmente ocurre en el mundo real impide que esto funcione. El hecho de que el descubrimiento de fármacos modernos dependa cada vez más de enfoques sistemáticos y específicos no significa que estén diseñando resultados de salud de forma determinista. Siempre puedes esperar un montón de efectos secundarios.
La única validación verdadera es la supervivencia. Un medicamento que te quita el dolor de cabeza o un material que es resistente, pues, funciona. No necesitamos razones para su eficacia. La razón por la que algo es correcto es porque sobrevive a las pruebas. Esto incluye todas las precauciones de seguridad necesarias, porque las pruebas deben superar los estándares de seguridad. Todas las razones que se aplican al éxito de lo que se ha creado son, en gran medida, una narrativa posterior, añadida después para justificar las acciones tomadas.
Lo único que realmente vale la pena saber es: 1) que estamos construyendo algo complejo y 2) que lo que se está creando cumple con los criterios para el problema. Para el descubrimiento de fármacos, esto no requiere conocimiento de los átomos en el sentido causal (el conocimiento de los átomos lleva al diseño de fármacos), sino que requiere conocimiento de las propiedades que señalan que se está logrando la complejidad, y la demostración de que lo que se ha creado está funcionando.
Nuestros intentos de crear soluciones deben basarse en el ensayo y error ingenuo, no en el diseño. El descubrimiento de fármacos sería mejor si se hiciera como se escribe un libro. A medida que los compuestos químicos se mezclan y combinan de forma ingenua, se empiezan a ver estructuras y comportamientos que emergen. Estas señales indican que estamos en el camino correcto. Podemos identificar ciertas propiedades estructurales y de comportamiento de los compuestos que emergen como potencialmente eficaces. No son cosas específicas de un fármaco en particular, sino que son generales a muchos fármacos dentro de la misma categoría.
Esperaríamos encontrar consistencia en el aspecto físico del compuesto en términos de color, textura y forma, lo que indicaría pureza y estabilidad. Observar la solubilidad del compuesto indicaría su capacidad para disolverse en agua y disolventes a base de lípidos, lo cual es crucial para la absorción y la distribución en el cuerpo. Se podría observar la velocidad de disolución para señalar su potencial biodisponibilidad. Su resistencia a la luz, el aire y las diferentes temperaturas sugeriría que no se degradará rápidamente. La aparición de una relación dosis-respuesta indicaría aspectos de su toxicidad y eficacia. También podríamos ver si el compuesto parece dirigirse a sistemas o síntomas específicos.
La tentación es diseñar intencionalmente estas propiedades en el fármaco desde el principio, usando el conocimiento de la química. Podríamos empezar diseñando una molécula con una estructura específica y bien definida que minimice la variabilidad en el punto de fusión, la solubilidad y la estabilidad. Podríamos elegir grupos funcionales específicos que se sabe que promueven la solubilidad tanto en entornos acuosos como lipídicos. Podríamos controlar el tamaño de las partículas y la morfología de la sustancia para optimizar las velocidades de disolución y mejorar la absorción. Podríamos seleccionar específicamente enlaces químicos y motivos estructurales que confieren resistencia a la degradación en diversas condiciones. Podríamos utilizar las relaciones estructura-actividad (SAR) en un intento de establecer una dosis-respuesta predecible. Y podríamos utilizar el conocimiento de las interacciones moleculares y los objetivos biológicos para que nuestros compuestos interactúen con los objetivos deseados.
Todo esto suena razonable, ¿no? El conocimiento de cómo controlar la consistencia, la solubilidad, la velocidad de disolución, la resistencia a las condiciones, las relaciones dosis-respuesta y la focalización existe. Entonces, ¿por qué no usarlo?
Pues, por la misma razón por la que escribir según una estructura narrativa predefinida no producirá una buena obra escrita. Sí, obtendrás un ensayo o un libro, pero será aburrido y pedante. El funcionamiento interno de la solución no funcionará de forma coordinada. El descubrimiento de fármacos siempre ha sido real, pero la narrativa del diseño que utiliza la industria contiene mucha ficción. Podría decirse que la dependencia del diseño en el descubrimiento de fármacos causa más problemas de los que soluciona.
Las propiedades no son cosas para diseñar en los sistemas que creamos, son cosas para notar después de que el ensayo y error ingenuo produzca algo que funcione. Sí, diseñar las propiedades en una solución es posible, y de hecho te dará las propiedades deseadas. El fármaco tendrá consistencia, solubilidad, etc. Pero también tendrá un montón de efectos secundarios que hacen que la solución valga la pena… a duras penas, ¿eh?
Los productos farmacéuticos son solo un ejemplo. El punto es que para crear soluciones complejas debemos usar las propiedades para señalar que la acción ingenua está funcionando, no para diseñar el sistema como una especie de proceso de añadir propiedades que se conectan causalmente. La realidad es que podemos hacer mejores tratamientos y materiales trabajando desde fuera, poniendo más énfasis en la implementación exitosa del ensayo y error que en el diseño de resultados específicos.
Pero si no necesitamos conocimiento de los átomos para hacer mejores fármacos o materiales, entonces, ¿por qué molestarse en aprender sobre los átomos? Pues, porque aprender sobre los átomos no se trata de usar los átomos para hacer cosas mejores. El estudio de los átomos nos enseña propiedades importantes relacionadas con la forma en que ciertos sistemas se organizan y se comportan.
El conocimiento reduccionista que hemos acumulado hasta la fecha no debe verse como piezas con las que construir un futuro mejor, sino como ejemplos de soluciones de la naturaleza que tienen propiedades universalmente verdaderas. El conocimiento de estas propiedades puede ayudar a validar que nuestros esfuerzos están funcionando.
Considera cómo el conocimiento sobre los átomos puede ser muy útil para áreas totalmente ajenas a la química. El conocimiento de que los electrones ocupan niveles de energía específicos en un átomo podría sugerir un patrón útil para sistemas robustos de comunicación digital, en los que los estados bien definidos generan integridad de la señal. Los enlaces más débiles entre los átomos, que dan flexibilidad a los materiales, podrían sugerir un mejor enfoque para lograr la colaboración sin dejar de ser flexible. La forma en que los electrones externos dictan el comportamiento atómico podría ser la señal de protocolos de interacción eficaces en sistemas altamente conectados. Las disposiciones que se ven en las redes atómicas podrían ser más ampliamente aplicables a la planificación urbana.
El punto es que estudiar los átomos sí vale la pena, pero no para conectarlos causalmente en sistemas más grandes a través del diseño. Estudiar los átomos es importante porque muestran propiedades universales a las que se adhiere la naturaleza, y los sistemas análogos a diferentes escalas sin duda operarán bajo restricciones similares.
Cuando se trata del conocimiento que enseñamos a las futuras generaciones, tenemos que deshacernos de esta narrativa del diseño. Las piezas aisladas de conocimiento que aparecen en los libros de texto no son caminos para crear soluciones del mundo real, son ejemplos que demuestran propiedades universalmente verdaderas. Propiedades que muchos otros sistemas exhibirán. Es el conocimiento de estas propiedades, junto con nuestra capacidad humana natural para adoptar el ensayo y el error y pensar heurísticamente, lo que conducirá a las mejores soluciones.
Se supone que estamos haciendo alquimia…
Una crítica común a la investigación y la ingeniería de la IA actual es que se parece más a la alquimia que a una ciencia real. El progreso en la IA no se beneficia mucho del diseño deliberado o del pensamiento reduccionista. Ha avanzado gracias a añadir más datos, a utilizar más potencia de cálculo para el problema y a mezclar y combinar hiperparámetros de forma relativamente ad hoc. Todo esto para disgusto de los científicos y estadísticos tradicionales.
A estas alturas, deberías darte cuenta de que este tipo de trabajo ad hoc y desordenado es precisamente lo que debe ser la IA. La IA se está acercando a una complejidad real, como debe ser para resolver problemas difíciles, y la complejidad genuina no se puede crear a través del diseño. El reduccionismo ficticio de causa y efecto de la ciencia tradicional no mejorará la IA.
El éxito de la IA actual se ha producido porque el aprendizaje profundo se basa en un enfoque fundamentalmente diferente de la ciencia tradicional, la estadística y el software basado en reglas. Al igual que las ciudades, las redes eléctricas y el mercado, la IA no obtiene sus resultados más importantes de los diseños deliberados de los ingenieros. La IA logra su funcionamiento interno necesario mediante un proceso externo similar a la forma en que la naturaleza crea soluciones.
Pero, como de costumbre, la narrativa del diseño se abre paso de nuevo en los esfuerzos de los científicos e ingenieros. La naturaleza ad hoc con la que progresa la ingeniería de la IA actual suena demasiado poco sofisticada. Los investigadores actuales quieren diseñar arquitecturas neuronales y las muchas piezas que se encuentran dentro.
Pero se supone que estamos haciendo alquimia. Se supone que debemos mezclar y combinar cosas de forma ad hoc y esperar a ver qué pasa. De hecho, este es un enfoque mucho más riguroso que operar bajo las ficciones del diseño. En lugar de pretender tener acceso a información que no tiene, el enfoque alquímico permanece fuera de los sistemas y espera a ver qué pasa. Deja que la naturaleza converja en las soluciones.
Por supuesto, la alquimia nunca produjo oro, así que la analogía debe detenerse en algún lugar. Pero el punto es que salir y permitir que la naturaleza converja no es anticientífico. Tales nociones son un hombre de paja utilizado por los científicos tradicionales atrapados en un paradigma (con suerte) moribundo. Parte de cerrar el círculo es abrazar el mismo espíritu que obligó a nuestros antepasados a transmutar lo mundano en algo precioso.
Redefiniendo el rigor
Es importante ser riguroso en la ciencia y la ingeniería. El rigor es la forma en que establecemos la fiabilidad y la validez en lo que descubrimos y construimos. Garantiza que la búsqueda humana de tomar decisiones informadas se base en nuestra capacidad para sacar conclusiones válidas. Queremos construir una base sobre la que se pueda ensamblar el trabajo futuro. Todo esto se presta a la confianza y la credibilidad que el público merece, ya que buscan confiar en las teorías e invenciones que producimos.
Pero la percepción actual de lo que se considera riguroso se está volviendo cada vez más problemática. Tanto los científicos como los laicos ven las habilidades más difíciles como más rigurosas que algo de alto nivel y menos preciso. Cuando uno mira una teoría llena de ecuaciones matemáticas, parece más fuerte que una con meras palabras y diagramas. La precisión expresada dentro de los sistemas formales hace que las cosas parezcan mucho más concretas. Pero hay un costo para esta precisión que nuestro paradigma actual ignora convenientemente. Cuando expresamos nuestros descubrimientos con precisión, utilizando símbolos matemáticos o cálculos causales, perdemos gran parte del contexto que da significado a las cosas.
Y, sin embargo, somos criaturas causales. Necesitamos anclar lo que percibimos en el mundo a cosas definidas. Necesitamos saber que lo que medimos, observamos y experimentamos se puede colocar en modelos realistas que nos ayuden a tomar mejores decisiones.
Ya he detallado en este libro cómo es el rigor adecuado bajo la complejidad. Es la creación de argumentos lógicos cuyas premisas se basan en propiedades atemporales en lugar de razones causales. Pero esto por sí solo no atiende a nuestra necesidad de causalidad y determinismo. Sí, las propiedades actúan como restricciones que esperamos que las cosas complejas cumplan. Podemos usarlos para razonar sobre si vamos por buen camino a medida que construimos soluciones complejas. Pero también tienen una especie de tejido conectivo. No son meramente propiedades distintas sin relación.
Consideremos un libro una vez más. Los libros tienen estructuras narrativas que hacen la transición de una configuración hacia desafíos crecientes y, en última instancia, hacia soluciones a esos desafíos. Como he argumentado, esta estructura no debe utilizarse para sembrar o guiar la escritura, sino solo como señales a posteriori de que la escritura va bien. Las diferentes partes de la estructura narrativa son propiedades de la buena escritura, pero estas propiedades tienen una conexión metacausal entre ellas. La configuración conduce a la tensión creciente, que hace la transición a algún clímax, que finalmente fluye hacia alguna resolución.
La estructura narrativa de la escritura puede verse como una estructura externa, meta cuya partes actúan como propiedades que están causalmente conectadas. Esto significa que si cambiamos nuestra definición de conocimiento externamente, lejos de las causas internas de las cosas, podemos salvar el tipo de causalidad y determinismo que los humanos usan para razonar.
Esta es una concreción correctamente colocada, en contraste con la concreción mal colocada que se ha producido debido a nuestro paradigma científico e ingenieril reduccionista. Cuando la causalidad se utiliza a nivel meta, se convierte en una herramienta formidable para razonar sobre lo que estamos construyendo. Hay estructura y razón para lo que existe a nivel meta. Esto aporta un enfoque mucho más realista para ser riguroso al hablar de la creación de cosas complejas.
La humanidad necesita redefinir el rigor como aquello que existe externamente a los sistemas que esperamos crear. Aquí es donde los humanos se encontraron por primera vez con la causalidad intuitiva y el determinismo de los que dependen nuestra autoconciencia y nuestra razón. No en las entrañas de los sistemas deterministas, o los símbolos sofisticados de nuestras teorías y explicaciones, sino en el mundo naturalmente complejo en el que aprendimos a sobrevivir. Quizás el mayor descubrimiento de la humanidad será su comprensión de que el progreso, en su mejor forma, nos acerca a donde empezamos. Pues nada, ahí lo dejo, ¿eh?