Chapter Content
A ver, a ver... Capítulo trece. Vamos a hablar un poquito de esto de "Fragmentos de Realidad," que suena así como súper profundo, ¿no?
Primero, se pone a hablar de "procedimiento versus sustancia." Y lo explica así, como para que hasta yo lo entienda. Dice que, en las cosas sencillas, lo que hace una cosa (el procedimiento) es lo mismo que la cosa en sí (la sustancia). Pone el ejemplo de un rifle. Un rifle, pues... dispara, ¿no? Y eso es lo que define a un rifle. El procedimiento es la sustancia.
Pero, ¡ojo!, que la cosa cambia cuando hablamos de cosas complejas. En sistemas complejos, el procedimiento *puede* crear la sustancia, pero no es *la* sustancia. Por ejemplo, en la inteligencia artificial, nosotros metemos un montón de procedimientos, de algoritmos, de cosas... para que la IA aprenda a base de prueba y error, ¿no? Sin esos procedimientos, la IA no sería la IA. Pero, la esencia de la IA, lo que realmente es... pues, eso ya no tiene tanto que ver con los procedimientos que nosotros pusimos. Al final, la IA crea como una configuración interna súper complicada, con miles de millones de parámetros, y eso es lo que hace que funcione. Entonces, lo que realmente está haciendo la IA no es algo que nosotros hayamos diseñado directamente. El procedimiento que implementamos no es lo mismo que la sustancia a la que queremos llegar.
Y esto nos demuestra lo diferente que es construir cosas complejas a construir cosas simples. No podemos llegar a ciudades que funcionen bien, a redes eléctricas eficientes, ni a inteligencias artificiales sofisticadas, diseñando *el resultado final*. No podemos meternos dentro del sistema y manipularlo para que funcione como queremos. Solo podemos quedarnos fuera, y poner en marcha procedimientos que *probablemente* produzcan lo que necesitamos. ¿Entendéis? Es un poco como... dejar que las cosas pasen, pero guiándolas un poquito.
Luego se pone a hablar de juegos. Dice que hay dos tipos de juegos para niños. Los que tienen un orden, una secuencia... y los que no. Un ejemplo de los primeros es una exposición en un museo donde los niños tienen que ir pasando por diferentes estaciones y hacer una tarea en cada una. Pasito a pasito, hasta que terminan el juego.
Y el otro tipo de juego, bueno, ni siquiera lo considera un juego de verdad. Son los parques, los columpios, ¿sabes? Ahí no hay reglas, no hay orden. Pero los niños, rapidísimo, inventan sus propias reglas, sus propias condiciones para jugar. Se ponen a hablar entre ellos, a cambiar las cosas... y el juego se organiza solo.
Dice que en la exposición del museo, los niños se aburren, se "distraen" (como si eso fuera algo malo), quieren cambiar las reglas, o directamente no hacer caso. Pero en el parque, el orden surge solo, naturalmente.
En los dos casos hay orden, pero solo en el parque el orden *emerge*. Y dice que la exposición del museo es como casi toda la educación que reciben los niños (y los proyectos en el trabajo para los adultos). Hay un orden que se espera que sigas, un diseño preestablecido. Pero ese orden interfiere con la forma natural en que las cosas deberían pasar. Es como si solo cogiéramos las partes que creemos importantes, sin darnos cuenta de que las "distracciones" contienen gran parte de lo que necesitamos para que el aprendizaje sea real.
Esto le recuerda un problema central del sistema educativo. La narrativa académica nos dice que hay un orden para aprender. Que hay que estudiar ciertas cosas antes de pasar al siguiente nivel. Y dice que esa es la peor forma posible de aprender, porque ese orden impuesto está desprovisto del contexto del mundo real, que es lo que le da significado a las cosas. Dice que es mejor ver algo complicado y confuso, y luego ver qué etiquetas surgen, que empezar con las etiquetas ya hechas.
Intenta explicar que aprender algo "en orden" significa que solo estás viendo los resultados finales de algo que originalmente se descubrió "fuera de orden," a base de prueba y error. Es como si te dieran el resumen de un libro sin haberlo leído. La clave está en el viaje, porque el viaje es lo que contiene la información necesaria para entender las cosas.
Las etiquetas que te dan en los libros de texto, en los juegos con reglas... no contienen casi información, aunque representen las verdades más profundas de un tema. Solo valen si uno hace su propio viaje para llegar a esas mismas conclusiones.
Así que, dice, no deberíamos aprender las cosas en orden, porque cuando están "fuera de orden" es cuando el contexto del mundo real se hace presente. El orden que se usa en la educación y en la industria parece muy bonito y comprensible, pero está desprovisto de casi todo lo que importó en la creación de esas reglas. Sin el viaje, las etiquetas no significan nada.
Ahora salta con el problema "P versus NP" de la informática. En plan, ¿eh? Explica que, en resumen, pregunta si todo problema cuya solución se puede verificar rápidamente con una computadora, también se puede resolver rápidamente. Pone el ejemplo del Sudoku. Si el Sudoku se pudiera verificar rápidamente (comprobar que está bien resuelto) Y resolver rápidamente (encontrar la solución), entonces "P" sería igual a "NP". Pero si solo se pudiera verificar rápidamente, pero no resolver rápidamente, entonces "P" no sería igual a "NP".
Dice que "P" significa "tiempo polinómico," que son los problemas que se pueden resolver con un algoritmo "rápidamente." Y que "NP" significa "tiempo polinómico no determinista," que son los problemas que se pueden verificar rápidamente, pero para los que no hay un algoritmo conocido para resolverlos rápidamente. Vamos, que si le echas más cosas al problema y el tiempo para resolverlo se dispara, seguramente es un problema "NP."
A los informáticos les interesa mucho este problema porque si "P" fuera igual a "NP" podría revolucionar muchos campos. Muchos problemas importantes de nuestro mundo moderno, como la asignación de recursos, la logística, la criptografía, la inteligencia artificial... no se pueden resolver rápidamente. Pero sí se pueden verificar rápidamente. Dice que lleva mucho tiempo, incluso para las computadoras más potentes, buscar una solución. Pero una vez que la tienes, es fácil verificar si es correcta. Pero si pudiéramos *resolver* esos problemas rápidamente, las tecnologías serían mucho más eficientes.
Dice que la solución del problema "P versus NP" podría darnos información sobre la naturaleza fundamental de la computación y la complejidad de los problemas. Que podría llevarnos a entender mejor las limitaciones inherentes de la computación. Y recuerda que toda la naturaleza se puede ver en términos de computación: hay entradas, salidas y un proceso intermedio que transforma la información.
El problema que tiene con esto es que toda la premisa de la pregunta es defectuosa. Dice que usa una versión de la palabra "resolver" que no se usa en la naturaleza. Asume que para resolver un problema hay que seguir una serie de pasos deterministas para llegar a la solución. Esto es porque el problema "P versus NP" se basa en el concepto de algoritmos deterministas. En informática, un algoritmo es una secuencia finita de pasos bien definidos que transforma datos de entrada en datos de salida. Y los algoritmos deterministas siempre producen la misma salida, dada la misma entrada.
Dice que si "P" fuera igual a "NP," implicaría que los problemas que se pueden verificar rápidamente también tienen algoritmos deterministas eficientes para encontrar soluciones.
Y aquí es donde entra el problema. Los sistemas complejos (o sea, la realidad) no pueden tener algoritmos deterministas que nos lleven a los resultados que observamos. Porque no hay caminos directos desde las piezas hasta las estructuras y comportamientos emergentes. Lo que vemos en la naturaleza se logra a través de múltiples configuraciones de la materia que comprimen la información. La naturaleza no usa algoritmos, usa un proceso en el que toda la distribución de posibilidades se utiliza para manifestar abstracciones físicas que computan lo que se necesita para sobrevivir.
El problema "P versus NP" está usando la versión matemática de la palabra "resolver." Pero igual que la palabra "prueba" no se extiende más allá de la lógica y las matemáticas, lo mismo pasa con la palabra "resolver." No existe tal cosa como resolver un problema del mundo real en el sentido de que una serie de pasos deterministas nos va a llevar a la solución.
Dice que él diría que "P" nunca puede ser igual a "NP," porque nunca puede haber un problema difícil (del mundo real) que se resuelva con una serie de pasos deterministas. No es cuestión de tener más espacio o tiempo, o de hacerlo más eficientemente, es cuestión de imposibilidad. Y que aunque la mayoría de los informáticos están de acuerdo en que "P" no es igual a "NP," es por malas razones, basadas en una comprensión incorrecta de lo que significa que algo sea un problema difícil.
Ahora se pone filosófico y empieza a hablar de la ciencia como proyección. Dice que vio una obra de arte online de un escultor de Chicago, John V. Muntean. Era una forma rara, sin forma reconocible, con una luz encima y una superficie plana debajo. La luz proyectaba una sombra en la superficie plana. Lo interesante es que la sombra proyectada tomaba una forma reconocible. Si girabas el objeto, la sombra parecía un hombre caminando. Si lo girabas otra vez, parecía un bebé gateando. Y si lo girabas otra vez más, parecía un anciano con un bastón. La diferencia entre el objeto, que era una masa deforme sin rasgos, y las sombras identificables que proyectaba era lo que hacía la obra de arte tan interesante.
Dice que esta obra de arte es una buena forma de entender cómo funciona la ciencia. La ciencia no se conecta con la forma real de la naturaleza, sino que proyecta información en un espacio de menor dimensión, dándonos una versión limitada de la realidad. Igual que la masa deforme no tiene rasgos obvios, tampoco la intrincada realidad de los fenómenos naturales. Si pudiéramos ver la naturaleza directamente, no veríamos algo elegante, sino algo imposiblemente deforme y de alta dimensión, sin rasgos reconocibles. La ciencia, en su búsqueda por revelar cómo funciona la naturaleza, solo puede coger una versión de menor dimensión de la geometría original dentro de las soluciones de la naturaleza. La ciencia proyecta la esencia de la naturaleza en algo que podemos entender.
Pero esta proyección tiene un costo muy alto. Hay una gran pérdida de información al pasar de la configuración original de la naturaleza a las superficies planas que usamos para inspeccionar y describir el mundo. Y, sin embargo, la gente confunde la ciencia con la naturaleza, a menudo usando estos términos indistintamente.
Dice que por eso los humanos evolucionamos para usar nuestras emociones para resolver problemas. Las emociones son lo más cerca que podemos estar de lo que existe en los espacios de alta dimensión de la naturaleza. Nada de lo que tenemos en nuestro arsenal científico puede capturar la verdadera esencia de la naturaleza, porque la ciencia tiene que usar herramientas de baja dimensión y una precisión costosa para describir lo que ve. Si los humanos estuviéramos destinados a usar el pensamiento lento y analítico para resolver problemas, así habríamos evolucionado. Pero no es así. El pensamiento lento solo funciona para los juegos, no para la realidad. Y a medida que la complejidad "des-gamifica" la vida y las cosas que construimos, el pensamiento analítico lento será mucho menos valioso.
La forma en que la ciencia transforma la experiencia en planos de interpretación de baja dimensión se refleja en nuestros diseños. Al final, un diseño representa nuestras decisiones sobre qué piezas incluir y cómo conectarlas. No podemos formar un diseño sin tener una idea de la estructura causal entre las piezas, y solo una historia simplista puede decirnos cuáles son supuestamente esas causas. Si vamos a usar la ciencia para informar nuestros diseños, significa que las piezas que elegimos provienen de proyecciones de baja dimensión.
Por eso construir cosas complejas, como tenemos que hacer ahora, no se puede beneficiar del paradigma científico y de ingeniería actual. La ciencia, con su visión reduccionista del mundo, sacrifica demasiado de lo que hace que algo funcione, todo por la aparente rigurosidad y precisión. Gran parte de la ingeniería de hoy en día se basa en las piezas descubiertas por la ciencia y las fuerza a entrar en diseños, guiando nuestros esfuerzos de construcción. La gran desconexión entre cómo opera la ciencia actual y la complejidad que tenemos que crear hace que este enfoque sea insostenible.
Un diseño no puede captar la esencia de los sistemas complejos, igual que la ciencia reduccionista no puede captar la verdadera esencia de cómo funciona la naturaleza. Podemos proyectar una versión fantasiosa de la realidad en narrativas que entendemos, pero cuando se incorporan a nuestros diseños, estos cuentos de hadas chocan contra nuestra capacidad para crear buenas soluciones a problemas difíciles.
A medida que avanzamos hacia la era de la complejidad, tenemos que construir como construye la naturaleza, y eso significa diseñar la emergencia en nuestras soluciones. Lo que emerge proviene de un nivel de complejidad que no se puede crear deliberadamente. Solo a través del enfoque externo en la variación, la iteración y la selección podemos llegar a la esencia de cómo funcionan los sistemas naturales. Tener razón cuando se trata de construir cosas complejas significa tener algo que resuelva el problema, no algo que se adhiera a las historias que nos contamos a nosotros mismos usando sombras y trucos de luz.
Y ya por último habla de la inevitabilidad de la inteligencia artificial. No había forma de que la inteligencia artificial no fuera a ocurrir. Dice que la IA es solo el subproducto inevitable de añadir cada vez más piezas a nuestras creaciones hasta que llegamos al umbral del problema difícil; el punto en el que la ingeniería tradicional no puede resolver el problema, y hay que salir del sistema para lograr lo que se necesita.
No importa lo cerca que esté la IA de hoy en día de la inteligencia humana. El punto es que la IA es nuestro mejor ejemplo actual de construir como construye la naturaleza. Independientemente de las intenciones de los investigadores e ingenieros de IA, la IA representa la creación de complejidad genuina. La IA no funciona por las matemáticas, la probabilidad, los principios de diseño o las mejores prácticas. Funciona porque abstracciones no planificadas se manifiestan dentro de un objeto al que se le permitió surgir por sí solo.
Ha habido un debate largo sobre si el cerebro se puede considerar una máquina. El cerebro humano, y la mente que lo acompaña, no se parece en nada a lo que la mayoría de la gente llamaría una máquina. Pero con la IA nos enfrentamos al hecho de que las creaciones humanas sí pueden adquirir muchas de las mismas propiedades que vemos en la cognición humana. Esto significa que es la definición de máquina la que tiene que cambiar. El cerebro humano es una máquina, solo que una máquina diferente a todo lo que la ciencia reduccionista o la ingeniería pueden definir, y mucho menos construir directamente.
Para que algo sea una máquina, tiene que realizar procesos y producir resultados. Y eso es lo que hace el cerebro humano. La diferencia ahora es que el proceso no es de determinismo y causalidad. Una máquina de la naturaleza es una que produce resultados a través de la emergencia.
El cerebro humano tiene todas las características de los sistemas complejos. Exhibe no linealidad, ya que pequeñas entradas conducen a salidas desproporcionadamente grandes. Exhibe auto-organización a través de los cambios en las conexiones neuronales en respuesta al aprendizaje. Solo a través del fenómeno de la auto-organización el cerebro puede ser adaptable y, por lo tanto, resistente. Puede soportar ciertos tipos de daños, e incluso reorganizarse y compensar las pérdidas, recuperando la funcionalidad como se ve en algunos pacientes con lesiones cerebrales. El cerebro existe cerca de la criticidad, lo que significa que funciona en algún punto entre el orden y el caos. Este estado intermedio entre la estructura y el desorden permite un procesamiento eficiente de la información. También vemos la existencia de una estructura jerárquica. El cerebro está organizado en diferentes niveles de procesamiento, que ocurren en varias escalas espaciales y temporales.
Todo esto conduce a lo que llamamos conciencia, la formación de la memoria y la toma de decisiones que definen el pensamiento humano. Esto es todo lo que se necesita para definir el cerebro humano rigurosamente.
La IA es inevitable porque es parte de la naturaleza. No tenemos que comparar la IA con la inteligencia humana para marcar una supuesta singularidad, el punto en el que la IA se vuelve tan inteligente o más inteligente que los humanos, sea lo que sea que eso signifique. Todo lo que tenemos que hacer es reconocer las propiedades de la complejidad que emergen en los sistemas que creamos. Muchas de estas propiedades están ahí en los sistemas de IA actuales. Es la existencia de propiedades únicas lo que hace que una cosa compleja sea lo que es.
El paradigma científico y de ingeniería actual obliga a que los argumentos obsoletos sigan prevaleciendo en el discurso actual. Argumentos como los del filósofo John Searle, que intentan desacreditar la idea de que una computadora que ejecuta un programa puede entender realmente el lenguaje. Searle argumentó que los procesos computacionales por sí solos no pueden producir una conciencia genuina porque la manipulación de símbolos, como hacen las computadoras, carece de la comprensión semántica que constituye el verdadero entendimiento.
Pero tales argumentos no son válidos porque se basan en una comprensión inadecuada de la computación. Los experimentos mentales de Searle descansan en las conexiones deterministas y causales entre los símbolos y asumen que esta forma de procesamiento es todo lo que una computadora es capaz de hacer. Y esto es falso. Uno podría perdonar a Searle por este error, dada la época en la que creció. Pero cualquier mirada adecuada a cómo funciona la naturaleza debe admitir que las máquinas sí pueden producir las propiedades de la complejidad. La naturaleza usa piezas pequeñas para producir cosas completamente diferentes a esas piezas.
Otro intento popular de desacreditar la IA es señalar algunos de sus errores más flagrantes, como llegar a conclusiones erróneas o su falta intermitente de razonamiento básico. El error fatal en este intento es pensar que la inteligencia es algo que se alberga dentro de un solo objeto. Los humanos somos inteligentes porque somos criaturas sociales profundamente conectadas. Operamos dentro de poblaciones para resolver problemas. Un humano individual es muy propenso a errores y defectuoso fuera de los entornos en los que está integrado. No somos aparatos autosuficientes que producen resultados perfectos, somos criaturas sociales que interactúan y colaboran. Igual que ningún humano opera sin errores, los sistemas de IA no están destinados a ser herramientas sin errores que siempre devuelvan respuestas correctas. Están destinados a ser como cualquier otro objeto complejo, integrados dentro de comunidades. Si vamos a comparar la IA con los humanos, entonces deberíamos estar pensando en los sistemas de IA como otra persona que trabaja en colaboración, no como un buscador tonto que devuelve respuestas.
Existe una equivalencia innegable entre la IA y los humanos. Somos objetos de complejidad y producimos resultados por emergencia. El núcleo de los sistemas de IA, la maquinaria central que se encuentra aparte de su andamiaje basado en reglas externas, es un subproducto programático de la prueba y error y la heurística. Es un subproducto de la receta de la naturaleza llevada a cabo por el software.
Aceptar la complejidad, comprender lo que es, y más importante aún, lo que no es, cambia nuestra comprensión fundamental de la naturaleza del conocimiento y la realidad. Sí, las soluciones de la naturaleza son en realidad máquinas, y sí, los humanos pueden crear máquinas utilizando los mismos métodos que la naturaleza. La naturaleza se trata de procesamiento de información, y el procesamiento de información se puede aprovechar con silicio y electrones. Pero no estamos hablando de engranajes y pistones. Estamos hablando de la naturaleza.
Y ahora el último tramo: La ciencia y la ingeniería necesitan filosofía. Un problema central del paradigma actual es cómo se ha alejado en gran medida de la filosofía. Ha habido una creencia, particularmente en la física, de que la filosofía no contribuye mucho a la búsqueda de nuevos conocimientos. El problema con este pensamiento es que impide cualquier tipo de validación de la ciencia misma. La ciencia que no tiene nada que la controle es circular.
Podemos ver este problema en todas las áreas de la ciencia. Los últimos 40 años de la física teórica han estado involucrados en perseguir la "elegancia matemática" y tienen poco que mostrar por ello. La genética presume de "avances" en su campo, pero no mucho en la capacidad de controlar los resultados (por ejemplo, curar enfermedades). Los avances nanotecnológicos se basan en mirar más profundamente y manipular mejor la pequeñez, pero ¿dónde están todos los nuevos materiales y dispositivos? El hecho de que haya "mucho espacio en la parte inferior" no significa que manipular la parte inferior pueda producir cosas conocidas en la parte superior. No es cuestión de esperar a que la ciencia se vuelva útil, es cuestión de que el paradigma actual está fundamentalmente desconectado de cómo funcionan realmente las cosas.
En cualquier vocación, si no podemos salir del sistema, no podemos validar lo que estamos haciendo. Esto vuelve a su argumento sobre ir meta. Solo un sistema de nivel meta puede hablar de sí mismo y conducir a una validación genuina. Una filosofía de la ciencia puede mirar la ciencia objetivamente y evaluar si va bien. Cualquier mirada honesta a la ciencia de hoy sería muy crítica con su reduccionismo y sus explicaciones causales. Sabemos que ese razonamiento de bajo nivel no se corresponde con cómo funciona la complejidad, y por lo tanto la realidad. Es hora de que la ciencia, y la ingeniería que la acompaña, cambien de manera dramática.
Por eso aboga por el uso de la lógica, pero bien hecha. Nuestra lógica es tan fuerte como las premisas que usamos, y esas premisas no pueden ignorar las propiedades de la complejidad. Debemos tener en cuenta el hecho de que lo que vemos a pequeña escala no se corresponde con lo que vemos a gran escala. Lo que está de moda en la ciencia hoy en día es la idea de que podemos transformar los sistemas complejos no lineales en términos lineales simplistas. Esto sustenta virtualmente todos los intentos en la ciencia de aproximar el comportamiento de los sistemas del mundo real. Ya ha argumentado que la naturaleza no es una aproximación. Su maquinaria no se parece en nada a los cálculos convenientes que se hacen hoy en día bajo el paradigma actual.
Pero la lógica emparejada con premisas que han sido adecuadamente diseñadas en torno a las propiedades significa que podemos validar la ciencia correctamente. Y en esta validación encontraremos la máxima invalidez. El paradigma científico y de ingeniería actual no se corresponde con lo que medimos, observamos y experimentamos en el mundo real. Lo que tenemos ahora son argumentos circulares que descansan en la suposición oculta y falsa de que lo pequeño se conecta con lo grande.
Una filosofía de la ciencia sería una relación de dos vías. La filosofía no solo ayuda a mantener la ciencia bajo control, sino que las únicas filosofías que valen la pena son aquellas que provienen del esfuerzo por construir cosas. La filosofía, una verdadera, no puede divorciarse de la aplicación práctica de las cosas. Todas las verdades de la historia están contenidas en los momentos de creatividad. Son aquellos que construyen cosas los que hablan con la naturaleza, no aquellos que intentan destilar esos hallazgos en narrativas sobre el determinismo y la causalidad.
La filosofía que necesita la ciencia no es una teoría académica. Estas solo hablan de sus propias redacciones elegantes y de su retórica instruida. Son tan circulares como la ciencia de hoy. La filosofía que necesitamos ahora es una basada en la construcción de cosas. No alguna praxis relegada al laboratorio, o algún intento idealizado de producir evidencia. Solo una filosofía nacida de la creación de cosas es válida.
Y ya está, ¡uf! Un poco largo, ¿verdad? Pero espero que haya quedado claro. Al final, todo se reduce a construir como la naturaleza, no como los libros de texto. ¡Hasta la próxima!