Chapter Content
Vale, vamos a ello. Capítulo catorce... a ver, ¿cómo lo explico de forma natural? Mmm...
Pues mira, este capítulo va un poco de cerrar el círculo, ¿no? De volver a lo que realmente se nos da bien a los humanos. Es que con todo esto de la tecnología, a veces parece que nos estamos alejando de nuestras habilidades naturales, ¿sabes?
Durante mucho tiempo, lo que se ha valorado son esas habilidades técnicas, superespecíficas, ¿no? Saber cómo funciona todo por dentro. Pero ahora, con la inteligencia artificial y la automatización, que están democratizando esas habilidades "de bajo nivel", tenemos que replantearnos cómo creamos valor los humanos.
Y es que, fíjate tú, por primera vez desde que empezamos a crear cosas, nuestras herramientas nos están acercando a nuestras capacidades más naturales. En lugar de ir hacia niveles de detalle cada vez más complejos, como hemos hecho siempre, ahora vamos hacia otra abstracción, ¿me explico?
Las tecnologías de hoy en día, al abrazar esa complejidad real, nos están devolviendo a lo que realmente importa: las habilidades para las que evolucionamos. Los humanos somos buenísimos navegando en entornos inciertos, usando nuestra intuición y nuestro reconocimiento de patrones para resolver problemas realmente difíciles. Es que, a ver, las habilidades que se celebraron en la Ilustración no funcionan en la complejidad. Ese enfoque en el aislamiento y la extracción no encaja con cómo funciona la naturaleza. Tenemos que construir como construye la naturaleza.
A ver, piensa en el corrector ortográfico o el autocompletar. Algunos dirán que el autocompletar nos está volviendo más tontos, porque ya no tenemos que pensar en cómo se escriben las palabras. Pero es que... ¡nunca se suponía que tuviéramos que preocuparnos tanto por la ortografía! La mayoría de las veces, una mala ortografía no cambia el significado del mensaje. Hay un fenómeno que se llama tipoglicemia, ¿sabes? Que la gente puede entender un texto aunque tenga errores ortográficos y letras desordenadas. ¡O sea! Eso demuestra que los detalles específicos de la escritura tienen poco que ver con la comprensión. La ortografía es una preocupación académica, no algo natural y real. Lo que se supone que tenemos que hacer los humanos no es asegurarnos de que nuestras palabras estén bien escritas, sino plasmar nuestros pensamientos y expresar nuestras intuiciones. Y eso es lo que el autocompletar nos permite hacer. Si ya no tienes que perder tiempo asegurándote de que la ortografía es correcta, puedes simplemente... comunicarte.
Sí, vale, la ortografía y la gramática surgen de forma natural, pero acuérdate: ¡el patrón no es el camino! Las estructuras que vemos emerger no son el camino para llegar ahí. Por eso los idiomas evolucionan y cambian su sintaxis y su gramática con el tiempo. El lenguaje es un sistema dinámico, que se adapta a las necesidades y al uso de sus hablantes. No se supone que estemos obsesionados con la ortografía y la gramática; esas son solo subproductos estructurales de la comunicación orgánica. Se supone que tenemos que estar enfocados en resolver problemas del mundo real. De hecho, la mejor gramática debería surgir de aquellos que hablan de forma natural, basándose en lo que intentan comunicar. Si se adhiere o no a alguna definición académica actual de "bueno" es irrelevante, ¿sabes?
Las tecnologías que creemos en el futuro eliminarán muchas de las habilidades que se han alabado en los últimos siglos. Pero permitirán a la gente sacar a relucir lo que se nos da bien de forma natural, y son esas habilidades las que pueden resolver nuestros mayores desafíos.
Y ahora, una pregunta que me parece súper importante: ¿estamos construyendo lo correcto?
A ver, la única validación real de lo que construimos es la supervivencia, ¿no? Pero no hay forma de evaluar eso directamente en una sola generación. Solo el paso del tiempo puede demostrar lo que funciona. Las simulaciones están demasiado alejadas de los problemas del mundo real para confirmar si algo es viable, y una sola vida es demasiado corta para declarar un éxito rotundo. Entonces, ¿cómo podemos saber si lo que estamos construyendo es correcto? ¿Si vamos por buen camino?
Yo ya he hablado de la importancia de enfocarse en las propiedades en lugar de en las causas, y de cómo incorporar estas propiedades en argumentos lógicos nos lleva a una forma más verdadera de validación. Lo que hace que las propiedades sean la fuente última de validez epistémica es su atemporalidad. Esa inmortalidad es diferente de las razones causales frágiles que se inventan bajo el paradigma actual. Las propiedades son las restricciones dentro de las cuales funciona la naturaleza. Son robustas porque existen fuera de cualquier instanciación específica de las soluciones de la naturaleza.
Entonces, aunque no hay forma de evaluar directamente la supervivencia a largo plazo en una sola generación, podemos usar las propiedades para validar que vamos por buen camino. Hay varias propiedades de la complejidad, relacionadas con los límites dentro de los cuales ocurren los procesos físicos, químicos y biológicos. Estas propiedades se relacionan con lo que se crea, se destruye, se transforma, permanece constante, disminuye, aumenta, atrae, repele, reproduce, cicla y fluye. En esencia, lo que sobrevive permaneciendo invariante en medio de los vaivenes de la realidad.
Estas propiedades invariantes son, en última instancia, informativas. Surgen en la naturaleza porque así es como computa la naturaleza. Si categorizamos estas propiedades en patrones más generales, vemos cosas como la no linealidad, la autoorganización, la adaptabilidad, la resiliencia, la retroalimentación, la jerarquía, la criticalidad, la periodicidad, la sincronía y las transiciones de fase.
Estos son los patrones que podemos esperar ver cuando los sistemas hacen la transición del régimen simple al régimen complejo. Estas características de la emergencia nos indican que se está logrando una complejidad genuina. Ninguno de estos patrones puede ser diseñado deliberadamente. Solo pueden surgir del ensayo y error de la naturaleza. Lo que se puede diseñar directamente es la configuración inicial que promulga el proceso de variación, iteración y selección, y la aplicación de heurísticas de alto nivel.
A ver, piensa en escribir un libro. El enfoque académico es usar recursos literarios y buenas prácticas para estructurar nuestro trabajo desde el principio. Pero esas prácticas solo pueden degradar el trabajo en relación con lo que logramos si solo seguimos nuestra intuición. No intentes encontrar las palabras correctas, intenta encontrar la sensación correcta.
Solo abrazando la creatividad emergente podemos llegar a estructuras originales e ideas importantes. Por eso nuestro propio trabajo debería sorprendernos. Deberíamos ser testigos de cosas que se nos revelan en el camino, que se precipitan automáticamente, en virtud de nuestras acciones ingenuas.
Mientras que los detalles específicos de nuestro trabajo deberían sorprendernos, las propiedades que se ven en un buen trabajo son totalmente esperadas. Como cualquier criatura de aguas profundas recién descubierta, se verá diferente a todo lo que hemos visto antes, y sin embargo se adherirá a propiedades invariantes y no sorprendentes. Pero las propiedades que vemos no deben usarse para sembrar o predeterminar nuestro trabajo; deben surgir por sí solas. Solo cuando surgen los signos reveladores de la complejidad, los detalles internos interactúan como es necesario para producir algo correctamente.
Buscar la sorpresa en nuestro propio trabajo es una forma de prestar atención a las características de la complejidad, y por lo tanto una validación adecuada de lo que creamos. Lo que se conoce al inicio de nuestro trabajo son las intuiciones profundas y las experiencias de vida, pero estas no tienen etiquetas. Nuestras intuiciones no tienen símbolos para expresarlas, ni categorías en las que podamos colocarlas. La forma en que nuestras intuiciones y experiencias terminan siendo articuladas y expresadas es algo que solo se puede ver después del hecho.
Como se habló antes, las propiedades de la complejidad están presentes cuando uno escribe de forma emergente. Vemos no linealidad en la llegada de las ideas, y autoorganización a medida que el contenido mejora con la iteración. Vemos autorreferencia y bucles de retroalimentación a medida que las nuevas perspectivas ajustan nuestra redacción original. Vemos resiliencia en las partes que sobreviven, y jerarquía a medida que las palabras se convierten en párrafos, los párrafos se convierten en secciones y las secciones se convierten en capítulos. Hay transiciones de fase a medida que los pensamientos inconexos y la redacción torpe se vuelven fluidos con el tiempo.
Esto se aplica a cualquier cosa que construyamos en la era de la complejidad. Llegar al próximo gran avance en la IA no sucederá siguiendo las mejores prácticas o replicando el trabajo del mejor modelo actual. Esas prácticas que intervienen solo pueden servir para dañar las posibilidades necesarias para garantizar que las estructuras y los comportamientos emergentes resulten de nuestros esfuerzos.
La realizabilidad múltiple de las salidas complejas significa que las propiedades más invariantes en los sistemas complejos se pueden alcanzar de muchas maneras. De forma crítica, deben alcanzarse de formas diferentes a como lo hicimos antes. Esto garantiza que solo estamos prestando atención a las propiedades de meta nivel, no a un conjunto de prácticas o diseños. La tentación de alcanzar y diseñar el contenido de nuestro trabajo no puede conducir al siguiente nivel de abstracción necesario para innovar.
Y llegamos al Meta Diseño.
¿Está terminado todo el concepto de diseño? ¿Debemos tirar por la borda cualquier noción de controlar los resultados en lo que construimos? Bajo la definición actual de diseño, sí. El diseño del tipo causal interno es insostenible bajo la complejidad. Si vamos a construir cosas complejas, que debemos para resolver problemas realmente difíciles, entonces el diseño tal como se define y se usa actualmente debe dejarse de lado.
Pero hay un nuevo tipo de conocimiento. Este conocimiento se basa en propiedades de meta nivel a las que las cosas complejas siempre se adhieren. Esto sugiere que hay un lugar para el diseño de un tipo fundamentalmente diferente. Una forma de considerar cómo nuestros esfuerzos podrían estar mejor configurados para ayudar a garantizar salidas confiables, y razonar sobre su validez.
Debería estar claro que esta diferente noción de diseño tendría que ser externa a los sistemas que creamos. Sabemos que los procedimientos utilizados para crear cosas complejas tienen poco que ver con la sustancia de las cosas mismas. Esto significa que los diseños pueden ser por adelantado, si solo buscan poner en marcha procesos conocidos que conducen a la emergencia. En otras palabras, el espíritu del diseño, que es usar estructuras por adelantado para guiar los resultados, puede salvarse si el diseño permanece externo al sistema.
Para que algo sea meta-diseñado, equivaldría a elegir solo las piezas y las conexiones a nivel meta. Esto no es diferente de hacer mejores argumentos lógicos apoyando las premisas en propiedades en lugar de razones. Podemos mirar los desafíos que esperamos resolver, y poner en marcha construcciones de meta nivel que conduzcan, no a respuestas específicas, sino a sistemas que sobrevivirán o no. Esto cambia el enfoque de la resolución de problemas del razonamiento causal a hacer cosas que sobreviven. Necesitamos diseñar sistemas que lleguen a lo que se necesita por sí solos, pero que converjan de maneras que se esperan.
¡Ah! Y esto me lleva a pensar que la ciencia y la ingeniería deberían ser una sola disciplina.
La ciencia y la ingeniería siempre han estado estrechamente relacionadas, pero son disciplinas completamente distintas. Se dice que la ciencia descubre los fundamentos y la ingeniería los convierte en herramientas útiles. Se nos dice que la ciencia es fundamental para la ingeniería, porque proporciona la comprensión teórica y los principios que los ingenieros utilizan para crear y mejorar las tecnologías.
Se nos dice que las computadoras modernas no existirían sin la mecánica cuántica. Se nos dice que los componentes aeroespaciales, la electrónica, los materiales de construcción y los implantes biomédicos están aquí gracias a la ciencia de los materiales. Se nos dice que las máquinas tradicionales fueron posibles gracias a las teorías sobre la estática, la dinámica y la mecánica de fluidos. Se nos dice que los ingenieros civiles no podrían crear sin el conocimiento técnico relacionado con la física y la geología de sus materiales y entornos.
Todo parece tener sentido. Después de todo, los ingenieros están tratando de crear cosas que funcionen, y las cosas solo funcionan cuando tienen un conjunto subyacente, no aleatorio, de fuerzas que trabajan en conjunto. La ciencia es la acumuladora de ese conocimiento, por lo que el matrimonio entre la ciencia y la ingeniería parece obvio.
Pero, como con tantas otras narrativas modernas, esto se topa con el problema de estar diametralmente opuesto a la dirección de la complejidad. La falta de cualquier camino desde las piezas a las propiedades en las cosas complejas impide la historia de la ciencia que conduce a la ingeniería. Lo que sea que descubra la ciencia tiene pocas posibilidades de ser utilizado dentro de soluciones complejas. Esto ya se evidencia en campos como la genética y la nanotecnología, como se discutió anteriormente. Ahora que buscamos crear cosas genuinamente complejas con salidas emergentes, es lógico pensar que la ciencia actual no puede proporcionar los bloques de construcción.
Lo que funciona ahora son estructuras que emergen, y esas estructuras solo se pueden alcanzar a través de esfuerzos externos, no descubrimientos reduccionistas. La propia naturaleza del experimento científico, donde extraemos y aislamos cosas para hacer un descubrimiento, ahora está fundamentalmente separada de las cosas que necesitamos construir. Cualquier conocimiento que se gane termina siendo egoísta, en lugar de algo consecuentemente verdadero.
Los ingenieros ahora deben tropezar con alguna realización fortuita a través de su implementación de esfuerzos externos, y solo entonces llegar a verdades descubiertas. Esta es de hecho la dirección en la que siempre ha ocurrido el descubrimiento científico. A pesar de la narrativa académica de que los fundamentos conducen a las aplicaciones, son aquellos que se embarcan en el ensayo y error ingenuo los que llegan a cosas que luego se codifican en nuestros libros de texto. Más claramente, la historia real de la invención no es la ciencia que conduce a la ingeniería, sino la ingeniería que conduce a la ciencia.
La narrativa académica ha sobrevivido tanto tiempo porque las cosas que hemos construido a través de la historia humana han sido casi todas deterministas. Cuando las invenciones del hombre se pueden explicar en términos de causalidad interna, el crédito se puede asignar demasiado fácilmente a los científicos. Pero cuando las cosas que construimos están fundamentalmente desconectadas de las explicaciones causales de la ciencia, esta narrativa ya no se sostiene.
Uno podría argumentar que la ciencia actúa como un buen punto de partida, pero en realidad esos puntos de partida deben tratarse como sospechosos, ya que es probable que obstaculicen el progreso. Comenzar un nuevo proyecto creativo a partir de una base hecha de conocimiento reduccionista lo encierra en esquemas defectuosos, ya que cualquier estructura que no emerja es una que no se ajusta a cómo se coordinan los sistemas complejos. Esto, más críticamente, se topa con el argumento más amplio hecho por algunos de que creer en el diseño, incluso tontamente, nos motiva a intentarlo en primer lugar. Esto de hecho resultaría valioso si los diseños que forzamos en nuestros proyectos no fragilizaran los sistemas de manera tan dramática. El diseño no puede ser una mera motivación cuando interfiere activamente con cómo funcionan los sistemas complejos.
Pero seamos claros. Esto no niega la importancia de la ciencia en lo que construimos. Todo lo contrario. Las propiedades a las que se adhieren los sistemas complejos, y que argumento deben formar la base del pensamiento racional en el futuro, están arraigadas en el descubrimiento científico. Lo que hace que el descubrimiento de las propiedades sea fundamentalmente diferente de las explicaciones causales es que no son causales. Las propiedades son verdades de meta nivel sobre la naturaleza; agnósticas a cómo llegaron a ser. Las propiedades se aplican a todas las instancias de un sistema complejo dado. Esto, argumento, es ciencia real, porque no pretende tener acceso a información a la que no tiene acceso.
Si bien siempre ha sido el caso de que la ciencia nunca informó realmente a la ingeniería, en la era de la complejidad, las propiedades descubiertas pueden decirnos cuándo estamos en el camino correcto. Es este tipo de conocimiento científico el que ahora puede validar nuestros esfuerzos para diseñar cosas complejas. Pero no olvides la direccionalidad; las verdades científicas deben aplicarse después del hecho, una vez que las estructuras y los comportamientos ya hayan surgido.
Si buscamos construir el próximo modelo de lenguaje grande en la IA, una de las cosas más complejas jamás creadas por los humanos, entonces sugerir que se deben seguir los principios internos solo puede obstaculizar el progreso. Los sistemas de IA actuales se están acercando a la complejidad genuina. Lo sabemos, porque los sistemas simples no pueden producir los signos reveladores de la complejidad. Pero los principios externos de los sistemas complejos sí pueden señalar que estamos en el camino correcto. De nuevo, lo que es tan crítico aquí es la diferencia entre trabajar dentro versus fuera. Solo los esfuerzos externos de meta nivel pueden permitir a los humanos diseñar la emergencia.
En la próxima era de la complejidad, donde se deben construir cosas verdaderamente complejas para resolver nuestros desafíos, la ciencia y la ingeniería deben convertirse en una sola disciplina. Esto significa que el único enfoque reconocido para la recopilación de conocimiento proviene de la construcción de cosas ingenuamente, y luego mirando los descubrimientos como conocimiento valioso; conocimiento que se puede utilizar para señalar una construcción efectiva. Unir la ciencia y la ingeniería en una sola disciplina de descubrimiento y creación de conocimiento asegura que se respete la dirección de la complejidad.
Y ahora... ¡los sesgos!
Se supone que tenemos sesgos.
Al paradigma actual le encanta denigrar el sesgo humano. Después de todo, si estás operando bajo el supuesto de que hay causas raíz para las situaciones del mundo real, esto tiene sentido. Considera cómo los sesgos raciales pueden influir en el tratamiento en entornos médicos, afectar las decisiones de contratación, influir en las decisiones judiciales, conducir a malas oportunidades financieras para otros y provocar una letanía de problemas que dañan la integridad de la investigación científica. Si los sesgos no se controlan de alguna manera, nuestros esfuerzos no solo producen injusticia, sino que también son falsos. De hecho, esta es una de las principales razones por las que ir al meta es tan crítico; reúne muchas opiniones/piezas/enfoques diferentes para hablar de algo más latente, más verdadero, más imparcial.
Pero el sesgo humano no es un remanente de la evolución para desechar. Tenemos sesgos por razones; razones evolutivas. Cuando la evolución mantiene algo alrededor, lo hace con el propósito más importante de todos; para resolver problemas categóricamente difíciles dentro de entornos complejos. Eliminar el sesgo humano debe ser incorrecto. Esto es aún más cierto en una era en la que necesitamos crear soluciones complejas.
El problema, resulta, no es el sesgo, sino la falta de selección de grupo. La presencia de sesgo racial que influye en los entornos médicos ocurre cuando los individuos están administrando el tratamiento. Claro, el tratamiento individual no es del todo malo, ya que las experiencias, la capacitación y las perspectivas únicas de las personas a menudo se obtienen a través de la interacción uno a uno. Pero considera el manejo del dolor. Este es un problema categóricamente difícil, porque opera en concierto con un sistema complejo; el cuerpo humano. El problema del manejo del dolor en sí mismo no puede ser atendido adecuadamente por el individuo. La naturaleza resuelve los problemas seleccionando grupos, de modo que el nivel (n - 1) de piezas produzca una configuración que resuelva el desafío agregado de nivel (n). Aquí, el nivel (n - 1) consiste en muchos profesionales de la salud diferentes con sus sesgos únicos (y a menudo inevitables), mientras que el nivel (n) es lo que requiere una solución emergente que resuelva el manejo del dolor.
No deberíamos esperar una buena solución de un individuo que toma la decisión sobre cuánta medicación administrar. Estas decisiones deben surgir naturalmente, de la colección de piezas sesgadas para producir algo que ningún individuo podría producir por sí solo. Así como la sabiduría de las multitudes (cuando no está diseñada) conduce a información más precisa y utilizable, también los grupos conducen a soluciones para problemas difíciles. La realidad es que se requieren sesgos individuales para producir resultados agregados imparciales.
El intento de eliminar el sesgo de los individuos es incorrecto. La razón por la que es incorrecto es porque se requieren sesgos para complementar la capacidad del grupo para resolver problemas. Se supone que tenemos sesgos para que las diversas facetas de la verdad puedan extraerse de la compleja realidad de la naturaleza. Así como un meta modelo trata de encontrar algo más profundo y universalmente verdadero de lo que cualquier modelo puede revelar, también las personas están destinadas a trabajar de manera meta.
El punto crítico en este momento es la comprensión de que la mejor manera en que las personas pueden trabajar de manera meta es construyendo algo que funcione. Construir algo que funcione bajo la complejidad solo sucede cuando elevamos el objetivo a una meta externa, meta. Solo entonces la dinámica interna del sistema, incluidos los sesgos, se organiza para resolver problemas difíciles.