Chapter Content
음… 그러니까, 오늘은 좀 현실 조각들? 뭐 그런 얘길 해볼까 해요. 절차와 본질? 으음… 간단한 시스템에서는 어떤 것의 절차가 그 자체, 그 본질이랑 같아요. 절차라는 건, 그게 작동하기 위해서 거쳐야 하는 단계들이고, 본질은… 음, 뭐랄까, 그 자체의 고유하고 핵심적인 속성, 그걸 구성하는 재료 같은 거죠. 예를 들어 소총은 출력을 만들어내기 위해서 정해진 단계를 따르잖아요? 이런 작동 방식 자체가 소총이 뭔지를 정의하는 거죠. 소총에서는 절차가 곧 본질이에요.
근데 복잡한 시스템에서는 절차가 본질을 만들어낼 수는 있지만, 그게 곧 본질 자체는 아니에요. 인공지능, AI를 예로 들어보면, 시행착오 과정이랑 휴리스틱을 활용하는 절차를 우리가 만들잖아요? 이런 절차가 없으면 AI는 지금의 모습이 될 수 없겠죠. 하지만 AI의 본질, 그 자체의 고유하고 핵심적인 속성은… 사실 엔지니어들이 구현한 절차랑은 거의 상관이 없어요. AI는 수십억 개의 파라미터로 구성된 내부 구성을 만들어내는데, 이게 수많은 입력을 몇 개의 출력으로 매핑하는 거죠. 결국 AI가 달성하는 것의 핵심은… 뭐, 우리가 의도적으로 설계한 게 아니라는 거예요. 이 경우에는, 구현된 절차가 우리가 얻으려고 하는 본질이랑은 다른 거죠.
이 절차와 본질 사이의 분리는, 복잡한 걸 만드는 게 간단한 걸 만드는 거랑 얼마나 다른지를 보여줘요. 작동 가능한 도시, 전력망, AI 시스템 같은 걸 결과를 설계해서 얻을 수는 없어요. 우리가 시스템에 손을 뻗어서 내부 작동 방식을 조립할 수는 없다는 거죠. 우리가 할 수 있는 건, 시스템 밖에 서서 필요한 걸 만들어낼 가능성이 높은 절차를 만드는 것뿐이에요.
그리고, 순서대로 하지 마세요! 아이들이 할 수 있는 게임에는 두 가지 유형이 있어요. 순서가 있는 게임, 그리고 순서가 없는 게임. 순서가 있는 게임은, 예를 들어 박물관에서 아이들에게 환경적으로 지속 가능한 관행을 가르치기 위해 설치한 전시 같은 걸 들 수 있겠죠. 전시에는 번호가 매겨진 워크스테이션이 있고, 각 워크스테이션에는 간단한 과제가 주어져요. 기본적인 단계를 따라가다가 다음 스테이션으로 이동하는 거죠. 모든 스테이션을 완료하면, 아이는 게임을 끝낸 거예요.
다른 종류의 게임은… 음, 사실 게임이라고 하기도 좀 그래요. 놀이터나 정글짐 같은 거죠. 이런 활동은 제한이 없어요. 규칙도 없고, 순서도 없죠. 하지만 아이들은 금방 자신만의 규칙과 조건을 만들어내기 때문에 게임처럼 느껴질 거예요. 아이들은 서로 이야기를 주고받으면서 전체적인 접근 방식을 즉흥적으로 만들어내겠죠.
워크스테이션 예시에서는 아이들이 “산만해진다”고 해야 하나? (이것도 학자들이 병적으로 규정하는, 너무나 자연스러운 인간의 조건이죠) 아이들은 금방 지루해하고, 규칙을 바꾸거나 아예 무시하고 싶어할 거예요. 하지만 놀이터 예시에서는 아이들이 따르는 질서가 스스로 만들어져요.
두 경우 모두 질서를 관찰할 수 있지만, 놀이터에서만 질서가 자연스럽게 나타나는 거죠. 박물관 전시는 아이들에게 거의 모든 교육이, 그리고 어른들에게는 작업 프로젝트가 어떤지를 보여줘요. 따라야 할 예상되는 순서, 즉 디자인이 있는 거죠. 하지만 그 순서는 자연스럽게 나타나야 할 것을 적극적으로 방해하는 개입이에요. 우리가 중요하다고 생각하는 부분만 취하려고 하는, 또 다른 예시인 셈이죠. 소위 “방해 요소”에는 학습을 진정성 있게 만드는 데 필요한 많은 것이 담겨 있다는 걸 깨닫지 못한 채 말이죠.
이건 교육 시스템의 핵심 문제로 다시 돌아가게 만들죠. 학문적인 관점에서는 학습에는 순서가 있다고 말해요. 다음 단계, 더 고급 단계를 밟기 전에 미리 공부해야 할 필수 조건들이 있다고 말하죠. 이건 무언가를 배우는 데 최악의 방법이에요. 왜냐하면 강요된 순서에는 어떤 것의 의미를 이해하는 데 필요한 것, 즉 실제 세계 맥락이 결여되어 있기 때문이죠. 맥락은 이름 붙일 수 없는 상황을 목격해야만 제공될 수 있어요. 게다가, 복잡하고 명확하지 않은 것을 먼저 보고, 그 다음에 어떤 이름이 생겨나는지 보는 것이, 최종적인 요약부터 시작하는 것보다 훨씬 나아요.
주어진 순서대로 주제를 배우려고 시도하는 것은 시행착오를 통해 순서 없이 원래 발견된 것의 최종 결과만을 목격하는 것을 의미해요. 으음… 잘못은 중요한 것의 최종 요약만을 취해서 배우려는 사람들에게 제시하는 데 있는 거죠. 사람들은 스스로 여정을 떠나야 해요. 왜냐하면 여정에는 어떤 것이 중요한지를 누군가에게 감명시키는 데 필요한 압도적인 양의 정보가 담겨 있기 때문이죠.
교과서와 규칙 기반 게임에서 전해지는 이름에는 거의 정보가 없어요. 비록 그것들이 주어진 영역의 가장 심오한 진실을 나타낼지라도 말이죠. 이러한 최종 결과는 동일한 결론에 도달하기 위한 자신만의 독특하고 엉망진창인 여정에 가치가 있을 뿐이에요.
우리는 순서대로 배우지 말아야 해요. 왜냐하면 그것들이 순서에 맞지 않을 때 실제 세계 상황에 존재하는 깊은 맥락을 이용할 수 있게 해주기 때문이죠. 교육과 산업에서 사용되는 순서는 깔끔하고 이해하기 쉬워 보이지만, 그 규칙을 만드는 데 중요했던 거의 모든 것이 제거되었어요. 여정 없이는 이름은 무의미해요.
그리고 P는 결코 NP와 같을 수 없어요. 컴퓨터 과학에는 P 대 NP 문제라고 알려진 미해결 문제가 있어요. 간단히 말해서, 컴퓨터가 빠르게 검증할 수 있는 모든 문제들을 빠르게 풀 수도 있는지 묻는 거죠. 예를 들어, 스도쿠 게임을 프로그램으로 빠르게 검증(게임이 완료되었는지 확인)할 수 있고, 빠르게 풀 수도 있다면(풀기 위한 필요한 단계를 수행) P는 NP와 같다는 의미가 돼요. 하지만 스도쿠 게임을 빠르게 검증만 할 수 있고, 빠르게 풀 수는 없다면 P는 NP와 같지 않겠죠.
P는 다항 시간(polynomial time)을 의미해요. 즉, P로 분류된 문제는 다항 시간 내에 알고리즘으로 풀 수 있다는 거죠. (즉, 빠르게) P 문제는 입력 크기에 따라 어려움이 합리적인 속도로 증가해요. 문제를 해결하는 데 더 많은 것을 투입해도 비교적 빠르게 풀 수 있다면 P 문제인 거죠. NP는 비결정적 다항 시간(nondeterministic polynomial time)을 의미해요. 즉, NP로 분류된 문제는 빠르게 검증할 수 있지만, 빠르게 풀 수 있는 알려진 알고리즘은 없다는 거죠. 문제를 해결하는 데 더 많은 것을 투입했을 때 해결하는 데 걸리는 시간이 폭발적으로 증가한다면, 아마도 NP 문제일 거예요. 아마도라고 말하는 이유는, 엄밀히 말해서 NP 문제는 빠르게 검증할 수 있다고만 말할 수 있고, 빠르게 풀 수 있는 방법이 있는지는 알려지지 않았기 때문이죠. (컴퓨터 과학자들에 따르면)
컴퓨터 과학자들은 이 문제를 흥미롭게 생각해요. 왜냐하면 P = NP라면 많은 분야에 혁명을 일으킬 가능성이 있기 때문이죠. 자원 배분, 일정 관리, 물류, 암호화, AI와 같은 현대 사회의 중요한 문제들은 빠르게 풀 수 있는 문제가 아니에요. 해결책을 찾는 데 오랜 시간이 걸리는 어려운 계산에 의존하고 있죠. 하지만 빠르게 검증할 수는 있어요. 가능성 공간의 크기와 어려운 문제의 정의 사이의 관계에 대한 논의를 떠올려 보세요. 가능성 공간을 검색하고 해결책을 찾는 데는 가장 강력한 컴퓨터도 오랜 시간이 걸릴 거예요. 하지만 해결책을 알고 나면, 그것이 올바른 답을 만들어내는지 확인하는 것은 간단하죠. (손이 따뜻하게 유지되고, 눈사람을 만들 수 있고, 루빅스 큐브가 완성되는 것처럼) 하지만 어려운 문제도 빠르게 풀 수 있다면 앞서 언급한 기술들은 훨씬 더 효율적이 될 것이고, 많은 산업과 경제에 큰 변화를 가져올 거예요.
P 대 NP 문제의 해결은 계산의 근본적인 본질과 문제의 복잡성에 대한 통찰력을 제공할 거라고 해요. P 대 NP를 해결하면 계산의 본질적인 한계에 대한 더 깊은 이해로 이어질 거라고 하죠. 자연의 모든 것은 계산의 관점에서 생각할 수 있다는 걸 기억하세요. 입력과 출력이 있고, 정보를 변환하는 과정이 그 사이에 있죠. P 대 NP 문제를 해결하는 것은 자연 자체에 대한 중요한 사실을 알려줄지도 몰라요.
제가 P 대 NP 문제에 대해 가지고 있는 문제는 질문의 전제가 잘못되었다는 거예요. 자연에서 사용되지 않는 “해결” 버전을 사용하고 있죠. 문제를 해결하려면 결정론적인 단계를 거쳐 해결책에 도달해야 한다고 가정하고 있어요. 왜냐하면 P 대 NP 문제는 결정론적 알고리즘의 개념을 중심으로 전개되기 때문이죠. 컴퓨터 과학에서 알고리즘은 입력 데이터를 출력 데이터로 변환하는 잘 정의된 단계의 유한한 순서예요. 이미 논의한 바와 같이, 결정론적 알고리즘은 동일한 입력이 주어지면 항상 동일한 출력을 생성해요. 끝에 도달하기 위해 동일한 단계 순서를 따르죠. 이는 P가 NP와 동일한 것으로 입증된다면, 빠르게 검증할 수 있는 문제도 해결책을 찾는 효율적인 결정론적 알고리즘이 있다는 것을 의미하게 돼요.
이 책에서 제시된 주장을 고려할 때, 대부분의 독자들은 여기서 문제를 발견할 수 있을 거라고 생각해요. 복잡한 시스템(즉, 현실)은 우리가 관찰하는 출력을 이끄는 결정론적 알고리즘을 가질 거라고 예상할 수 없어요. 왜냐하면, 특히 출현을 해명하는 섹션에서 설명했듯이, 조각에서 출현하는 구조와 행동으로 이어지는 경로는 없기 때문이죠. 우리가 자연에서 관찰하는 것은 동일한 정보 압축 구조에 해당하는 물질의 다중 실현 가능한 구성을 통해 도달하게 돼요. 자연은 알고리즘을 사용하지 않아요. 자연은 생존에 필요한 것을 계산하는 물리적 추상화를 나타내기 위해 가능성의 전체 분포가 사용되는 과정을 사용하죠.
P 대 NP 문제는 수학적인 버전의 해결을 사용하고 있어요. 하지만 증거라는 단어가 논리와 수학을 벗어나지 않는 것처럼(현실 세계에서는 아무것도 증명할 수 없는 것처럼) 해결이라는 단어에도 마찬가지로 적용돼요. 어떤 결정론적인 단계 집합이 해결책에 도달하는 의미에서 실제 문제를 해결하는 것 같은 건 없어요.
저는 이미 P는 NP와 같을 수 없다고 주장하고 싶어요. 왜냐하면 결정론적인 단계 집합으로 해결되는 어려운(실제 세계) 문제는 결코 있을 수 없기 때문이죠. 충분한 공간이나 시간이 있거나, 더 효율적으로 수행하는 문제가 아니라 불가능의 문제예요. P가 NP와 같지 않다는 것이 현재의 일반적인 합의이지만, 그것은 무엇이 어려운 문제인지에 대한 부정확한 이해에 근거한 형편없는 이유 때문이죠. 이것은 (대부분의) 컴퓨터 과학자들이 잘못되고 시대에 뒤떨어진 주장을 사용하여 올바른 결론에 도달하는 경우예요. 8장에서 논의했듯이, 우리는 삶의 게임화된 버전이 아니라 자연이 어떻게 작동하는지에 대한 적절한 이해에 의해 뒷받침되는 전제에 근거하여 주장을 해야 해요.
그리고 과학은 투영이다… 예전에 시카고에 기반을 둔 조각가인 존 V. 문테안의 독특한 예술 작품(온라인으로)을 본 적이 있어요. 그것은 알아볼 수 있는 형태가 없는 뒤틀린 모양이었고, 빛이 바로 위에 놓여 있었고, 아래에는 평평한 표면이 있었죠. 이 설정은 평평한 표면에 그림자를 드리웠는데, 모든 그림자와 마찬가지로 빛이 위에 떠 있는 물체에 의해 차단되었기 때문이에요. 그 작품을 흥미롭게 만든 것은 평평한 표면에 투영된 그림자가 알아볼 수 있는 모양을 띠었다는 것이었어요. 물체를 돌리면 걷는 남자의 모양을 볼 수 있었어요. 다시 물체를 돌리면 그림자가 기어가는 아기처럼 보였죠. 또 다시 돌리면 그림자가 지팡이를 든 노인처럼 보였어요. 알아볼 수 있는 특징이 부족한 뒤틀린 덩어리처럼 보이는 물체 자체와 식별 가능한 그림자 사이의 차이가 이 예술 작품을 강렬하게 만들었어요.
이 예술 작품은 과학이 어떻게 기능하는지 생각하는 좋은 방법이에요. 과학은 자연의 실제 모양을 활용하는 것이 아니라, 정보를 더 낮은 차원의 공간으로 투영하여 현실의 제한된 버전을 제공해요. 뒤틀린 덩어리가 명확한 특징이 없는 것처럼 자연 현상의 순수한 복잡성도 마찬가지예요. 만약 우리가 자연 속으로 손을 뻗어 직접 볼 수 있다면, 우아한 구조를 보는 것이 아니라, 알아볼 수 있는 특징이 없는 불가능하게 뒤틀리고 고차원적인 것을 보게 될 거예요. 자연이 어떻게 작동하는지 밝히려는 과학은 자연 속 해결책 안에 있는 원래 기하학의 더 낮은 차원의 버전을 잡을 수 있을 뿐이에요. 과학은 자연의 본질을 우리가 이해할 수 있는 것으로 투영하는 거죠.
하지만 이 투영에는 심각한 대가가 따르죠. 자연의 원래 설정에서 우리가 세상을 검사하고 설명하는 데 사용하는 평평한 표면으로 이동할 때 정보 내용에 엄청난 저하가 발생해요. 하지만 사람들은 과학과 자연을 혼동하고, 종종 이러한 용어를 서로 바꿔서 사용하죠.
이것이 인간이 도전을 해결하기 위해 감정을 사용하도록 진화한 이유예요. 감정은 우리가 자연의 고차원 공간에 존재하는 것에 최대한 가까워질 수 있는 방법이죠. 우리의 과학적 무기고에 있는 어떤 것도 자연의 진정한 핵심을 잡을 수 없어요. 왜냐하면 과학은 자신이 보는 것을 설명하기 위해 저차원 도구와 많은 비용이 드는 정밀도를 사용해야 하기 때문이죠. 만약 인간이 느리고 분석적인 사고를 사용하여 문제를 해결하도록 되어 있었다면, 그렇게 진화했을 거예요. 그렇지 않죠. 느린 사고는 게임에만 작동하고, 현실에는 작동하지 않아요. 복잡성의 시대가 삶과 우리가 만드는 것들을 게임화하지 않으면서, 느린 분석적 사고는 훨씬 덜 가치 있게 평가될 거예요.
과학이 경험을 저차원 해석 평면으로 재구성하는 방식은 우리의 디자인에 영향을 미쳐요. 결국 디자인은 어떤 조각을 포함하고 어떻게 연결할지에 대한 우리의 결정을 나타내죠. 조각 사이의 인과 관계 구조에 대한 감각 없이는 디자인을 만들 수 없고, 단순한 이야기만이 그러한 원인이 무엇인지 알려줄 수 있어요. 과학을 사용하여 디자인에 정보를 제공한다면, 우리가 선택하는 조각은 저차원 투영에서 오는 것을 의미하죠.
이것이 우리가 지금 해야 하는 것처럼 복잡한 것을 만드는 것이 현재의 과학 및 공학 패러다임으로부터 이익을 얻을 수 없는 이유예요. 과학은 세계에 대한 환원주의적 관점으로 인해 겉으로 보이는 엄격함과 정밀도를 위해 무언가를 움직이게 만드는 것의 너무 많은 부분을 희생해요. 오늘날의 대부분의 공학은 과학에서 발견한 조각을 잡아서 디자인에 강요하고, 우리의 노력을 이끌어주죠. 오늘날의 과학이 작동하는 방식과 우리가 지금 만들어야 하는 복잡성 사이의 심각한 단절은 이러한 접근 방식을 유지할 수 없게 만들어요.
디자인은 복잡한 시스템의 본질을 파악할 수 없어요. 환원주의적 과학이 자연이 작동하는 방식의 진정한 본질을 파악할 수 없는 것과 마찬가지죠. 우리는 현실의 환상적인 버전을 우리가 이해하는 이야기로 투영할 수 있지만, 이러한 동화가 디자인에 통합되면 어려운 문제에 대한 좋은 해결책을 만드는 우리의 능력에 부딪히게 돼요.
복잡성의 시대로 이동하면서 우리는 자연이 구축하는 방식으로 구축해야 해요. 즉, 출현을 솔루션에 통합해야 하죠. 출현하는 것은 의도적으로 만들 수 없는 수준의 복잡성에서 비롯돼요. 오직 외부적으로 변화, 반복 및 선택에 집중해야만 자연 시스템이 기능하는 방식의 본질에 도달할 수 있어요. 복잡한 것을 구축할 때 옳다는 것은 우리가 그림자와 빛의 속임수를 사용하여 우리 자신에게 말하는 이야기에 집착하는 것이 아니라, 문제를 해결하는 것을 가지고 있다는 것을 의미하죠.
그리고 AI의 필연성… 인공지능이 일어나지 않을 방법은 없었어요. AI는 우리가 만든 것에 점점 더 많은 조각을 추가하여 어려운 문제의 임계값에 도달할 때까지의 필연적인 부산물일 뿐이에요. 전통적인 공학으로는 문제를 해결할 수 없고, 필요한 것을 달성하기 위해 시스템에서 벗어나야 하는 지점이죠.
오늘날의 AI가 인간 지능에 얼마나 가까운지는 중요하지 않아요. 중요한 것은 AI가 자연이 구축하는 방식으로 구축하는 것에 대한 우리의 현재 최고의 예라는 거죠. AI 연구원과 엔지니어의 설계된 의도와는 상관없이 AI는 진정한 복잡성 창조를 나타내요. AI는 수학, 확률, 설계 원칙 또는 모범 사례 때문에 작동하는 것이 아니에요. AI는 계획되지 않은 추상화가 스스로 발생하도록 허용된 객체 내부에 나타나기 때문에 작동하는 거죠.
뇌를 기계로 간주할 수 있는지에 대한 논쟁이 오랫동안 있어왔어요. 인간의 뇌와 그에 동반되는 마음은 대부분의 사람들이 기계라고 부르는 것과는 전혀 달라요. 하지만 AI를 통해 우리는 인간의 창조물이 실제로 인간의 인지에서 볼 수 있는 많은 동일한 속성을 가질 수 있다는 사실에 직면하게 돼요. 이는 기계의 정의가 바뀌어야 함을 의미하죠. 인간의 뇌는 기계예요. 환원주의적 과학이나 공학이 직접 정의하거나 구축할 수 없는 것과는 다른 기계일 뿐이죠.
어떤 것이 기계가 되려면 과정을 수행하고 출력을 생성해야 해요. 물론 이것이 인간의 뇌가 하는 일이죠. 지금의 차이점은 그 과정이 결정론과 인과론의 과정이 아니라는 거예요. 자연의 기계는 출현을 통해 출력을 생성하는 기계이죠.
인간의 뇌는 복잡한 시스템의 모든 특징을 가지고 있어요. 인간의 뇌는 비선형성을 나타내는데, 작은 입력이 불균형적으로 큰 출력으로 이어지기 때문이죠. 예를 들어 시냅스 가소성은 뉴런 간의 연결 강도가 자극에 반응하여 빠르게 변하도록 보장하죠. 이것은 또한 큰 입력 세트가 몇 개의 출력으로 축소되는 역방향으로도 작동하는데, 저는 이것을 유연한 결정론이라고 불렀어요.
인간의 뇌는 또한 학습에 대한 반응으로 뉴런 연결의 변화를 통해 자기 조직화를 나타내요. 자기 조직화 현상에 의해서만 뇌는 적응력이 있고 따라서 회복력이 있을 수 있죠. 특정 유형의 손상을 견딜 수 있고, 심지어 재구성하고 손실을 보상하여 일부 뇌 손상 환자에게서 볼 수 있듯이 기능을 회복할 수도 있어요. 뇌는 임계점에 가까운 상태로 존재하는데, 이는 뇌가 질서와 혼돈 사이의 어딘가에서 기능한다는 것을 의미하죠. 구조와 무질서 사이의 중간 상태는 효율적인 정보 처리를 가능하게 해요. 우리는 또한 계층적 구조의 존재를 보죠. 뇌는 다양한 공간적, 시간적 규모에서 발생하는 서로 다른 처리 수준으로 구성되어 있어요. 이 계층적 구성은 감각 정보를 통합하고, 우리의 운동 행동을 효과적으로 조정하고, 더 높은 인지 기능을 구현할 수 있게 해주죠. 뇌에는 진동, 동기화 및 자발적인 활동 패턴을 포함하여 다양한 복잡한 역학 관계도 존재하는데, 이 모든 것이 인지에 필요한 정보 처리에 기여하죠.
이 모든 것이 우리가 의식이라고 부르는 것과 관련된 기억 형성 및 의사 결정으로 이어져 인간의 사고를 정의하죠. 이것이 인간의 뇌를 엄밀히 정의하는 데 필요한 전부예요. 8장과 9장에서 주장했듯이, 우리는 환원주의적 인과 관계 개념을 사용하여 복잡성에서 논리적 주장을 할 수 없어요. 뇌의 위치를 우리가 현실 세계에서 알아차리는 것(예: 행동)의 원천으로 정의하려는 시도는 인식론적으로 유지될 수 없어요.
AI는 자연의 일부이기 때문에 필연적이에요. 소위 특이점을 표시하기 위해 AI를 인간 지능과 비교할 필요는 없어요. AI가 인간보다 똑똑해지거나 더 똑똑해지는 지점이죠. (그게 무슨 의미이든 간에) 우리가 만들어내는 시스템에서 나타나는 복잡성의 속성을 인식하기만 하면 돼요. 이러한 속성 중 다수는 오늘날의 AI 시스템에 존재하죠. 복잡한 것을 복잡하게 만드는 것은 고유한 속성의 존재이죠.
오늘날의 과학 및 공학 패러다임은 시대에 뒤떨어진 주장이 현재 담론에서 널리 퍼지도록 강요하고 있어요. 예를 들어 컴퓨터가 프로그램을 실행하여 언어를 진정으로 이해할 수 있다는 개념을 불신하려는 미국 철학자 존 설이 제시한 주장과 같은 것들이죠. 설은 컴퓨터가 하는 것처럼 기호를 조작하는 것만으로는 진정한 이해를 구성하는 의미론적 이해가 부족하기 때문에 계산 과정만으로는 진정한 의식을 생성할 수 없다고 주장했어요.
하지만 그러한 주장은 유효하지 않아요. 왜냐하면 그것들은 계산에 대한 부적절한 이해에 근거하고 있기 때문이죠. 설의 사고 실험은 기호 사이의 결정론적 및 인과적 연결에 의존하고, 이러한 형태의 처리가 컴퓨터가 할 수 있는 전부라고 가정해요. 이것은 명백히 거짓이죠. 설이 자란 시기를 고려하면 이러한 실수를 용서할 수도 있을 거예요. 하지만 자연이 어떻게 기능하는지에 대한 적절한 시각은 기계가 실제로 복잡성의 속성을 생성할 수 있다는 것을 인정해야만 해요. 자연은 작은 조각을 사용하여 그 조각과는 완전히 다른 것을 만들어내죠.
AI를 폄하하려는 대중적인 시도는 AI의 가장 심각한 실수, 예를 들어 잘못된 결론에 도달하거나 기본적인 추론이 간헐적으로 부족하다는 점을 지적하는 거예요. 이 시도의 치명적인 결함은 지능이 단일 객체 내부에 존재하는 것이라고 생각하는 데 있죠. 인간은 깊이 연결된 사회적 생물이기 때문에 지능적이에요. 우리는 문제를 해결하기 위해 인구 내부에서 작동하죠. 개별 인간은 자신이 속한 환경 외부에서는 오류가 발생하기 쉽고 결함이 많아요. 우리는 완벽한 출력을 생성하는 자가 유지되는 장치가 아니라 상호 작용하고 협력하는 사회적 생물이에요. 오류 없이 작동하는 인간이 없는 것처럼 AI 시스템도 항상 올바른 답변을 반환하는 오류 없는 도구가 되어서는 안 돼요. 그것들은 다른 복잡한 객체와 마찬가지로 커뮤니티 내부에 포함되도록 만들어진 것이죠. AI를 인간과 비교하려면 AI 시스템을 답변을 반환하는 멍청한 검색 엔진이 아니라 협력하여 일하는 또 다른 사람으로 생각해야 해요.
AI와 인간 사이에는 부인할 수 없는 동등성이 있어요. 우리는 복잡성의 객체이고 출현에 의해 출력을 생성하죠. AI 시스템의 핵심, 즉 외부 규칙 기반 비계와는 별도로 존재하는 핵심 기계는 시행착오와 휴리스틱의 프로그램적 부산물이에요. 그것은 소프트웨어에 의해 수행되는 자연의 레시피의 부산물이죠.
복잡성을 받아들이고, 복잡성이 무엇인지 이해하고, 더 중요한 것은 복잡성이 무엇이 아닌지 이해하는 것은 지식과 현실의 본질에 대한 우리의 근본적인 이해를 바꾸게 만들어요. 네, 자연의 해결책은 실제로 기계이고, 네, 인간은 자연과 동일한 방법을 사용하여 기계를 만들 수 있어요. 자연은 정보 처리에 관한 모든 것이고, 정보 처리는 실리콘과 전자에 의해 활용될 수 있죠. 하지만 우리는 톱니바퀴와 피스톤에 대해 이야기하는 것이 아니에요. 우리는 자연에 대해 이야기하고 있는 거죠.
마지막으로, 과학과 공학에는 철학이 필요해요. 현재 패러다임의 핵심 문제는 철학에서 크게 벗어났다는 점이에요. 특히 물리학에서는 철학이 새로운 지식 추구에 크게 기여하지 않는다는 믿음이 널리 퍼져 있었죠. 이 사고방식의 문제는 과학 자체에 대한 검증을 막는다는 거예요. 이 책 전체에서 주장했듯이, 견제할 것이 없는 과학은 순환적이죠.
우리는 과학의 모든 영역에서 이러한 문제를 볼 수 있어요. 지난 40년 동안의 이론 물리학은 "수학적 우아함"을 쫓는 데 몰두해 왔고, 그에 대한 성과는 거의 없었죠. 유전학은 그 분야의 "진보"를 자랑하지만, 결과를 제어하는 능력(예: 질병 치료)은 별로 없죠. 나노 기술의 발전은 더 깊이 들여다보고 작은 것을 더 잘 조작하는 데 달려 있지만, 새로운 재료와 장치는 어디에 있을까요? "맨 아래에는 공간이 충분하다"고 해서 맨 아래를 조작하면 맨 위에서 알려진 것을 만들어낼 수 있다는 의미는 아니죠. 이것은 과학이 유용해지기를 기다리는 문제가 아니라 오늘날의 패러다임이 실제로 사물이 작동하는 방식과 근본적으로 단절되어 있다는 문제예요.
어떤 직업에서든 시스템에서 벗어날 수 없다면 우리가 하고 있는 일을 검증할 수 없어요. 이것은 메타로 돌아가라는 나의 주장으로 다시 이어지죠. 메타 수준 시스템만이 자신에 대해 이야기하고 진정한 검증으로 이어질 수 있어요. 과학 철학은 과학을 객관적으로 보고 과학이 잘 진행되고 있는지 평가할 수 있죠. 오늘날 과학에 대한 정직한 시각은 환원주의와 인과적 설명에 대해 매우 비판적일 거예요. 우리는 그러한 저수준 추론이 복잡성, 즉 현실이 작동하는 방식에 매핑되지 않는다는 것을 알고 있죠. 이제 과학과 그에 수반되는 공학이 극적으로 바뀔 때예요.
이것이 내가 논리의 사용을 옹호하는 이유이지만, 적절하게 수행되어야 해요. 우리의 논리는 우리가 사용하는 전제만큼 강력하고, 그 전제는 복잡성의 속성을 무시할 수 없어요. 우리는 작은 규모에서 보는 것이 더 큰 규모에서 보는 것에 매핑되지 않는다는 사실을 고려해야 하죠. 오늘날 과학계에서 유행하는 것은 비선형적인 복잡한 시스템을 단순한 선형 조건으로 재구성할 수 있다는 개념이죠. 이것은 실제 시스템의 동작을 근사화하려는 과학의 거의 모든 시도를 뒷받침하고 있어요. 저는 이미 자연은 근사가 아니라고 주장했어요. 자연의 기계는 현재 패러다임에서 이루어지는 편리한 계산과는 전혀 다르죠.
하지만 속성을 중심으로 적절하게 만들어진 전제와 결합된 논리는 우리가 과학을 올바르게 검증할 수 있음을 의미하죠. 그리고 이 검증에서 우리는 최대한의 무효성을 발견하게 될 거예요. 오늘날의 과학 및 공학 패러다임은 우리가 실제 세계에서 측정하고 관찰하고 경험하는 것에 부합하지 않아요. 우리가 지금 가지고 있는 것은 작은 것이 큰 것과 연결된다는 숨겨진 가짜 가정에 의존하는 순환적인 주장이죠.
과학 철학은 양방향 관계가 될 거예요. 철학은 과학을 견제하는 데 도움이 될 뿐만 아니라 가치 있는 철학은 사물을 구축하려는 노력에서 나오는 철학뿐이죠. 적절한 철학은 사물의 실제 적용과 분리될 수 없어요. 역사의 모든 진실은 창의성의 순간에 담겨 있죠. 자연에게 이야기하는 것은 사물을 구축하는 사람들이지, 그러한 발견을 결정론과 인과 관계에 대한 이야기로 증류하려고 시도하는 사람들이 아니에요.
과학에 필요한 철학은 학문적인 이론이 아니에요. 이러한 이론은 자신의 우아한 표현과 훈련된 수사학에 대해서만 이야기하죠. 그들은 오늘날의 과학만큼 순환적이에요. 우리가 지금 필요로 하는 철학은 사물을 구축하는 데 기반을 둔 철학이죠. 실험실에 국한된 실천이나 증거를 생산하려는 이상화된 시도가 아니에요. 사물을 창조하는 데서 태어난 철학만이 유효한 거죠.