Chapter Content
음, Chapter 12, "Beyond Blueprints"네요. 이야, 제목부터 뭔가 심오한 느낌이 팍 오죠? 복잡성이 단순성보다 간단하다... 흠...
보통 복잡하다고 하면 다루기 힘들다고 생각하잖아요. 왜냐하면 복잡한 게 단순한 시스템보다 더 어려운 버전이라고 착각해서 그래요. 엄청난 양의 디테일과 씨름하려고 할 때만 일이 어려워지는 거죠. 근데 복잡한 시스템이나 상황에서 디테일을 쫓는 건, 뭐랄까... 유령 쫓는 거랑 똑같아요. 우리가 경험하는 것과 거의 관련 없는 것과 씨름하는 건 정말 의미가 없죠.
우리도 알잖아요. 복잡성은 그걸 구성하는 조각들에서는 볼 수 없는 구조와 행동을 만들어낸다는 거. 이게 바로 복잡성이 의사 결정에 있어서 단순성보다 더 간단한 이유예요. 단순한 시스템은 장황한 메커니즘과 많은 디테일을 보여주는데, 왜냐하면 그런 시스템은 거기서 출력을 얻어내거든요. 복잡성에서는 그런 디테일들이 현실 세계에서 나타나는 것과는 전혀 상관이 없어요.
이게 바로 수학이나 물리학이 가장 어려운 과목처럼 보이는 이유예요. 물론 여러 면에서 그렇기도 하지만, 그건 단순성 때문에 어려운 거예요. 우리가 어떤 것의 복잡한 디테일에만 신경 쓸 때, 우리는 그 혼란에 얽히게 되거든요. 물리학 교실 칠판은 온통 방정식으로 가득 차 있지만, 그건 자연의 대상을 엄청나게 단순화하고, 게임처럼 만들고 있기 때문이에요. 그런 디테일들은 더 큰 규모에서 우리가 보는 것과는 전혀 다른 이야기를 하죠.
사람들은 직관이나 빠른 사고를 이용해서 문제를 해결하잖아요. 그게 복잡성을 감당할 수 없어서 그런 게 아니라, 바로 그게 복잡성을 다루는 방식이기 때문이에요. 우리가 관찰하는 것의 조각들을 하나하나 뜯어보려고 생각을 늦추는 게 더 나을 거라고 말하는 건, 글쎄요... 좀 답답한 소리죠.
심리학자들이나 사회 전체가 빠른 사고를 병적으로 보는 건, 설계라는 개념을 뒷받침하는 잘못된 전제의 부산물이에요. 우리가 디테일에 대한 내적인 지식을 가지고 있어야 한다고 생각할 때만, 고차원적이고 추상적이며 빠른 사고가 문제가 있다고 말할 수 있는 거죠. 우리는 환원주의적인 관점에서 문제를 바라보고, 거의 영향이 없는 디테일을 파악하려고 노력하기 때문에 현실 세계의 문제를 어렵게 만드는 거예요.
그리고, "천재의 신화"에 대해서도 이야기해볼까요?
보통 인류의 진보에 대한 설명은 다른 사람들이 알아낼 수 없는 것을 알아낸 뛰어난 천재들의 존재 때문이라고 하잖아요. 역사책을 펼치면 자연의 가장 깊은 비밀에 대한 통찰력을 가진 사람들의 이름이 쭉 나오죠. 하지만 추상화를 통한 진보는 인류의 진보가 천재 덕분이라는 생각을 없애버려요. 더 중요한 건, 천재라는 개념 자체가 문제가 어떻게 해결되는지에 대한 우리가 알고 있는 것과 일치하지 않는다는 거죠.
문제는 일련의 입력을 일련의 출력으로 변환함으로써 해결되잖아요. 단순한 시스템에서는 이게 의도적인 인과 경로를 통해 일어나지만, 자연에서는 그렇지 않거든요. 자연이 만들어내는 출력은 '창발'을 통해 나타나고, 이미 논의했듯이, 창발은 통계적으로 발생할 가능성이 가장 높은 구성에서 나오는데, 이는 문제의 본질적인 구조와 겹쳐요. 시스템에서 가장 가능성이 높은 구성이 존재하는 건 모든 가능한 배열이 그걸 가능하게 만들기 때문이에요. 우리가 측정하고, 관찰하고, 경험하는 것에게 존재와 의미를 부여하는 건 전체 그룹이거든요.
만약 물리적 시스템이 문장이고, 가장 좋은 구성이 감동적인 단어라면, 문장의 다른 모든 단어들은 그 감동적인 단어에 의미를 부여하는 거예요. 그게 단어든, 문장이든, 단락이든, 섹션이든, 챕터든, 책 전체든 상관이 없어요. 이런 것들 사이의 구분은 분명히 존재하지만, 더 높은 수준의 그룹 없이는 의미나 효용이 없거든요. 단락은 섹션이 뒷받침하지 않으면 아무 의미가 없어요. 자연은 항상 주어진 물리적 추상화 수준에서 가능한 모든 가능성의 컬렉션을 사용해서 문제를 해결하죠. 자연은 그룹을 사용해서 선택해요.
이게 바로 개인이 혼자 힘으로 문제를 해결할 수 없는 이유예요. 해결책을 개인에게 돌리는 건 문장에 의미를 제공하는 단 하나의 단어에게 공을 돌리는 것과 같아요. 개인이 문제를 해결하는 건 불가능해요. 원인을 개인에게 돌리는 것 자체가 자연이 작동하는 방식에 대한 지적으로 정직한 설명에 위배되죠. 무인도에 고립된 사람이 생존하더라도 그의 칼은 여전히 다른 사람들이 만든 거고, 피난처에 대한 그의 지식은 여전히 그가 왔던 마을에서 받은 거잖아요. 가장 고립된 사람이 생존하는 경우에도 여전히 생태계에 깊이 의존하고 있어요. 현대에는 이 생태계가 환상적이고 복잡한 의존성 웹으로 존재하는 우리 경제죠. 개인이 문제를 해결한다는 개념은 과학적으로 문맹인 만큼 비논리적이에요.
물론 역사는 이렇게 쓰이지 않죠. 역사책은 혼란에 질서를 부여하려는 인간의 인과적 욕구를 만족시켜요. 사람들은 우리가 보는 것의 원인으로 무언가를 가리키고 싶어하거든요. 하지만 복잡성에서는 근본 원인이 허구예요. 그렇다고 해서 우리가 경험하는 것을 가져오는 메커니즘이 없다는 의미는 아니에요. 물론 있죠. 파트 2에서 창발의 신비함을 벗기는 것에 대해 논의했듯이요. 요점은 그런 메커니즘이 결정론적인 경로와 근본 원인에 의해 작동하지 않는다는 거예요. 복잡성 하에서의 귀속은 비과학적이에요.
역사는 혁신의 거인들에 대한 이야기로 가득하잖아요. 자신의 분야에 뛰어난 공헌을 한 사람들 말이죠. 다른 사람들과는 다른 천재성을 가진 아인슈타인 같은 사람들이요. 우리는 심지어 그 사람들의 뇌를 해부해서 무엇이 그들을 다르게 만드는지 보려고 하죠. 물론 어떤 사람들은 다른 사람들보다 더 많은 관심과 추진력을 가지고 있을 수 있어요. 그리고 아마도 그런 개인이 없었다면 혁신이 그때 일어나지 않았을 수도 있겠죠. 하지만 그건 틀림없이 일어났을 거예요. 다중 실현 가능성은 발명이 여러 다른 문화에서 여러 다른 방식으로 일어날 수 있다는 것을 보여주죠. 이건 그럴듯하게 꾸며낸 말이 아니에요. 통계적 현실이죠. 귀속은 적절한 장소에 적절한 시기에 있었던 사람에게 가요. 그리고 누구도 사회에서 이름 없는 다른 사람들의 수많은 기여 없이 새로운 것을 발명하지 못하죠.
추상화를 통한 진보는 자동적이고 불가피하며, (n) 수준에서 작동하는 그룹이 (n + 1) 수준의 문제를 해결함으로써 달성돼요. 이건 거인과 천재에 대한 이야기가 아니에요. 거인은 없었고, 어깨만 있었을 뿐이죠. 이건 듣기 좋은 상투적인 말이 아니라, 자연에 대한 정직한 설명과 일치하도록 인류의 진보를 설명하는 것에 대한 이야기예요.
그럼 사람들은 왜 복잡한 것들이 설계되었다고 믿을까요?
성공적인 삶을 보면, 어떤 정의의 성공이든 간에, 설계된 시스템처럼 보이잖아요. 완벽하게 들어맞는 것처럼 보이는 부분들이 있을 거예요. 하지만 이 조각들은 주어진 삶의 일련의 과제를 해결하는 데 필요한 구조가 되기 위해 시간이 지남에 따라 나타난 거죠. 삶의 구조는 자연의 해결책과 마찬가지로 혼란에서 나타나요. 이게 바로 서점의 비즈니스 섹션에 있는 책들이 오해의 소지가 있는 이유예요. 그 책들은 마치 성공으로 가는 길이 있는 것처럼 이야기하죠. 저자와 똑같은 특정한 접근 방식을 따르면 독자의 삶도 그렇게 될 거라고요. 하지만 현실 세계에는 길이 없어요. 왜냐하면 자연에는 길이 없거든요. 다른 사람의 창발된 구조를 따르는 건 완전히 지탱할 수 없어요. 왜냐하면 두 복잡한 시스템의 내장을 똑같은 방식으로 구성할 통계적인 방법이 없거든요.
사실 복잡한 상황에서 길이 있다고 가정하는 건 무의미한 것보다 더 나빠요. 사실 해로운 거죠. 다른 사람의 창발된 구조를 마치 결정론적인 경로인 것처럼 따르는 건 자신의 삶의 자연스러운 창발에 개입하는 거예요. 흐름을 완화하고, 그렇지 않으면 합쳐질 것을 막는 거죠.
우리가 음식에 대해 맛보는 것의 많은 부분은 이야기잖아요. 즉, 음식과 혀의 화학적 상호 작용이라기보다는 우리가 먹는 음식에 대해 듣는 이야기라는 거죠. 새로운 아침 식사 장소가 문을 열고, 독특한 레시피나 음식에 대한 특정한 접근 방식을 마케팅하죠. 하지만 재료는 실제로 독특한 풍미를 많이 전달하지 않아요. 이 장소는 의심할 여지 없이 다른 대부분의 아침 식사 장소와 비슷한 맛이 날 거예요. 물론 그런 사실은 마케팅에 잘 맞지 않고, 더 중요한 건 사람들은 뭔가 다르고 흥미롭다고 믿고 싶어한다는 거죠.
이게 바로 커피가 평범한 컵보다 특별한 컵에서 더 맛있는 이유예요. 인간은 의미를 추구하고, 우리가 그렇게 하는 방식은 그런 원인이 실제로 존재하는지 여부에 관계없이 사물에 원인을 할당하는 거죠. 가장 좋아하는 식당이 다른 모든 곳과 정말로 다르지 않다고 설득하려고 해보세요. 그러면 그들은 맹렬히 반대할 거예요. 사람들은 이야기에 깊이 애착을 갖고 있거든요.
가장 좋아하는 식당이 다른 모든 곳과 다르다고 확신하게 되는 건 무해하죠. 하지만 삶의 다른 영역에 관해서는 이 디자인 내러티브가 그렇게 무해하지 않아요. 우리 사회에서 통과되는 정책을 생각해 보세요. 정부는 연구를 바탕으로 위험을 줄이고 사회적 상황을 개선하려고 노력하죠. 과학자들의 연구와 전문성을 활용하여 자금 조달, 보험 규정 및 특정 서비스에 대한 접근이 이루어지는 의료를 예로 들어보죠. 소위 증거 기반 정책은 다양한 개입의 효과를 평가하고 자원을 할당하는 방법을 결정하려고 하죠. 공중 보건 권장 사항은 과학에 의존하여 질병 전파 및 위험 요인에 대한 중요한 통찰력을 제공하여 제정된 지침 및 권장 사항으로 이어지죠. 연구자들은 약물 또는 의료 기기의 안전성과 효능에 대한 증거를 제공하며, 이는 결국 규제 결정에 영향을 미치죠.
이 모든 예의 이면에는 디자인 내러티브가 있어요. 즉, 환원주의적 실험을 통해 얻은 지식을 사용하여 현실 세계의 결정을 내릴 수 있다는 생각이죠. 처음에는 모든 것이 말이 되는 것 같아요. 실험을 실행하고 사회에서 개선하고자 하는 것에 기여하는 근본적인 인과적 요인을 결정하는 거죠.
하지만 거기에 인과적이라는 단어가 있잖아요. 누군가에게 인과적 연결이 존재한다고 확신시키는 데는 그리 많은 것이 필요하지 않아요. 이게 바로 디자인 내러티브가 하는 일을 해낼 수 있는 이유죠. 디자인에는 통제감이 있어요. 왜냐하면 우리가 세상이 어떻게 돌아가는지에 대해 무언가를 발견하고 그 지식을 적용하여 다음 소위 해결책을 설정할 수 있다고 말해주기 때문이죠. 하지만 연구가 고립을 통해 발견하는 것과 실제로 현실 세계에서 일어나는 것 사이에는 엄청난 단절이 있어요.
이건 정부에 대한 비판이 아니라 디자인 내러티브에 의존하는 현재의 패러다임과 이것이 점점 더 문제가 되고 있는 방식에 대한 이야기예요. 디자인 내러티브는 근본적으로 결함이 있어요. 왜냐하면 그것은 오늘날의 과학적 패러다임을 통해 얻은 내적인 인과적 지식을 사용하여 현실 세계에서 좋은 해결책을 구축할 수 있다는 잘못된 전제에 의존하기 때문이죠. 그러한 접근 방식은 비현실적이고 잠재적으로 위험한 결과를 초래할 것으로 예상해야 해요.
왜 인간은 우리가 제자리에 두는 디자인이 실제로 결과를 결정한다고 믿는 것이 그렇게 쉬울까요? 그 이유는 인과적 설명이 복잡성 하에서 진정으로 검증될 수 없기 때문에 면죄부를 받기 때문이에요. 8장에서 논의했듯이 어떤 것의 고립은 더 큰 시스템이 어떻게 작동하는지에 대해 거의 알려주지 않아요. 대부분의 사람들이 고립된 조각 자체가 어떤 것의 원인이라고 믿는 경향이 있는 이유는 우리 사회가 조각들이 우리가 경험하는 출력에 인과적으로 연결되어 있다고 들었기 때문이에요. 과학적 패러다임 내에 있고 확립된 도구와 내러티브를 사용하는 한, 우리가 관찰하는 것에 대해 사후 설명이 주어질 수 있어요.
우리는 항상 우리가 관찰하는 모든 것에 대해 합리적으로 들리는 이야기를 만들 수 있어요. 우리는 심지어 그러한 이야기를 완벽하게 논리적인 주장으로 엮을 수도 있죠. 지구가 평평하다고 믿는 사람들은 유효한 논리적 주장을 할 수 있어요. 그들이 해야 할 일은 그 자체가 진실이고 그들이 도달하는 결론으로 이어질 가능성이 있는 전제를 사용하는 것뿐이에요. 하지만 그 전제에 명백히 거짓인 숨겨진 가정이 있다면 그 주장은 눈에 띄지 않게 가짜죠.
설명이 깨진 과학 및 엔지니어링 패러다임 내에서 주어지면 기본적으로 반증 불가능해요. 왜냐하면 패러다임이 사용하는 수학적 또는 통계적 기술에 관계없이 논리적 실패를 극복할 수 없기 때문이에요. 과학은 나쁜 논리로부터 스스로를 구할 수 없죠. 아무리 멋진 수학이나 무작위 대조 시험도 어떤 것이 역할을 수행하는 것과 그 역할이 무엇인지 아는 것 사이에는 차이가 있다는 사실을 부정할 수 없어요.
이것은 명백한 부정적인 것에는 적용되지 않아요. 연구에서 물 공급에 시안화물이 존재한다고 확인되면 유독 성분을 완화하기 위한 정책이 마련되어야 하죠. 내가 하고 있는 주장은 디자인 내러티브를 기반으로 사물을 구축하는 것이 얼마나 문제가 되는지에 대한 것이에요. 시안화물이 어떻게 물 공급에 들어갔을지 생각해 보세요. 광업 산업은 광석에서 금과 은을 가공하고 추출하기 위해 시안화물을 사용하죠. 광범위한 화학 물질과 제약은 시안화물 화합물 덕분에 가능해졌어요. 시안화물은 보호 또는 장식 목적으로 금 및 은과 같은 금속을 표면에 증착하기 위해 전기도금에 사용되죠. 이 모든 것은 심각한 건강 및 환경 위험을 초래할 수 있으며 연구에서 이러한 물질을 안전하게 사용할 수 있다고 절대적으로 확인할 수 없어요.
디자인 내러티브는 무언가가 역할을 수행한다고 말하지만 그 역할이 무엇인지, 사물이 역할을 가지고 있다는 개념 자체가 결함이 있다는 사실조차 알려주지 않아요. 시안화물은 단순히 인간이 원하는 결과를 달성하기 위해 금속과 상호 작용하는 것이 아니라 시스템과 수많은 방식으로 상호 작용하죠. 우리가 더 작은 조각과 더 큰 조각 사이에 통제와 결정론을 가정하고 있다면 궁극적으로 득보다 실이 많은 솔루션을 구축하게 될 거예요.
패턴은 길이 아니다…
복잡한 설정에서 나타나는 구조는 순진하고 정보에 입각하지 않은 행동에서 비롯된 구조에요. 시행착오가 자연이 창조하는 방식이고 예외는 없죠. 오늘날의 과학 및 엔지니어링 패러다임의 핵심에 있는 오류는 구조가 관찰되면 물체를 만드는 데 필요한 청사진을 갖게 된다는 믿음이에요.
복잡한 것들을 만들기 위해 구조를 제자리에 두는 것은 내가 패턴은 길이 아니다라고 부르는 문제에 직면하게 되죠. 교육 시스템과 산업 전반에 걸쳐 우리가 관찰을 통해 발견하는 조각들이 사물을 구성하는 방법에 대한 정보를 제공한다는 깊이 뿌리박힌 믿음이 있어요. 하지만 이것은 복잡성과는 정반대 방향으로 진행되죠. 복잡한 것들은 거기에 도달하는 경로를 사용하여 출력을 생성하지 않거든요.
현재의 과학 및 엔지니어링 패러다임은 복잡성이 잘 정의되지 않은 용어라고 주장하려고 하죠. 반대로 복잡성은 사물이 어떻게 만들어지는지, 무엇이 진정한 지식을 구성하는지, 그리고 우리 경제가 어떻게 만들어지는지에 대한 현재의 이야기와 부인할 수 없이 충돌하는 잘 확립된 특징을 가지고 있어요.
환원주의에 의해 밝혀지고 분석된 시스템의 조각들은 자연 시스템에서 나타나는 구조와 행동과는 거의 관련이 없죠. 세포의 층을 벗겨내는 것은 세포가 어떻게 기능하는지 알려주지 않을 거예요. 이것은 많은 사람들을 놀라게 할 것이고 일부 과학자들은 동의하지 않을 것이지만, 그것은 그들이 세포의 작동을 환원주의의 관점에서 틀을 잡고 있기 때문이에요.
복잡한 것을 구축하는 것이 재배열, 조각 전환 또는 사물 간의 전환을 올바르게 만드는 데 집중하는 데 사용할 수 없다는 의미는 아니에요. 이것은 모두 일어나죠. 하지만 이러한 결정은 미리 정의된 구조에 맞추기보다는 높은 수준의 신호에 주의를 기울이기 위해 내려지고 있어요.
의도적인 이야기 구조를 따르는 이야기를 쓰는 것과 그냥 좋게 들리는 이야기를 쓰는 것의 차이를 생각해 보세요. 이것들은 완전히 다른 두 가지 접근 방식이며 후자만이 더 나은 글을 만들어낼 거예요. 전자는 패턴이 거기에 도달하는 데 필요한 경로라고 가정하기 때문에 개입이 발생할 거예요. 기존 구조는 단어가 진정으로 작동하는 단어의 타고난 출현을 방해하여 단어의 자연스러운 흐름을 방해할 거예요.
최고의 글쓰기는 구조를 의도적으로 사용하는 것이 아니라 특정 주제에 대한 이름 없는 감정을 쫓음으로써 이루어지죠. 진정으로 위대한 작품은 구조가 나타나도록 내버려두거든요. 하지만 이것은 위대한 작품을 연구하는 사람들에게는 충분하지 않아요. 그들은 정확하고 체계적이며 자신만의 것이라고 부를 수 있는 이론을 원하죠. 학자들은 글쓰기를 보고 주제 소개에서 긴장 고조, 클라이맥스 절정, 웅장한 도전 해결로 이어지는 것과 같은 진정한 구조를 알아차릴 거예요. 그러한 구조는 실제로 모든 위대한 작품에 존재하죠. 문제는 누군가가 그 구조를 가져와서 자신이 이제 자신의 위대한 작품을 만들 청사진을 소유하고 있다고 믿을 때 시작돼요.
함정에 빠지기는 쉽죠. 독자에게 주요 주제를 소개하는 것으로 작품을 시작하고 도전을 제기하기 시작하는 것은 어떨까요? 모든 위대한 작품이 이 패턴을 가지고 있다면 그에 따라 작품을 구성하는 것은 어떨까요? 하지만 이것은 항상 현학적이고 진정성이 없는 것을 만들어낼 거예요. 사람들은 항상 나쁜 디자인을 감지할 수 있거든요. 디자인에 의한 글쓰기는 결코 말하지 않을 것들로 글을 채우게 만들죠. 올바른 구조와 내용이 나타나도록 하는 것은 감정적 신호와 직관에 주의를 기울이는 것이에요. 자연이 만드는 대로 구축하는 거죠.
자연스럽게 나타나는 작품에 구조를 부과하는 것은 항상 창발 과정을 방해할 거예요. 그것은 복잡성의 방향 때문에 해로운 방식으로 방해해야 하죠. DNA는 누가 범죄 현장에 있었는지 알려줄 수 있지만 질병을 치료하거나 의도한 특성을 가진 건강한 아기를 설계하는 방법은 알려줄 수 없어요. 패턴은 길이 아니에요. 나타난 것을 보는 것은 그 일이 다시 나타나도록 하는 방법에 대한 지침이 없다는 거죠. 하위 수준의 세부 사항이 더 높은 수준의 구성으로 흡수되도록 그룹 선택에 의해 물리적 추상화가 생성되는 창발 과정은 엄격한 결정론을 통해 작동하지 않아요.
책을 쓰는 것은 진지한 노력의 훌륭한 예죠. 계시를 받아들여서 자세히 설명하는 데 많은 노력을 기울여야 하거든요. 책을 쓰는 데 필요한 노력의 양은 종종 동기에 연결되는데, 많은 사람들이 그렇게 큰 출판물을 끝낼 만큼 영감을 유지하는 데 어려움을 겪기 때문이에요. 하지만 이것은 우리를 이상하게 만들어야 해요. 누군가는 자신이 잘 알고 편안하게 이야기할 수 있는 것에 대해서만 책을 써야 하죠. 그렇다면 책이 왜 그렇게 힘든 일처럼 보일까요?
이게 바로 디자인의 문제에요. 사람들이 열정적인 주제에 대해 앉아서 이야기하고 싶어하지 않는 유일한 이유는 가장 자연스러운 활동을 방해하는 무언가가 있기 때문이에요. 그리고 방해하는 것은 디자인이죠. 책에 대해 생각할 때 정의된 구성, 즉 책이 되어야 한다고 들은 것에 대해 생각하죠. 이것은 즉시 우리의 자연스러운 충동에 의문을 제기하고 감정보다는 디자인을 중심으로 틀을 잡기 시작하게 만들죠.
이것은 물론 책에 관한 것만이 아니에요. 책 쓰기는 크고 어려운 작업이 얼마나 쉽게 디자인의 함정에 빠지는지 보여주는 예에요. 우리는 작품을 예상되는 구조로 강제로 밀어넣으려고 하지만 디자인이 없는 상태에서 나타났을 자연스러운 구조를 잃어버리게 되죠. 그리고 분명히 합시다. 누군가가 디자인하려고 시도하는 구조와 열정적인 시행착오를 통해 자연스럽게 나타나는 구조 사이에는 비교할 수 없어요. 볼 수 없고 레이블을 붙일 수 없는 내부 세부 사항 간에는 깊은 조정이 있어요. 이러한 구조에는 이름이 없죠. 그들은 성문화될 수 없고 다른 사람들이 따를 수 없어요. 그들은 선행 구조를 의도적으로 무시하는 것에서만 나타날 수 있어요.
AI의 궁극적인 대답은 치료법이 아닐 것이다…
우리는 종종 AI가 점점 더 강력해지고 있다는 이야기를 듣잖아요. 우리 AI 시스템의 지능이 인간에게서 보이는 수준에 접근하고 있다는 거죠. 적어도 일부 특정 영역에서는요. 이 AI 과대 광고와 함께 인간이 이미 발견한 것은 AI가 더 똑똑해짐에 따라 더 나아질 것이라는 아이디어가 나오죠. 초지능은 우리가 현재 가지고 있는 발견의 단편을 가져다가 더 깊은 통찰력에 도달하고 인간만이 결코 만들 수 없는 상관 관계를 찾고 연결을 만들 것이기 때문에 새로운 치료법을 가져와야 하죠. 결국 더 똑똑하면 더 많은 혁신으로 이어져야 하잖아요.
독자는 이제 이 추론에 무엇이 잘못되었는지 알 것이라고 기대해요. 첫째, AI와 인간 지능의 비교는 과학적으로 정직한 방식으로 지능을 측정할 수 없기 때문에 정당화되지 않죠. 둘째, AI는 다른 종류의 지능을 나타낼 수 있지만 반드시 더 나은 지능은 아니죠. 다른 사람들이 다른 문제를 해결하거든요. 인간과 동물 지능을 비교하는 것조차 인간이 다른 동물과 동일한 요인에 맞서 생존하고 있지 않기 때문에 결함이 있어요. AI는 새로운 것이지 반드시 더 나은 것은 아니죠.
하지만 AI가 어떤 의미에서는 인간보다 더 능력이 있다고 하더라도 현재의 과학과 공학은 더 나아질 것이라는 주장은 치명적인 결함이 있어요. 그것은 우리의 현재 접근 방식이 확장될 것이라고 가정하죠. 이미 보여 주었듯이 현재의 패러다임은 복잡성의 방향과 반대되기 때문에 궁극적으로 부정확하죠. 그리고 이제 우리가 구축해야 할 것은 복잡성이죠.
신약 발견 및 개발에서 AI는 다양한 분자가 어떻게 상호 작용할지 예측하여 신약 발견 프로세스를 가속화하는 데 사용되고 있죠. 유전자 분석에서 AI는 질병과 관련된 돌연변이 및 변이를 식별하기 위해 유전자 데이터를 분석하는 데 사용되고 있구요. 재료 과학에서 AI는 새로운 재료를 만드는 방법을 발견하는 데 사용되고 있어요. 등등이요.
하지만 이 모든 예는 AI를 사용하여 환원주의적 과학 및 공학을 수행하죠. 이미 논의했듯이 유전자를 더 자세히 살펴보면 유전자에 대해 더 많이 알 수 있지만 질병에 대해서는 많이 알 수 없죠. 초지능은 치료법을 밝혀내지 못할 거예요. 왜냐하면 우리는 애초에 그 길에 없었기 때문이죠. AI가 작업해야 할 대상이 현실 세계의 결과와 단절되어 있다면 확장할 것이 없어요.
더글러스 애덤스의 "은하수를 여행하는 히치하이커를 위한 안내서"에 나오는 유명한 컴퓨터인 AI를 상상해 보세요. 딥 소트(Deep Thought)라는 이름의 이 장치는 "삶, 우주, 그리고 모든 것에 대한 궁극적인 질문"에 답하기 위해 제작되었죠. 유머러스한 대답은 물론 "42"였구요. AI를 둘러싼 과대 광고는 그것을 그런 기계와 비슷한 것으로 상상하고 어려운 문제에 상상할 수 없을 정도로 강력한 해결책을 가져오죠. 우리의 웅장한 질문이 인간의 건강과 관련되어 있다면 AI가 질병을 치료하는 방법을 제공한다고 상상할 수 있을 거예요. 하지만 추측해야 한다면 AI 버전의 딥 소트는 궁극적인 대답으로 치료법을 제시하지 않고 "쓰레기 먹는 것을 중단하십시오"라는 정신에 더 가까운 것을 제시할 거예요.
이것은 사실 우리가 질병에 대한 치료법을 설계할 수 있다는 개념보다 훨씬 더 엄격하고 과학적인 대답이죠. 나는 치료법이 불가능하다고 말하는 것이 아니라 복잡성 하에서 최선의 대답은 시스템이 자연스럽게 기능하도록 허용하는 것이지 디자인으로 개입하는 것이 아니라고 말하고 있을 뿐이에요. 이것이 복잡성이 단순성보다 더 간단한 이유죠. 복잡성 하에서의 의사 결정은 알지 못하는 것을 안다고 가장하지 않아요. 최선의 결정을 내리기 위해 휘두를 수 있는 정보는 많지 않아요. 수렴된 지식을 나타내는 보편적인 속성의 비교적 작은 집합을 기반으로 한 것들이요. 해로운 환경을 피하기로 결정하는 것은 간단한 결정이고 질병을 예방하는 데 도움이 될 가능성이 높으며 설계된 치료법을 희망하는 것보다 훨씬 더 지능적이고 합리적이죠.
AI의 궁극적인 대답은 인간 게놈 프로젝트가 유전학 지식을 사용하여 질병을 치료하는 데 거의 기여하지 못한 것과 같은 이유로 치료법이 아닐 거예요. 과학에서 AI를 사용하여 과학이 이미하고 있는 일을 수행하면 문제가 악화될 뿐이죠. 우리는 AI를 사용하여 유전자에 대한 새로운 것을 발견할 수 있지만 이 발견은 우리가 바꾸고 싶어하는 것에 책임을 지지 않을 거예요. 적어도 해롭고 예상치 못한 부작용을 일으키지 않고서는요.
AI가 진정한 형태의 더 높은 지능에 도달하면 인과적 지식을 추구하는 것이 문제라는 것을 깨닫고 현재의 패러다임이 과학적 해결책이 어때야 한다고 가정하는 것과는 전혀 다른 해결책을 내놓을 거예요.