Chapter Content
えー、皆さん、こんにちは。今回はですね、第12章、「ブループリントを超えて」というテーマでお話していきたいと思います。なんかね、この章のタイトルからして、ちょっとワクワクしません？
それで、まずね、最初に言いたいのは、「複雑さは、単純さよりもシンプルだ」ってことなんですよ。え、どういうこと？って思いますよね、普通。でもね、これ、結構深い話で。
複雑さって、なんかこう、扱いにくいものだって思われがちじゃないですか。でもね、それは、複雑さを、単純なシステムを複雑にしたものだって、勘違いしてるからなんですよね。
複雑なシステムの中で、細かいことにこだわろうとするから、難しくなるんですよ。でもね、そんなことしても意味ないんです。だって、複雑さっていうのは、単純な要素からは想像もできないような構造とか、動きを生み出すものなんですから。
だから、意思決定をするっていう点では、複雑さは単純さよりも、むしろシンプルなんです。単純なシステムの方が、メカニズムとか、細かい部分がゴチャゴチャしてるんですよ。複雑なシステムでは、そういう細かいことって、現実世界で起こることとは、あんまり関係ないんですよね。
数学とか物理って、難しいって思われてますけど、ある意味、あれは単純だから難しいんですよ。細かいことを気にすれば気にするほど、わけがわからなくなるんです。物理の授業の黒板って、数式でいっぱいじゃないですか。あれって、自然をめちゃくちゃ単純化してるからなんですよ。そういう細かいことって、もっと大きなスケールで見ると、全然違うんですよね。
人間って、ヒューリスティックスとか、素早い思考で問題を解決しますよね。それは、複雑さに対応できないから、仕方なくそうしてるんじゃなくて、むしろ、それが複雑さを扱うための、まさにそのものズバリなやり方なんですよ。
人間の思考を遅くして、観察したものを細かく分析した方がいいなんて言うのは、ちょっと、的外れもいいところですよね。
心理学者とか、社会全体で、この素早い思考を、なんかこう、病的に捉えるっていう風潮があるんですけど、それは、設計っていう考え方のせいなんですよ。細かいことまで全部知ってなきゃいけない、みたいな。そういう前提があるから、高度な抽象的な思考はダメだ、みたいな話になるんですよね。
現実世界の問題を難しくしてるのは、問題を還元主義的に捉えて、意味のない細かいことにこだわろうとするからなんですよね。
それから、「天才の神話」っていうのもありますよね。人間の進歩は、他の人が思いつかないことを思いついた、特別な天才のおかげだ、みたいな。歴史の本を開けば、そういう名前がたくさん出てきますよね。自然の奥深い秘密を解き明かした、みたいな。
でもね、抽象化による進歩っていう考え方からすると、人間の進歩を天才のおかげだっていうのは、ちょっと違うんですよね。天才っていう考え方自体が、問題解決の仕組みと合わないんですよ。
問題っていうのは、インプットをアウトプットに変換することで解決されますよね。単純なシステムでは、それが意図的な因果関係で起こるんですけど、自然界ではそうじゃないんですよ。自然が生み出すアウトプットは、創発によって生まれます。そして、創発っていうのは、統計的に起こりやすい配置から生まれるんですよね。その配置っていうのは、問題の本質的な構造と重なり合ってるんです。
システムの中に、起こりやすい配置があるのは、あらゆる配置の可能性が存在するからなんですよ。測定したり、観察したり、経験したりすることに、存在意義を与えるのは、グループ全体なんです。
もし、物理システムが文章で、最高の配置が、心に響く言葉だとしたら、その文章の中の他の言葉全部が、その言葉に意味を与えるんですよ。単語でも、文章でも、段落でも、章でも、本全体でも同じです。区切りはありますけど、上位のグループの外では意味がないんですよ。段落は、それをサポートする章がなければ意味がないんです。
自然は常に、物理的な抽象化のレベルで、あり得る可能性の全体を使って、課題を解決しようとしています。自然は、グループを使って選択するんです。
だから、個人で問題を解決することなんて、ありえないんですよ。解決策を個人に帰属させるのは、文章の意味を、単語１つのおかげにするようなものです。個人が問題を解決することなんてできないんです。原因を個人に帰属させること自体が、自然の働きに対する、知的誠実さとは相容れないんです。
無人島で生き残る人がいたとしても、その人が持ってるナイフは、他の人が作ったものだし、シェルターの知識は、村から得たものですよね。どんなに孤立した人でも、エコシステムに深く依存してるんです。現代では、そのエコシステムは経済であり、非常に複雑な依存関係のネットワークとして存在しています。個人が問題を解決するっていう考え方は、科学的に見て、ありえないんです。
もちろん、歴史はそうは書かれていませんよね。歴史書は、人間が持っている、混沌に秩序を与えたいという欲求を満たすために、原因を特定しようとします。人間は、何かを指し示して、それが原因だと言いたいんです。でもね、複雑さの下では、根本的な原因なんて、存在しないんですよ。
もちろん、私たちが経験することを引き起こすメカニズムはありますよ。でもね、そういうメカニズムは、決定的な道筋や根本的な原因によって機能するわけではないんです。複雑さの下では、原因を特定すること自体が、非科学的なんです。
歴史には、イノベーションの巨人の話がたくさんありますよね。それぞれの分野で、素晴らしい貢献をしたとされる人たち。他の人とは違う、特別な才能を持っていたとされるアインシュタインのような人たち。彼らの脳を解剖して、何が違うのか調べたりしますよね。
もちろん、特定の個人は、他の人よりも関心や意欲が高いかもしれません。そして、そういう人がいなければ、イノベーションは、もっと遅れて起こったかもしれません。でもね、絶対に起こったはずなんです。多重実現性っていうのは、発明は、さまざまな文化から、さまざまな方法で起こり得ることを示しています。これは、単なる推測ではなくて、統計的な現実なんです。原因を特定するのは、たまたま、適切な場所に、適切なタイミングでいた人なんです。そして、誰一人として、社会の中の、数えきれないほどの、名前のない人たちの貢献なしに、何か新しいものを発明することなんてできないんです。
抽象化による進歩は、自動的で必然的なものであり、グループが（n）レベルで活動して、（n + 1）レベルの問題を解決することで達成されます。これは、巨人や天才の話ではありません。巨人は存在しませんでした。ただ、肩があっただけです。これは、聞こえの良いお題目ではなくて、人間の進歩を、自然に対する誠実な説明と一致するように記述することなんです。
じゃあ、なんで人は、複雑なものを、設計されたものだと信じてしまうんでしょうか？
成功した人生を見ると、どんな定義の成功であれ、設計されたシステムのように見えるでしょう。完璧に組み合わさっているように見える部分があるでしょう。でもね、そういう部分は、ある人生の課題を解決するために、時間とともに自然に現れてきた構造なんです。人生の構造は、自然の解決策と同じように、混乱の中から生まれてくるんです。
だから、本屋のビジネス書コーナーにある本は、誤解を招くものが多いんですよ。成功への道があるかのように語られてますよね。著者のやり方を真似すれば、読者の人生も同じように成功する、みたいな。
でもね、現実世界には、道なんてないんです。自然には道がないからです。他の人が作り上げた構造を真似することは、完全に無理なんです。複雑なシステムの中身を、同じように構成する方法なんて、統計的にはないからです。
複雑な状況で道があると思い込むのは、無意味なだけでなく、有害です。他の人の人生から生まれた構造を、決定的な道のように追うことは、自分の人生の自然な創発に介入することなんです。流れるべきものを妨げ、凝り固まるものを阻止することなんです。
食べ物に関して言えば、私たちが味わうものの多くは、物語です。つまり、食べ物と舌の化学的な相互作用というよりも、食べている食べ物について語られる物語なんです。新しい朝食の店がオープンして、独自のレシピとか、特別なアプローチを宣伝したりしますよね。でもね、材料は、それほどユニークな風味を与えていないんです。そういう店は、他の朝食店と、ほとんど同じような味がするはずです。もちろん、そんなことはマーケティングには向いてないし、何かが違っていて、面白いと信じたいんですよね、みんな。
だから、コーヒーは、普通のカップよりも、特別なカップで飲む方が美味しく感じるんです。人間は意味を求めるんです。そのために、原因を特定しようとするんです。それが実際に存在するかどうかに関わらず。お気に入りのレストランが、他のどこよりも違うと信じている人を説得しようとしても、絶対に納得しないでしょう。人は物語に深く執着してるんです。
お気に入りのレストランが、他のどこよりも違うと信じるのは、無害です。でもね、人生の他の領域になると、この設計の物語は、それほど無害ではありません。社会で可決される政策を考えてみてください。政府は、研究に基づいて、リスクを軽減し、社会状況を改善しようとしますよね。医療を例にとると、資金調達とか、保険規制とか、特定のサービスへのアクセスは、科学者の研究とか専門知識に基づいて行われます。
いわゆるエビデンスに基づいた政策は、さまざまな介入の効果を評価して、資源をどのように配分するかを決定しようとします。公衆衛生の推奨事項は、科学に頼って、病気の伝染とかリスク要因に関する重要な洞察を得て、ガイドラインとか推奨事項を制定します。研究者は、薬とか医療機器の安全性と有効性に関する証拠を提供し、それが規制の決定に反映されます。
これらの例の背後には、設計の物語があります。還元主義的な実験を通して得られた知識を使って、現実世界の意思決定に活かすことができる、という考え方です。一見すると、すべて理にかなっているように見えます。実験を行って、社会で改善したいことに貢献する、根本的な原因を特定する、と。
でもね、「原因」という言葉が出てきましたよね。原因と結果のつながりを信じさせるのは、簡単なんです。だから、設計の物語は、うまくいくんです。設計には、コントロール感があります。世界の仕組みについて何かを発見して、その知識を使って、次の解決策を構築できると思わせてくれるからです。でもね、孤立した状態で研究で見つかることと、現実世界で実際に起こることの間には、大きな隔たりがあるんです。
これは、政府を批判しているのではなくて、現在のパラダイムが、設計の物語に基づいているということと、それがますます問題になっているということについてです。設計の物語は、根本的に欠陥があります。今日の科学的パラダイムを通して得られた、内的な原因の知識を使って、現実世界で良い解決策を構築できる、という考え方に基づいているからです。このようなアプローチは、非現実的で、潜在的に危険な結果を生み出すと予想されるはずです。
なぜ人間は、自分たちが作り上げた設計が、本当に結果を決定すると信じやすいのでしょうか？その答えは、複雑さの下では、因果関係の説明を真に検証することができないので、免罪符を与えられているからです。第8章で議論したように、あるものを孤立させることは、より大きなシステムがどのように機能するかについては、ほとんど何も教えてくれません。ほとんどの人が、孤立したものが、何かの原因だと信じるのは、社会が、私たちが経験するアウトプットに、因果関係があると言われてきたからです。科学的なパラダイムの中にあり、確立されたツールと物語を使っている限り、観察されることについては、どんな事後的な説明でも与えられます。
私たちは常に、観察することについて、合理的な物語を作ることができます。そういう物語を、完璧に論理的な議論にまとめることさえできます。地球が平らだと信じる人は、有効な論理的な議論をすることができます。真実である前提を使って、もっともらしい結論を導き出せばいいんです。しかし、もしその前提の中に、明白に間違っている隠された仮定があるとしたら、その議論は密かに偽物なんです。
壊れた科学と工学のパラダイムの中で与えられた説明は、本質的に反証不可能です。なぜなら、パラダイムが使用するどんな数学的または統計的なテクニックも、その論理的な欠点を乗り越えることができないからです。科学は、悪い論理から自身を救うことはできません。どれだけ派手な数学やランダム化比較試験を行っても、何かが役割を果たしていることと、その役割を知っていることとの違いを否定することはできません。
これは、明らかなネガティブなことには当てはまりません。もし、調査で、水道水にシアン化物が含まれていることが確認されたら、有毒な成分を緩和するための政策が実施されるべきです。私が主張しているのは、設計の物語に基づいて物事を構築することが、いかに問題であるかということです。シアン化物が、そもそもどのように水道水に入ったのかを考えてみてください。鉱業は、鉱石から金と銀を処理し抽出するために、シアン化物を使用します。幅広い化学物質や医薬品は、シアン化物化合物のおかげで可能になります。シアン化物は、保護または装飾目的で、金や銀のような金属を表面に堆積させるために、電気メッキに使用されます。これらすべては、重大な健康と環境リスクをもたらす可能性があり、これらの材料を安全に使用できることを絶対に確認できる調査はありません。
設計の物語は、何かが役割を果たすことを教えてくれますが、その完全な役割が何であるかは教えてくれません。ましてや、物事が役割を持っているという概念自体に欠陥があるという事実を教えてくれません。シアン化物は、人間が望む結果を達成するために金属と相互作用するだけでなく、無数の方法でシステムと相互作用します。もし、小さな部品と大きな部品の間に、制御と決定論があると仮定するなら、最終的には良いことよりも悪いことをするソリューションを常に構築することになるでしょう。
複雑な状況で生まれる構造は、素朴で情報に基づかない行動から析出するものです。試行錯誤は、自然が創造する方法であり、例外はありません。今日の科学と工学のパラダイムの中心にある誤謬は、構造が観察されると、そのオブジェクトを自分で作るために必要な青写真を手に入れたと信じていることです。
複雑なものを構築する方法として構造を導入すると、「パターンはパスではない」という問題に直面します。教育システムや産業界には、観察を通して発見した部品が、物事を構築する方法を教えてくれるという深く根付いた信念があります。しかし、これは複雑さとは正反対の方向に進んでいます。複雑なものは、そこに至るまでのパスを使ってアウトプットを生成しません。
現在の科学と工学のパラダイムは、「複雑さ」という言葉があいまいに定義された用語であることを示唆しようとしています。それどころか、複雑さには、物事がどのように創造され、何が真の知識を構成し、私たちの経済がどのように形成されているかについての現在の物語に反論できないほど確立された特徴があります。
還元主義によって解明され分析されたシステムの部品は、自然のシステムで生まれる構造や挙動とはほとんど関係がありません。細胞の層を剥がしても、細胞がどのように機能するかはわかりません。これは多くの人を驚かせ、反論する科学者も少なくないでしょう。しかし、それは彼らが細胞の働きを還元主義の観点から捉えているからです。
複雑なものを構築することが、再配置や部品の切り替え、物事の間の移行を正しく行うことに意味がないという意味ではありません。これらはすべて行われます。しかし、これらの決定は、事前に定義された構造に合わせるのではなく、高レベルの信号に対応するために行われています。
意図的な物語構造に従ってストーリーを書くことと、ただ良い響きでストーリーを書くことの違いを考えてみてください。これらは2つの非常に異なるアプローチであり、後者だけが優れた文章を生み出します。前者は、パターンがそこに至るために必要なパスであると想定しているため、介入が発生します。既存の構造は、言葉の自然な流れに介入し、本当に機能する言葉の生来の創発を妨げます。
最高の文章は、構造を意図的に使用するのではなく、特定のトピックに関するラベルのない感情を追求することによって生まれます。真に偉大な作品はすべて、その構造を出現させます。しかし、これは偉大な作品を研究する人にとっては十分ではありません。彼らは何か正確なもの、体系的なもの、自分自身のものと呼べるもの、つまり理論を求めています。学者は文章を見て、トピックの紹介から高まる緊張、クライマックスのピーク、そして壮大な課題の解決への流れなど、本物の構造に気づくでしょう。そのような構造は確かにすべての偉大な作品に存在します。問題は、誰かがその構造を取り、自分自身の偉大な作品を作るための青写真を持っていると信じるときに始まります。
罠にはまりやすいのは簡単です。まず、読者に主要なトピックを紹介し、次に課題を提起することから始めませんか。すべての偉大な作品がこのパターンを持っているなら、それに応じて私たちの作品を構造化してはどうでしょうか。しかし、これは常に衒学的で信頼性のないものを生み出すでしょう。人は常に悪いデザインを検出できます。デザインによる執筆は、決して言わないことを執筆に散りばめざるを得なくなります。適切な構造とコンテンツが出現することを可能にするのは、感情的な手がかりと直感に対応することです。自然が構築するように構築するには。
そうでない場合に自然に出現する作業に構造を課すことは、常に創発のプロセスを妨げます。それは複雑さの方向性のために、有害な方法で干渉しなければなりません。DNAは誰が犯罪現場にいたかを教えてくれますが、病気を治したり、意図した特性を持つ健康な赤ちゃんをデザインする方法は教えてくれません。パターンはパスではありません。何が出現したかを見ても、そのものを再び出現させる方法についての指示はありません。下位レベルの詳細が高位レベルの構成体に包含されるように、グループ選択によって物理的な抽象化が作成される創発のプロセスは、厳密な決定論を介して動作しません。
本の執筆は、深刻な取り組みの好例です。啓示を取り上げ、それらについて詳しく説明するために、多大な努力を払わなければなりません。本を執筆するために必要な努力の量は、多くの場合、モチベーションに関連しています。多くの人は、そのような大規模な出版物を完成させるのに十分なインスピレーションを維持するのが難しいと感じているからです。しかし、これは私たちを奇妙に感じさせるはずです。人は、自分がよく知っていて、快適に話せることについてのみ本を書くべきです。もしそうなら、なぜ本は非常に困難な仕事のように思えるのでしょうか？
これがデザインの問題です。人が座って、情熱を注いでいるトピックについて語りたくない唯一の理由は、何かがこの最も自然な活動を妨げているからです。そして、邪魔になっているのはデザインです。本について考えるとき、私たちは定義された構成物について考えています。本とは何かを教えられています。これにより、私たちはすぐに自然な衝動に疑問を抱き始め、感情ではなくデザインを中心にそれらを組み立てます。
もちろん、これは本だけではありません。本の執筆は、大きくて難しいタスクがいかに簡単にデザインの罠に陥るかの例です。私たちは自分の作品を期待される構造に強制的に押し込もうとし、デザインがない場合に自然に出現していたであろう自然な構造を失います。そして、明確にしておきましょう。人がデザインしようとする構造と、情熱的な試行錯誤を通じて自然に出現する構造との間には比較の余地はありません。見たりラベル付けしたりすることができない内部の詳細の間に深い調整があります。これらの構造には名前がありません。それらは成文化して他の人に従わせることはできません。それらは、先行する構造を意図的に無視することによってのみ出現できます。
AIの究極の答えは治療法ではない
私たちはAIがより強力になっているとよく耳にします。私たちのAIシステムのインテリジェンスは、少なくともいくつかの特定の分野で、人間で見られるものに近づいています。このAIの誇大宣伝に伴い、人間がすでに発見したことはすべて、AIがより賢くなるにつれて向上するという考えが生まれます。超知能は、私たちが現在持っている発見の断片を取り、より深い洞察に到達し、相関関係を見つけて、人間だけでは決して作れないつながりを生み出すため、新しい治療法をもたらすはずです。結局のところ、より多くの賢さは、より多くのイノベーションにつながるはずです。
読者は今、この推論の何が間違っているかを理解してくれることを願っています。第一に、AIと人間の知能の比較は、科学的に正直な方法で知能を測定できないため、ほとんど正当化されていません。第二に、AIは異なる種類の知能を表しているかもしれませんが、必ずしもより優れたものではありません。異なる人々は異なる問題を解決します。人間と動物の知能を比較することさえ、人間が他の動物と同じ要因に対して生き残っていないことを考えると欠陥があります。AIは何か新しいものであり、必ずしもより優れたものではありません。
しかし、AIが何らかの意味で人間よりも有能であることを認めたとしても、私たちの現在の科学と工学が向上するだけだという議論には致命的な欠陥があります。それは私たちの現在のアプローチが拡張されることを前提としています。私が示したように、現在
のパラダイム自体が最終的に不正確であり、複雑さの方向性とは逆方向に進んでいます。そして、私たちが今構築しなければならないのは複雑さです。
医薬品の発見と開発において、AIはさまざまな分子がどのように相互作用するかを予測するために使用されており、医薬品の発見プロセスをスピードアップしようとしています。遺伝子分析では、AIは遺伝子データを分析して、病気に関連する変異やバリエーションを特定するために使用されています。材料科学では、AIは新しい材料をどのように作ることができるかを発見するために使用されています。などなど。
しかし、これらすべての例は、AIを使用して還元主義的な科学と工学を行っています。すでに議論したように、遺伝子をより詳しく調べても、遺伝子についてはより詳しくわかりますが、病気についてはあまりわかりません。超知能は治療法を明らかにしません。なぜなら、私たちは最初からその道を進んでいなかったからです。AIが取り組む必要のあるものが現実世界の結果から切り離されている場合、拡張するものはありません。
AIを、ダグラス・アダムズの「銀河ヒッチハイク・ガイド」に登場する有名なコンピューターとして想像してみてください。ディープ・ソートと名付けられたこのデバイスは、「生命、宇宙、そしてすべてに関する究極の質問」に対する答えを出すために構築されました。そのユーモラスな答えはもちろん「42」でした。AIを取り巻く誇大宣伝は、それをそのような機械に似たものとして想像しており、想像を絶するほど強力なソリューションを困難な問題にもたらします。もし私たちの壮大な質問が人間の健康に関連しているなら、私たちはAIが病気を治す方法を提供してくれると想像するかもしれません。しかし、私が推測しなければならないとすれば、AI版のディープ・ソートは、究極の答えとして治療法を出すのではなく、「ゴミを食べるのをやめる」という精神に近い何かを出すでしょう。
実際、これは、病気の治療法を設計できるという考え方よりも、はるかに厳密で科学的な答えです。治療法が可能ではないと言っているのではなく、複雑さの下での最良の答えは、システムが自然に機能するようにし、設計で介入しないことだけです。これが、複雑さが単純さよりもシンプルである理由です。複雑さの下での意思決定は、知らないことを知っているふりをしません。最良の決定を下すために行使できる情報はごくわずかです。収束された知識を表す普遍的な特性の比較的小さなセットに基づいたもの。有害な環境を避けることを決定するのは簡単な決定であり、病気を防ぐのに役立ち、設計された治療法を期待するよりもはるかに知的で合理的です。
AIの究極の答えが治療法ではないのと同じ理由で、ヒトゲノムプロジェクトは遺伝子の知識を使って病気を治すことにはほとんど役に立ちませんでした。科学でAIを使って科学がすでにやっていることをすることは、問題を悪化させるだけです。AIを使って遺伝子について新しいことを発見できますが、この発見は私たちが変えたいことに対して責任を負うことは決してありません。少なくとも、有害で予期せぬ副作用を引き起こすことなく。
もしAIが真の高次の知能に到達すれば、因果的な知識の追求が問題であることに気づき、現在のパラダイムが科学的な解決策がどのようであるべきだと想定しているものとは似ても似つかない解決策を思いつくでしょう。