Chapter Content
えーっと、みなさんこんにちは。チャプター14ね、えーと、何だったっけ？「原点回帰」みたいなタイトルだったかな。
えー、いきなり本題に入りますけど、抽象化による進歩によって、僕らは本当に複雑なものを作れるようになったわけですよね。で、これによって、物事の作り方、価値の創造の仕方っていうのが、根本的に変わってくるんだ、と。人間って、自分のスキルを使って何か新しいものを作り出すことで価値を生み出すじゃないですか。でも、ここ数百年、評価されてきたスキルって、結局のところ、内部の因果関係に基づいた、低レベルで、具体的なスキルだったんですよね。何かが得意っていうのは、その何かが内部でどう動いているのかを知っていることだった、と。
でも、AIみたいなテクノロジーが、これらの低レベルのスキルを民主化したり、場合によっては完全に自動化したりするにつれて、人間がどうやって価値を生み出すかっていう考え方を、もう一度見直さなきゃいけなくなるわけですよ。
人間が物を作り始めて以来初めて、僕らのツールが、僕ら本来の能力に近づけてくれてるっていうのかな。これまでみたいに、どんどん細かいところにこだわるんじゃなくて、今度は別の抽象化に向かってるんだ、と。
今のテクノロジーは、本当の意味での複雑さを受け入れることで、僕らを原点回帰させてくれる。今、大事なのは、昔大事だったスキル、僕らが進化の過程で身につけてきたスキルなんですよ。人間って、すごく不確実な環境を乗り越えるのが得意じゃないですか。ヒューリスティックスとかパターン認識を使って、本当に難しい問題を解決する。啓蒙思想が重視したスキルって、複雑な状況では通用しないんですよね。分離とか抽出に焦点を当てるやり方って、自然の仕組みとは合わない。だから、僕らは自然が作るように作らなきゃいけないんだ、と。
例えば、スペルチェックとか自動補完の技術を考えてみてください。自動補完は、スペルを考えなくてもよくなったから、人間をバカにしてるっていう人もいるかもしれない。でも、そもそも僕らはスペルなんか気にしなくてよかったんですよ。スペルが間違ってても、メッセージの内容って、ほとんど変わらないじゃないですか。例えば、文字の順番が入れ替わってても、読めるっていう現象、タイポグリセミアって言うらしいんだけど、あれを見れば、スペルの細かいところは、理解にとって重要じゃないってことがわかる。スペルって、学問的なこだわりであって、自然なものではないんですよね。人間がやるべきことって、言葉のスペルが正しいかどうかを確かめることじゃなくて、自分の考えを書き出して、直感を表現することなんですよ。で、自動補完って、それを可能にしてくれる。スペルを気にする時間を費やす必要がなくなれば、ただ単にコミュニケーションを取ればいい。
確かに、スペルとか文法って、自然に生まれてくるものだけど、パターンは道筋じゃないってことを覚えておいてください。僕らが見る構造って、そこに至るまでの道筋ではないんですよ。だから、言語って、時間の経過とともに新しい構文とか文法が生まれる。言語って、常に変化するシステムで、話者のニーズとか使い方に合わせて変わっていく。僕らはスペルとか文法にこだわるべきじゃない。それらは、有機的なコミュニケーションの構造的な副産物にすぎないんですよ。僕らは、現実世界の問題を解決することに集中すべきなんです。実際、一番いい文法っていうのは、自分が伝えたいことを元に、自然に話す人から生まれてくるはず。それが、今の学問的な「良い」っていう定義に合ってるかどうかは、関係ないんです。
これから僕らが作るテクノロジーは、ここ数百年で重要視されてきたスキルの多くを取り除くでしょう。でも、それによって、僕らが本来得意とすることを発揮できるようになる。で、それらのスキルこそが、僕らの抱える大きな課題を解決できるはずなんです。
で、僕らは正しいものを作ってるんだろうか？
僕らが作ってるものが正しいかっていう、唯一の真実の検証方法は、結局生き残ることだけなんだけど、それを一世代のうちに直接評価する方法ってないんですよね。時間が経たないと、何がうまくいくかってわからない。シミュレーションは、現実世界のストレスとはかけ離れてるから、有効性を確認できないし、一人の人生は短すぎて、完全に成功したとは言えない。じゃあ、僕らが作ってるものが正しいのか、正しい方向に進んでいるのか、どうすればわかるんだろう？
前に、原因じゃなくて特性に焦点を当てることの重要性、それらを論理的な議論に組み込むことで、より真実な検証ができるって話をしましたよね。特性が認識論的な正当性の究極の源である理由は、その不変性にあるんですよ。そんな不滅性って、今のパラダイムで考えられた、壊れやすい因果関係とは違う。特性っていうのは、自然が従う制約条件なんです。それらは、自然の解決策の特定の具体例の外に存在してるから、頑強なんですよね。
一世代のうちに長期的な生存を直接評価する方法はないけど、特性を使って、正しい方向に進んでるかどうかを検証することはできる。8章で、物理的、化学的、生物学的プロセスが起こる境界に関連する、複雑系のいくつかの特性を挙げましたよね。それらは、何が作られ、破壊され、変換され、一定に保たれ、減少し、増加し、引き付け、反発し、複製し、循環し、流れるかに関連する。要するに、現実の気まぐれの中で不変性を保つことによって、何が生き残るのか、ってことですね。
これらの不変の特性は、究極的には情報的なものなんです。それらは、自然が計算する方法だから、自然界に現れる。これらの特性をより一般的なパターンに分類すると、非線形性、自己組織化、適応性、レジリエンス、フィードバック、階層性、臨界性、周期性、同期性、相転移、などが見えてくる。
これらは、システムが単純な領域から複雑な領域に移行するときに見られるパターン。これらの創発の兆候は、真の複雑さが達成されていることを示している。これらのパターンのどれも、意図的に設計することはできない。それらは、自然の試行錯誤からしか生まれてこない。直接設計できるのは、変動、反復、選択のプロセスを実行する初期設定と、高レベルのヒューリスティックスの適用。
例えば、本を書くことを考えてみてください。学術的なアプローチは、文学的な手法とか、ベストプラクティスを使って、最初から構成を決めようとする。でも、そのようなやり方って、自分の直感だけに従って書くよりも、作品の質を下げてしまう可能性がある。正しい言葉を選ぼうとするんじゃなくて、正しい感情を得ようとすること。
創発的な創造性を受け入れることによってのみ、独創的な構造とか重要な洞察にたどり着ける。だから、自分の作品は自分自身を驚かせるはず。僕らは、自分の単純な行動によって、自動的に現れてくるものを目撃するはずなんです。
自分の作品の具体的な内容は驚くべきことだけど、良い作品に見られる特性は、完全に予想できるもの。新しく発見された深海生物みたいに、今まで見たことのないような姿をしていても、驚くべき、不変の特性に従うはず。でも、僕らが見る特性を、作品の種にしたり、あらかじめ決定したりしちゃいけない。それらは、自然に現れてくる必要がある。複雑系の兆候が現れて初めて、内部の詳細が、必要なように相互作用して、正しいものが生まれる。
自分の作品に驚きを探すことは、複雑系の兆候に注意を払う方法の一つ。そして、それは僕らが作るものを正しく検証する方法。作品の最初からわかっているのは、深い直感とか人生経験だけど、それらにはラベルがない。僕らの直感には、それを表現する記号もないし、分類できるカテゴリーもない。僕らの直感とか経験が、最終的にどのように表現されるのかは、事後にしかわからない。
8章で説明したように、創発的に書くときには、複雑系の特性が現れる。アイデアの出現に非線形性が見られ、反復によってコンテンツが改善されるにつれて、自己組織化が見られる。新しい視点が元の言い回しを調整するにつれて、自己参照とフィードバックループが見られる。生き残る部分にレジリエンスが見られ、言葉が段落になり、段落がセクションになり、セクションがチャプターになるにつれて、階層性が見られる。ばらばらの考えとか、ぎこちない言い回しが、時間の経過とともに滑らかになるにつれて、相転移が起こる。
これは、僕らが複雑な時代に作るどんなものにも当てはまる。AIの次の飛躍は、ベストプラクティスに従ったり、現在の最高のモデルを再現したりすることからは生まれてこない。そのような介入的な行為は、創発的な構造と行動が僕らの努力から生まれるのを妨げるだけ。
複雑な出力の多重実現性っていうのは、複雑なシステムの中で最も不変の特性は、さまざまな方法で到達できることを意味する。重要なのは、以前とは異なる方法で到達する必要があるってこと。そうすることで、メタレベルの特性にのみ注意を払うことができ、特定の一連のプラクティスとかデザインに注意を払わなくて済む。作品の内容に手を加えてデザインしようとする誘惑は、イノベーションに必要な次のレベルの抽象化にはつながらない。
メタデザイン
デザインっていうコンセプトは、もう終わってしまったんだろうか？僕らは、自分たちが作るものの結果をコントロールするという考えを、すべて捨て去らなければならないんだろうか？現在のデザインの定義の下では、そうなる。内部の因果関係に基づくデザインは、複雑な状況では成り立たない。もし、僕らが複雑なものを作ろうとするなら、そして、本当に難しい問題を解決するためにはそうしなければならないんだけど、現在定義され、使用されているデザインは脇に置かなければならない。
でも、僕は本書の中で、新しい種類の知識について議論してきた。この知識は、複雑なものが常に従うメタレベルの特性に基づいている。これは、根本的に異なる種類のデザインの居場所があることを示唆している。僕らの努力が、確実に信頼できる出力を得るために、どのように設定されるのが最善か、そして、それらの妥当性をどのように推論できるかを検討する方法。
ここまで読んだ人は、この異なるデザインの概念が、僕らが作るシステムの外にあるはずだってことが、もうわかってるはず。複雑なものを作るために使用される手順は、もの自体の内容とはほとんど関係がないことがわかっている。つまり、デザインが創発につながる既知のプロセスを導入することだけを目的とするなら、デザインは最初から可能になる。言い換えれば、結果を導くために最初の構造を使用するというデザインの精神は、デザインがシステムの外にある限り、救済できる。
何かがメタデザインされるっていうことは、メタレベルでピースと接続を選択することだけを意味する。これは、前提を理由ではなく特性に基づかせることによって、より良い論理的な議論をするのと同じ。僕らは、解決したい課題を見て、特定の答えに導くのではなく、生き残るかどうかのシステムに導くメタレベルの構造を配置することができる。これによって、問題解決の焦点は、因果的推論から生き残るものを作ることに移る。僕らは、必要なものに自力で到達するけど、予想される方法で収束するシステムを設計する必要がある。
科学と工学は一つの学問分野であるべきだ
科学と工学は、常に密接に関連してきたけど、完全に異なる学問分野だった。科学が基本的な発見をし、工学がそれらの発見を使用可能なツールに変えるっていうのが定説。科学は工学の基礎であり、エンジニアがテクノロジーを作成および改善するために使用する理論的な理解と原則を提供するって言われてる。
量子力学がなければ、現代のコンピューターは存在しなかっただろうって言われてる。航空宇宙部品、エレクトロニクス、建設資材、生物医学インプラントは、材料科学のおかげでここにあるって言われてる。従来の機械は、静力学、動力学、流体力学の理論のおかげで可能になったって言われてる。土木技師は、材料とか環境の物理学と地質学に関する技術的な知識なしには、創造できないって言われてる。
すべて理にかなってるように見える。結局のところ、エンジニアは動作するものを作ろうとしていて、物事が動作するのは、協調して動作する、ランダムではない一連の根本的な力が働いているときだけ。科学は、そのような知識の蓄積者だから、科学と工学の結婚は当然のように思える。
でも、他の多くの現代の物語と同様に、これは複雑さの方向とは正反対であるという問題に直面する。複雑なものの中のピースから特性への経路がないことによって、科学が工学につながるという物語が成り立たない。科学が何を発見しても、複雑な解決策の中で使用される可能性はほとんどない。これは、以前に議論したように、遺伝学とかナノテクノロジーのような分野ですでに証明されている。創発的なアウトプットを持つ本当に複雑なものを作ろうとしている今、現在の科学が構成要素を提供できないのは当然だ。
今有効なのは、創発する構造であり、それらの構造は、還元主義的な発見ではなく、外部の努力を通してのみ到達できる。僕らが何かを発見するために、物事を抽出したり分離したりする科学実験の本質は、今や、僕らが構築する必要があるものから根本的に分離されている。得られた知識は、結果的に真実なものではなく、自己奉仕的なものになる。
エンジニアは、外部の努力を実装することを通して、何らかの偶然の実現に偶然出会い、それから初めて発見された真実にたどり着かなければならない。これが、実際、科学的発見が常に起こってきた方向。基礎が応用につながるという学術的な物語にもかかわらず、教科書に体系化されるものを後で発見するのは、ナイーブな試行錯誤に着手する人たち。もっと平たく言うと、発明の真実の物語は、科学が工学につながるのではなく、工学が科学につながるということ。
学術的な物語は、人類の歴史を通して僕らが構築してきたもののほとんどすべてが決定論的だったから、今まで生き残ってきた。人間の発明が内部の因果関係で説明できるとき、科学者にはあまりにも簡単にクレジットが与えられる。でも、僕らが構築するものが科学の因果的な説明から根本的に切り離されているとき、この物語はもはや成り立たない。
科学は良い出発点として機能すると主張する人もいるかもしれないけど、現実的には、そのような出発点は疑わしいものとして扱うべき。なぜなら、それらは進歩を妨げる可能性が高いから。還元主義的な知識で作られた基盤から新しい創造的なプロジェクトを始めることは、誤ったスキームに人を縛り付ける。なぜなら、創発しない構造は、複雑なシステムが自分自身を調整する方法に適合しないから。これは、より重要なことに、デザインを信じることは、たとえ愚かであっても、最初に試してみる動機になると主張する一部の人々によってなされる、より広範な議論に反する。僕らがプロジェクトに強制するデザインが、システムを劇的な方法で脆弱にしないなら、これは確かに価値があることが証明されるだろう。デザインは、複雑なシステムの動作を積極的に妨げるとき、単なる動機にはなれない。
でも、明確にしておきましょう。これは、僕らが構築するものにおける科学の重要性を否定するものではない。全く逆。複雑なシステムが従う特性、そして、僕が合理的な思考の基盤を形成するべきだと主張する特性は、科学的発見に根ざしている。特性の発見が因果的な説明と根本的に異なるのは、それらが因果的ではないということ。特性は、自然に関するメタレベルの真実。それらがどのようにしてそうなったのかには関係ない。特性は、特定の複雑なシステムのすべてのインスタンスに適用される。これは、僕が主張するに、科学が持っていない情報にアクセスできると主張しないから、本当の科学。
科学が工学に本当に情報を与えることはなかったけど、複雑な時代には、発見された特性は、僕らが正しい方向に進んでいるかどうかを教えてくれる。この種の科学的な知識こそが、複雑なものを設計するという僕らの努力を検証できる。でも、方向性を忘れないでください。科学的な真実は、構造と行動がすでに創発した後で、事後的に適用する必要がある。
もし、僕らがAIの次世代大規模言語モデルを構築しようとしているなら、それは人間がこれまでに作成した最も複雑なものの一つだけど、内部原則に従うべきだと示唆することは、進歩を妨げるだけ。今日のAIシステムは、真の複雑さに近づいている。僕らはこれを知っている。なぜなら、単純なシステムは、複雑系の兆候を生み出すことができないから。でも、複雑系の外部原則は、僕らが正しい方向に進んでいることを示すことができる。繰り返しますが、ここで非常に重要なのは、内部で作業するか、外部で作業するかの違い。外部のメタレベルの努力だけが、人間が創発を設計できるようにする。
複雑性の時代が来て、本当に複雑なものが課題を解決するために構築されなければならないとき、科学と工学は単一の学問分野になる必要がある。これは、知識収集に対する唯一認識されたアプローチが、ナイーブに物を構築することから来て、それから発見を価値のある知識として見ること。効果的な構築を示すために使用できる知識。科学と工学を知識の発見と創造の単一の学問分野に統合することで、複雑さの方向が尊重される。
僕らは偏見を持つべきだ
現在のパラダイムは、人間の偏見を非難するのが好き。結局のところ、現実世界の状況に根本的な原因があるという前提で行動しているなら、それは理にかなってる。人種的な偏見が医療現場での治療に影響を与えたり、採用決定に影響を与えたり、司法判断に影響を与えたり、他の人に貧しい経済的機会をもたらしたり、科学研究の完全性を損なう問題を引き起こしたりする可能性があることを考えてみてください。もし偏見が何らかの形でコントロールされないなら、僕らの努力は不公平を生み出すだけでなく、真実ではない。実際、これがメタに行くことが非常に重要な理由の一つ。それは、より潜在的で、より真実で、より偏りのない何かを語るために、多くの異なる意見、ピース、アプローチをまとめる。
でも、人間の偏見は、取り除くべき進化の遺物ではない。僕らには偏見がある。進化的な理由がある。進化が何かを維持する場合、それはすべての中で最も重要な目的のため、複雑な環境の中でカテゴリー的に難しい問題を解決するため。人間の偏見を取り除くことは間違っているはず。これは、複雑な解決策を作成する必要がある時代には、なおさら真実。
問題は、偏見ではなく、集団選択の欠如にあることがわかった。人種的な偏見が医療現場に影響を与えているのは、個人が治療を管理しているときに起こる。確かに、個別の治療は、人々のユニークな経験、訓練、視点が、しばしば一対一の相互作用を通して得られるから、必ずしも悪いことばかりではない。でも、痛みの管理を考えてみてください。これは、複雑なシステム、人間の体と連携して動作するから、カテゴリー的に難しい問題。痛みの管理という問題自体は、個人では適切に対処できない。自然は集団を選択することによって問題を解決する。そうすることで、(n - 1) レベルのピースが、(n) レベルの集約的な課題を解決する構成を生み出す。ここで、(n - 1) レベルは、ユニークな（そしてしばしば避けられない）偏見を持つ多くの異なる医療従事者で構成されており、(n) レベルは、痛みの管理を解決する創発的な解決策を必要とするもの。
どれだけの薬を投与するかに関する決定を個人が行うことから、良い解決策が生まれるとは期待すべきではない。これらの決定は、個人では作り出すことができない何かを作り出すために、偏ったピースのコレクションから自然に生まれてくる必要がある。群衆の知恵（設計されていない場合）が、より正確で使いやすい情報につながるように、集団は難しい問題の解決につながる。現実は、偏りのない集約的な結果を生み出すためには、個々の偏見が必要だということ。
個人から偏見を取り除く試みは間違っている。それが間違っている理由は、偏見が集団の問題解決能力を補完するために必要だから。僕らは、自然の複雑な現実から真実のさまざまな側面を引き出すことができるように、偏見を持つべき。メタモデルが、単一のモデルよりも深く、より普遍的に真実な何かを見つけようとするのと同じように、人々もメタな方法で働くべき。
この時点での重要なポイントは、人々がメタな方法で働くための最良の方法は、うまくいくものを作ることだと認識すること。複雑さの中でうまくいくものを作ることは、ターゲットを外部のメタゴールに引き上げるときにのみ起こる。そのとき初めて、システムの内部ダイナミクス、偏見を含むが、難しい問題を解決するために自分自身を配置する。