人工知能は忘れてください。拡張知能こそが未来です

画像にはスパイラルグリルコイルとホームデコレーションが含まれている場合があります

昨年、私はノーバート・ワイナーのサイバネティクス理論に関する画期的な著書『人間による人間利用』についての議論に参加しました。そこから、人工知能（AI）が人間に取って代わり、最終的には人間に取って代わるという、拡大しつつあるシンギュラリティ運動に反対するマニフェストのようなものが生まれました。

シンギュラリティの概念（これには、AI が指数関数的な成長によって人間を追い越し、人間がこれまで行ってきたこと、これから行うことのすべてが無意味になるという考えが含まれます）は、主に、これまで機械には不可能なほど複雑だと考えられていた問題を解決するために計算を設計し、それをうまく展開した人々によって作り出された宗教です。

彼らはデジタル計算という完璧なパートナーを見つけました。それは、一見すると認識可能で制御可能な、機械ベースの思考および創造のシステムであり、複雑さを制御し処理する能力が急速に向上し、その過程で、それを習得した人々に富と権力を与えています。

シリコンバレーでは、集団思考とこのテクノロジーカルトの経済的成功の組み合わせにより、自己規制を欠いたフィードバックループが生み出されている（ただし、#techwontbuild、#metoo、#timesup によってある程度の反省が迫られている）。

S字曲線やベル曲線では、傾きの始まりは指数曲線によく似ています。しかし、システムダイナミクスの専門家によると、指数曲線は限界のない正のフィードバック曲線を示し、自己強化的で危険なものとなります。

シンギュラリタリアンは指数関数的な曲線の中に超知能と豊かさを見出している。シンギュラリティというバブルの外にいるほとんどの人は、自然システムはS字カーブのように振る舞い、システムが反応し自己調整すると考えている。例えば、パンデミックが終息すると、その蔓延は鈍化し、世界は新たな均衡状態に落ち着く。世界はパンデミックやその他の暴走的な変化以前と同じ状態ではないかもしれないが、シンギュラリティという概念、特に人間存在の混沌とした死すべき苦しみを超越させてくれる救世主や審判の日といった概念は、根本的に間違っている。

こうした還元主義的な考え方は新しいものではありません。心理学者B・F・スキナーが強化の原理を発見し、それを説明できるようになったとき、私たちは彼の理論に基づいて教育を設計しました。

しかし、現在学習を研究している科学者たちは、スキナーのような行動主義的アプローチが限られた学習範囲にしか有効でないことを知っています。しかし、多くの学校は依然として、ドリルや演習といった強化の柱に頼り続けています。もう一つの例として、優生学の分野を挙げてみましょう。優生学は、社会における遺伝学の役割を誤って過度に単純化しました。この運動は、自然淘汰を手動で押し進めることで「人類を修正できる」という還元主義的な科学的見解を提示し、ナチスの大量虐殺を助長しました。この恐怖の残滓は今日も残っており、遺伝学と例えば知能を結びつける研究はほぼすべてタブーとなっています。

科学の重要な原動力の一つは、複雑なものを簡潔に説明し、私たちの理解力を高めることですが、アルバート・アインシュタインの言葉も忘れてはなりません。「あらゆるものは可能な限り単純にすべきだが、単純すぎるべきではない」。芸術家、生物学者、そしてリベラルアーツや人文科学といった混沌とした世界で活動する人々が慣れ親しんでいる現実世界の不可知性、つまり還元不可能性を受け入れる必要があるのです。

今日、私たちが抱える問題の大部分――例えば、気候変動、貧困、慢性疾患、現代のテロリズム――は、シンギュラリティの夢、すなわち指数関数的成長の追求の結果であることは明らかです。これらの問題は、過去の問題を解決するために用いられた手段――生産性向上のための果てしない努力や、実際には制御不能になりすぎたシステムへの制御など――によって生み出された、極めて複雑な問題です。

私たちの時代の重大な科学的課題に効果的に対応するためには、観察者や設計者によって完全には理解できない、あるいは切り離すことのできない、さまざまな規模や次元にわたる、相互に関連し、複雑で、自己適応性のある多くのシステムを尊重しなければならないと私は信じています。

言い換えれば、私たちは皆、微生物から個人のアイデンティティ、社会、そして人類に至るまで、様々なスケールで異なる適応度地形を持つ複数の進化システムの参加者なのです。個体自体も、システム・オブ・システムの集合体であり、例えば私たちの体内の細胞は、私たち自身よりもむしろシステムレベルの設計者のように振る舞います。ケビン・スレイヴィンが2016年のエッセイ『参加としてのデザイン』で述べているように、「あなたは渋滞に巻き込まれているのではなく、あなた自身が渋滞そのものです。」

個々の種の生物学的進化（遺伝的進化）は、生殖と生存によって駆動され、私たちに子孫を残し成長したいという目標と願望を植え付けてきました。このシステムは、成長を制御し、多様性と複雑性を高め、自らの回復力、適応力、持続可能性を高めるために、絶えず進化しています。これは「参加者デザイン」、つまり参加者による、参加者としてのシステムのデザインと呼ぶことができます。これは、繁栄関数の増加に近いものです。ここで繁栄とは、規模、金銭、権力ではなく、活力と健全性の尺度です。

しかし、創発的な知能を持つ機械は、明らかに異なる目標と方法論を持っています。経済、環境、健康といった複雑適応システムにこのような機械を導入するにつれ、機械は個々の人間に取って代わるのではなく、人間を拡張し、そしてさらに重要なことに、そのようなシステムを拡張するようになると私は考えています。

ここで、多くのシンギュラリタリアンが定義する「人工知能」の定式化の問題が明らかになります。それは、他の複雑適応システムとの相互作用の外にある形態、目標、方法を提案しているからです。

機械知能を人間対機械という観点から考えるのではなく、人間と機械を統合するシステム、つまり人工知能ではなく拡張知能として考えるべきです。システムを制御したり、設計したり、あるいは理解しようと試みるのではなく、より複雑なシステムにおいて、責任を持ち、認識力があり、堅牢な要素として参画するシステムを設計することの方が重要です。

私たちは、システム内の観察者および設計者としての自分の目的と感性を問い直し、より謙虚なアプローチ、つまりコントロールよりも謙虚さを追求する必要があります。

伊藤穰一はMITメディアラボの所長です。これはMITの『Journal of Design and Science』に掲載され、その後、反響を呼びかけたエッセイの抜粋です。

この記事はWIRED UKで最初に公開されました。