ロボットは慈愛に満ちた機械に進化できるか？

ロボットがいつ到着したのか、正確なところは誰にも分からなかった。公式発表も説明も警告もなく、休み時間中にキャンパスにこっそりと持ち込まれたようだった。ロボットは全部で数十体。クーラーボックスほどの大きさの六輪の箱で、上部には視認性を高めるための小さな黄色い旗がついていた。カメラ、レーダー、超音波センサーを使ってキャンパス内の歩道を移動していた。学生のために、大学の給食サービスからアプリで注文された品物を運んでいたが、キャンパスで働いていた私の知り合いは皆、ロボットとの最初の出会いについて何かしらのエピソードを持っていた。

これらの話は、少なくとも最初は、面白がったり、パフォーマンス的な憤りを込めたりしながら語られた。何人かの人は、ロボットが自転車道を自由に利用しているものの、社会規範を無視していると不満を漏らした。ロボットは歩行者に道を譲らず、追い越し車線をゆっくりと走行して交通を妨げた。ある朝、授業に遅れそうになっていた私の友人で、非常勤講師の同僚が、ロボットの一台のすぐ後ろに自転車を押しやり、道路から追い出そうとしたが、ロボットはそれに気づかず、そのまま進み続けた。別の友人は、ロボットが自転車ラックに無力に閉じ込められているのを発見した。ロボットは重かったので、彼女は通行人の助けを借りて解放しなければならなかった。「幸いにもただの自転車ラックでした」と彼女は言った。「ロボットが自転車や走行中の車に衝突し始めたら、どうなるか想像もつきませんよ」

学生たちの間で唯一の問題は、過剰な愛情表現だった。学生たちが寮の外でロボットと自撮りをしたり、おしゃべりをしたりしたがるため、ロボットの配達作業はしばしば足止めされた。ロボットには最低限の会話能力しかなく、挨拶や指示を出したり、走り去るときに「ありがとう、良い一日を！」と言ったりすることはできたが、それでも社交的な生き物として多くの人々に愛されるには十分だった。ロボットはよく「こんにちは、ロボット！」「大好きだよ！」などのメモを添えて自分の持ち場に戻ってくる。彼らはウィスコンシン大学マディソン校のソーシャルメディアページでミームの急増を引き起こした。ある学生はロボットに帽子とスカーフを着せ、写真を撮り、出会い系アプリにプロフィールを作成した。名前は Onezerozerooneoneone、年齢は 18 歳と記載されていた。職業は配達員。性的指向は無性愛ロボット。

この頃、自律走行マシンが全国に出現し始めた。食料品店では、通路を巡回し、こぼれた物やゴミを探すのにロボットを活用していた。ウォルマートは、在庫切れ商品を追跡するために、自社のスーパーセンターにロボットを導入した。ニューヨーク・タイムズ紙の記事によると、これらのロボットの多くは、人間の同僚からニックネームを付けられ、名札を与えられたという。あるロボットには誕生日パーティーが開かれ、WD-40の潤滑油などのプレゼントが贈られたという。記事では、これらの逸話の大部分が、無害な擬人化の例として皮肉を込めて紹介されていたが、同じ本能がすでに公共政策を駆り立てていた。2017年には、欧州議会が、特定の形態のAIは責任あるエージェントとみなせるほど洗練されていると主張し、ロボットを「電子人間」とみなすべきだと提案した。それは責任法の文脈内でなされた法的な区別であったが、その言葉は、あらゆる種類の無生物（木や岩、パイプやヤカンなど）が非人間的な「人」とみなされていた古代のアニミズム的な宇宙観を呼び起こすようであった。

それは、リチャード・ブローティガンの1967年の詩「愛の恩寵の機械に見守られて」の冒頭を思い出させました。

私は、澄んだ空に触れる純粋な水のように、哺乳類とコンピューターが相互にプログラミングしながら調和して共存するサイバー空間の草原について考えるのが好きです (
早ければ早いほど良いです!) 。

ブローティガンは、カリフォルニア工科大学のレジデンス・ポエトリー・ポエトリーに在籍していた当時、サンフランシスコのカウンターカルチャーの中心地で、サマー・オブ・ラブの時期にこれらの詩を書き上げた。詩の続く連は、「サイバネティック・フォレスト」と花のようなコンピューターの魅惑的な風景、デジタル技術が私たちを「哺乳類の兄弟姉妹」と再会させ、人間とロボットと獣が真の存在の平等を達成する世界について詳述する。この作品は、西海岸ユートピアニズムの特定のサブジャンルを想起させる。それは、アメリカの産業複合体のツールをより公平で生態学的に持続可能な世界をもたらすために再利用することを構想したスチュワート・ブランドのホール・アース・カタログや、人間が自然と調和して暮らし、無生物が生命に魅了されていた、近代以前、おそらくはキリスト教以前の歴史の時代へと、テクノロジーが私たちを戻すことを想像している。

この夢の残響は、テクノロジーに関する議論の中に今も見受けられます。MITのデイビッド・ローズ氏のように、IoT（モノのインターネット）が近い将来、日用品に「魔法をかける」ようになり、ドアノブ、サーモスタット、冷蔵庫、車などに反応性と知性を与えるだろうと推測する人々も、この夢を繰り返し唱えています。また、ジェーン・ベネット氏のようなポストヒューマン理論家の著作にも、この夢の残響が見られます。ベネット氏は、デジタル技術が「死んだ物質」に対する現代の理解を再構築し、「物質が生命力、回復力、予測不可能性、あるいは反抗性を持ち、それ自体が私たちにとって驚異の源泉となる」という、より古代の世界観を復活させると想像しています。

「私は考えるのが好き」はブローティガンの詩の各節の冒頭に掲げられており、詩的な表現というよりは神秘的な祈りのように聞こえる。この未来像は単なる希望的観測の一形態に過ぎないのかもしれないが、歴史的な対称性を持つというだけでも、説得力のあるものだ。テクノロジーが、自らが破壊した魔法の世界を私たちに取り戻すのは、まさに当然のことだ。もしかしたら、私たちをエデンから追放したまさにその力が、いつの日か私たちの庭をデジタル生命で蘇らせるかもしれない。もしかしたら、唯一の出口は、突き進むことなのかもしれない。

ロボットがやってくる前から、ブローティガンの詩はずっと私の心にありました。その年の初め、私は「非人間的なものを書く」というパネルディスカッションに招待され、人新世における人間、自然、そしてテクノロジーの関係性について話し合いました。

私の講演はAIにおける創発知能、つまり、設計によらずとも機械に高次の能力が自発的に発現する可能性があるという概念についてでした。私は主に、1990年代後半にMIT人工知能研究所を率いたロドニー・ブルックス氏の研究と、彼のロボット工学への「具現化知能」アプローチに焦点を当てていました。ブルックス氏が登場する以前は、ほとんどのAIは巨大な脳のように分離した肉体のように設計されていました。科学者たちは、人間の認知において身体は役割を果たさないと信じていたからです。その結果、これらの機械は、微積分やチェスといった最も抽象的な知能においては優れていましたが、子供たちが容易に理解できるような活動、例えば会話や視覚、カップと鉛筆の区別といった活動に関しては、惨めに失敗しました。機械に身体を与え、環境との相互作用を教えると、そのペースはひどく遅く、ぎこちないものになりました。なぜなら、新たな遭遇ごとに常に世界の内部モデルを参照しなければならなかったからです。

ブルックスが発見したのは、まさにこの中央処理装置、いわばコンピュータの「頭脳」こそが、コンピュータの性能を阻害していたということだった。ロボットの一匹がぎこちなく部屋の中を移動するのを観察していた彼は、ゴキブリの方が少ない計算能力で、同じタスクをより速く、より機敏にこなせることに気づいた。ブルックスは昆虫をモデルにした機械を作り始めた。彼は、ミツバチの巣や森林に見られるような分散型知能の一種である、サブサンプション・アーキテクチャと呼ぶ全く新しい計算システムを採用した。中央処理装置の代わりに、彼の機械は複数の異なるモジュールを搭載し、それぞれが独自のセンサー、カメラ、アクチュエーターを備え、互いに最小限の通信しか行わなかった。世界の一貫した全体像を事前にプログラムするのではなく、機械は環境と直接相互作用することで、臨場感を持って学習した。ロボットの一匹であるハーバートは、研究室を歩き回り、人々のオフィスから空のソーダ缶を盗むことを学習した。もう一匹のチンギスは、記憶や内部マッピングを一切持たずに、荒れた地形を移動することに成功した。ブルックスはこれらの成功を、知能には統一された知識を持つ主体は必要ではないことを意味すると解釈した。彼は、これらの単純なロボットの能力が互いに積み重なり、最終的には人間の知能に非常に似たものへと進化していくと確信していた。

ブルックスとMITのチームは、本質的に人類の進化の条件を再現しようとしていた。人間の知性が祖先から受け継いだ原始的なメカニズムから生まれるとすれば、ロボットも同様に、一連の単純なルールから複雑な行動を進化させるはずだ。AIにおいて、エンジニアは典型的にはトップダウン型のプログラミング手法を用いてきた。まるで神が自分の姿に似せて生き物を創造するかのように。しかし、進化はボトムアップ型の戦略に依存している。単細胞生物が複雑な多細胞生物へと進化するのだ。ブルックスは、この戦略の方がより効果的だと考えた。抽象的思考は人類の進化において後期に発達したものであり、私たちが信じたいほど重要ではなかった。微分方程式を解くずっと以前から、祖先は歩き、食べ、環境内を動き回ることを学んでいたのだ。ブルックスは、昆虫ロボットがこれらのタスクを中央処理装置なしで実行できることに気づき、ヒューマノイドロボットの開発へと移った。このロボットは脚のない胴体だけだったが、頭、首、肩、腕を備えた人間の上半身によく似ていた。彼はそれを「コグ」と名付けました。20以上の可動関節に加え、音、色、動きを識別できるマイクとセンサーを搭載していました。それぞれの目には2台のカメラが搭載されており、人間の視覚を模倣することで、ある場所から別の場所へとサッカード運動（衝動的な視線移動）が可能になりました。昆虫ロボットと同様に、コグには中央制御機能が備わっておらず、代わりに一連の基本的な駆動機構がプログラムされていました。社会的な相互作用と学習アルゴリズムの助けを借りることで、この機械はより複雑な行動を発達させ、ひょっとすると発話能力さえも獲得するだろうという考えでした。

ブルックスと彼のチームがコグの開発に取り組んだ数年間で、この機械は驚くべき行動をいくつか達成しました。顔を認識し、人間とアイコンタクトをとることを学習しました。ボールを投げたりキャッチしたり、物を指差したり、スリンキーで遊んだりすることもできました。

チームがロック音楽を演奏すると、コグはスネアドラムでまずまずのリズムを刻むことができた。時折、ロボットは創発的な行動、つまり機械が周囲で自発的に行う行動から有機的に進化したように見える新しい行動を示すこともあった。ある日、ブルックス大学院生のシンシア・ブリージールがホワイトボードの消しゴムを振っていると、コグが手を伸ばしてそれに触れた。ブリージールは面白がって同じ動作を繰り返すと、コグはゲームのようにもう一度消しゴムに触れた。ブルックスはびっくりした。ロボットは交代制という概念を認識したかに見えたが、これはロボットには理解するようにプログラムされていなかった。ブリージールはコグがこれを理解できないことを知っていた。彼女はこの機械の設計に携わっていたのだ。しかし、一瞬、彼女はそれを忘れたようで、ブルックスが言うように、「コグには実際よりも多くのものがあるかのように振舞った」のだった。ブルックス氏によると、学生がロボットを「実際以上のもの」として扱おうとしたことが、新たな何かを引き出したという。「コグは、これまでの設計で求められていた以上のパフォーマンスを発揮することができました」と彼は語った。

ブルックスは、私たちが社会的な関わりを強いられると、対象を人として扱う可能性が高くなることを知っていました。実際、彼は知性は、観察者である私たちが、ある存在が環境と相互作用するのを観察する際に知覚する関係性の中にのみ存在すると信じていました。「知性は観察者の目の中にある」と彼は書いています。彼は、時が経つにつれてシステムがより複雑になるにつれて、知性だけでなく意識も進化すると予測しました。意識は脳内の何らかの物質ではなく、主体と世界との複雑な関係性から出現するものでした。それは錬金術であり、幻想であり、自己と他者の間の標準的な境界線を消し去る共同作業でした。ブルックスが述べたように、「思考と意識はプログラムされる必要はない。それらは出現するのだ」のです。

AI哲学者のマーク・A・ベダウは、心の理論としての創発主義は「魔法に似ている」と主張している。創発主義者は、意識の原因となる脳内の明確なプロセスを探すのではなく、私たちが世界を経験する方法、つまり思考や感情や信念の内なる劇場は、個々のニューロンでは説明できない動的なプロセスであると信じている。それは、ムクドリの群れの行動が一羽の鳥の動きだけでは説明できないのと同様だ。自然界には創発現象の証拠が豊富だが、脳内で客観的に観察できない意識に当てはめると、この概念はより捉えどころがなくなる。批評家によると、創発主義は、機械の中に幽霊のように存在する、追加の目に見えない力を想像することで、「無から何かを得ようとする」試みである。

創発主義は、18 世紀から 19 世紀にかけて人気のあった理論である生気論の最新版に過ぎないと主張する人もいます。生気論は、世界は万物に浸透する捉えどころのない生命力によって動かされていると提唱しました。当時人気のあった自然機械論的見方とは対照的に、生気論者は、有機体はその部分の総和以上のものであり、物理的な肉体に加えて、何らかの「生きている原理」、つまりélan vital が存在しなければならないと主張しました。この生命力はエーテルまたは電気であると考える人もおり、この物質を発見するための科学的努力は、人工的に再現するという野心へと向かうことがよくありました。イタリアの科学者ルイジ・ガルヴァーニは、切断されたカエルの足に電流を流して生き返らせようとする、広く報道された実験を行いました。これらの実験の報告は、メアリー・シェリーの小説『フランケンシュタイン』に影響を与えました。この小説の主人公であるマッドサイエンティストは、当時の生気論の哲学にどっぷり浸かっています。

ブルックスとMITのチームについて読んでいると、彼らがある種の錬金術に携わっているような気がしてなりません。ヴィクター・フランケンシュタインに死体から怪物を蘇らせるインスピレーションを与えた生気論の魔術師たちの遺産を受け継ぎながら、同じ危険と隣り合わせに生きているような。創発主義の最も神秘的な側面は、結局のところ、人間が完全に理解していないものを作ることができるという含意にある。何十年もの間、批評家たちは、人間の脳の仕組みがまだ解明されていないため、人間の知能に相当する汎用人工知能（AI）は不可能だと主張してきた。しかし、自然界における創発は、複雑なシステムが意図も設計もされずに、予期せぬ方法で自己組織化できることを示しています。秩序は混沌から生まれることもある。機械知能においては、創意工夫や偶然によってピースを正しく組み合わせれば、複雑性の副作用として意識が創発されるという希望が消えない。いつか自然が介入し、その仕事を終わらせてくれるだろう。

不可能に思える。しかし、すべての創造的な取り組みは、創造者にとって謎めいたプロセスに根ざしているのではないだろうか？ 芸術家たちは古くから、創作とは捉えどころのない営みであり、自身の外から湧き上がるようなより大きな力に対して、アーティストを開放するものだと理解してきた。哲学者ジリアン・ローズはかつて、書くことを「規律と奇跡の融合であり、たとえページに現れるものが自分の制御を超えた領域から現れたとしても、自分自身のコントロール下にある」と表現した。私は自身の作品の中で、この奇妙な現象を何度も経験してきた。私はいつもビジョンと計画を持って机に向かう。しかし、ある時点で、私が作ったものが口を開き、独自の命令を発し始める。言葉はまるで独自の生命を持ち、作品を完成させたときに、どのようにしてそれがそのようなものになったのかを説明するのが難しくなる。作家たちはしばしばこうした経験を驚きと畏敬の念をもって語るが、私は常にそれらを警戒してきた。たとえ介在する神が物理法則や無意識の働きに過ぎないとしても、芸術家、あるいはあらゆる作り手にとって、これほどまでに透過性を持つことは果たして良いことなのだろうか。ローズの言葉を借りれば、そうした努力から生み出されるものが「自分の制御を超えた領域から」来るのだとしたら、完成品はいつになったら自分の願望を超越し、意図から逸脱してしまうのだろうか。

その年の春の終わり頃、食料配達ロボットが休暇中に実際に到着していたことを知りました。冬の間キャンパスで過ごした友人が、数週間かけてロボットたちが大学の閑散とした歩道を歩き回り、すべてのルートを学習し、重要な障害物をマッ​​ピングしていたと話してくれました。ロボットたちはニューラルネットワークを搭載しており、環境との繰り返しのインタラクションを通して移動方法を学習していました。この友人は湖畔の空っぽになった建物の一つで働いており、オフィスの窓から外を眺めると、ロボットたちが下を飛び回っているのをよく見ていたそうです。ある時、キャンパスモールの真ん中でロボットたちが輪になって集まっているのを目撃しました。「何かシンポジウムでも開いていたんだ」と彼は言いました。ロボットたちは互いに危険を伝え合い、環境の新たな課題に適応するための情報を遠隔で伝達していました。その春、最大級の建物の一つの外で工事が始まると、ロボットネットワークを通じて情報が広まりました。ある地元紙の言葉を借りれば、「ロボットたちは地図を再作成し、互いに『伝え合った』のです」。

ある日、図書館からの帰り道、キャンパスを通り抜けていました。夕方の早い時間、午後の最後の授業が終わる頃で、歩道は学生で溢れていました。私は数十人の人々と共に、キャンパスを二分する4車線の交通量の多い大通りを渡ろうと信号待ちをしていました。道のさらに先に横断歩道がありましたが、こちらは信号がありませんでした。そこは悪名高い危険な交差点で、特に夜間は、学生が駆け寄ってくる車に間一髪で逃げ惑い、ギリギリで横断してしまうこともありました。そこで待っていると、皆の視線がこちらの横断歩道に集まっていることに気づきました。道の向こう側を見ると、角で待機していた配達ロボットが一台、すっかり当惑し、寂しそうな表情をしていました（でも、どうして？顔さえありませんでした）。ロボットは道路を渡ろうとしていましたが、横断歩道に少し出ようとした途端、車が近づいてくるのを察知してバックしました。群衆は一斉に不安げなざわめきを上げた。「君ならできる！」と道の反対側から誰かが叫んだ。この時点で、歩道にいた何人かが立ち止まり、この光景を見守っていた。

一瞬、道路が開け、ロボットは再びゆっくりと前進し始めた。これが最後のチャンスだったが、ロボットはまだためらいがちに動いていた。逃げ出すかどうかは定かではなかった。生徒たちは「今だ、今だ、今だ！」と叫び始めた。そして、まるでこの励ましに応えるかのように、ロボットは魔法のように横断歩道を猛スピードで渡り切った。道路の反対側に到着すると――次の交通渋滞をかろうじて回避した――群衆全体が歓声を上げた。誰かがロボットがヒーローだと叫んだ。信号が変わった。私たちが道路を渡り始めても、群衆は相変わらず明るく、笑い声や微笑みを浮かべていた。私と同年代の――私と同じように若者の海に飲み込まれていた――女性が私の目に留まり、味方だと分かった。彼女は首の周りのスカーフを握りしめ、少し呆然とした様子で首を横に振った。「あの子のことが本当に心配だったのに」

後になって知ったのだが、ロボットたちはキャンパスの奥まった部屋に座って、コンピューター画面ですべてのロボットを監視する人間のエンジニアによって常に監視されていた。ロボットの1体が特に危険な状況に陥った場合、人間のコントローラーはシステムを無効化し、手動で制御することができた。つまり、ロボットが自律的に動いているのか、それとも遠隔操作されているのかを見分けることは不可能だったのだ。私がこれまで観察したロボットたちの中で最も不気味なほど知的な行動は、まさにその見た目通り、人間の知性の証拠だったのかもしれない。

メーガン・オギーブリン著『神、人間、動物、機械：テクノロジー、メタファー、そして意味の探求』より。ペンギン・ランダム・ハウスLLC傘下のダブルデイ社刊。

記事内のリンクから商品やサービスを購入された場合、手数料が発生する場合があります。これは私たちのジャーナリズムを支えるものです。 詳細はこちらをご覧ください。

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• ハリネズミのインスタグラムのダークサイド：羽根ペンのように見える
• ロボットが溢れる農業の未来は悪夢か、それともユートピアか?
• 自動的に消えるメッセージを送信する方法
• ディープフェイクがビジネスに活用される
• カーゴパンツを復活させる時が来た
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🎮 WIRED Games: 最新のヒントやレビューなどを入手
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください