石黒の『クララとお日様』は、なぜ私たちがAIを好きになれないのかを物語っている

石黒の『クララとお日様』は、なぜ私たちがAIを好きになれないのかを物語っている

画像にはコンタクトレンズが含まれている可能性があります

ゲッティイメージズ/WIRED

あなたの視覚野は、 1 秒間に何千回も、2 つの驚くべきことを行っています。

まず、網膜を通して流れ込むすべての情報を受け取り、それを一連のステップに渡します。最初は暗い部分と明るい部分を探し、次に線や端などの特徴を探し、その次はこの文字「A」のような単純な認識可能な形状を探し、トースターやケトルなどの家庭用品、おばあちゃんのような個人の顔、または通勤途中のバス停で毎日見かけた人の顔へと進みます。

二つ目の驚くべき点は、自分がそうしたことを全く忘れ去ることだ。人間の心の仕組みは私たちには理解できない。そして、それがイギリス人作家カズオ・イシグロの新作小説『クララとおひさま』に描かれるような人工知能を持つ機械と私たちを永遠に隔てるものの一つなのだ。

本書の舞台は近未来。裕福なティーンエイジャーたちは「人工友人(AF)」と呼ばれる人型ロボットを好んで購入している。彼らは理由は不明だが、遠隔教育を受けており、同級生と直接顔を合わせる機会はほとんどない。AFは孤独の治療法として宣伝されているが、彼ら自身も孤独な世界に生きている。

本書の冒頭で、私たちはクララに出会います。クララは、ニューヨークのようなアメリカの街にあるお店で展示されているAF(自動販売機)です。彼女は他のAFとおしゃべりをしながら、客に選ばれるのを待っています。クララは見た目も歩き方も話し方も人間そのもので、人間とほとんど変わりませんが、世界を人間とは全く異なる視点で捉えています。

彼女の機械脳は、目に映るあらゆるものを、常に変化する箱へと分解する。画像処理アルゴリズムが用いる境界ボックスのように、格子状の正方形で、潜在的な脅威の周囲に赤い四角を描く。窓の外の街並みを眺めると、時折、世界が断片的に映し出される。怒った顔が割れた鏡に映った反射のように粉々に砕け散り、傘の下で抱き合うカップルが、8本の手足と2つの頭を持つ巨大な一体の生き物となり、やがて何か判読可能なものに分解される。「まるで、にぎやかな通りを行き交う車を眺めていて、視線を向こう側に向けると、その通りが不均等な大きさの無数の箱に仕切られているのに気づいたようでした。」

これは、AI の異質性、つまり、機械は人間と同じ仮定に従って動作しない、人間の願望や動機を機械に投影するのは危険な誤りである、という、あまり「文学的」ではない SF 作品で何十年も研究されてきた考え方を思い起こさせるものだ。

『クララとお日様』はイシグロの8作目の小説であり、ノーベル賞受賞後初の作品です。テーマ的には彼の以前の作品、特に将来の臓器提供者として育てられるクローン人間の人生を描いた『わたしを離さないで』と共通点が多く見られます。素朴でどこか子供っぽい語り手、一見普通の生活の中に潜む忍び寄る恐怖など、多くの共通点が見られます。

石黒は社会の階層化、つまり階級制度に執着しているようだ。日本で生まれ、幼少期にイギリスに移住した彼を考えれば、それも当然かもしれない。そして、その考えは『クララとお日様』にも現れている。そこでは、富裕層の子供は遺伝子工学によって知能を「強化」する機会があり、その手術を受けていない者は一流大学に入学できない。AFは階層の最下層に位置し、飼い主に忠実な子犬のようについて回り、やがて飼い主がいなくなるまでついて回る。

クララは最終的に顧客に選ばれ、新しい家に連れて行かれ、そこで複雑な人間関係に突き落とされる。クララは世界を機械のように見ているが、これは多くのディストピア映画に出てくるような、全知全能で世界を破壊する人工知能ではない。AFは周囲の世界を観察することで学習し、世界を見る視点は人間とは全く異なるものの、最終的には人間と同じように因果関係を混同してしまう。

新しい飼い主に関わる混乱した制御不能な状況に直面したとき、太陽光発電で動くクララは、AF ストアにいる自分の位置から空を横切る太陽に対して迷信的な執着心を抱き、歴史を通じて文明が説明のつかないことを説明する神々を夢想したのと同じように、太陽に神のような力を吹き込むようになります。

現実世界に説得力のある人工の友人が登場するまでには、まだ長い道のりがあります。しかし、AIは就職活動からデートアルゴリズムまで、社会のあらゆる側面に浸透しつつあります。クララと太陽は、愛、忠誠心、友情といった特性を、世界を全く異なる視点で見る人工知能に投影するという点で、楽観的かもしれません。

しかし、クララが、自分が理解できるアイデアを、自分が理解できないものを見るためのレンズとして使うやり方では、この本を通してのクララ自身の旅は、私たちの生活の大きな特徴となるであろうテクノロジーの不透明な仕組みを理解しようとする私たち自身の旅を反映しています。

この記事はWIRED UKで最初に公開されました。