AI がそんなに賢いのなら、なぜ原因と結果を理解できないのか?

厄介な事実があります。高速道路を猛スピードで走り、交通の流れを縫うように走る自動運転車は、歩き始めたばかりの子供よりも、何が事故を引き起こす可能性があるかを理解しにくいのです。

新たな実験は、最高の人工知能システムでさえ、基本的な物理学や因果関係を理解することがいかに難しいかを示しています。また、物事が起こる理由を学習できるAIシステムを構築する道筋も示しています。

この実験は「単なるパターン認識の域を超えようと」設計されたと、MIT脳・心・機械センターのジョシュ・テネンバウム教授は語る。テネンバウム教授は、MITの研究員であるチャン・ガン氏とハーバード大学の博士課程学生であるケシン・イー氏と共にこのプロジェクトに携わった。「大手テクノロジー企業は、このようなことができるシステムをぜひ手に入れたいはずです。」

最先端のAI技術として最も普及しているディープラーニングは、近年、驚異的な進歩を遂げ、AIの可能性への期待を高めています。ディープラーニングでは、ニューラルネットワークの大規模な近似値に膨大な量の学習データを入力します。ディープラーニングのアルゴリズムは、多くの場合、データ内のパターンを美しく捉え、画像認識や音声認識において優れた性能を発揮します。しかし、人間にとっては些細な機能も欠けています。

この欠点を実証するため、テネンバウム氏と共同研究者はAIシステムのための一種の知能テストを構築した。これは、AIプログラムに、いくつかの動く物体で満たされたシンプルな仮想世界と、その光景とそこで何が起こっているかに関する質問と回答を提示するというものだ。質問と回答にはラベルが付けられており、これはAIシステムが「猫」とラベル付けされた何百枚もの画像を見せることで猫を認識できるようになるのと似ている。

高度な機械学習を活用するシステムには、大きな盲点がありました。「この物体は何色ですか？」といった説明的な質問をした場合、最先端のAIアルゴリズムは90%以上の確率で正解します。しかし、「ボールが立方体に衝突した原因は何ですか？」や「もし物体が衝突していなかったらどうなっていたでしょうか？」といった、シーンに関するより複雑な質問をした場合、同じシステムでも正解率はわずか10%程度にとどまります。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

この研究に携わったMIT-IBM Watson AIラボのIBMディレクター、デビッド・コックス氏は、因果関係を理解することはAIにとって根本的に重要だと述べています。「人間には因果関係を推論する能力があり、同じように推論できるAIシステムが必要です。」

因果関係の理解の欠如は、現実的な結果をもたらすこともあります。産業用ロボットは、近くの物体を感知し、掴んだり移動させたりできるようになりました。しかし、何かにぶつかると倒れたり壊れたりすることを、特別にプログラムされていない限り知ることはできません。そして、あらゆるシナリオを予測することは不可能です。

しかし、ロボットが因果推論を行えれば、プログラムされていない問題を回避できる可能性があります。自動運転車にも同じことが言えます。トラックが急ハンドルを切ってバリアに衝突した場合、積荷が路上にこぼれる可能性があることを本能的に認識できるかもしれません。

因果推論は、ほぼあらゆるAIシステムに役立つでしょう。3Dシーンではなく医療情報で学習したシステムは、病気の原因と、考えられる介入の可能性のある結果を理解する必要があります。因果推論は、AI分野の多くの著名人の関心を集めています。「これらすべてが、学習だけでなく推論もできるAIシステムの実現を促しています」とコックス氏は述べています。

カーネギーメロン大学で因果推論と機械学習を研究するクン・チャン助教授は、テネンバウム氏が考案したテストは重要だと述べています。非常に限定的な状況ではあるものの、因果理解を測定する優れた方法を提供しているからです。「より汎用性の高いAIシステムの開発は、因果推論と表現学習の手法から大きな恩恵を受けるでしょう」とチャン助教授は述べています。

テネンバウム氏とその同僚たちは、既存のAIプログラムの弱点を明らかにしただけでなく、因果関係を学習し、知能テストではるかに高いスコアを獲得できる新しいタイプのAIシステムを構築しました。彼らのアプローチは、複数のAI技術を組み合わせたものです。このシステムはディープラーニングを用いてシーン内のオブジェクトを認識します。その出力は、シーンとオブジェクトの相互作用の3Dモデルを構築するソフトウェアに送られます。

このアプローチは、多くの機械学習アルゴリズムよりも多くの手作業で構築されたコンポーネントを必要とし、テネンバウム氏はそれが脆弱で拡張性が低いと警告している。しかし、AIを前進させるには、複数のアプローチといくつかの新しいアイデアを組み合わせる必要があることを示唆しているようだ。

「私たちの心は因果モデルを構築し、そのモデルを使って任意の質問に答えますが、最高のAIシステムでさえ、こうした能力を模倣できるほどには至っていません」とニューヨーク大学の心理学およびデータサイエンスの助教授、ブレンデン・レイク氏は言う。

ハーバード大学准教授で、テネンバウム氏と他のプロジェクトで共同研究を行っているサミュエル・ガーシュマン氏は、因果推論をある程度理解しなければ、機械が人間の知能に近づくことは不可能だと付け加える。彼は、女性は男性よりもアルコール摂取量の増加による死亡率が低いという、よく知られた医学的事実を指摘する。「因果関係の概念を持たないAIシステムは、死亡率を下げるには男性に性転換手術を施す必要があると推論するかもしれません」と彼は言う。

WIREDのその他の素晴らしい記事