敗れたチェスチャンピオン、ガルリ・カスパロフがAIと和解

ガルリ・カスパロフは、おそらく史上最高のチェスプレイヤーでしょう。1985年に世界チャンピオンになって以来、彼は20年近くにわたり、獰猛なプレイスタイルと、それに匹敵する獰猛な威勢でチェス界を席巻しました。

しかし、チェス界以外では、カスパロフは機械に敗れたことで最もよく知られています。1997年、絶頂期にあったカスパロフは、IBMのスーパーコンピュータ「ディープ・ブルー」に圧倒され、屈服しました。この敗北は世界中に衝撃を与え、機械が人間を支配する新たな時代の到来を告げるものと思われました。

それから数年が経ち、物事の見方が変わりました。パーソナルコンピューターは飛躍的に性能が向上し、スマートフォンはDeep Blueに匹敵する強力なチェスエンジンを他のアプリと併用できるようになりました。さらに重要なのは、近年の人工知能（AI）の進歩により、機械が自らチェスを学習し、探索できるようになったことです。

Deep Blueはチェスのルールを手動でコーディングしてプレイしていました。対照的に、Alphabetの子会社DeepMindが2017年に発表したプログラムAlphaZeroは、繰り返し練習するだけでグランドマスターレベルのチェスのプレイを習得しました。最も注目すべきは、AlphaZeroがチェスのエキスパートたちを驚かせるような新たなアプローチを発見したことです。

先週、カスパロフはディープブルーで有名な敗北を喫した場所、ニューヨークのホテルのボールルームに戻り、AI推進協会（AAI）主催のAI専門家との討論会に出席した。彼はそこでWIREDのシニアライター、ウィル・ナイトと会い、チェス、AI、そして機械の一歩先を行くための戦略について議論した。以下は編集後の記録である。

WIRED：ディープ・ブルーに負けた会場に戻ってきてどう思いましたか？

ガルリ・カスパロフ：もう受け入れています。結局のところ、あの試合は呪いではなく祝福でした。なぜなら、私は非常に重要な出来事に関わったからです。22年前なら、私は違った考えを持っていたでしょう。しかし、物事は起こるものです。誰しも間違いを犯します。そして、負けることもある。重要なのは、間違い、そしてネガティブな経験にどう対処するかです。

1997年は不快な経験でしたが、人間と機械の協働の未来を理解する上で役立ちました。チェス、囲碁、将棋では、私たちは無敵だと思っていました。しかし、これらのゲームはすべて、（ますます強力になるAIプログラムによって）徐々に追いやられてきました。しかし、だからといって人生が終わったわけではありません。私たちは、この状況をいかにして自分たちの利益に変えていくかを見つけなければなりません。

私はいつも、機械によって職を脅かされた最初の知識労働者だと言っています。でも、それが人々にメッセージを伝える助けになっているんです。だって、私がコンピューター推進派だと疑われる人はいないでしょうから。

AI の影響について人々にどのようなメッセージを伝えたいですか?

人々が必然性という要素を認識することが重要だと思います。AIが急速に普及し、私たちの生活を破壊している、あまりにも速い、という非難の声を聞くと、私は「いやいや、遅すぎる」と言います。

あらゆるテクノロジーは、雇用を生み出す前に、雇用を破壊します。統計を見ると、アメリカでは人間の創造性を必要とする仕事はわずか4%です。つまり、96%の仕事は、私がゾンビ仕事と呼んでいるものです。彼らはすでに死んでいますが、ただそれに気づいていないだけなのです。

数十年もの間、私たちは人々をコンピューターのように扱うよう訓練してきました。そして今、こうした仕事が危機に瀕していると嘆いています。確かにその通りです。私たちは、自分たちの強みを活かせる仕事を生み出す機会を探さなければなりません。テクノロジーこそが、私たちの多くが今もなおテクノロジーについて嘆き続ける主な理由です。テクノロジーはコインの裏表のようなものです。不平を言うのではなく、どうすればより速く前進できるかを考えることが重要だと思います。

こうした仕事が消え始めると、新たな産業と、それを支える基盤を築く必要があります。ユニバーサル・ベーシックインカムもその一つですが、取り残される人々のための経済的なクッションを作る必要があります。現状では、一般の人々からであれ、AIに注目し、収益向上につながると言いながらもブラックボックスだと言っている大企業のCEOからであれ、非常に防御的な反応が見られます。AIがどのように社会に浸透していくのか、私たちはまだ理解に苦しんでいるのではないでしょうか。

多くの人が、AIが仕事の一部を奪うことに対処しなければならないでしょう。彼らに何かアドバイスはありますか？

機械には様々な種類があり、人間の役割は、その機械が最大限の力を発揮するために何が必要かを正確に理解することです。結局のところ、それは組み合わせの問題です。例えば、放射線科を考えてみましょう。強力なAIシステムがあれば、一流の教授よりも経験豊富な看護師に使ってもらう方が良いでしょう。十分な知識を持つ人なら、自分が少しだけ加えるだけで十分だと理解するでしょう。しかし、医学界の大スターは機械に挑戦したがります。そうすると、コミュニケーションが損なわれてしまいます。

「他のチェスエンジンがAlphaZeroに対抗するにはどうすればいいですか？」とよく聞かれます。AlphaZeroのゲームを見て、潜在的な弱点を理解できます。そして、AlphaZeroは不正確な評価をいくつか行ってきたと思います。これは当然のことです。例えば、ビショップをナイトよりも重視しています。6000万以上のゲームを統計的に見ると、ビショップが優勢だったゲームははるかに多くあります。つまり、数的にビショップに過剰なアドバンテージを与えてしまったと思います。ですから、すべきことは、この不正確さに基づいて、AlphaZeroが避けられないミスを犯すような位置にエンジンを誘導することです。

私はよくこの例えを使います。非常に強力な銃、つまり現在地から1マイル（約1.6キロメートル）離れた標的を撃てるライフルを持っていると想像してみてください。1ミリメートルの方向転換が、1マイル（約1.6キロメートル）離れた標的に10メートルの差をもたらす可能性があります。銃は非常に強力なので、わずかな変化が大きな違いを生む可能性があります。これが人間と機械の協働の未来です。

AlphaZeroと未来のマシンにおいて、人間の役割は羊飼いのようなものだと私は考えています。知的なアルゴリズムの群れをそっと促すだけでいいのです。基本的に、彼らをある方向に押しやるだけで、残りの仕事は彼らがやってくれるのです。適切なマシンを適切な場所に配置すれば、適切なタスクを実行できるのです。

人間レベルの AI に向けてどれだけ進歩したと思いますか?

知能とは何か、私たちは正確には分かっていません。最高のコンピュータ専門家、コンピュータサイエンスの最先端にいる人々でさえ、私たちが何をしているのか、正確には疑問を抱いています。

今日私たちが理解しているのは、AIは依然としてツールに過ぎないということです。機械が私たちをより速く、より強くしてくれることには満足していますが、より賢くしてくれることには、ある種の人間的な恐怖感があります。同時に、その違いは何でしょうか？私たちは常に、様々な能力を拡張するのに役立つ機械を発明してきました。そして、AIは10年、20年前には不可能だったことを実現するための素晴らしいツールだと私は考えています。

それがどのように発展していくのかは分かりません。しかし、私はAGI（汎用人工知能）を信じていません。機械が知識をあるオープンエンドシステムから別のオープンエンドシステムへと転送できるとは考えていません。ですから、ゲームであろうと、人間が設計した他の世界であろうと、機械はクローズドシステムにおいて支配的になるでしょう。

デイビッド・シルバー（AlphaZeroの開発者）は、機械が自ら目標を設定できるかどうかという私の質問に答えていません。彼はサブ目標について語っていますが、それは同じではありません。それが彼の知能の定義におけるある種のギャップです。私たちは目標を設定し、それを達成するための方法を探します。機械は後半の部分しかできません。

これまでのところ、機械がこれらの条件を超えて実際に動作できるという証拠はほとんど見つかっていません。これは明らかに人間の知性の兆候です。あるゲームで知識を蓄積したとしましょう。その知識は、似ているようでも同じではない別のゲームに転送できるでしょうか？人間なら可能です。コンピューターの場合、ほとんどの場合、ゼロから始める必要があります。

AIの倫理についてお話ししましょう。AI技術が監視や兵器に利用されていることについて、どう思われますか？

歴史から、進歩は止められないことが分かっています。ですから、防ぐことのできないものもあります。ヨーロッパやアメリカでそれを（完全に）制限すれば、中国が有利になるだけです。しかし、FacebookやGoogle、そして膨大なデータを生成する他の企業に対して、より公的に管理を強化する必要があると思います。

倫理的なAIを作る必要があると人々は言う。何て馬鹿げた話だ。人間は依然として悪を独占している。問題はAIではない。人間が新しいテクノロジーを使って他の人間に危害を加えていることにある。

AIは鏡のようなもので、良い面も悪い面も増幅させてしまいます。私たちは実際にAIを見て、どうすれば改善できるのか理解しなければなりません。「私たちよりも優れたAIを作れる」などと言うのではなく。私たちはどういうわけか、二つの極端な境目に立たされています。AIは魔法の杖でもターミネーターでもありません。ユートピアやディストピアの先駆けでもありません。AIはツールです。確かに、私たちの心を拡張できるという点でユニークなツールではありますが、ツールであることに変わりはありません。そして残念ながら、自由世界の内外を問わず、AIの誤った使用によってさらに悪化する可能性のある政治問題が山積しています。

チェスの話に戻りますが、AlphaZero のプレイスタイルについてどう思いますか?

私はAlphaGoの対局を見て、チェスを「推論のショウジョウバエ」と称する記事を書きました。今やすべてのコンピュータプレイヤーは人間を圧倒しています。しかし、実は人間は対局についてもっと学ぶことができるはずです。AlphaGoが練習中に何百万局も対局することで、有用な知識を生み出せる可能性があると私は考えています。

非常に強力なチェスマシンを開発すれば、ゲームは退屈になり、引き分けや駆け引きが多くなり、1800手、1900手にも及ぶゲームで誰も突破できないだろうと考えるのは間違いでした。AlphaZeroは全く逆です。私にとっては相補的でした。なぜなら、カルポフよりもカスパロフに近いプレイをするからです！AlphaZeroは、攻撃的な行動のために実際に駒を犠牲にできることを発見しました。創造的なものではなく、パターンや確率を見ているだけです。しかし、これがチェスをより攻撃的で魅力的なものにしているのです。

マグヌス・カールセン（現チェス世界チャンピオン）は、AlphaZeroゲームを研究し、ゲームの特定の要素、特定の関連性を発見したと述べています。彼はある一手を思いついたかもしれませんが、実際に検討する勇気はありませんでした。今では、それがうまくいくことが誰もが知っています。

ディープブルーに負けたとき、チェスはもう面白くなくなるだろうと考える人もいました。なぜ人々は今でもカールセンに興味を持っているのでしょうか？

質問に答えていただきました。私たちは依然として人間に興味を持っています。車は人間より速く走りますが、それがどうしたというのでしょう？人間同士の競争という要素は依然として存在しています。なぜなら、私たちは自分のチーム、自分の仲間、彼または彼女が世界一であることを知りたいからです。

事実、コンピューターがチェスを支配しています。それは不安感を生み出しますが、一方で、チェスへの関心を高めました。30年前、カスパロフがカルポフと対戦していた頃のように、たとえミスを犯しても誰も批判しませんでした。今は画面を見れば、機械が何が起こっているかを教えてくれます。つまり、機械は多くの人々をチェスの世界に引き込んだのです。彼らは理解できるのです。AIは彼らにとって理解できない言語ではありません。AIはインターフェース、通訳のようなものです。

WIREDのその他の素晴らしい記事

• マーク・ザッカーバーグの失われたノートの中身
• すべてのアプリとデバイスでダークモードを有効にする方法
• 物知りたちに聞いてみよう: コロナウイルスとは何ですか?
• 空の旅を脅かす鳥「スナージ」
• 「クラウド中立性」について議論する必要がある
• 👁 顔認識の秘められた歴史。さらにAIの最新ニュースも
• 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう