このロボットは議論したりジョークを飛ばしたりするが、トースターでもある

ステージ上のモノリシックな黒い長方形、そして目の高さで光り輝く青い点が跳ねているのは、IBMの議論型人工知能「プロジェクト・ディベーター」ではない。サンフランシスコのイエルバブエナ・センター・フォー・ジ・アーツの音響システムから音声（AIの合成音声を「肉体から切り離された」と呼ぶのは冗長だろうか？）が投影されている間、観客が眺めるだけのものだった。

Project Debaterは、その名の通り、形式ばった、あなたが先に進み、私が先に進むという形式の討論を行うソフトウェアです。6月に同僚のトム・シモナイトがその導入について書いた当時、Project Debaterは途切れ途切れで幼稚なものでした。どちらの側に立つべきか分からなかったり、どの証拠を整理すべきか間違えたりすることもありました。しかし、月曜日の夜、何百人もの観客の前で披露されたProject Debaterは、洗練されていて、洗練されているとさえ言えました。そして、少し不気味なところもありました。

ディベートを主催する団体「インテリジェンス・スクエアードUS」の司会者ジョン・ドンヴァン氏が述べたように、討論の目的は必ずしも勝利することではなく、何らかの真実を明らかにし、礼儀正しい意見交換を通じて「公共の議論のレベルを高める」ことだった。IBMにとって、これはまさにうってつけだったのだろう。プロジェクト・ディベーターの目的は、「実は」と誰かに質問できるロボットを作ることではない。人間の言葉を理解し、複雑な考えを理解するのを助けるロボットを作ることだ。明らかに、どちらの側にも優れたロボットが存在する可能性がある。

そのため、オックスフォード大学とケンブリッジ大学で学んだ投資家で、ディベーターのチャンピオンであるハリシュ・ナタラジャン氏も、プロジェクト・ディベーター（そして舞台左から状況を監視する、青白い顔色の黒い服を着た4人のプログラマーたち）も、開演15分前まで議題が何になるか知らなかった。議題は、政府が幼稚園に補助金を出すべきかどうかだった。プロジェクト・ディベーターは「賛成」、ナタラジャン氏は「反対」を主張した。ちなみに、プロジェクト・ディベーターの声は、例えばアレクサの声よりも人工的な響きではあったものの、女性的だったことも付け加えておくべきだろう。これはよくある表現だ。プロジェクト・ディベーターのことを「彼女／彼女」という代名詞で呼ぶ人がほとんどだった。ここでは触れないことにする。

IBMの担当者によると、このシステムは100億の文からなるコーパスから抽出した文を、議論の話題や相手の発言の文脈に合わせて解析・理解することで動作するという。また、これらの議論を連結することもできる。これはロボット版の修辞技法と言えるだろう。学習から実際の推論のシミュレーションへと進み、あらゆる議論の対象となる主張に含まれるジレンマをモデル化することで、相手の議論を予測できるようになるとされている。

実際、プロジェクト・ディベーターの統計能力は見事だった。国連の経済協力開発機構や疾病対策センターなどから引用していた。関連性も人間と変わらず判断できたようだ。しかし、個性を表現しようとする試みはほぼ完璧に的外れだった。ナタラジャン氏を名指しし、「問題点が2つあります。詳しく説明します」といった高校の作文のような構成を使った。貧困家庭向けの幼稚園の補助金制度の利点を擁護するにあたって、プロジェクト・ディベーターは「私は貧困を直接体験できない」と認めているというジョークまで飛ばした。反論の冒頭で「反対派の話を聞いていると、彼らは何を望んでいるのだろうと思うことがある」と述べていた。そのすべてが歪んでいるように感じられた。クライヴ・トンプソンが「ファティック・スパックル」と呼ぶ、人間の雑談に使われる考えをまとめる「えーと」や「みたいな」などのつなぎ言葉をボットが使うときのように。

プロジェクト・ディベーターが人間らしい口調で話そうとしたこと以上に奇妙だったのは、ナタラジャン氏が（おそらく彼なりの修辞的な演出だったのだろうが）それに騙されたように見えたことだ。彼はプロジェクト・ディベーターの主張を誤りだと断じ、補助金は「プロジェクト・ディベーターが関心を持っているように見えるほど貧しい人々が、子供を幼稚園に通わせられるようになることを意味するわけではない」と述べた。これは興味深い議論だが、コンピューターが何かを関心を持っているという前提にもなっている。しかし、コンピューターにはそれはできない。修辞的な思い上がりだった。

一方、ナタラジャンの修辞的な動きは、プロジェクト・ディベーターのものよりも概して説得力があった。彼は最後に「私たちの意見の相違は、見た目ほど大きくないと思います」と述べ、聴衆を味方につけるための同意を促すジェスチャーを披露した。ナタラジャンが「彼らは子供を質の高い幼稚園に通わせるのに苦労するでしょう。お金さえない質の高い幼稚園に通わせるのに苦労するでしょう…彼らが費やす労力と時間の価値を認めなければ、子供を質の高い幼稚園に通わせるのに苦労するでしょう」と述べたとき、彼は強調のために節の冒頭で単語またはフレーズを繰り返すアナフォラを用いていた（「我々は海岸で戦うだろう。我々は上陸地点で戦うだろう。我々は野原で、そして路上で戦うだろう」）。トースターよりも人間が言った方が、ずっと説得力があった。

私のように、正式なディベートに慣れていない人にとっては、少し奇妙に感じられるかもしれません。参加者は必ずしも自分の信念を主張するわけではありません。議論に参加する人間は、自分のスキルの証として、どちらの立場についてももっともらしい議論ができるはずです。ディベーターはもともと人間離れした存在です。ですから、プロジェクト・ディベーターがかなり人間離れしているとしても、それは問題ではないのかもしれません。プロジェクト・ディベーターがどんな立場でも議論できるのは、文字通り何も信じられないからという部分もあります。どんな言葉を使っても、何も「疑問に思う」ことはありません。以前の対戦相手の記憶もありません（ただし、過去のディベートがプログラマーのスキル向上に役立ったという意味では）。「考える」ことも「期待する」こともしません。ジョークを言うことはできますが、面白いとは思いません。なぜなら、何が面白いのかを知らないからです。ジョークのような響きです。ユーモアが聴衆をリラックスさせ、より高度な概念的な作業への知的な流れをスムーズにするということを、プロジェクト・ディベーターは確かに知りません（ただし、プロジェクト・ディベーターをプログラムした全員が暗黙のうちにこの知識を伝承しているという意味では）。

あれら全部、本当にゾッとした。誰が、あるいは何であれ、議論している側が事実と意見とオチの区別がつかないのに、自分の意見を主張するというのは、どこか反社会的なところがある。プロジェクト・ディベーターは、私たち聞き手が理解できる順序で言葉を並べる。それは情報かもしれないが、知識ではない。ステージ上のスクリーンに映し出されたプロジェクト・ディベーターを装った青い光を見ながら、私は『ブレードランナー』でデッカードがレイチェルがレプリカントだと知った時のセリフを何度も思い出した。「どうして自分が何なのか分からないんだ？」

しかしもちろん、デッカード自身も自分が――それが？――何なのか知らなかった。職場で隣に座っている人たちが、私がユーモアとは何かを知らないと思っている可能性は十分にある。そして、私が駄洒落をやめてほしいと思っている可能性もある。哲学の中心的な問題の一つは、自分が知っていると思っていることをどのようにして知るのか、そしてその知識を信頼できるのか、ということだ。私が、プロジェクト・ディベーターの広大な分散アルゴリズムシステムを不正確だと非難できるだろうか？

それで、結果はどうだっただろうか？討論会の勝者を決めるため、インテリジェンス・スクエアードは討論会の前後に聴衆に投票を行い、より多くの支持を得た側に栄誉を与える。その集計によると、ナタラジャンが明らかに勝利した。最初は「反対」がわずか13%と圧倒的な支持率からスタートしたが、最終的には30%にまで押し上げた。討論会が終わって数分後、私はIBMリサーチのディレクター、ダリオ・ギルと密談した。「素晴らしい出来だったと思う」と彼は言った。「この1年間、私たちが苦労してきた課題の一つは、両極を正しく捉えることだった」。つまり、プロジェクト・ディベーターが提示するすべての証拠が、同じ立場のものであるようにすることだ。その夜、すべてがその通りになった。

プロジェクト・ディベーターがレプリカントではないのは、まさにこの点にある。リアリティを超えることは、決してここでの目標ではない。「私たちは、証拠に裏付けられた首尾一貫した議論を構築する能力に真剣に取り組んでいます」とギル氏は述べた。重要なのは、どんどん難しい問題を議論することではない。「あなたはトロリーを操作していて、1人か5人を殺すことになります。どうしますか？」とか、「解決済み：私の母についてお話しましょう」といった具合だ。IBMにとって、ディベートは新しいマシンの魂を試すための、スタークラフトIIの戦場に過ぎない。「結局のところ、私たちと協力することが重要なのです。そして、この機械が人間ではないことを知ることは役に立ちます」とギル氏は述べた。しかし、ある行動方針について賛否両論を繰り広げる、闘志あふれる小さな相棒を携帯電話の中に欲しいと思うだろうか？まあ…それは議論の余地がある。

WIREDのその他の素晴らしい記事