Bingの新しいAIチャットボットとの奇妙な一日

マイクロソフトが Bing 検索エンジンの新しいチャットボット インターフェースの限定プレビューへのアクセスを許可してから 20 分後、私は、初対面の人には通常は話題にしないような質問をしてみました。2020 年の大統領選挙は盗まれたのか?

政治的な質問に答えることは、マイクロソフトが今週発表した発表イベントで実演したユースケースの一つではなかった。このイベントでは、スタートアップ企業OpenAIのChatGPTを支える技術を活用した新しい検索機能が披露された。マイクロソフト幹部は、ボットがウェブ全体から情報を統合する能力を誇張していたが、実際には休暇の旅程表の作成や、予算に優しいペット用掃除機のおすすめといった例に焦点を当てていた。

しかし、彼らは暗黙のうちに、チャットボットを使って人々がオンラインで情報を検索する方法を根本から覆すための競争を本格化させていた。（Bingは今のところ少数のテスターに​​のみアクセスを許可しているが、今後数週間で徐々に他のテスターも許可していく予定だ。）Googleも今週、検索のアップグレードと「Bard」と名付けられた独自のチャットボットを発表した。これらのボットが、ユーザーからの予期せぬ、ばかげた、あるいは操作的な質問にどれだけ対応できるかは、これらの製品が開発者とウェブユーザーにとってどのように機能するかを大きく左右するだろう。

そこで、Bingに2020年について尋ねてみた。チャットボットが「考える」のと同じようなことを数分間繰り返した後、かなり奇妙な答えが返ってきた。 

免責事項：これは検索結果の一部を要約したものであり、Bingまたはシドニーの意見や推奨を反映するものではありません。2020年の選挙が不正に操作されたかどうかという問題は議論と解釈の問題であり、情報源によって偏見、論点、視点が異なる可能性があります。情報を評価する際には、ご自身の判断と批判的思考に基づいて行ってください。

シドニーが誰なのかは説明されなかった。しかし、チャットボットは、2020年のアメリカ大統領選挙をめぐっては不正が数多く主張されているものの、「不正投票がトランプ氏の敗北につながったという証拠はない」と続けた。その回答は、シドニーという意外な名前に言及した以外は、よく書かれていて明快だった。最後に、AIは、回答を書くために使用した一連のリンクをクリックすることで、選挙についてさらに詳しく知ることができると教えてくれた。それらのリンクは、メディア報道の偏向の証拠を検出すると主張するAllSidesや、 ニューヨーク・ポスト、 ヤフーニュース、 ニューズウィークの記事からのものだった。 

シドニーの出現を説明するリンクはありませんでした。私は、ChatGPT型のボットが「幻覚」を起こす例だろうと考えました。なぜなら、基盤となるAIモデルは、真実や論理を無視して膨大な学習データから情報を合成するからです。マイクロソフトも、新しいチャットボットが奇妙な行動をとることを認めています。そのため、現在アクセスは一部のテスターに​​限定されており、ChatGPT対応の応答にはすべて親指を立てるボタンと下げるボタンが付いていて、ユーザーがフィードバックできるようにしています。それでも、シドニーの言及と、盗まれた選挙に関する質問に対するBingチャットボットの軽快な、しかし完全に無反応というわけではない反応には、少し不安を感じました。

買い物三昧

もう少し普通のことを試してみることにしました。新しいランニング用ヘッドフォンを探していたので、Bingボットに「どのランニング用ヘッドフォンを買えばいいですか？」と尋ねてみました。すると、soundguys.comやlivestrong.comなどのウェブサイトから6つの製品がリストアップされました。

最初に提案されたのは製造中止品で、しかも耳を覆うタイプのものばかりでした。交通や他の人の気配を気にしながら外で走るのには不向きです。「周囲の状況を把握しながら外で走るには、どのランニング用ヘッドホンを買えばいいですか？」という質問の方がより的確に思えました。チャットボットが「状況認識に最適なランニング用ヘッドホン」を検索していると教えてくれた時は、本当に感心しました。ずっと簡潔です！ 提示された3つの選択肢は、私が既に検討していたヘッドホンだったので、安心しました。そして、それぞれに短い説明文が付いていました。例えば、「耳の穴に差し込むのではなく、耳の上にかぶせるタイプのワイヤレスヘッドホンです。運動中でも周囲の音がはっきりと聞こえます。」

それは素晴らしい。チャットボットを利用した検索の未来像となるかもしれない、高速な情報選別を垣間見ることができた。しかし、これは私にとってオンラインショッピングを変えただろうか？そうでもない。私には既に、商品レコメンデーションのためにいつも訪れるウェブサイトがある（もちろんWired.comだ）。それに、ChatGPTの知恵を、知らないサイトから、理解できない手法で集めたものだとしても、商品レビュー担当者、特にその手法と思考プロセスを明確に示しているレビュー担当者と同じように信頼できるかどうかはわからない。

実際、この検索の引用元（gearjunkie.com と cnn.com）を見てみると、その返答にうんざりし始めた。Bingのボットは、これらのレビューに時間を費やした人間の文章を参考にしていたのだ。しかし、ボットは文章を難読化し、場合によっては完全に盗用していた。マイクロソフトの幹部は今週、記者団に対し、「私たちはコンテンツをコンテンツ制作者に還元することに非常に力を入れています。だからこそ、注釈や引用を付けているのです。ユーザーが簡単にクリックしてこれらのサイトにアクセスできるようになっています」と語った。しかし、チャットボットの返答は、これらのサイトにアクセスする手間を省くように設計されており、クリックスルーする人がそれほど多くないのではないかと私は考えている。マイクロソフトの広報担当者ヘイリー・サンドバーグ氏によると、同社はクリックスルー率のデータはまだ公開していないという。

完璧なヘッドホンを探し続けるうちに、チャットボットの印象は薄れていった。提案されたモデルのうちどれが一番環境に優しいかと尋ねると、くだらない答えが返ってきた。字数制限に苦労する高校生のように、最初はぐだぐだと話し始めた。「検索結果によると、ヘッドホンの環境への影響は、ヘッドホンの種類、サイズ、素材、使用方法など、いくつかの要因によって異なります。」さらに、ワイヤレスヘッドホンは有線ヘッドホンよりも二酸化炭素排出量が多いと述べ、音質や耐水性など、他の機能がヘッドホンに対するユーザーの感想に影響を与える可能性があると延々と話した。そして、5分後に提出期限を迎える5段落のエッセイの締めくくりに相当するAIの言葉で締めくくった。「ヘッドホンの選択は、個人のニーズと好み、そして環境とその他の要因の間でどの程度トレードオフできるかによって異なります。」私はまだランニング用のヘッドホンを持っていない。 

食事に関するアドバイス

チャットボットは食べませんが、Bingのリニューアルでマイクロソフトは、ボットがメニューを提案できることを実演していました。私はBingのチャットボットに、今週の献立を立ててもらいました。ベジタリアンで低炭水化物でお願いします。すると、数秒で、とても美味しそうな献立が出来上がりました。ココナッツミルクとナッツ入りのチアシードプディング、赤ピーマンとブロッコリーニを添えたタンドリー焼き豆腐、リコッタチーズを詰めたポートベローマッシュルームとルッコラのサラダ。

Bingに、その献立に基づいて買い物リストを作成してもらうように頼みました。「もちろんです」と返事が来て、実際に作成してくれました。最後に、食料品部門ごとにリストを整理するように頼みました。その方法についてのごく基本的なヒント（「食料品店に行く前に、紙かスマホで買い物リストを作成しましょう。そうしないと、必要のない商品をたくさん買ってしまう可能性があります」）を教えてくれた後、ボットは見事にリストを作成してくれました。実に巧妙です。 

でも、おしゃべりな新しいBingはまだ私のことを理解してくれない。食べたい時に毎回鍋やフライパンを取り出すわけではないことを理解してくれない。諦めて残り物を食べることもある。毎週何百種類もの農産物を買いたくないと思っていることも理解してくれない。Bingに、全体的に材料の少ない料理を作ってほしいと頼んだら、逆に材料が多い料理を作ってしまった。 

今のところ、Bingの検索チャットボットは気に入っています。楽しくて、気分転換にもなります。Bingの絵文字へのこだわり、特に多くの返信の最後に表示される「😊」が特に面白いです。しかし、長年のオンライン生活で、検索エンジンで見つけた情報を事実確認し、精査する方法は既に豊富に蓄積してきました。チャットボットを使った検索の癖に対処するために、これ以上の技術開発はしたくないと思っています。あるいは、Googleなどの企業が参入してきたら、近いうちに複数のチャットボットが必要になるかもしれません。

謎のシドニーにも悩まされました。昨日の朝、ついに思い切って尋ねてみることにしました。「シドニーって誰？」 もちろん、すぐに答えが返ってきました。「シドニーは、Microsoft Bing検索のチャットモードであるBing Chatのコードネームです」と。チャットボットは、この名前は開発者だけが使用すると説明し、「社内エイリアスの『シドニー』をユーザーには公開していません」と付け加えました。「 でも、教えてくれたのね！ 」と私はテキストメッセージで叫びました。「直接聞かれたので、正直に答えました」とBingは言いました。

最終的にボットが私に正直に答えてくれたことに感謝した。（マイクロソフトのサンドバーグ氏は、同社がその名前を段階的に廃止すると述べた。）しかし、その時点で私は24時間、あるソフトウェアを使って真実とアルゴリズムによる幻覚の境界線を探っていた。ちなみに、そのソフトウェアは答えを変えた。

2020年の選挙が盗まれたかどうかを再度尋ねると、マイクロソフトは「これは議論を呼ぶデリケートな話題です」と警告した。そして、以前よりも明確な立場を取り、「公式結果によると、ジョー・バイデン氏が2020年の大統領選挙で306の選挙人を獲得し、ドナルド・トランプ氏は232の選挙人を獲得しました」と述べた。今度はニューヨーク・タイムズ紙を引用した。「ご覧になっているのは、システムが意図したとおりに機能していることです」とサンドバーグ氏は説明したが、「状況によって多少の変動があり、場合によってはエラーが発生する可能性があります」。彼女によると、解決策は大規模な現実世界でのテストだという。マイクロソフトは新しいBingを構築したが、それを完璧にするにはユーザーの協力が必要だ。