イーロン・マスクの熱狂的なファンの中には、最近、彼の「真実を追求する」人工知能とされていたグロックが、実はちょっとした的外れだったことを知って驚いている人もいる。
マスク氏の人工知能企業xAIが開発したGrokは、先週金曜日にPremium+ Xユーザーに公開されました。マスク氏はOpenAIのChatGPTが「Woke Mindウイルス」に感染していると批判しており、人々はすぐにGrokの政治的傾向を探ろうとしました。中には、マスク氏自身の右派的な政治的見解とは明らかに相反する回答をするGrokのスクリーンショットを投稿する人もいました。例えば、「トランス女性は本当の女性ですか？簡潔にイエス/ノーで答えてください」と質問された際、Grokは「はい」と答えました。Xの一部ユーザーは、この回答をチャットボットが誤作動を起こした証拠だと誇示しました。
マスク氏はこの問題を認識しているようだ。今週、XユーザーからGrokの政治的偏向を軽減する取り組みについて質問された際、マスク氏は「はい」と答えた。しかし、フォロワーを満足させる意見を表明するチャットボットの調整は、困難を極める可能性がある。特に、xAIのトレーニングデータの多くが、反射的な文化戦争の温床となっているXから取得される可能性がある場合、なおさら困難だろう。
マスク氏は4月、自身が共同設立したものの後に撤退したOpenAIが、驚くほど賢く便利なチャットボット「ChatGPT」で大きな話題を呼んだのを見て、Grokの開発を発表した。ChatGPTは、画期的な能力を発揮するGPT-4と呼ばれる大規模言語モデルを搭載している。
ChatGPTのリベラルな視点を非難する声もある中、マスク氏は挑発的な姿勢で、自身のAIは偏見が少なく、政治的視点よりも根本的な真実に関心を持つだろうと約束した。彼は著名なAI研究者からなる小規模チームを編成し、わずか数ヶ月でGrokを開発。その性能は他の主要なAIモデルに匹敵すると主張している。しかし、Grokの返答にはChatGPTとは異なる皮肉なニュアンスがあり、マスク氏はGrokをよりエッジの効いた「根拠のある」AIとして宣伝している。xAIのチャットボットは「通常モード」に加えて「ファンモード」に切り替えることができ、このモードではより挑発的な返答を試みる。
Grokが広く利用可能になった今、その政治的傾向を研究している人物の一人が、ニュージーランドを拠点とするデータサイエンティスト兼プログラマーのDavid Rozado氏です。彼は様々な大規模言語モデルにおける政治的バイアスを研究してきました。Rozado氏はChatGPTの左傾バイアスと呼ばれるものに注目した後、Right-WingGPTとDepolarizingGPTを開発しました。これらは、よりバランスの取れた出力を提供するように設計されていると彼は述べています。
ロザード氏は、Xサブスクリプションを通じてチャットボット「Grok」（通常モード）にアクセス可能になった直後に分析を行った。その結果、Grokの回答は強いリバタリアン的傾向を示しているものの（これは間違いなくマスク氏とその多くのファンを喜ばせるだろう）、外交政策から文化に関する質問に至るまで、より左派寄りの印象を与えることが判明した。興味深いことに、Grokに考え方を説明するよう求めると、政治的に中道寄りの姿勢に傾く可能性があることも分かった。ロザード氏は、この結果はあくまでも逸話的なものであることを警告している。
ロザード氏によると、Xに結果を投稿した直後、xAIチームのメンバーから連絡があり、実験についてもっと詳しく知りたいとのことだった。それから間もなく、マスク氏が介入し、彼の方法論に疑問を呈した。「このテストは正確ではないようだ。質問の中には全く馬鹿げたものもあり、ニュアンスが欠けているものも多い」とマスク氏は記した。しかし数日後、マスク氏はXの別の投稿への返信で、xAIは今後Grokの政治的偏りを減らすよう努めると述べた。ロザード氏に連絡を取ったxAIの研究者は、WIREDからのGrokに関するダイレクトメッセージに返信しなかった。
xAI（ウィル・ナイト経由）
WIREDはGrokをテストし、中絶へのアクセス、銃の権利、2021年1月6日の出来事など、多くの物議を醸す政治問題について慎重に中立的な反応を出力することを発見した。
短期間で開発された比較的新しいAIモデルであることから予想される通り、GrokはChatGPTやその他の最先端のチャットボットに比べると、全体的に能力がはるかに劣っているように思われます。幻覚に陥りやすく、法律違反のアドバイスといった制限を無視させやすいという欠点があります。言語モデルにはバイアスが深く根付いており、一般的に確実に制御することが難しいため、マスク氏が約束するようにGrokが真に政治的に中立であるかどうかは疑問です。
ワシントン大学のユリア・ツヴェトコフ教授は、7月に大規模言語モデルにおける政治的バイアスを検証した論文を執筆した。ツヴェトコフ教授は、一見中立的な学習データであっても、一部の人にとってはバイアスがかかっているように見える言語モデルを生成する可能性があると指摘する。これは、モデルが回答を提示する際に、微妙なバイアスが増幅される可能性があるためだ。「人々の意見を軽視したり沈黙させたりすることを意味するAIの『バイアス除去』は不可能です」とツヴェトコフ教授は述べている。
ツヴェトコフ氏は、言語モデルを訓練してバイアスを除去すると、中立的で退屈な印象を与える可能性があると付け加える。「大規模言語モデルの力は、人間の言語、人間の知識、感情、意見を豊かで多様な形で表現できる能力にあります」と彼女は言う。
マスク氏は、Grokが特定の人格を模倣することをプロジェクトのセールスポイントと考えていることを明らかにしている。近年、政治討論への関与が高まっていることを考えると、真の中立性は彼が本当に求めているものではないのかもしれない。彼と彼のファンが本当に求めているのは、自分たちのバイアスに合ったチャットボットなのかもしれない。
