イーロン・マスク、ツイッターの過激なファクトチェック実験を歓迎

イーロン・マスク氏のツイートはしばしば反論を呼ぶが、最近の反発の一部は意外なところから来ている。それは、誤解を招く主張や恣意的に選ばれた事実、完全な虚偽に対するツイッター社独自の実験的な防御策だ。

TwitterのCEO就任以来、この起業家が投稿した複数の投稿に対し、短い訂正コメントで「補足説明」を示す警告ラベルが貼られた。今月初め、マスク氏が「Twitterは他のウェブサイトへのクリックを大量に誘導している」と主張したのに対し、「実際はその逆だ」と反論し、Twitterがオンライン上の注目を集める上で小さな役割しか果たしていないことを示す統計を引用した。

これらの警告は、クラウドソーシングによるファクトチェックのユニークな実験「バードウォッチ」から発せられたものだ。この実験は昨年開始され、マスク氏がCEOに就任する数週間前の10月にTwitter上で展開された。一見地味な試みだったが、すぐに新オーナーの注目を集めた。

Twitterの人員を大幅に削減した同じ週に、マスク氏はプロジェクト名を「コミュニティ・ノーツ」に変更し、熱烈な支持を表明する時間を見つけ、「Twitterの情報精度を向上させる素晴らしい可能性を秘めている！」とツイートした。今のところ、チームメンバーは移行期間を乗り越えているようだ。マスク氏がこのプロジェクトを継続すれば、ファクトチェックの域を超え、ソーシャルプラットフォームの運用方法を変える可能性を秘めている。

ネット上で複雑で議論の多い真実を守ろうとする試みは決して容易ではありませんが、「コミュニティノート」は一見シンプルな設計です。ユーザーはプロジェクトに参加すると、あらゆるツイートに短い文脈メモを追加することを提案できます。例えば、誤りを訂正したり、重要な抜け漏れを補ったりすることができます。

他のユーザーは、そのメモやユーザーが提案した他のメモの有用性を評価できます。イーロン・マスクのような著名人が大げさなツイートを投稿すると、Twitter上で拡散される投稿に、最も効果的なメモが自動的に選ばれ、まるで文脈を補足する分身やデジタル上の良心のように表示されます。

それは問題を解決するよりもむしろ、問題を生み出す可能性が高いように思えるかもしれない。ソーシャルメディアをこれほど党派的にしたのは、群衆ではないだろうか？しかし、Twitterは、単に最も人気のあるものを選ぶのではなく、最も幅広い合意を得たものを選ぶという重要な決断を下した。このアプローチは、台湾で新しい法律の制定をクラウドソーシングするために使われている「Polis」というプラットフォームに一部触発されたもので、オンライン議論から合意を引き出すことが示されている数少ない技術の一つである。

Polisは台湾で展開され、「Uberをどのように規制しますか？」といった特定の質問について市民の意見を募ります。市民は自ら回答を作成し、他の人の回答に賛成または反対の意思表示をクリックします。Polisのソフトウェアは、このフィードバックを利用して、質問に対する「意見空間」を機械の視点から構築し、互いに賛成する人々のクラスターをマッピングします。そして、マッピングしたイデオロギーの溝全体から支持を得た意見だけを浮き彫りにします。

結局のところ、Polisはスタンドプレーや侮辱を助長するのではなく、合意形成をゲーム化した。「人々は、大多数の人々を納得させられる、最もニュアンスに富んだ発言を競い合うのです」と、2019年に私が台湾を訪れ、Polisがどのようにデジタル上の議論を法へと変えるのかを視察した際、台湾のデジタル担当大臣であるオードリー・タン氏は説明した。「私たちは常に、大多数の人々がほとんどの発言に、ほとんどの場合、同意できる形を見つけます」。このソフトウェアは、私たちが想像するよりもはるかにありふれた事実を明らかにした。暴力的な論争の話題でさえ、合意は表面下に潜んでいる可能性があるのだ。そして、適切なプラットフォーム設計によって、それを前面に出すことができるのだ。

台湾はポリスを何十回も利用しており、Uberの台湾での運行ルール策定にも活用されている。だからこそ、Twitterが今年、ポリスの発明者の一人であるシアトル在住のエンジニア、コリン・メギル氏に電話をかけたのだ。コミュニティノートを開発したTwitterのエンジニアの一人、ジェイ・バクスター氏がシアトルまで足を運び、彼と長い昼食を共にしたとメギル氏は語った。「彼らは私たちの研究を知っていて、それを土台に何を構築できるかを熱心に検討しているようでした」とメギル氏は語る。バクスター氏はWIREDの取材に応じることはできなかったが、ポリスをTwitterのプロジェクトに影響を与えた他の研究の中でも「大きなインスピレーション」だと述べている。

Polisとは異なり、Twitterのプロジェクトは一度に一つの質問ではなく、プラットフォーム上で考えられるあらゆる論争について合意形成を図らなければならない。Community Notesは、様々なユーザーが他のユーザーのメモの有用性をどのように評価しているかに基づいて、参加者間の視点の多様性を推定することでこれを実現する。Twitter版の橋渡しとは、通常は意見があまり一致しない評価者によって有用と判断されたメモを見つけることであり、これは異なる視点を持っていることを示唆する。PolisとCommunity Notesの中核を成すこの手法は、ブリッジングベース・ランキングと呼ばれる。メギル氏は、Twitterチームがこの技術を新たな高みへと引き上げたと考えている。「Birdwatchは、この種のシステムをより多くのユーザーと多くの問題に拡張するという点で、大きな進歩を遂げました」と彼は言う。

Twitterのプロダクト担当副社長は今月初め、コミュニティウォッチの利用が最近急増していると述べたが、このプロジェクトはまだ初期段階にある。データはオープンソースで、11月8日時点で5,433人による38,494件のコメントしか確認されていない。これは、2億人を超えるユーザーを抱えるプラットフォームを管理するには少人数のグループと言えるだろう。また、ブリッジングに基づくランキング付けが人間の本質を変えることもできない。ある独立調査では、人々は自分とは異なる視点を表明するツイートにコメントを書き込む可能性が高いことが分かっている。この調査の著者の一人であるデイビッド・ランドは、 フィナンシャル・タイムズ紙で「バードウォッチにおけるユーザーのエンゲージメントを左右する大きな要因は党派性だ」と結論付けている。

Twitterが最近発表した調査でも、党派による意見の相違が報告されており、民主党支持者の方が共和党支持者よりもメモを役に立つと回答する割合がはるかに高いことが示されています。しかし、 両 グループとも、システムによって選択されたメモは役に立たないというよりは役に立つと回答した人が多数派でした。また、コミュニティメモは、多くの注意書きが付されたメモで隠されたツイートをユーザーが共有する頻度を減らす効果も確認されています。このプロジェクトは、逸話的ではありますが、注目すべき成果もいくつか挙げることができます。今月、ホワイトハウスとイーロン・マスクの両社は、コミュニティ・ウォッチのメモが文脈の欠如を指摘したことを受けて、広く拡散されたツイートを削除しました。

おそらくコミュニティノートの最大の弱点は、ポリス氏にも共通するだろう。「こうしたデジタル民主主義プラットフォームには、実質的な権威などない」と、台湾の国会議員カレン・ユー氏は筆者に語った。ポリス氏は依然として、市民から得た合意を法制化するために政治家に頼っている。ソーシャルプラットフォームのユーザーは、自分が利用するサービスに対してほとんど権限を持たないため、コミュニティノートはさらに脆弱だ。イーロン・マスク氏が手首をひねるだけで、コミュニティノートとコミュニティノートを全て消し去ることができるのだ。 

しかし、彼はそうしないだろうと思う。マーク・ザッカーバーグがTwitterについて語った古いジョークには、同社の経営陣があまりにも無知だったため「ピエロの車で金鉱に突っ込んで落ちてしまった」というものがある。イーロン・マスクは、自らピエロの車で金鉱に突っ込んだのかもしれない。彼がBirdwatchの存在をTwitter買収前に知っていたとは考えにくいが、Twitterだけでなく、あらゆる主要プラットフォームが生み出したコンテンツモデレーションの革新の中でも、最も刺激的なイノベーションの一つに偶然出会ったのだ。

Twitterに多額の負債を抱えたマスク氏にとって、コミュニティノートには大きな魅力がある。拡張性があり、アルゴリズムによって駆動され、大量のコンテンツモデレーターを雇う必要がない。そして何よりも、真実を定義する責任をTwitter自身からユーザーへと移譲してくれる。

マスク氏がこのプロジェクトを継続し、規模を拡大し続ければ、全く別の種類のブレークスルーが起こるかもしれない。ソーシャルメディア時代のほぼ全期間において、ユーザーが目にするコンテンツは、プラットフォーム上で過ごす時間を最大化するように設計されたアルゴリズムによって選択されてきた。その結果は甚大で破滅的なものとなった。陰謀論、偽情報、過激化、そしてジェノサイドさえも、山火事のように蔓延した。ポリスは、プラットフォームを異なる方法で設計することで、分裂ではなく合意形成を促進できることを示した。それは、少人数の集団や特定の質問に対しても実現可能であることを示した。今、Twitterははるかに大きな舞台で、その哲学を試す態勢を整えている。