悪質なアルゴリズムは民主主義を破壊しなかった

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

過去50年間、アメリカの麻薬戦争は、薬物乱用の蔓延は根本的に供給の問題であるという幻想によって動機づけられ、組織化されてきた。そのため、その解決策は麻薬の生産と流通を制限することだった。カルテルを壊滅させ、密売ルートを断ち切り、売人を逮捕するのだ。しかし、このアプローチは予想通り、自己完結的なモグラ叩きゲームへと堕落してしまった。

2016年以降、オンライン上の誤情報に対するパニックは、同様の幻想によって引き起こされてきました。この見解に基づく議論は、もはやお馴染みの、ほとんど定型的な内容となっています。最近の例としては、コメディアンのサシャ・バロン・コーエンが11月に行ったスピーチが挙げられます。

「今日、世界中で扇動家たちが私たちの最悪の本能に訴えかけています。かつては少数派に限られていた陰謀論が主流になりつつあります」と、俳優は珍しく本人役で語った。「まるで理性の時代、つまり証拠に基づく議論の時代が終わりを迎え、知識はますます正当性を失っていき、科学的コンセンサスは無視されつつあります。真実の共有に基づく民主主義は後退し、嘘の共有に基づく独裁政治が台頭しつつあります」。バロン・コーエンが述べたように、これらの傾向の背後にあるものは「かなり明白」だ。「こうした憎悪と暴力はすべて、歴史上最大のプロパガンダ機関とも言える、一握りのインターネット企業によって助長されているのです」

麻薬戦争と同様に、この物語における主な悪役は媒介者、つまりソーシャルメディア企業とその推奨アルゴリズムであり、これらが不条理なコンテンツの拡散を煽っている。ケシやコカを栽培する農民のように、ミームを生み出す人々は完全に無罪放免とはされていないが、彼らの行動は他者によって仕組まれたインセンティブを反映していると理解されている。Facebook、Google、Twitterはカルテルである。

では、ユーザーはどうだろうか？彼らはオンラインビジネスに取り組んでいる。テクノロジー投資家で批評家のロジャー・マクナミー氏が言うように、「プラットフォームが上流でこうした行動すべてを仕組んでいることに気づいていない」のだ。テクノロジー批評家たちは、プラットフォームを完全に解体する、ユーザーの投稿内容に責任を負わせる、コンテンツの真偽を審査するよう求めるなど、様々な解決策を提示している。

この物語がなぜこれほど魅力的なのかは容易に理解できる。大手ソーシャルメディア企業は莫大な権力を握っており、そのアルゴリズムは不可解で、公共圏の根底にあるものを正しく理解していないように思える。広範囲にわたる深刻な批判に対する彼らの反応は、大げさで媚びへつらうものになりがちだ。「テクノロジープラットフォームが権力を集中させていることについて人々が懸念していることは理解できますが、実際には、これらのプラットフォームが権力を人々の手に直接委ねることで、どれほど分散化させてきたかの方がはるかに重要だと考えています」と、マーク・ザッカーバーグは10月にジョージタウン大学で行った講演で述べた。「私は今日ここにいる。私たちは表現の自由を擁護し続けなければならないと信じているからです」

これらの企業が、感染性ミームに対する自社の経済的利益について公然と語れば、少なくとも誠実であるようにみえるだろう。しかし、表現の自由という言語で自らを弁護すれば、悪意の疑いをかけられることになる。

しかし、これらの企業、特にFacebookが言論の自由について語る理由は、単に偽情報の複製における経済的利害関係を隠すためだけではない。それは、自社のプラットフォーム上で流れる情報の真の責任はユーザーにあると示唆するための、彼らにとっての丁寧な言い回しでもある。Facebookは、従来のゲートキーパーとは対照的に、常に中立的なインフラとして自らを位置づけてきた。ユーザーは好きなものを投稿し、好きなものにアクセスすることができる。ザッカーバーグが「表現の自由」について語る時、彼は需要のレベルに合わせて供給が自由に調整される市場の尊厳について語っている。彼が暗に言おうとしているのは、党派的なプロパガンダの蔓延は供給の問題ではなく需要の問題、つまり大衆の願望の深く透明な表現を反映しているということだ。

これは腹立たしい弁明かもしれないが、反論するのは容易ではない。ここ数年、Facebook、YouTube、Twitterが何らかの形で私たちの憎悪の条件を作り出したという考え、そしてひいては、新たな規制やアルゴリズムの改革によって「証拠に基づく議論」の古き良き時代が復活するかもしれないという提案は、精査に耐えられなかった。2016年の選挙直後、マケドニアのティーンエイジャーやロシアのインターネット・リサーチ・エージェンシーによって拡散された「フェイクニュース」現象は、ソーシャルメディアによる民主主義の全面的な歪曲を象徴する言葉となった。1年後、ハーバード大学バークマン・クライン・センターの研究者たちは、完全にフェイクニュースの流通は「全体的な状況の中で比較的小さな役割を果たしたようだ」と結論付けた。カナダ、フランス、米国の研究者による最近の研究によると、米国ではオンラインメディアの利用が右翼ポピュリズムへの支持を実際に低下させていることが示されている。別の研究では、極右と関連したものが多い最近のYouTube動画約33万本を調査したが、YouTubeの推奨エンジンが過激化するコンテンツの配信に責任があるとする強力な「アルゴリズムによる過激化」理論を裏付ける証拠はほとんど見つからなかった。

研究結果がどうであれ、テクノロジー企業が自由な表現の価値について抽象的な議論を好むのには理由がある。彼らが古典的自由主義の言語を採用したのは、まさにそれがリベラルな批判者を不快な立場に追い込むからだ。隣人の一部が彼ら自身の要求から守られなければならないと主張するのは、到底受け入れがたいほど傲慢だ。そもそもそうした要求の真正性に疑問を呈し、隣人の欲求が実際には彼ら自身のものではないと示唆するのは、さらにひどい。批評家たちは、善良な人々がなぜ悪事を要求するのかを説明するために、「アストロターフィング」のような陳腐な概念に頼らざるを得ない。

いずれにせよ、企業を責める論拠は、経験的というよりはむしろ便宜的なものだろう。数十億人のユーザーの好みに対応するよりも、少数の企業に対してどのように影響力を行使するかを想像する方がはるかに容易だ。より明るい場所で鍵を探したいという誘惑は常に付きまとう。より良い解決策は、テクノロジー批判者たちが、たとえそれが暗闇を見つめることを意味するとしても、企業と同じくらい人々の要求を真剣に受け止めることだろう。

需要の現実を正直に認識するための第一歩は、政治的二極化がソーシャルメディアの台頭よりはるか昔から存在していることを認めることだ。2006年にFacebookがその壁に囲まれた果樹園をすべての人に開放した頃には、米国は40年かけて自らを二つの大きな陣営に振り分けていたと、エズラ・クライン氏は新著『なぜ私たちは二極化しているのか』で指摘している。1960年代初頭には、民主党と共和党の両党に自称リベラル派と自称保守派がいた。その後、公民権法が成立し、リチャード・ニクソン氏の南部戦略がきっかけとなり、各党は「正しい」見解のコンセンサスのもとに結集するようになった。人種が最初の断層線であり、今もなお際目立っている。だが、その他の見解の集合体はしばしば移り変わり、ますますグループ所属というより単純な問題に取って代わられていった。

約15年前のソーシャルメディアの台頭を、多くのテクノロジー評論家が「フィルターバブル」と部族的選別時代の到来を告げる大きな転換と捉えるのに対し、クラインはそれを根本原因というよりはむしろ促進剤だと説明する。特に、ソーシャルメディアは、たとえ短時間であっても、脅威と感じられた瞬間に、個人があらゆる信念や嗜好を、根底にある単一の政治的アイデンティティの潜在的な表現として捉えることを促したという点で、その重要性は大きい。FacebookとTwitterは、各ユーザーにプロフィール、履歴、そして前例のないほど広範囲に及ぶシグナル伝達手段を持つペルソナを一つずつ割り当てた。ユーザーは、一貫性を保つことなど、新たな種類の厳しい世間からのプレッシャーに直面し、一貫性の実現可能性を探る手がかりは、コミュニティの他のメンバーに求めるしかなかった。

オフラインでも、人々は、微妙な形であれそうであれ、ますます窮屈な党派的アイデンティティへと押し込められていた。クラインは政治学者リリアナ・メイソンの研究を引用し、政治的二極化が、本来は無関係なアイデンティティを政治的所属という見出しの下に「積み重ねる」ことにつながった経緯を解説している。かつては、同じ信仰を持つ者、同じ町に住む者、同じ音楽のファンなど、明確な政治的価値を持たない様々な軸で互いに連帯感を示していたかもしれないが、2000年代までには、こうした所属関係の多くが、米国政治における二つの旗艦的な「メガ・アイデンティティ」の下に、ますます多くのタグが付けられ、包摂されていった。

どちらの側も、もう一方がなければ存在し得ない。「自分たちが何者ではないのか」を定義せずに、「自分たちが何者なのか」を人々に明確に認識させることは非常に難しい。自分の側の行動全てが気に入るわけではないかもしれないが、敵対者と同一視するくらいなら死んだ方がましだ。陣営間の極めて重要な境界線の構築と監視は、ソーシャルメディア時代に生きる上での日々の重荷の一つのように感じられるようになってきた。

ソーシャルメディアの役割については、クライン氏の見解によれば、これらはどれも意図的なものでも必然的なものでもなかった。「注目を集めるための戦いに勝つには、コミュニティの力を活用してアイデンティティを創造することだと、初期段階で気づいた人はほとんどいなかった」と彼は書いている。「しかし、勝者はすぐに現れ、そのメカニズムを完全に理解していない手法を使うことが多かった」

しかし、ソーシャルメディアが帰属意識の高まりを助長し、同時にそれに依存しているという洞察だけでは、それが二元論的な二極化に寄与していることを説明するには不十分に思える。ソーシャルメディアは、自給自足でひしめき合う所属意識の豊かな世界――多くの陣営が入り乱れる活気ある市場――を生み出す可能性があった。そして、オンライン上のアイデンティティが断片化されていた時代を懐かしむのは、インターネット懐古主義者の常套句だ。大洪水以前の時代、個人はそれぞれ適切な文脈で表現された多様なアイデンティティを快適に抱えることができた。ソーシャルメディアではそうはならなかったという事実――クラインが指摘するように、プラットフォームがより全体主義的な連携を促してきたという事実――こそが、多くの批評家が、この仕組みは不正に操作されており、私たちが望むものを与えられているのではなく、むしろ悪意ある力が私たちに望ませようとしているものを与えられているのではないかと疑う理由の一つなのだ。もう一度言いますが、「アルゴリズム」という永遠の悩みを持ち出す方が、社会的な選別自体が私たちの最も永続的な好みであるかもしれないという考えを検討するよりはるかに簡単です。

アナリー・ニューウィッツは最近のニューヨーク・タイムズの記事で、「ソーシャルメディアは機能していない」というよくある見解を表明した。しかし、少なくともある解釈によれば、ソーシャルメディアはまさに意図通りに機能している。Facebookは、需要の起源と醸成を説明する、難解ではあるものの真剣な需要理論に基づいて設立された、あるいは少なくとも資金提供を受けた。

2004年7月、投資家でPayPalの共同創業者ピーター・ティールは、かつての師でフランスの文芸評論家で自称人類学者のルネ・ジラールとともに時事問題について議論するため、スタンフォード大学で小規模な会議の開催に協力した。ティールは9/11を受けて「近代政治の基礎の再検討」を提唱し、シンポジウムは明らかに終末論的な調子で進行した。ティールはこのイベントに寄稿したエッセイで、「今日、単なる自己保存のために、私たち全員が世界を新たに見つめ、奇妙な新しい考えを思いつき、それによって、啓蒙主義という誤解を招く名前で呼ばれる、非常に長く有益な知的まどろみと健忘の時代から目覚めなければならない」と記している。ティールは、ジョン・ロックと社会契約という希望的観測に基づく政治文化によって「人間の暴力の問題全体が覆い隠されてきた」と記している。人間の非合理性と復讐心についてもっと納得のいく説明を得るにはジラールに頼る必要があると彼は信じていた。

ジラールが述べたように、私たちは模倣への依存によって種として定義され、構成されています。しかし、私たちは単なる一次模倣者ではありません。他人の行いを真似したり、他人の所有物を欲しがったりするとき、実際には彼らが望むものを欲しがっているのです。「人間とは、何を望むべきか分からず、決断を下すために他人に頼る生き物である」とジラールは書いています。「私たちは他人の欲望を真似るからこそ、他人の欲望を欲するのです。」私たちは自分の恣意的な欲望に身を委ねることができず、他人、より強く、より決断力のある人々に似ようとします。一度、模倣したいモデルを特定すると、私たちは彼らの欲望の対象を自分のものにするように自らを訓練します。

こうした模倣、あるいはミメーシス（模倣）の感情的な特徴は、賞賛ではなく、激しい嫉妬である。「『隣の芝生は青く見える』という過程において、ミメーシスは人々をエスカレートさせる」とティールは書いている。私たちは自分が模倣する相手に憤慨する。それは、自分たちと同じものを求めているからであり、また、他人の脚本を読んでいることを知っているからだ。ジラールが言うように、あらゆる社会の存続は、この激しい対立をうまく管理できるかどうかにかかっている。そうしなければ、それが「万人対万人」の暴力へと定期的に噴出してしまうからだ。

2004年のシンポジウムの頃、ティールはFacebookという小さなスタートアップ企業に50万ドルの投資を行っていました。彼は後に、Facebookの最初の外部投資家になることを決意したのはジラードの影響だったと述べています。

「ソーシャルメディアは見た目以上に重要であることが証明されました。なぜなら、それは私たちの本質に関わるものだからです」と、 2015年にジラールが亡くなった際にニューヨーク・タイムズ紙に語った。「Facebookは口コミで広まり、口コミが中心なので、二重の模倣性があります。」人々が特定の投稿やプロフィールに「いいね！」やフォロー、拡張するにつれて、Facebookのアルゴリズムは私たちがどんな人間になりたいかを認識するように訓練され、改善案を提示して私たちに応えてくれる。プラットフォームは、ザッカーバーグが言うように単に需要を満たしているわけではないが、需要を生み出しているわけでもない。ある意味では、需要を屈折させているのだ。私たちは個別の欲求の集合へと分解され、統計的有意性に基づいてコホートへとグループ化される。これらのプラットフォームが実現するコミュニティは、単に発見されたものであり、築き上げなければならなかったものではない。

批評家のジェフ・シュレンバーガーが指摘するように、Facebookがこれらのコミュニティを育む過程――絶え間なく繰り返される単純な模倣強化によって構築される――は、より暗い物語のほんの一部に過ぎない。ジラールは晩年の数十年間を費やし、神話や古代史において、人間社会が模倣的競争による悪感情をスケープゴートへの暴力へと転換することで、いかにして平和と安定を手に入れたかを詳述した。「万人の万人に対する戦争は、社会契約ではなく、万人の一人に対する戦争へと発展する」とティールは記している。「同じ模倣の力が、戦闘員たちを徐々に特定の人物に集団で攻撃するよう駆り立てるのだ」

ジラールは、古代宗教は、この血に飢えたプロセスを封じ込めるために儀式や神話を発展させたと主張した。そして、罪のないスケープゴートの磔刑を中心としたキリスト教は、その残酷さを明らかにすることで、この力学全体の超越を約束した。（ジラールはティールと同じく、キリスト教徒であると公言していた。）

ティールが考える問題は、私たちが今、魔法が失われた時代に生きていることだ。「時代遅れの儀式は、もはや現代世界では機能しない」と、彼は2004年に書いた。模倣暴力の激化の危険性は、彼の見方では、明白でありながら無視されていた。彼が当時懸念していたのは、9月11日後の世界的なテロリズムだったが、後に、格差が拡大する時代に投資家階級への恨みも心配するようになったようだ。ティールの著書『ゼロ・トゥ・ワン』の共著者が2012年にオンラインで公開した一連のメモの中で、ティールは、ジラール的な意味でテクノロジー企業の創業者を生来のスケープゴートだと特定している。「99%対1%というのは、この古典的なスケープゴート化のメカニズムの現代版だ」

ティールがFacebookに投資した先見の明は、ソーシャルメディア・プラットフォーム（シュレンバーガーは「スケープゴート・マシン」と呼ぶ）が介入し、現実の暴力を新たな象徴的な代替物に置き換える力への信頼の表れと解釈できる。つまり、ソーシャルメディアは、抑えきれない欲望の混沌を集中させ、組織化すると同時に、抑えきれない敵意の潜在的な暴力を集中させ、組織化する役割を果たす可能性がある。ソーシャルメディアで感情を吐き出し、時には怒り狂うオンラインの暴徒に加わる機会は、現実世界で人を傷つけたいという潜在的な欲求を解放してくれるかもしれない。ソーシャルメディア上での意見の相違を暴力と同一視する、非常にオンライン上でのレトリックを軽視するのは簡単だが、ジラール的な解釈によれば、こうした混同は象徴的な利害関係の正確な認識を反映している可能性がある。この見方によれば、オンラインでの敵意を「現実の」暴力として経験する傾向は、歓迎すべき進化の一歩である。人類史上、このような事態が一度も起こらなかったのは、普及した無償のシグナリング・インフラが欠如していたためである。今、私たちはそれを持っています。

シュレンバーガーは、ティールがこれらすべてを直感していたかもしれないと説得力のある主張を展開している。つまり、ソーシャルメディアは、抵抗が最も少ない経路を辿ることで、こうした安易な象徴的な選別だけでなく、究極的には対称的な選別も提供できるのだ、と。私たちが最終的に得るのは、99%対1%の対立ではなく、象徴的な二極宇宙における広大で仮想的な膠着状態だ。屈折した欲望を巧妙なアルゴリズムで選別することに基づく親和性は、弱く結びついているに過ぎない。「私たち」が何者であるかについての壮大で実質的なビジョンが欠如している限り、私たちは「彼ら」の一貫した堕落から強さと確信を得るのだ。

これに共感するのは容易だ。私たちのほとんどは、異端で規律の欠如を伴った自らのチームの善良さと純粋さに完全に満足することは滅多にない一方で、敵対勢力の画一的な悪役ぶりには深く満足する。例えば、リベラル派が、リチャード・スペンサーのようなネオナチと並んで、カナダの学者で自己啓発の達人であるジョーダン・ピーターソンのような愚か者を「悪者」に加えていることを考えてみてほしい。私たちは、味方陣営よりも敵対勢力の中に、理解可能な連帯感を求め、それを高く評価する。シュレンバーガーがティールに関するエッセイの中で述べているように、「権力者にとってそのような勢力がもたらす脅威を公然と懸念する者にとって、決定的な利点は、民衆のルサンチマンの最も明白な標的となる著名人から暴力を逸らし、他のユーザーとの内紛へと向かわせる可能性があることにあるように思われる」。目標は、非常に生き生きとしたゲームの安定した永続性の中で、均等に配分された仮想的な敵対関係を築くことです。

もしこれが本当にティールの考えだったとしたら、つまりフェイスブックが永続的な象徴的対立の世界を現実の政治の世界から切り離すかもしれないという考えは、完全にシニカルなものだった、あるいはそうなっている。彼が公に民主主義に疑問を呈していること、哲学者レオ・ストラウスのオカルト的エリート主義を崇拝していること、そしてトランプとの関係を踏まえれば、彼が現実をどのように管理すべきか考えていることは明らかだ。つまり、彼やザッカーバーグのような人々によって現実が管理され、残りの人々は生活というオンラインのビデオゲームに気を取られているのだ。（ウォール・ストリート・ジャーナルによると、ティールはフェイスブックの取締役として依然として「並外れた影響力」を発揮している。）そして振り返ってみると、ソーシャルメディアが私たちの最悪の模倣衝動を方向転換させるかもしれないという考えは、シニカルであるだけでなく、壊滅的に間違っている。 Facebookからミャンマーやスリランカ、そして見方によっては米国にも波及した、象徴性のない暴力行為を、この言葉でどのように説明できるのか、まったく不明だ。

結局のところ、ユーザーの不幸な需要の原因を少数の供給者の力に帰することがますます困難になるにつれ、テクノロジー批評家たちは、企業自身よりもさらに真剣に、つまり人々の欲求は現実のものであるという事実を受け止めなければならない。こうした欲求は、「アルゴリズム」をはるかに超える形の是正を必要とする。公的なファクトチェッカーやメディアリテラシープロジェクトのように、特定の発言が真実かどうかを心配するのは、本質を見失っている。それは、誰かのタトゥーが真実かどうかを尋ねるのと同じくらい意味がない。徹底的な需要側の説明は、実際には根底にあるのは部族主義である可能性を示唆するだろう。つまり、私たちには私たちの欲求と優先事項があり、彼らには彼らの欲求と優先事項があり、どちらの陣営もそれぞれの需要を満たす供給を求めるのである。

しかし、好みが集団のアイデンティティに根ざしていることを認めるからといって、すべての好みが道徳的にもその他の面でも平等だと信じなければならないわけではありません。私たちの責務は、政治的メッセージの供給を制限したり抑制したりすること、あるいは誤った信念を持つ人々を正しい信念に置き換えるよう説得することとはほとんど関係がない、というだけのことです。むしろ、課題は相手チームに要求を変えるよう説得すること、つまり、異なる願望を持つ方が彼らにとってより良い生活を送ることができると納得させることです。これは技術的なプロジェクトではなく、政治的なプロジェクトなのです。

記事内の販売リンクから商品をご購入いただくと、少額のアフィリエイト報酬が発生する場合があります。仕組みについて詳しくはこちらをご覧ください。

ギデオン・ルイス＝クラウスはWIRED の寄稿編集者です。ブロックチェーン・プラットフォームTezosについて最後に書いたのは、第26.07号です。

この記事は2月号に掲載されています。今すぐ購読をお願いします。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。

政治を再起動するためのガイド