Facebookの地獄のような2年間と、それを修復しようと奮闘するマーク・ザッカーバーグの苦闘

2016年2月下旬のある日、マーク・ザッカーバーグはFacebookの全従業員に、社内における問題行動に対処するためのメモを送った。そのメモは、メンロパークにあるFacebook本社の壁に関するものだった。そこには従業員がメモや署名を書き込むことが奨励されていた。少なくとも2回は、誰かが「Black Lives Matter（黒人の命は大切）」の文字を消し、「All Lives Matter（すべての命は大切）」に書き替えていた。ザッカーバーグは責任者に、この文字を削除するよう求めていた。

「『Black Lives Matter』だからといって、他の命が重要でないというわけではない」と彼は書いた。「壁に何を書いても構わないというルールはこれまで一度もなかった」とメモは続けた。しかし、「何かを消すということは、言論を封じる、あるいはある人の発言が他の人の発言よりも重要だと主張することを意味する」と彼は述べた。この落書きは調査中だという。

ちょうどその頃、全米各地で人種と政治をめぐる議論が激しさを増していた。ドナルド・トランプはサウスカロライナ州予備選で勝利し、移民問題でローマ教皇を激しく非難し、デイビッド・デュークの熱烈な支持を得たばかりだった。ヒラリー・クリントンはネバダ州でバーニー・サンダースを破ったばかりだったが、20年前に彼女が行った人種差別的な発言に抗議するため、ブラック・ライヴズ・マターの活動家が彼女の演説を妨害した。そしてFacebookでは、「ブラックティビスト」と呼ばれる人気グループが、「アメリカの経済と権力は強制移住と拷問の上に築かれた」といったメッセージを発信し、勢いを増していた。

ザッカーバーグの訓戒が広まった時、ベンジャミン・フィアノウという若い契約社員は、これはニュースになるかもしれないと考えました。彼は自分のノートパソコンでスクリーンショットを撮り、その画像をテクノロジーニュースサイト「ギズモード」で働くマイケル・ヌニェスという友人に送りました。ヌニェスはすぐにザッカーバーグのメモに関する短い記事を公開しました。

1週間後、フィアノウはヌニェスが公開したくなるかもしれない別の情報を見つけた。別の社内文書で、Facebookは全社会議でザッカーバーグに質問する候補を従業員に募集していた。その週、最も投票数が多かった質問の一つは「2017年のトランプ大統領の誕生を阻止するために、Facebookはどのような責任を負っているのか」だった。フィアノウは今度はスマートフォンでスクリーンショットを撮った。

コロンビア大学ジャーナリズムスクールを最近卒業したフィアノウ氏は、フェイスブックのニューヨーク支社で「トレンドトピックス」と呼ばれる、フェイスブックを開いたときにポップアップ表示される人気ニュースのフィードに携わっていた。このフィードはアルゴリズムによって生成され、ジャーナリズムのバックグラウンドを持つ約25人のチームによってモデレーションされていた。「トランプ」という言葉がトレンドになっていることはよくあることだが、その場合、彼らはニュース判断力を駆使して、候補者に関するどのニュースが最も重要かを判断した。もしジ・オニオンやデマサイトが偽情報を公開し、それが拡散したら、それを排除しなければならなかった。もし銃乱射事件のような事件が発生し、フェイスブックのアルゴリズムがそれを検知するのが遅かったら、それに関する記事をフィードに挿入した。

Facebookは社員が働きがいを感じられる場所であることを誇りにしている。しかし、フィアノウと彼のチームは、決して幸福な集団ではなかった。彼らはBCforwardという会社を通して雇われた契約社員で、毎日、自分たちがFacebookの一員ではないことを思い知らされる日々を送っていた。しかも、若いジャーナリストたちは最初から自分たちの仕事がうまくいかないことを分かっていた。テクノロジー企業は大抵、人間による作業をできるだけ少なくしたいと考えている。よく言われるように、人間はスケールしないからだ。10億人もの人間を雇うことは不可能だし、アルゴリズムとは違って人間は干渉してくる。トイレ休憩や健康保険も必要だし、一番面倒な人間は報道陣に話しかけることもある。いずれFacebookのアルゴリズムはプロジェクト全体を運営できるほど優秀になり、そのアルゴリズムの訓練も一部担っていたフィアノウのチームのメンバーは不要になるだろうと誰もが考えていた。

フィアノウが2枚目のスクリーンショットを撮った翌日は金曜日だった。朝寝坊して目を覚ますと、携帯電話にFacebookからの会議通知が30件ほど届いていた。休みだと返信したところ、10分後に連絡が取れるように言われたとフィアノウは回想する。間もなく、彼はFacebookの調査責任者であるソニア・アフージャを含む3人の社員とのビデオ会議に参加した。フィアノウの回想によると、彼女はヌニェスと連絡を取ったかと尋ねた。彼は否定した。すると彼女は、彼らのメッセージをGチャットに保存していると告げた。フィアノウはFacebookにはアクセスできないと思っていた。彼は解雇された。「ノートパソコンを閉じて、二度と開かないでください」と彼女は彼に指示した。

同じ日、アフージャはトレンディング・トピックスのもう一人の従業員、ライアン・ビジャレアルとも会話を交わした。数年前、彼とフィアノウはヌニェスとアパートをシェアしていた。ビジャレアルはスクリーンショットを撮っておらず、もちろんリークもしていないと主張した。しかし、彼はブラック・ライヴズ・マターの記事に「いいね！」を押しており、Facebookではヌニェスと友達だった。ビジャレアルによると、アフージャは「リークは悪いことだと思いますか？」と問い詰めたという。彼も解雇された。最後に会社から連絡があったのは、BCフォワードからの手紙だった。会社は経費として彼に15ドルを支払っていたが、返還を求めていた。

フィアノウとビジャレアルの解雇はトレンドトピックスチームを不安にさせ、ヌニェスは情報収集を続けた。彼はすぐに、フェイスブック社員がトランプ氏をかわすことに関心があることを示す社内調査の記事を公開した。そして5月初旬、さらに3人目の元トレンドトピックス社員との会話に基づいた記事を公開した。その記事には「元フェイスブック社員：私たちは保守系ニュースを日常的に抑制していた」という派手な見出しが付けられていた。この記事は、フェイスブックのトレンドチームがFox Newsの熱狂的なファンの夢のように機能し、偏向したキュレーターたちがリベラルなニュースを「注入」し、保守系ニュースを「ブラックリスト」に載せていると示唆した。数時間以内に、この記事はドラッジ・レポートやブライトバート・ニュースなど、アクセス数の多いテクノロジー系・政治系ウェブサイト6つに掲載された。

この投稿は瞬く間に拡散したが、その後のトレンドトピックをめぐる争いは、単にニュースサイクルを席巻しただけにとどまらず、今になってようやくその真相が明らかになったように、Facebook史上最も激動の2年間の幕開けとなった。一連の出来事が引き起こされ、Facebookは混乱に陥り、より大きな災難に見舞われ始めたのだ。

これは、社内外で繰り広げられたあの2年間の物語だ。WIREDはこの記事のために、Facebookの現・元社員51人に話を聞いた。その多くは、フィアノウとビジャレアルの件を知る人ならきっと理解できる理由で、名前の公表を望まなかった。（ある現社員は、WIREDの記者に携帯電話の電源を切るよう頼んだ。Facebookの社員の携帯電話の近くにいたかどうかを追跡するのが難しくなるからだ。）

話は様々だったが、ほとんどの人が同じ基本的な物語を語った。それは、ある企業とCEOの話だ。彼らのテクノロジーに対する楽観主義は、自社のプラットフォームが様々な悪用方法に利用される可能性があることを知り、打ち砕かれた。Facebook社に衝撃を与えた選挙、そしてその余波でFacebook社は窮地に陥った。一連の外部からの脅威、社内での防衛的な計算、そして失敗の連続によって、Facebook社が世界情勢とユーザーの心に与える影響を認識できなかったこと。そして――物語の最終章――同社が真剣に挽回しようと試みたことの話だ。

この物語において、フィアノウは歴史が時折与える、目立たないながらも重要な役割の一つを担っている。彼はFacebookのフランツ・フェルディナンド――あるいは、大公の不運な若き暗殺者といったところか。いずれにせよ、2016年初頭からFacebookを覆っている一連の災厄の中で、フィアノウのリークは、世界中に広まったスクリーンショットのように記憶に残るべきだろう。

II

今やFacebookの圧倒的な成長は、情報化時代の創造神話とさえ言えるほどです。ハーバード大学の友人とつながる手段として始まったFacebookは、他の名門校の人々とつながる手段となり、やがてあらゆる大学、そしてあらゆる場所へと広がりました。その後、Facebookのログイン情報は他のインターネットサイトへのログイン手段となりました。Messengerアプリは、メールやテキストメッセージと競合するようになりました。地震発生後、Facebookは安否を知らせる場所となりました。フィリピンのような国では、Facebookは事実上インターネットそのものです。

このビッグバンの猛烈なエネルギーは、主に、ある素晴らしくシンプルな洞察から生まれた。人間は社会的な動物だ。しかし、インターネットは情報泥沼だ。そのため、人々は身元を明らかにしたり、個人情報をオンラインに公開したりすることをためらう。この問題を解決し、人々が安心して投稿できるようにすれば、彼らは執拗に情報を共有するだろう。こうして得られた、プライベートに共有された情報と個人的なつながりのデータベースを広告主に提供すれば、そのプラットフォームは21世紀初頭の最も重要なメディア技術の一つとなるだろう。

しかし、この最初の洞察力は強力だったが、Facebookの拡大は純粋な力によっても推進されてきた。ザッカーバーグは、会社の明白な運命を執拗に、そして冷酷にも管理してきた。彼は、的確な判断を下す類まれな才能を持っていた。創業当初、「早く行動し、物事を壊せ」という言葉は、開発者への単なるアドバイスではなかった。それは、数え切れないほどの繊細なトレードオフ（その多くはユーザーのプライバシーに関わるものだった）を、プラットフォームの成長に最も有利な形で解決してきた哲学だった。そして競合他社に関しては、ザッカーバーグは追い風を受けているように見える挑戦者を買収するか、沈めるかに容赦なく突き進んできた。

実際、Facebookがニュースの発見と消費の方法を支配したのは、まさにそのようなライバルを打ち負かしたからでした。2012年当時、オンラインでニュースを配信する上で最もエキサイティングなソーシャルネットワークはFacebookではなく、Twitterでした。Twitterの140文字の投稿はニュースの拡散速度を加速させ、ニュース業界における影響力をFacebookよりもはるかに急速に拡大させました。「Twitterはとてつもなく大きな脅威でした」と、当時の意思決定に深く関わっていたFacebookの元幹部は言います。

そこでザッカーバーグは、買収できない競合相手に対してこれまで何度も用いてきた戦略を推し進めた。つまり、模倣し、そして打ち負かす戦略だ。Facebookのニュースフィードを全面的にニュースを取り入れるように調整し（ニュースフィードという名称にもかかわらず、フィードは当初個人ニュースに偏っていた）、著者の署名と見出しが表示されるように製品を調整した。その後、Facebookの特派員がジャーナリストと面談し、プラットフォームを通じて読者に最も効果的にアプローチする方法を説明した。2013年末までに、Facebookはニュースサイトへのトラフィックシェアを倍増させ、Twitterを衰退に追い込み始めた。2015年半ばまでに、Facebookは読者をパブリッシャーサイトに誘導するリーダーとしてGoogleを抜き去り、今ではTwitterの13倍の読者をニュースパブリッシャーに誘導している。同年、Facebookはインスタント記事を開始し、パブリッシャーがプラットフォーム上で直接記事を掲載する機会を提供した。パブリッシャーが同意すれば、記事の読み込み速度が速くなり、見た目も鮮明になるが、パブリッシャーはコンテンツに対するコントロールの一部を放棄することになった。長年苦境に立たされていた出版業界は、この提案に概ね同意した。 Facebookは事実上、ニュースを掌握した。「Facebook内でTwitterを再現できるなら、なぜTwitterに行く必要があるのか​​？」と元幹部は言う。「彼らが今Snapchatでやっていることは、当時Twitterでやったことと同じだ。」

Facebookがオープンで中立的なプラットフォームであるという考えは、社内ではまるで宗教的な教義のようだ。新入社員が入社すると、最高製品責任者のクリス・コックスによるオリエンテーションの講義を受ける。コックス氏は、Facebookは20世紀の電話のように、21世紀のまったく新しいコミュニケーションプラットフォームであると説明する。しかし、Facebook社内に宗教的な理由で納得できない人がいるなら、1996年の通信品位法第230条もその考えを推奨する根拠となる。これは、ユーザーが投稿したコンテンツに対するインターネット仲介業者の責任を免除する米国法の条項だ。Facebookがプラットフォーム上でコンテンツを作成または編集し始めれば、その免責特権を失うリスクがある。そして、ユーザーがサイトに投稿する1日あたり数十億ものコンテンツに対してFacebookが責任を負わなければならないとしたら、どうやってFacebookが存在していられるのか想像するのは難しい。

そして、企業としての自己イメージと規制への恐れから、Facebook はある種類のニュースコンテンツを他のコンテンツより優遇しないように努めた。しかし、中立性はそれ自体が選択である。たとえば、Facebook はニュースフィードに表示されるすべてのコンテンツ ― 愛犬の写真であれニュース記事であれ ― をほぼ同じように提示することに決めた。これはつまり、ワシントン・ポストの調査記事であれ、ニューヨーク・ポストのゴシップであれ、あるいは完全に偽の新聞であるデンバー・ガーディアン紙の完全な嘘であれ、すべてのニュース記事がほぼ同じに見えることを意味した。Facebook は、これによって情報が民主化されたと主張した。ユーザーは、タイムズスクエアのタワーにいる何人かの編集者が選んだものではなく、友人が見たいものを見るようになった。しかし、これが編集上の決定ではなかったと主張するのは難しい。これは史上最大の決定の 1 つかもしれない。

いずれにせよ、Facebookのニュース分野への進出は、人々がつながる手段の爆発的な増加を引き起こした。今やFacebookは、出版物が読者とつながる場所となり、マケドニアのティーンエイジャーがアメリカの有権者とつながる場所となり、サンクトペテルブルクの工作員が、社内の誰も見たことのない方法で、自ら選んだオーディエンスとつながることができる場所となった。

3

2016年2月、トレンドトピックの騒動が勢いを増していたまさにその頃、ロジャー・マクナミーはFacebook内部関係者の中で、プラットフォーム上で起きている異変にいち早く気付いた一人となった。マクナミーはFacebookの初期投資家で、ザッカーバーグが2つの重要な決断を下す際に指導役を務めた人物だ。1つは2006年、ヤフーによる10億ドルでのFacebook買収提案を断ったこと、もう1つは2008年にビジネスモデルの検討支援のため、Google幹部のシェリル・サンドバーグを雇ったことだ。マクナミーはザッカーバーグとはあまり連絡を取っていなかったが、依然として投資家であり、その月、バーニー・サンダース陣営に関連した懸念すべき出来事を目にし始めた。「サンダース陣営と関係のあるFacebookグループから発信されているように見えるミームを観察していたんです。サンダース陣営のものでは決してないミームです」と彼は回想する。「しかし、それらはまるで誰かが予算を持っているかのような方法で組織化され、拡散されていました。私はただ座って、『これは本当に奇妙だ。というか、良くないことだ』と考えていました」 ”

しかし、マクナミー氏はFacebook社内の誰にも何も話さなかった――少なくとも今のところは。そして、Facebook自身も、そのような懸念材料を検知していなかった。ただ一つ、レーダーに映った小さな兆候があった。2016年初頭、Facebookのセキュリティチームは、ロシア人によるジャーナリストや著名人の認証情報の窃盗が増加していることに気づいたのだ。FacebookはこれをFBIに報告した。しかし、Facebookは政府からの返答は受けておらず、それで終わりだと述べている。

その代わりに、Facebookは2016年の春、全く異なる方法で選挙に影響を与えているのではないかという非難をかわすのに非常に忙しかった。5月にGizmodoがTrending Topicsチームの政治的偏向についての記事を掲載したとき、その記事はメンロパークで爆弾のように爆発した。それはすぐに何百万人もの読者に届き、皮肉なことにTrending Topicsモジュール自体に表示されることになった。しかし、本当にFacebookを動揺させたのは悪評ではなく、記事掲載後にサウスダコタ州選出の共和党上院議員ジョン・トゥーンから送られた手紙だった。トゥーンは上院商務委員会の委員長を務めており、同委員会はFacebookの調査に特に積極的な機関である連邦取引委員会を監督している。トゥーン上院議員は、偏向の疑惑に対するFacebookの回答を、それも速やかな回答を求めていた。

トゥーン氏の書簡を受け、Facebookは警戒を強めた。同社は直ちにワシントンの上級スタッフをトゥーン氏のチームに派遣し、面会を要請した。その後、トゥーン氏に12ページにわたるシングルスペースの書簡を送り、トレンドトピックを徹底的に調査した結果、ギズモードの記事で主張されている内容は大部分が虚偽であると判断したと説明した。

Facebookもまた、同社の不誠実さを激しく非難するアメリカの右派全体に和解の手を差し伸べる必要があると判断した。そして記事掲載からわずか1週間余り後、Facebookは急遽、著名な共和党員17名をメンロパークに招待した。招待者には、テレビ司会者、ラジオパーソナリティ、シンクタンク関係者、そしてトランプ陣営の顧問が含まれていた。目的はフィードバックを得ることもあったが、それ以上に、Facebookは自らの罪を謝罪し、シャツの背中をまくり上げて鞭打ちを求めるという姿勢を見せたかったのだ。

会議の企画に関わったFacebook社員によると、目的の一つは、互いに確実に対立する保守派のグループを集めることだったという。プラットフォームを規制したくないリバタリアンと、規制したいパルチザンをしっかり確保した。また、ザッカーバーグとサンドバーグがグループに講演した後、参加者を技術的なプレゼンテーションで「死ぬほど退屈させる」ことも目的だったという。

停電になり、部屋は不快なほど暑くなった。しかし、それ以外は会議は計画通りに進んだ。確かに出席者たちは意見が食い違った。威圧的にも、あるいは首尾一貫した形でも、まとまることができなかった。保守的な従業員に採用枠を設けるべきだと考える者もいれば、そんな考えはおかしいと考える者もいた。部外者がFacebookと会うとよくあることだが、人々は自分のページのフォロワーを増やす方法を模索することに時間を費やした。

その後、招待客の一人であるグレン・ベックは、この会合についてエッセイを書き、ザッカーバーグ氏を称賛した。「私は彼に、Facebookは現在、あるいは将来、あらゆるアイデアを共有するオープンなプラットフォームになるのか、それともコンテンツのキュレーターになるのかと尋ねました」とベック氏は記している。「マークはためらうことなく、明快かつ大胆に、Facebookは一つしかなく、進むべき道も一つしかないと答えました。『私たちはオープンなプラットフォームです』」

Facebook社内では、トレンドトピックをめぐる反発が真摯な自己省察を促した。しかし、その進展は限定的だった。この頃、コードネーム「ハドソン」と呼ばれる静かな社内プロジェクトが浮上した。関係者によると、ニュースフィードが直面する最も複雑な問題のいくつかに、より適切に対処するために修正すべきかどうかを検討することになっていたという。人々を怒らせる投稿を優先しているのか？単純、あるいは誤った考えを、複雑で真実のアイデアよりも優先しているのか？これらは難しい問題であり、Facebookはまだ答えを持っていなかった。最終的に、6月下旬にFacebookは控えめな変更を発表した。アルゴリズムを改訂し、友人や家族からの投稿を優先するというのだ。同時に、Facebookのニュースフィード責任者であるアダム・モッセリは、「より良いニュースフィードをあなたのために」と題した宣言文を投稿した。Facebook社内では、この宣言文はマグナ・カルタ（大憲章）によく似ていると言われていた。Facebookはこれまで、ニュースフィードの真の仕組みについて語ってこなかったからだ。しかし、外部の人間にとっては、この宣言文は決まり文句に過ぎなかった。そこには、大体予想通りの内容が書かれていた。つまり、同社はクリックベイトには反対だが、特定の観点を優遇するビジネスは行っていないということだ。

10人近くの元従業員と現従業員によると、トレンドトピック論争の最も重要な結果は、Facebookが保守系ニュースを抑圧するような行動に警戒するようになったことだ。一度痛い目に遭った経験があり、二度と同じことはしたくなかったのだ。こうして、Facebookは争いに巻き込まれまいと必死になりながら、党派間の激しい憎悪と中傷の夏が始まった。

IV

モッセーリがニュースフィードの価値に関するガイドを発表した直後、ザッカーバーグは億万長者のハーブ・アレンが主催する年次会議に出席するためにアイダホ州サンバレーを訪れた。そこでは半袖にサングラス姿の大物たちが戯れ、互いの企業を買収する計画を立てていた。しかし、ルパート・マードックが彼の別荘で行われた会議でその雰囲気を壊した。会話に関する多くの報告によると、マードックとニューズ・コープのCEOロバート・トムソンはザッカーバーグに、フェイスブックとグーグルに長らく不満を抱いていたことを説明した。この2つのテクノロジー巨人はデジタル広告市場のほぼすべてを掌握し、真摯なジャーナリズムの存在に対する脅威となっていた。会話を知る人物によると、ニューズ・コープの2人のリーダーはフェイスブックがメディアパートナーに十分な相談をせずにコアアルゴリズムを劇的に変更し、ザッカーバーグの気まぐれで大混乱を引き起こしていると非難した。トムソンとマードックは、Facebookが出版業界により良い条件を提示し始めなければ、ザッカーバーグはニューズ・コーポレーションの幹部たちがより公然と非難を強め、ロビー活動もより積極的になるだろうと、厳しい言葉で伝えた。彼らは欧州でGoogleの経営を非常に困難にしてきた。そして、米国でもFacebookに同じことをする可能性がある。

Facebookは、ニューズ・コープが政府による独占禁止法調査、あるいは中立的なプラットフォームとして同社が免責を受けるに値するかどうかの調査を迫ろうとしていると考えた。Facebook社内では、幹部らはマードック氏が自身の新聞やテレビ局を利用してFacebookへの批判を拡散するのではないかと懸念していた。ニューズ・コープは、そのような事実は全くないと反論した。同社は幹部を派遣すると脅したが、ジャーナリストは派遣しないと脅したのだ。

元フェイスブック幹部によると、ザッカーバーグ氏がこの会合を特に真剣に受け止めたのには理由があった。マードック氏の闇の魔術の手腕を直接知っていたからだ。2007年、フェイスブックは若いフェイスブックユーザーを性的捕食者や不適切なコンテンツから守れなかったとして49州の司法長官から批判を受けていた。懸念を抱いた親たちは、捜査を開始したコネチカット州司法長官リチャード・ブルーメンソール氏と、記事を掲載したニューヨーク・タイムズ紙に手紙を送った。しかし、事情を知る立場にある元フェイスブック幹部によると、同社は手紙で言及されたフェイスブックアカウントやその搾取的行為の多くを偽物であり、フェイスブック最大のライバルであるマイスペースを所有するマードック氏の元で働くニューズ・コーポレーションの弁護士か他の人々にたどり着けると考えていたという。「われわれは、フェイスブックアカウントの作成を、サンタモニカのマイスペースオフィスから1ブロック離れたアップルストアのIPアドレスまで追跡した」とこの幹部は語る。 「その後、Facebookはこれらのアカウントとのやり取りをNews Corpの弁護士にまで遡って追跡しました。Facebookに関しては、マードック氏は長年にわたりあらゆる角度から攻勢をかけてきました。」（News Corpとその子会社である21世紀フォックスはいずれもコメントを控えた。）

サンバレーから戻ったザッカーバーグは、従業員たちに変化が必要だと告げた。彼らはまだニュース業界にはいなかったが、ニュース業界としての地位を確立する必要があった。そして、コミュニケーションを改善する必要もあった。新たなToDoリストを与えられた従業員の一人が、アンドリュー・アンカーだった。彼はジャーナリストとしてのキャリア（90年代にはWIREDで長く勤務）を経て、2015年にFacebookに入社したプロダクトマネージャーだ。彼の仕事の一つは、出版社がFacebookプラットフォームで収益を上げる方法を会社全体で検討することだった。サンバレーから間もなく、アンカーはザッカーバーグと面会し、ニュース業界との提携に取り組む60人の新規採用を要請した。面談が終わる前に、その要請は承認された。

しかし、より多くの人々が出版社と話し合うことで、マードックが解決を望んでいた財務問題の解決がいかに困難であるかが痛感されるだけだった。報道機関はFacebookが恩恵を受ける記事の制作に何百万ドルも費やしており、Facebookはそれに対する見返りがあまりにも少ないと彼らは感じていた。特にインスタント記事は、彼らにとってトロイの木馬のように思えた。出版社は、Facebookインスタントよりも自社のモバイルウェブページに読み込まれる記事の方が収益性が高いと不満を漏らしていた（結局のところ、彼らはしばしば読者が見る可能性の低い広告をこっそりと挿入することで広告主をだますような方法でそうしていた。Facebookは彼らがそれを許さなかった）。一見相容れないもう一つの違いがあった。マードックのウォール・ストリート・ジャーナルのようなメディアは収益を上げるためにペイウォールに依存していたが、インスタント記事はペイウォールを禁止した。ザッカーバーグはそれを認めていなかった。結局のところ、彼はよくこう自問していたのだ。「壁や料金所が、いったいどうやって世界をよりオープンでつながりのあるものにするのか？」

話し合いはしばしば行き詰まりに終わったが、Facebookは少なくともより注意深くなっていった。しかし、ジャーナリストの懸念に対するこの新たな理解は、Facebook自身のトレンドトピックチームのジャーナリストには及ばなかった。8月下旬、チーム全員の職が削減されることが告げられた。同時に、アルゴリズムの権限はシアトルを拠点とするエンジニアチームに移った。このモジュールは瞬く間に嘘や虚構を暴き始めた。数日後の見出しは「Foxニュース、裏切り者のメーガン・ケリーを暴露、ヒラリー支持を理由に追放」だった。

V

Facebookが社内で、メディアを支配する企業でありながらメディア企業にはなりたくないという、自社がどうなっていくのかと葛藤していた一方で、ドナルド・トランプの大統領選陣営スタッフはそのような混乱に陥ることはなかった。彼らにとってFacebookの活用は明白だった。Twitterは支持者と直接コミュニケーションを取り、メディアに訴えかけるツールだった。Facebookは、史上最も効果的なダイレクトマーケティング政治キャンペーンを展開する手段だったのだ。

2016年夏、総選挙戦の真っ最中だったトランプ氏のデジタル戦略は、明らかに不利に見えたかもしれない。ヒラリー・クリントン氏のチームは優秀な人材を豊富に揃え、Googleの運営で知られるエリック・シュミット氏から助言を受けていたからだ。一方、トランプ氏のチームは、エリック・トランプ財団のウェブページ開設で知られるブラッド・パースケール氏が率いていた。トランプ氏のソーシャルメディア・ディレクターは、かつてのキャディーだった。しかし、2016年になって、大統領選のキャンペーン運営にはデジタル経験は必要なく、Facebookを使いこなす能力さえあれば十分だということが判明した。

夏の間、トランプ陣営はFacebookを資金調達の主要手段の一つへと変貌させた。陣営は有権者ファイル（氏名、住所、投票履歴、その他あらゆる潜在的有権者の情報）をFacebookにアップロードした。そしてFacebookは「類似オーディエンス」と呼ばれるツールを使い、例えばトランプのニュースレターに登録した人やトランプの帽子を購入した人の大まかな特徴を特定した。これにより、陣営は似たような特徴を持つ人々に広告を配信できるようになった。トランプは「今回の選挙は、偽りの、根拠のない告発や真っ赤な嘘を流布するメディアによって不正操作されている。不正なヒラリーを当選させようとするためだ！」といったシンプルなメッセージを投稿し、数十万件もの「いいね！」、コメント、シェアを獲得した。資金は流れ込んだ。一方、クリントンの奇抜なメッセージはFacebook上であまり反響を呼ばなかった。Facebook社内では、幹部チームのほぼ全員がクリントンの勝利を望んでいたが、トランプがFacebookをより有効に活用していることを知っていた。トランプがFacebookの候補者なら、クリントンはLinkedInの候補者だったのだ。

トランプ氏の立候補は、大規模なバイラル配信と完全な偽りのストーリーを量産する新しいタイプの詐欺師たちにとって、絶好のツールであることも判明した。彼らは試行錯誤の結果、アプレンティスの元司会者を称賛するミームの方が、元国務長官を称賛するミームよりもはるかに多くの読者を獲得することを学んだ。BuzzFeedの分析によると、「Ending the Fed」というウェブサイトはローマ教皇がトランプ氏を支持したと主張し、Facebook上で100万件近くのコメント、シェア、反応を獲得した。他のストーリーでは、元ファーストレディが密かにISISに武器を販売していたことや、クリントン氏のメールを漏洩した疑いのあるFBI捜査官が遺体で発見されたことが主張されていた。投稿の一部は、極端に党派的なアメリカ人によるものであった。一部は、純粋に広告費を狙った海外のコンテンツ工場によるものであった。選挙戦の終わりまでに、Facebook上で上位の偽ストーリーは、上位の本当のストーリーよりも多くのエンゲージメントを生み出していた。

現役のFacebookユーザーでさえ、プラットフォームを悪用している明らかな兆候を見逃していたことを認めています。振り返ってみると、メンロパークのフェイクニュースに対する近視眼的な見方には、いくつもの説明がつきものです。経営陣はトレンドトピックの失態で警戒心を強めており、党派的な偽情報への対策を講じること、あるいはそれを特定することさえ、政治的偏向行為と見なされる可能性がありました。Facebookはこれらのニュースに反対する広告も販売しており、センセーショナルなゴミ記事は人々をプラットフォームに引き込むのに効果的でした。従業員のボーナスは、Facebookが一定の成長目標と収益目標を達成したかどうかに大きく左右されるため、従業員はエンゲージメントを高めるための要素について、あまり心配しすぎないようにするインセンティブが生まれます。さらに、1996年通信品位法第230条という常につきまとう問題もありました。Facebookがフェイクニュースへの責任を負い始めると、さらに多くの責任を負わなければならない可能性があります。Facebookには、現実を見据えない理由はいくらでもありました。

しかし、ロジャー・マクナミーは、ナンセンスが広がるのを注意深く見守っていた。最初はバーニー・サンダースを推す偽情報、次にブレグジットを支持する情報、そしてトランプを支持する情報が現れた。夏の終わりまでに、彼はFacebookの問題について論説記事を書こうと決意した。しかし、結局掲載はしなかった。「あの人たちは私の友人だ。彼らを本当に助けたい、というのが狙いだった」。そして2016年の大統領選挙の9日前のある日曜日の夜、マクナミーはサンドバーグとザッカーバーグに1000語の手紙を送った。「Facebookのことで本当に悲しい」と書き出しは始まる。「10年以上前にこの会社に関わり、会社の成功に大きな誇りと喜びを感じてきた…ここ数ヶ月までは。今は失望している。恥ずかしい。恥じている」

6

人々を結びつけるために作った仕組みが、人々を引き裂くために使われていることを認識するのは容易なことではない。トランプ氏の勝利と、それにおけるフェイスブックの役割の可能性に対するマーク・ザッカーバーグ氏の最初の反応は、不機嫌な拒絶反応だった。幹部たちは最初の数日間、何が起きたのか、自分たちが責められるのかどうか考えようと、首脳陣がザッカーバーグ氏の会議室（「水族館」と呼ばれていた）とサンドバーグ氏の会議室（「良いニュースだけ」と呼ばれていた）をあちこち行ったり来たりしていたパニックを覚えている。その後、選挙から2日後の会議で、ザッカーバーグ氏は、フィルターバブルはフェイスブック上よりもオフラインの方が悪く、ソーシャルメディアは人々の投票行動にほとんど影響を与えないと主張した。「フェイスブック上のフェイクニュースが、ご存知のとおりコンテンツのごく一部に過ぎないが、選挙に何らかの影響を与えたという考えは、か​​なり突飛な考えだと思う」と同氏は語った。

ザッカーバーグ氏はこの記事のインタビューを断ったが、彼をよく知る人々によると、彼はデータに基づいて意見を形成するのが好きだそうだ。そして今回の場合も、その傾向は変わらなかった。インタビュー前に彼のスタッフは、プラットフォーム上の選挙関連コンテンツ全体のうち、フェイクニュースがごくわずかな割合を占めるという大まかな計算をしていた。しかし、この分析はFacebook全体に表示される明らかにフェイクな記事の割合を集計しただけのもので、フェイクニュースの影響や、フェイクニュースが特定のグループに及ぼした影響を測ったものではない。数字ではあったが、特に意味のある数字ではなかった。

ザッカーバーグの発言は、Facebook社内でも不評だった。彼らは無知で自己中心的だと思われた。「彼の発言はとてつもなく有害でした」と、ある元幹部はWIREDに語った。「私たちは彼を徹底的に叱責する必要がありました。そうしなければ、会社もUberが陥っていたような、社会ののけ者扱いされる道を歩み始めるだろうと悟ったのです」

「かなりクレイジーな」発言から1週間後、ザッカーバーグはペルーに飛び、世界の指導者たちに対し、インターネット、そしてFacebookにもっと多くの人々を繋げることで世界の貧困を削減できる方法について講演した。リマに到着するとすぐに、彼は一種の謝罪文を投稿した。Facebookは誤情報を深刻に受け止めていると説明し、対策のための漠然とした7項目の計画を提示した。ニュースクール大学のデイビッド・キャロル教授はザッカーバーグの投稿を見てスクリーンショットを撮った。キャロル教授のフィードには、その横に偽CNNの見出しが、苦悩するドナルド・トランプの画像と「失格！彼は去った！」というテキストとともに表示されていた。

ペルーでの会議で、ザッカーバーグ氏は政治に通じた人物、バラク・オバマ氏と会談した。メディア報道では、この会談はレームダック大統領がザッカーバーグ氏を呼び出し、フェイクニュースについて「警鐘」を鳴らしたと報じられた。しかし、リマで同席していた人物によると、会談を呼びかけたのはザッカーバーグ氏であり、彼の目的はオバマ氏に、Facebookがフェイクニュース問題に真剣に取り組んでいることを納得させることだけだったという。彼はフェイクニュースを阻止したいという強い思いはあったものの、解決は容易ではないと語った。

一方、Facebookでは歯車が回り始めた。社内の人間たちは初めて、自分たちの権力が強すぎるのではないかと真剣に疑問を抱き始めた。ある従業員はWIREDに対し、ザッカーバーグを見ていると、『二十日鼠と人間』のレニーを思い出したと語った。レニーは自分の力量を理解できない農場労働者だった。

選挙後まもなく、従業員チームが「ニュースフィード・インテグリティ・タスクフォース」と呼ばれる活動を開始した。メンバーの一人がWIREDに語ったところによると、これは極端な党派的な誤情報が「プラットフォーム全体に蔓延する病」であるという認識から生まれたものだったという。モッセーリとアンカーを含むこのグループは毎日会合を開き、ホワイトボードを使ってフェイクニュース危機への対応策を練り始めた。数週間後、同社は広告ファームへの広告収入を停止し、ユーザーが虚偽と思われる記事をより簡単に報告できるようにすると発表した。

12月、Facebookは初めてプラットフォームにファクトチェックを導入すると発表した。Facebookは自らファクトチェックを行うのではなく、専門家に委託する。記事が虚偽であるという十分なシグナルをFacebookが受け取った場合、その記事は自動的にSnopesなどのパートナーに送信され、レビューされる。そして1月初旬、FacebookはCNNの元アンカー、キャンベル・ブラウンを採用したことを発表した。彼女はたちまち、同社が採用したジャーナリストの中で最も著名な人物となった。

まもなくブラウンは、Facebookジャーナリズムプロジェクトと呼ばれるプロジェクトの責任者に任命された。「基本的には、休暇中に立ち上げたんです」と、プロジェクトの議論に関わった人物の1人は語る。その目的は、Facebookがジャーナリズムの未来における自らの役割について真剣に考えていることを示すことだった。つまり、マードックの厳しい批判を受けて同社が開始した取り組みを、より公に、組織的に進めたものだった。しかし、純粋な不安も動機の一部だった。「選挙後、トランプが勝ったことで、メディアはフェイクニュースに多大な注目を向け、私たちを攻撃し始めました。人々はパニックになり、規制が施行されるのではないかと恐れ始めました。そこでチームは、Googleが長年News Labで行ってきたことを参考にしました」—Alphabet社内でジャーナリスト向けツールを開発するグループ—「そして、私たちがニュースの未来をどれほど真剣に考えているかを示す、独自のパッケージプログラムをどのようにまとめられるかを考え出すことにしました。」

しかし、Facebookは、フィルターバブルの問題や、Facebookが怒りを増幅させるツールとして機能しがちなことに関して、謝罪や行動計画を発表することに消極的だった。経営陣のメンバーは、これらは解決できない問題であり、解決すべきではないとさえ考えていた。選挙中に怒りを増幅させたことについて、Facebookは本当にFox NewsやMSNBCよりも責任が大きかったのだろうか？ もちろん、人々の政治的見解に反するニュースをフィードに流すことはできただろう。しかし、人々はそれを避けるだろう。テレビがショーン・ハニティからジョイ・リードに静かに切り替わったときに、彼らがチャンネルを戻すのと同じくらい確実に。アンカー氏が言うように、問題は「Facebookではない。人間だ」

7章

ザッカーバーグ氏のフェイクニュースに関する「かなり突飛な」発言は多くの人々の耳に留まったが、中でも最も影響力のあったのは、セキュリティ研究者のレニー・ディレスタ氏だった。彼女は長年、Facebook上で偽情報がどのように拡散するかを研究してきた。Facebookで反ワクチン派グループに参加すると、地球平面説やピザゲートを唱えるグループへの参加を勧められることがあると彼女は指摘し、陰謀論のコンベアベルトに乗せられると指摘した。ザッカーバーグ氏の発言は、彼女には全く現実離れしていると感じられた。「どうしてこのプラットフォームがこんなことを言えるの？」と彼女は思ったのを覚えている。

一方、ロジャー・マクナミー氏は、自身の書簡に対するFacebookの対応に憤慨していた。ザッカーバーグ氏とサンドバーグ氏はすぐに返信したものの、具体的なことは何も述べられなかった。結局、マクナミー氏はFacebookのパートナーシップ担当副社長であるダン・ローズ氏と、数ヶ月に及ぶ、結局は無駄に終わったメールのやり取りを繰り返すことになった。マクナミー氏によると、ローズ氏のメッセージは丁寧でありながらも非常に毅然としたものだったという。Facebookはマクナミー氏の目には見えない多くの良い取り組みを行っており、いずれにせよFacebookはプラットフォームであり、メディア企業ではない、というのだ。

「私はそこに座って、『みんな、マジで、そんな風にはいかないと思う』って言ってたよ」とマクナミーは言う。「自分たちはプラットフォームだといくら主張しても、ユーザーが違った視点を持っていたら、何を主張しても無駄なんだ。」

諺にあるように、愛が憎しみに変わるほどの激怒は天国にはない。マクナミーの懸念はすぐに原因となり、同盟の始まりとなった。2017年4月、彼は、ブルームバーグTVに一緒に出演した際に、元Googleのデザイン倫理学者トリスタン・ハリスとつながった。ハリスは、当時までにシリコンバレーの良心として全米的な評判を得ていた。彼は60 Minutesやアトランティック誌に取り上げられ、ソーシャルメディア企業が自社サービスへの依存を促すために使う微妙な策略について雄弁に語った。「彼らは人間の最悪の側面を増幅させることができる」と、ハリスは昨年12月にWIREDに語った。TV出演後、マクナミーはハリスに電話をかけ、「おい、ウイングマンは必要か？」と尋ねたという。

翌月、ディレスタはソーシャルメディア上で偽情報を流布する者と、金融市場における高頻度取引業者（HFT）の動向操作を比較する記事を発表した。「ソーシャルネットワークは、情報の高速な流れとバイラル性を重視して設計されているため、悪意のある行為者がプラットフォーム規模で活動できる」と彼女は述べている。ボットやソックパペットは、初期の、今では違法となった取引アルゴリズムが株式の需要を偽装したのとほぼ同じ方法で、安価に「草の根活動の大規模なうねりという幻想を作り出す」ことができる。ハリスはこの記事を読んで感銘を受け、彼女にメールを送った。

3人はすぐに、Facebookがアメリカの民主主義に及ぼす有害な影響について、耳を傾けてくれる人なら誰にでも話しかけるようになった。そして間もなく、メディアや議会といった、ソーシャルメディア界の巨人に対する不満を募らせるグループの中に、彼らの話に耳を傾けてくれる人々が見つかった。

8章

Facebookとメディア幹部の会合は、たとえ最高の時でさえ、まるで陰鬱な家族の集まりのように感じられることがある。両者は切っても切れない関係にあるが、お互いをそれほど好きではないのだ。ニュース業界の幹部たちは、FacebookとGoogleがデジタル広告事業の約4分の3を掌握し、メディア業界とTwitterなどの他のプラットフォームが分け前をめぐって争う状況に置かれていることに憤慨している。さらに彼らは、Facebookのアルゴリズムの好みが、業界にますます低俗な記事を掲載させていると感じている。長年、ニューヨーク・タイムズはFacebookがBuzzFeedの地位向上に貢献したことを憤慨していたが、今やBuzzFeedはクリックベイトに取って代わられたことに憤慨している。

そして、Facebookが呼び起こす、単純かつ根深い恐怖と不信感。あらゆるパブリッシャーは、せいぜいFacebookの巨大な産業農場の小作農に過ぎないことを理解している。このソーシャルネットワークは、ニューヨーク・タイムズのおよそ200倍の価値がある。そしてジャーナリストは、農場の所有者が影響力を持っていることを知っている。もしFacebookが望めば、トラフィック、広告ネットワーク、読者を操作するなど、パブリッシャーに損害を与えるようなあらゆる操作を密かに行うことができるのだ。

Facebook からの使者たちは、アルゴリズムと API の区別もつかない人たちから説教されるのがうんざりしている。彼らはまた、Facebook がデジタル広告市場で勝ち取ったのは運ではなく、より優れた広告商品を作り上げたからだということも知っている。そして、最も憂鬱なときには、彼らはこう考える。「一体全体、何の意味があるのか​​？」Facebook で全世界で見られるコンテンツのうち、ニュースはたった 5% ほどしか占めていない。Facebook がニュースをすべて手放しても、株主はほとんど気にしないだろう。そして、もう 1 つ、より深刻な問題がある。マーク・ザッカーバーグを知る人々によると、彼は未来について考えることを好む。彼は、ニュース業界の現在の問題にはそれほど関心がなく、5 年後、20 年後の問題に関心があるのだ。一方、大手メディア企業の編集者たちは、次の四半期、ひょっとすると次の電話のことを心配している。彼らがデスクに昼食を持って帰るとき、青いバナナを買ってはいけないことを知っているのだ。

選挙後、ほとんど敵意にまでなったこの相互の警戒心は、新設の Facebook ジャーナリズム プロジェクトを運営する新しい仕事に就いたキャンベル ブラウンにとって、容易なことではなかった。彼女のやることリストの最初の項目は、編集者や出版社とともに、またもや Facebook を聞きに行くことだった。ある編集者は、ごく典型的な会議の様子を次のように説明している。ブラウンと Facebook の最高製品責任者であるクリス コックスは、2017 年 1 月下旬、マンハッタンにあるブラウンのアパートにメディア リーダーたちのグループを集めることにした。物静かで洗練された男性で、「Facebook 製品版のライアン ゴズリング」と呼ばれることもあるコックスは、その後の非難の矢面に立たされた。「基本的に、私たちのうち何人かが Facebook がジャーナリズムを破壊していると彼に詰め寄り、彼はそれを潔く受け入れた」とこの編集者は語る。「彼はあまり彼らを擁護しようとはしなかった。重要なのは、出席して話を聞いているように見せることだったと思う」その他の会議はさらに緊張した雰囲気となり、ジャーナリストからはデジタル独占禁止法問題への関心を指摘するコメントが時折聞かれた。

こうしたことはすべて傷ついたものだったが、ザッカーバーグが2月に5700語に及ぶ企業宣言を発表したことで、ブラウンのチームは自分たちの努力が社内で評価されているという自信を深めた。彼を知る人々によると、彼はそれまでの3カ月間、善よりも害をもたらすものを作ってしまったのではないかと考え続けていた。「我々は皆が望む世界を築いているだろうか」と彼は投稿の冒頭で問いかけ、答えは明らかにノーだと示唆した。「グローバルコミュニティの構築」について大まかな発言をする中で、彼は人々に情報を提供し続けること、そして偽ニュースやクリックベイトを排除することの必要性を強調した。ブラウンやフェイスブックの他の社員たちは、この宣言をザッカーバーグが同社の重大な社会責任を理解していることの証しと捉えた。一方で、この文書を当たり障りのないほど大げさで、ほとんどすべての問題の解決策は人々がフェイスブックをもっと利用することだと示唆するザッカーバーグの傾向を露呈していると捉えた者もいた。

マニフェストを発表して間もなく、ザッカーバーグは綿密に計画された全国各地の聞き取りツアーに出発した。共和党支持が強い州のキャンディーショップやレストランを訪ね、カメラクルーと個人のソーシャルメディアチームを引き連れて歩き始めた。彼はそこで得た知識について真摯な投稿を書き、真の目標は大統領になることなのかという疑問をかわした。Facebookの仲間を増やすための善意の試みのように見えた。しかし、Facebookの最大の問題はオハイオ州よりも遠く離れた場所から生じていることがすぐに明らかになった。

9

ザッカーバーグがマニフェストを書いた当時、多くの点を理解していなかったように思えた点の一つは、彼のプラットフォームが、マケドニアのティーンエイジャーや、その他様々な安っぽいでたらめを広める輩よりもはるかに洗練された敵に力を与えていたということだ。しかし、2017年が進むにつれて、同社は外国による影響力行使作戦による攻撃を受けていることに気づき始めた。「フェイクニュースとロシア関連は明確に区別できると思います」と、両社への対応に携わった幹部は語る。「ロシア関連については、誰もが『なんてことだ、これは国家安全保障上の危機だ』と思った瞬間がありました」

しかし、その衝撃的な瞬間は選挙から6ヶ月以上も経ってから訪れた。選挙戦の早い段階で、Facebookは、モスクワと関係があるとされるAPT28などの既知のロシア人ハッカー集団による、おなじみの攻撃を認識していた。彼らはFacebook以外のアカウントをハッキングし、文書を盗み出し、DCLeaksを名乗る偽のFacebookアカウントを作成して、盗んだ内容について人々に議論させようとしていた。Facebookは、外国による本格的な組織的なプロパガンダ活動の兆候は見受けられなかったものの、それを追及しようともしなかった。

2017年春、Facebookのセキュリティチームは、ロシアなどの外国の情報機関がFacebookのプラットフォームをどのように利用したかについての報告書の作成に着手した。報告書の作成者の一人は、セキュリティチーム責任者のアレックス・スタモス氏だった。スタモス氏は、米情報機関にYahoo!サーバーへのアクセスを許可するかどうかをめぐる対立の後、Yahoo!を退職したと報じられており、テクノロジー業界では有名人だった。この文書を直接知る2人の人物によると、スタモス氏はYahoo!が発見した内容について詳細かつ具体的な分析を発表したがっていたという。しかし、政策・広報チームのメンバーが反対し、報告書の内容を大幅に削減した。セキュリティチームに近い筋によると、Facebookは当時の政治的な渦に巻き込まれることを避けたかったようだ。（政治・広報チーム関係者は、報告書が読みにくかったという理由だけで、内容を編集したと主張している。）

2017年4月27日、上院が当時のFBI長官ジェームズ・コミー氏をロシア疑惑捜査に関する証言に召喚すると発表した翌日、ステイモス氏の報告書が公表された。「情報操作とFacebook」と題された報告書は、外国の敵対勢力がFacebookをどのように利用して人々を操作できるかを、段階的に丁寧に説明していた。しかし、具体的な事例や詳細は少なく、ロシアへの直接的な言及もなかった。淡々とした、慎重な印象だった。レニー・ディレスタ氏が言うように、「報告書が発表された時、『ああ、6ヶ月でこれが精一杯のことか』と思ったのを覚えています」

1ヶ月後、タイム誌の記事が、スタモス氏のチームに分析で何かを見落としている可能性を示唆した。記事には、ロシアの工作員がアメリカ人をプロパガンダで標的にするためにFacebook広告を購入していたという、匿名の情報機関高官の発言が引用されていた。ほぼ同時期に、セキュリティチームは議会調査官から、情報機関が実際にロシアのFacebook広告を調査しているのではないかとの示唆を得ていた。不意を突かれたチームメンバーは、自社のアーカイブ広告データを自ら調査し始めた。

最終的に、一連のデータポイント（広告はルーブルで購入されたか？言語がロシア語に設定されているブラウザ内で購入されたか？）に基づいて取引を分類することで、インターネット・リサーチ・エージェンシー（IRA）と呼ばれる謎のロシア組織が資金提供し、アメリカの政治的世論を操作するために設計されたアカウント群を発見することができた。例えば、「ハート・オブ・テキサス」というページは、テキサス州の分離独立を推進していた。また、「ブラックティビスト」というページは、黒人男性と女性に対する警察の残虐行為に関する記事を拡散し、認証済みのブラック・ライブズ・マター（BLM）ページよりも多くのフォロワーを抱えていた。

多くのセキュリティ研究者は、Facebookがロシアのトロールファームがプラットフォームをどのように悪用しているかに気付くのにこれほど時間がかかったことに憤慨している。そもそも、このグループはFacebookにとってよく知られた存在だったのだ。同社幹部は偽アカウントの発見にこれほど時間がかかったことを恥じていると述べているが、米国の情報機関から支援を受けたことは一度もなかったと指摘している。上院情報委員会のスタッフも同様に、Facebookへの憤りを表明した。「ロシアが悪用するであろう戦術であることは明らかだった」と、このスタッフは述べている。

Facebookがついに自社プラットフォーム上でロシアのプロパガンダを発見した時、その発見は危機、騒動、そして大きな混乱を引き起こした。まず、計算ミスにより、ロシアのグループが広告に数百万ドルを費やしたという噂が社内に広まったが、実際の総額は6桁台前半だった。この誤りが解決されると、どの程度の金額を誰に開示するかをめぐって意見の相違が生じた。Facebookは、広告に関するデータを一般に公開するか、すべてを議会に公開するか、あるいは何も公開しないかの選択肢があった。議論の多くはユーザーのプライバシーに関する問題にかかっていた。セキュリティチームのメンバーは、たとえそれがロシアのトロールファームに属していたとしても、ユーザーの個人データを引き渡すための法的手続きは、後々政府が他のFacebookユーザーのデータを差し押さえる道を開くことになるのではないかと懸念していた。「社内で真剣に議論しました」とある幹部は語る。「『もういいや』と言って心配しないでいいのでしょうか？」しかし最終的に、会社は「レイチェル・マドウがそう望んだからといって」法的措置を無視するのは愚かだと判断した。

最終的に、9月初旬にスタモス氏名義のブログ記事が掲載され、Facebookが把握している限り、ロシアが2016年の大統領選の時期にアメリカの政治に影響を与えることを目的とした約3,000件の広告に対し、Facebookに10万ドルを支払ったと発表された。記事のどの文章も、この新たな暴露の内容を軽視しているように思われた。広告の数は少なく、費用も少額だった。そして、Facebookは広告を公開するつもりはなかった。一般の人々は、広告の見た目や真の目的を知ることはできないだろう、と。

ディレスタはこれに全く納得できなかった。彼女は長い間、Facebookの対応が不十分だと感じていたのに、今や完全に妨害しているように思えた。「無能から悪意へと変わったのはその時でした」と彼女は言う。数週間後、ウォルグリーンで子供の処方箋を受け取るために待っている間、トウ・センター・フォー・デジタル・ジャーナリズムの研究者、ジョナサン・オルブライトから電話がかかってきた。彼は選挙以来、偽情報のエコシステムをマッピングしており、素晴らしいニュースを持ってきた。「これを見つけたんだ」と彼は言った。オルブライトはFacebookが使用している分析プラットフォームの一つ、CrowdTangleを掘り下げ始めていたのだ。そして、Facebookが閉鎖した6つのアカウントのデータがまだそこにあり、仮死状態になっていることを発見した。テキサス州の分離独立を推進し、人種差別的な反感を煽る投稿があった。そして、クリントンを「あの殺人的な反米裏切り者、キラリー」と呼ぶような政治的な投稿もあった。選挙直前、ブラックティビストのアカウントは支持者に対し、クリントン氏ではなくジル・スタイン氏に投票するよう呼びかけました。オルブライト氏は6つのグループそれぞれから最新の投稿500件をダウンロードしました。彼の報告によると、これらの投稿は合計で3億4000万回以上シェアされたとのことです。

X

マクナミー氏にとって、ロシア人がFacebookを利用した方法は、驚くべきことでも例外でもなかった。「彼らは怒りや恐怖を感じている人を100人か1000人見つけ出し、Facebookのツールを使って宣伝し、人々をグループに誘導するのです」と彼は言う。「まさにFacebookはそういう使い方をするように設計されているのです」

マクナミーとハリスは7月にまず1日ワシントンD.C.を訪れ、連邦議会議員と面会した。9月にはディレスタが加わり、自由時間すべてを上院議員、下院議員、そしてそのスタッフへのカウンセリングに費やし始めた。上下両院の情報委員会は、ロシアがソーシャルメディアを利用して米国大統領選挙に干渉した件について公聴会を開く予定で、マクナミー、ハリス、ディレスタはその準備を手伝っていた。彼らが最初に議論した問題の一つは、誰を証言台に召喚すべきかという問題だった。ハリスは、大手IT企業のCEOを召喚することを提案した。一世代前にタバコ会社の幹部に強制されたのとほぼ同じように、全員が整列して右手を上げて宣誓するというドラマチックな場面を演出するためだ。しかし最終的には、Facebook、Twitter、Googleの3社の法務顧問がライオンの檻の中に入るべきだと決定された。

そして11月1日、コリン・ストレッチ氏がFacebookから叩きのめされるためにやって来た。公聴会の間、ディレスタ氏はサンフランシスコの自宅のベッドに座り、ヘッドフォンをつけて視聴していた。幼い子供たちを起こさないように気を付けていたのだ。ワシントンでは、他のセキュリティ研究者とSlackでチャットしながら、公聴会のやり取りを聞いていた。彼女は、マルコ・ルビオ氏がFacebookには、Facebookのプラットフォームを通じて外国政府が影響力行使を行うことを禁じる方針があるのか​​と鋭く問うのを見ていた。答えはノーだった。続いてロードアイランド州選出の上院議員ジャック・リード氏は、Facebookはロシアの広告を見たユーザー全員に、騙されたことを個別に通知する義務があると感じているのかと質問した。答えもまたノーだった。しかし、おそらく最も脅迫的な発言は、Facebookの地元州選出の上院議員、ダイアン・ファインスタイン氏によるものだった。「あなた方はこれらのプラットフォームを作ったのに、今やそれらは悪用されている。あなた方が何らかの対策を講じなければならない。さもなければ、私たちがやる」と彼女は断言した。

公聴会の後、またしてもダムが決壊したかに見えた。Facebookの元幹部たちも、同社への批判を公に展開し始めた。11月8日、Facebookの初代社長で億万長者の起業家ショーン・パーカーは、Facebookを世界に強く押し付けたことを後悔していると述べた。「自分が言ったことの結果を本当に理解していたのかどうか、私には分からない」と彼は言った。「子供たちの脳にどんな影響を与えているのか、神のみぞ知る」。11日後、Facebookの元プライバシーマネージャー、サンディ・パラキラスはニューヨーク・タイムズに寄稿し、政府によるFacebookの規制を求める論説を掲載した。「Facebookだけでは私たちを守れない。まさに私たちの民主主義が危機に瀕している」

XI

公聴会当日、ザッカーバーグ氏はフェイスブックの第3四半期決算発表の電話会議に臨まなければならなかった。数字はいつものように素晴らしいものだったが、彼の気分はそうではなかった。通常、こうした電話会議はコーヒーを12杯も飲んだ人を眠らせるようなものだ。幹部は電話会議に出て、実際にはそうでなくても「すべて順調だ」と言う。ザッカーバーグ氏は異なるアプローチを取った。「ロシアが我々のツールを使って不信感を植え付けようとしたことに、私はどれほど憤慨しているかを表明した。我々はこれらのツールを人々が繋がり、より親密になるために作っている。そして彼らはそれを使って我々の価値観を損なおうとした。彼らの行為は間違っており、我々はそれを容認しない」。同社はセキュリティに多額の投資を行うため、フェイスブックの収益はしばらくの間「大幅に」減少するだろうと彼は述べた。「我々の優先事項を明確にしておきたい。我々のコミュニティを守ることは、利益の最大化よりも重要だ」同社が本当に求めているのは、ユーザーが自分の体験を「有意義に過ごせた時間」だと感じることだとザッカーバーグ氏は語った。この3つの言葉は、トリスタン・ハリスの名刺、そして彼の非営利団体の名前にもなっている。

ザッカーバーグが自社への批判を吸収し始めていることを示す他の兆候も現れた。例えば、Facebookジャーナリズムプロジェクトは、同社が単なるプラットフォームではなく、出版社としての責任をより真剣に受け止めるようにしているように見えた。秋には、ザッカーバーグが長年反対してきた後に、Facebookインスタント記事を使用する出版社は読者に購読を義務付けることができると決定したと発表した。選挙後の数か月間、本格的な出版物に料金を支払うことは、ジャーナリズムの前進の道であると同時に、ポスト真実の政治情勢に抵抗する方法のように思われてきた（WIREDは最近、独自のペイウォールを導入した）。さらに、購読を提供することで、ザッカーバーグがプラットフォームを動かすために望んでいると公言したような種類のインセンティブを導入するのに役立ったと言えるだろう。Facebookのニュース製品責任者でニューヨークタイムズ出身のアレックス・ハーディマンのような人々は、Facebookが長らく、正確さや深みではなくセンセーショナリズムに対して出版社に報酬を与える経済システムの構築に貢献してきたことに気づき始めた。 「クリック数やエンゲージメント数のみに基づいてコンテンツを評価すると、扇情的でクリックベイト的な、分極化を招き、賛否両論を呼ぶコンテンツがますます増えてしまう可能性がある」と彼女は指摘する。クリック数のみを評価し、登録数には報酬を与えないソーシャルネットワークは、一夜限りの関係は推奨するが結婚は推奨しない出会い系サービスのようだ。

12

2017年の感謝祭の数週間前、ザッカーバーグはFacebookキャンパス内のハッカー・スクエアと呼ばれる屋外スペースで、四半期ごとの全社ミーティングの一つを招集した。彼は全員に、良い休日を過ごしてほしいと伝えた。そしてこう言った。「今年は最近のニュースで、おそらく多くの人が『Facebookに何が起こっているんだ？』と聞かれるでしょう。今年は厳しい年でした…しかし…私が知っているのは、私たちが何十億もの人々の生活において重要な役割を果たすことができるのは幸運だということです。それは特権であり、私たち全員に大きな責任を課しています。」 出席者の一人によると、この発言はこれまでザッカーバーグから聞いたどの発言よりも率直で個人的なものだったという。彼は謙虚で、少し反省しているようにさえ見えた。「彼は夜ぐっすり眠れないと思います」と従業員は言った。「彼は起こったことを後悔していると思います。」

晩秋にかけて、批判は高まり続けた。Facebookは、ミャンマーのロヒンギャ族に対する残忍なプロパガンダ拡散の中心的媒介者となり、フィリピンのロドリゴ・ドゥテルテ大統領の残虐な指導力を支えていると非難された。そして12月には、より身近な人物から、さらに痛烈な批判が浴びせられた。同月初旬、2011年にFacebookを退社するまでユーザー成長担当副社長を務めていたチャマス・パリハピティヤ氏が、スタンフォード大学の聴衆に対し、Facebookのようなソーシャルメディアプラットフォームは「社会構造を引き裂くツールを生み出してきた」と考えており、自分もその一部であることに「強い罪悪感」を感じていると語ったことが明らかになった。パリハピティヤ氏は、Facebookをできるだけ使わないようにしており、子供たちにもそのようなプラットフォームを一切使わせていないと述べた。

この批判は、他の人とは違う形で心に刺さった。パ​​リハピティヤ氏はフェイスブックの幹部の多くと親しく、ゴールデンステート・ウォリアーズの共同オーナーとしてシリコンバレーやフェイスブックのエンジニアの間では高い評価を得ている。シェリル・サンドバーグ氏は、ザッカーバーグ氏からもらったチェーンと、夫の死後にパリハピティヤ氏からもらったチェーンを溶接して作ったものを首にかけていることがある。フェイスブックは、パリハピティヤ氏がそこで働いてから長い時間が経っているとする声明を発表した。「当時のフェイスブックは非常に異なる会社であり、当社が成長するにつれ、責任も大きくなっていることを認識している」。なぜパリハピティヤ氏には対応し、他の人には対応しなかったのかとの質問に対し、フェイスブックの上級幹部は、「チャマス氏はここにいる多くの人たちにとって友人であり、友人だった」と答えた。

一方、ロジャー・マクネーミーはメディアを回り、会社を痛烈に批判した。彼はワシントン・マンスリー紙にエッセイを掲載し、その後ワシントン・ポスト紙とガーディアン紙にも寄稿した。しかし、Facebookは彼にそれほど感銘を受けなかった。幹部たちは、彼が会社との繋がりを誇張し、批判を都合よく利用していると考えたのだ。副社長で経営陣の一員であるアンドリュー・ボズワースは、「Facebookで12年間働いてきたが、どうしても聞きたいことがある。ロジャー・マクネーミーって一体何者なんだ？」とツイートした。

Zuckerberg did seem to be eager to mend one fence, though. Around this time, a team of Facebook executives gathered for dinner with executives from News Corp at the Grill, an upscale restaurant in Manhattan. Right at the start, Zuckerberg raised a toast to Murdoch. He spoke charmingly about reading a biography of the older man and of admiring his accomplishments. Then he described a game of tennis he’d once played against Murdoch. At first he had thought it would be easy to hit the ball with a man more than 50 years his senior. But he quickly realized, he said, that Murdoch was there to compete.

XIII

On January 4, 2018, Zuckerberg announced that he had a new personal challenge for the year. For each of the past nine years, he had committed himself to some kind of self-improvement. His first challenge was farcical—wear ties—and the others had been a little preening and collegiate. He wanted to learn Mandarin, read 25 books, run 365 miles. This year, though, he took a severe tone. “The world feels anxious and divided, and Facebook has a lot of work to do—whether it’s protecting our community from abuse and hate, defending against interference by nation-states, or making sure that time spent on Facebook is time well spent,” Zuckerberg declared. The language wasn’t original—he had borrowed from Tristan Harris again—but it was, by the accounts of many people around him, entirely sincere.

That New Year’s challenge, it turned out, was a bit of carefully considered choreography setting up a series of announcements, starting with a declaration the following week that the News Feed algorithm would be rejiggered to favor “meaningful interactions.” Posts and videos of the sort that make us look or like—but not comment or care—would be deprioritized. The idea, explained Adam Mosseri, is that, online, “interacting with people is positively correlated with a lot of measures of well-being, whereas passively consuming content online is less so.”

To numerous people at the company, the announcement marked a huge departure. Facebook was putting a car in reverse that had been driving at full speed in one direction for 14 years. Since the beginning, Zuckerberg’s ambition had been to create another internet, or perhaps another world, inside of Facebook, and to get people to use it as much as possible. The business model was based on advertising, and advertising was insatiably hungry for people’s time. But now Zuckerberg said he expected these new changes to News Feed would make people use Facebook less.

この発表は多くのメディアから批判を浴びた。発表の際、モッセーリ氏はFacebookが企業、著名人、出版社がシェアする記事を下げ、友人や家族がシェアする記事を優先すると説明した。批評家たちは、これらの変更は出版業界についに中指を立てたに過ぎないと推測した。「Facebookは事実上、メディアに『出て行け』と言っている」とフランクリン・フォア氏はアトランティック誌に記した。「Facebookは、私たちの休暇の劣等感や子供たちの相対的な凡庸さについて私たちをひどく落ち込ませ、私たちのプライベートな情報をもっとシェアするように仕向けるビジネスに戻ってくるだろう」

しかし、Facebook社内の幹部たちは、これは全く事実ではないと主張している。12月に同社を退職したものの、これらの改革に携わり、経営陣に強い愛情を持つアンカー氏によると、「これをニュース業界からの撤退と捉えるのは間違いです。これは、『エンゲージメントを高めるためにアルゴリズムに合致するなら、何でもアリ』という姿勢からの撤退です」とのことだ。社内に残る他の関係者によると、ザッカーバーグ氏は真のジャーナリズムから手を引くつもりはなかったという。彼はただ、プラットフォーム上のくだらないコンテンツを減らしたいだけなのだ。中身のない記事や、何も考えずに見られる動画を減らしたいだけなのだ。

そして、「有意義な交流」について世界に語った1週間後、ザッカーバーグ氏は、こうした懸念に、ある程度答えるような別の変更を発表した。同氏は自身の個人ページに投稿したメモで、同社史上初めて、Facebookは特定のパブリッシャー、つまり「信頼できる、有益な、そして地域に密着した」コンテンツを持つパブリッシャーを後押しし始めると述べた。過去1年間、Facebookは偽のコンテンツを持つパブリッシャーを攻撃するアルゴリズムを開発してきたが、今度は良質なコンテンツの向上に取り組んでいる。同氏はまず、読者アンケートを用いてどの情報源が信頼できるかを判断すると説明した。批評家たちはすぐに、このシステムは間違いなく不正利用されるだろう、そして多くの人は、知っているという理由だけで情報源を信頼するだろうと指摘した。しかし、少なくともこの発表は、役員会や編集部では少しは好意的に受け止められた。投稿直後、ニューヨーク・タイムズの株価は急騰し、ニューズ・コーポレーションの株価も急騰した。

ザッカーバーグ氏は、今後1年間はこのような発表がさらに増えると示唆しており、関係者もそれを裏付けている。同社は、パブリッシャーに対し、ペイウォールに関するコントロールを強化し、ロゴをより目立つように表示することを許可する実験を進めている。これは、Facebookが数年前に打ち砕いたブランドアイデンティティを再構築するためだ。一方、やや敵対的な外部からの提案としては、Facebookのかつての敵対者であったマードック氏が挙げられ、1月下旬に、Facebookが真に「信頼できる」パブリッシャーを重視するのであれば、掲載料を支払うべきだと発言した。

しかし、Facebookが本当に気にしているのは、自社の運命だ。Facebookはネットワーク効果の力の上に築かれた。つまり、あなたも他の皆が参加しているから参加したのだ。しかし、ネットワーク効果はプラットフォームから人々を遠ざけるのに同じくらい強力になり得る。ザッカーバーグはこれを本能的に理解している。何しろ、彼は10年前にMySpaceの問題を生み出すのに加担し、そしておそらく現在Snapchatにも同じことをしている。ザッカーバーグがその運命を回避できたのは、一つには、最大の脅威を巧みに取り込む能力を証明してきたからだ。ソーシャルメディアが画像中心になり始めたとき、彼はInstagramを買収した。メッセージングが普及すると、WhatsAppを買収した。Snapchatが脅威になると、彼はそれを模倣した。そして今、彼は「時間を有効に活用する」とあれこれ言うが、まるでトリスタン・ハリスまでも取り込もうとしているかのようだ。

しかし、彼を知る人たちは、ここ数ヶ月の試練の中でザッカーバーグは真に変わったと言う。彼は深く考え、何が起こったのかを真摯に受け止め、会社を取り巻く問題を解決することを心から願っている。そして同時に、不安も抱えている。「この1年で、彼のテクノロジーに対する楽観主義は大きく変わりました」と、ある会社の幹部は言う。「自分が築き上げたものが、誰かに悪用されるかもしれないという不安が、以前よりずっと強くなったのです」

過去1年間で、Facebookは自社がパブリッシャーなのかプラットフォームなのかという根本的な認識を変えました。同社はこれまで、規制、財務、そしておそらくは感情的な理由から、この問いに対して「プラットフォーム、プラットフォーム、プラットフォーム」と常に反抗的に答えてきました。しかし今、Facebookは徐々に進化を遂げてきました。もちろんFacebookはプラットフォームであり、これからもそうあり続けるでしょう。しかし同時に、パブリッシャーが担う責任の一部、つまり読者への配慮と真実への配慮も担っていることを認識しています。世界を分断したままでは、世界をよりオープンで繋がったものにすることはできません。では、パブリッシャーなのかプラットフォームなのか、どちらなのでしょうか？Facebookはついに、自らが明らかにその両方であることを認識したようです。

Facebook内部

• 雑誌の表紙に描かれた、傷だらけのマーク・ザッカーバーグのことをご存知ですか？この写真イラストの制作過程をご紹介します。

• Facebookの責任は誰が取るのか？

• Facebookはアルゴリズムを完全に制御できる

• 私たちの心は携帯電話に乗っ取られている。トリスタン・ハリスはそれを救いたい

ニコラス・トンプソン （@nxthompson）はWIREDの編集長です。 フレッド・フォーゲルスタイン （@fvogelstein）は同誌の寄稿編集者です。

この記事は3月号に掲載されています。今すぐ購読をお願いします。

この記事とその他のWIREDの特集はAudmアプリでお聞きいただけます。