2022年6月30日木曜日の朝、カリフォルニア州メンロパークの高級ホテルに2台の大型豪華バスが到着した。私道には監視委員会のメンバー、スタッフ、そして評議員たちがひしめき合っていた。2年前にFacebook（現Meta）によって設立されたこの高貴な組織は、同社の最も物議を醸した行動を批判するために存在している。すでにビデオ通話やメールで数え切れないほどの時間を費やしてきた委員会メンバーたちは、初めて対面で1週間を過ごすことになる。バスは轟音を立てて出発し、Zoomで繋がっていた23人の参加者を4マイル（約6.4キロメートル）離れたMeta本社へと運び去った。
一行はゲーリー設計の巨大な複合施設を横切り、「ボウル」と呼ばれる緑豊かな屋外円形劇場へと向かった。正午の暑さの中、メタの最高執行責任者（COO）シェリル・サンドバーグが挨拶を述べた。続いて登場したのは、同社のグローバル・アフェアーズ担当プレジデントのニック・クレッグ。クレッグは取締役会を熱烈に称賛し、その言葉に思わず息を呑んだ。彼がメンバーからの質問に答えていると、突然、ボウルの大型スクリーンに見慣れた顔が映し出された。
この記事は2022年12月/2023年1月号に掲載されています。WIREDの購読をご希望の方は、こちらをご利用ください。イラスト：Boldtron
マーク・ザッカーバーグの無表情な顔が、汗ばんだ訪問者たちを見下ろしていた。ザッカーバーグは自らこの監督機関の設立を決意し、自らを監督する立場にあったが、現メンバー全員と面会したことはなかった。メタの創業者兼CEOは居場所を明かさなかったが、昨年の大半を過ごしたハワイの別荘にいると推測するのが妥当だろう。ウェブカメラを見つめながら、ザッカーバーグは理事会のこれまでの取り組みを称賛した。「表現の自由は常に同社の使命の一部であるが、時に人々は声を上げて他者を危険にさらすこともある。メタは言論の自由について、これほど多くの決定を単独で下すべきではない」とザッカーバーグは述べた。ザッカーバーグは心からの賛同の言葉で講演を締めくくった。「これは私にとって最初から重要なことだった」と彼は述べ、「私は理事会に長期的に尽力していく」と続けた。
実際、数週間後、Metaはプロジェクトを2025年まで継続するため、委員会に1億5000万ドル（当初の約束の2倍以上）を拠出すると発表した。委員会はこれまでにコンテンツに関する200万件近くの異議申し立てを受け、そのうち28件について裁定を下した。Metaに対しては119件の勧告が出されている。その裁定には、ワムプムベルト、ブラックフェイス、元米国大統領のFacebookからの削除などが含まれている。
一部の批評家は、監視委員会をMetaの傀儡による企業の尻拭いの場だと見なしている。企業が物議を醸すような決定を下したくないのであれば、委員会にその問題について立場を明確にするよう圧力をかけ、都合よく非難をかわすことができる。かつてイスラエル法務省の長官を務めたこともある委員会メンバーのエミ・パルモア氏は、スーパーマーケットでMetaアプリの技術サポートを求める人に頻繁に声をかけられると語る。「監視委員会という名前を選んだ人を殺したいくらいです」と彼女は言う。「説明のつかない言葉ですから」
しかし、2020年秋に審理を開始して以来、委員会は、その活動に注目する人権団体やコンテンツモデレーションの専門家から渋々ながらも敬意を勝ち取ってきた。「皆、大失敗になると思っていた」と、委員会を綿密に追跡しているスタンフォード大学法学教授のエブリン・ドゥーク氏は言う。「しかし、実際には、Facebookに一定の説明責任がもたらされたと言えるでしょう。」一方、Metaは勝利宣言をしている。「この進展に、本当に嬉しく、感激しています」とクレッグ氏は言う。委員会の案件へのアプローチは、「ソーシャルメディアプラットフォームと独立した監督機関の間で期待されるものと全く同じです」。
真実はもっと複雑で、クレッグ氏の熱烈な称賛とザッカーバーグ氏の励ましの言葉は、取締役会を不安にさせている。世界で最も法を犯す企業の一つが、監督が素晴らしい成果を上げていると考えているなら、取締役会はどれほど素晴らしいと言えるだろうか？文学と人権擁護の非営利団体PENアメリカのCEOも務めるスザンヌ・ノッセル氏は、判断を下すのはまだ早すぎると考えている。「この仕事の進め方を模索し始めたばかりです」と彼女は言う。
同委員会は一つの大きな点に気づいた。それは、条件付きではあるが、インターネットの巨人たちが何十億もの人々の発言をどのように扱うかを変えるチャンスがあるということだ。
ソーシャルメディアが誕生して20年以上が経った今でも、プラットフォームの監視方法は恣意的で自己中心的に見えることがある。不完全なアルゴリズムと、十分な訓練を受けていない過労のモデレーター軍団が、人生を左右するような決定を下す。人々はそれに異議を唱えようと躍起になり、毎月何百万件もの異議申し立てを行っている。ヘルプページをくまなく調べ、ボットと議論し、そしてほとんどの場合、苛立ちのあまり諦めてしまう。表現の自由と安全性のバランスをとっているはずのポリシーは、成長と利益を最優先する企業によって策定されたのだ。「このプラットフォームは誠実さを念頭に置いて設計されたものではありません」と、委員会の共同議長の一人であるコロンビア大学法学教授ジャマル・グリーンは言う。「リーチを念頭に置いて設計されたのです」
政府が介入して、過激な投稿に対する判決を一方的に覆すことを望む人は誰もいない。しかし、オンライン上の言論は言論であり、人々はそれに関する何らかの権利を期待している。監視委員会は、こうした自由を確保するための最初の試みであり、最も野心的な形態においては、混乱を食い止めるチャンスとなる。しかし、委員会のメンバーが問題に深く関与すればするほど、Metaが許可する範囲の限界に突き当たることになる。
イラスト: ディーナ・ソオテ
監視委員会の壮大な実験は、あるサイクリングから始まった。2018年1月、ハーバード大学ロースクールの教授、ノア・フェルドマンはベイエリアを訪れ、友人のシェリル・サンドバーグの家に泊まった。ある日、地元の丘陵地帯を自転車で走っていると、ふとFacebookのことを思い出した。ホストのソーシャルメディアの雇用主であるFacebookの問題点は、あるコンテンツについてどのような決定を下したとしても、必ず誰かが会社に腹を立てることだとフェルドマンは考えた。権力分立の恩恵を受けるかもしれない。サイクリングを終える頃には、彼はサンドバーグに一つの提案をしていた。Facebookは独自の最高裁判所、つまり会社の決定に対する最も深刻な苦情を審査する独立機関を作るべきだ、と。
サンドバーグはこのアイデアをザッカーバーグに持ち込んだ。ザッカーバーグは自身のプラットフォーム上での言論について何ヶ月も批判され、世界の表現の独裁者ではないことを示す手段として「ガバナンス」について考えていた。彼はこの構想を受け入れた。その年の6月、私はフェイスブック本社でザッカーバーグと会い、9エーカーの屋上庭園を散策した。散策しながら、彼はコンテンツに関する拘束力のある決定を下す独立機関の構想を語った。「任命の仕組みを考え出す必要があるが、彼らは私に報告するわけではない」と彼は言った。「おそらくフェイスブックの社員にはならないだろう」。その時、彼は監督者たちが自分の手下だという印象をかわす必要があることを理解した。
ザッカーバーグ氏の新しい取り組みの常套手段は、長年忠実な部下たちに頼って実現させることだ。今回のケースでは、Facebookは社内のガバナンス専門家チームを活用した。このチームを率いたのは、気候変動と環境問題に詳しい弁護士のブレント・ハリス氏と、ニュージャージー州ニューアークの米国連邦検事局で勤務経験のあるヘザー・ムーア氏だ。両氏は、これをプラットフォーム上の人々を支援するチャンスだと捉えたと述べている。（ハリス氏は現在、Metaで取締役会のサポートチームを含むガバナンスグループを率いている。）
かつては迅速な対応を誇っていた企業であるFacebookだが、取締役会は19世紀の鉄道官僚機構のような慎重な審議を経て設立された。全員の賛同は得られなかった。「大きなメリットが得られるとは思えませんでした」と、グローバルコンテンツポリシー責任者のモニカ・ビッカート氏は語る。（取締役会が疑問視したのは、彼女のルールだった。）しかし、チームは着実に前進し、一連のワークショップを開催し、取締役会の運営方法について外部からの提案を募った。最終的に、その参加者の一部が取締役会の席を埋めることとなった。
2020年までに、Facebookは1億3000万ドルの助成金を得て、独立した信託機関として委員会を設立した。同社は最大40人の委員に、週15時間と推定される労働時間に対して6桁の給与を支払う。最高裁判所判事の書記官のように、常勤スタッフがこの活動をサポートする。長大な規約で基本ルールが定められた。委員会の活動の中心は、個々の投稿に関する意見の相違への対応だ。例えば、FacebookやInstagramが規約違反を理由に誰かの投稿を削除し、ユーザーがその決定に異議を申し立てたい場合などだ。委員会は投稿については判断できるが、広告、アルゴリズム、グループについては判断できない（こうしたことは後で可能になるかもしれない）。委員会メンバーで構成される事件選定委員会は、膨大な数の控訴案件から委員会が引き受ける案件を抽出し、5人で構成されるパネルに割り当てます。各パネルがそれぞれの案件を評価し、決定を下す。Facebookは、個々の投稿に関する委員会の決定を尊重する義務を負う。
しかし、それだけではない。取締役会は、その裁定に包括的な勧告を盛り込むことができ、会社はそれを受け入れるか拒否するかを選択できる。提案を拒否する場合には、説明責任は負うが、それだけだ。取締役会は「政策助言意見」を通じて、会社の最も難解な問題に取り組むことができる。これは、メタ社が取締役会に対し、特に物議を醸す決定の見直しを直接要請するものだ。メタ社は、取締役会の勧告を受け入れるか拒否するかを再び選択できる。
2020年5月、同社は取締役会の最初の20名のメンバーとして、弁護士、ジャーナリスト、人権活動家など、著名な人材を採用したと発表した。メンバーには、デンマークの元首相、ピューリッツァー賞受賞の元新聞編集者、ノーベル平和賞受賞者などが含まれている。メンバー全員に共通するのは、給与を支払っている会社から独立した立場を貫くという強い決意だ。
それでも、Facebook批判者たちは監視委員会を偽物だと糾弾しようと躍起になっている。ジェシカ・ゴンザレスは、メディアの企業支配に反対する団体フリー・プレスの共同CEOであり、Metaの常習的背教者であるロジャー・マクナミーやノーベル賞受賞者のマリア・レッサを含む、Facebook批判者の雑多な集団の一人だ。彼らは「真のFacebook監視委員会」と呼ばれる影の組織を設立した。この組織は、Facebookのあらゆる行為にボディブローをかけることに専念している。ゴンザレスによると、この真の委員会は「Facebookがシステムの完全性に十分な投資をせず、人々の安全を守るために十分な対策を講じていないことを隠蔽するためのPR活動に過ぎない」という。
2021年1月、委員会は最初の案件について裁定を下し、緊張が高まった。前年10月、乳がん啓発キャンペーンを宣伝するブラジルのインスタグラムユーザーが、手術後の乳房を複数枚撮影した画像を投稿した。乳首のコンテンツを探し出し、削除するように訓練されたアルゴリズムが、この投稿を削除した。委員会が申し立てを受理すると、Instagramは手動で投稿を審査することを決定した。医学的啓発のためのヌードはInstagramのルールに違反していなかったため、ポリシー基準チームは投稿を復元した。これで問題は解決したため、Instagramは委員会に申し立てを取り下げるよう指示した。
メンバーは断った。彼らの主張は、名目上は個々のコンテンツに関する決定だが、実際の仕事は会社の方針を精査することにあるというメッセージだった。彼らはMetaを変えようとしていたのだ。
委員会メンバーは、投稿を残すべきであると改めて確認した決定書の中で、この一見些細で修正可能なミスが、より深刻な失敗の兆候であることを暴露した。Facebookはアルゴリズムに過度に依存しており、今回のケースではポルトガル語で「乳がん」を意味する単語を拾い上げなかった。委員会は、投稿の削除は「人権上の懸念」を引き起こすと主張した。国連の基本条約である市民的及び政治的権利に関する国際規約を引用し、委員会は「表現の自由に対するいかなる制限も正当な目的のためでなければならない」と記した。委員会は、ユーザーがこの種のアルゴリズムによる決定に異議を申し立てるたびに、自動的に人間のコンテンツモデレーターを割り当てることを推奨した。「Facebookがコンテンツを復活させると決定したにもかかわらず、我々は基本的に権限を主張したのです」と、委員会メンバーでブラジルの法学教授であるロナルド・レモスは述べている。「同時に、『アルゴリズムについて話し合いたい』とも言いました」
かなり妥当な要求だったが、Facebookは委員会の勧告に従わなかった。今日に至るまで、FacebookやInstagramのユーザーは、ロボットが発言をブロックしたとしても、人間が苦情に目を通す保証はない。委員会は、ソーシャルメディアプラットフォームが少なくともユーザーを人間として扱わなければならない世界を思い描いていた。委員会のメンバーは、人権こそが彼らの専門分野であるため、その実現を強く求め続けた。
イラスト: ディーナ・ソオテ
同委員会がほんの数件の判決を下しただけだったが、ドナルド・トランプ大統領の停職処分という衝撃的な事件が起きた。
2021年1月6日の暴動の白熱した時間帯、トランプ大統領はFacebookとInstagramへの投稿で暴力的な抗議活動を称賛した。同社は速やかに当該投稿を削除し、両プラットフォームからトランプ大統領を無期限に利用停止にした。MAGA（アメリカ大統領選候補）の群衆は検閲だと非難した。反トランプ派は、この禁止措置が恒久的でないことに憤慨した。1月21日、おそらく偶然ではないが、新米大統領が就任した後、Facebookは取締役会に対し、解決策を検討するよう指示した。「非常に単純な決断だった」とクレッグ氏は、公的な助言的意見の要請について述べている。「もし彼らに判断を委ねていなかったらどうなっていたか、想像してみてほしい。『監督委員会を設置したというのに、地球上で最も強力な民主主義国の元大統領をどう扱うべきかというジレンマを委員会と共有すらしないのか』と、当然のことながら人々は言っただろう」
しかし、取締役会にとって、それは危険な瞬間だった。トランプ支持派も反対派も、少しでも失策があれば攻撃する準備ができていた。不器用な行動が実験全体を台無しにする可能性があった。数ヶ月に及ぶ審議の後、取締役会は、FacebookとInstagramから元大統領の扇動的な発言を削除し、両プラットフォームから彼を追放するというFacebookの決定を支持した。しかし、取締役会は再度、会社に方針をより明確にするよう要求した。その春の裁定で、取締役会はFacebookが基本的に場当たり的に決定を下し、元大統領の復帰の期限を示すことを拒否したことを激しく非難した。明確な停止基準を持たなかったことで、同社は社会を失望させていた。「Facebookは責任を回避した」と、デンマーク元首相で取締役会共同議長のヘレ・トーニング＝シュミット氏は述べた。
この注目を集めた訴訟に関する委員会のコメントは、委員会の執着の一つ、すなわちFacebookの自社ルールに関する透明性の欠如を浮き彫りにした。委員会は頻繁にこの件に立ち戻り、最も広範な影響を与える可能性のある苦情を巧みに選定するようになった。「事例の選定こそが全てです」と、委員会メンバーでオーストラリア出身の法学教授であるニコラス・スゾール氏は語る。スゾール氏は、委員会が対処したい問題を決定する選定委員会に所属することもあり、スタッフに数千件もの控訴を精査させ、適切な事例を見つけ出させている。
2021年4月、委員会は「オジャランの孤立」として知られるようになった事例を取り上げました。アブドラ・オジャランは、Facebookが「危険組織」に指定したクルド労働者党（PKK）の創設メンバーです。彼は現在、トルコの刑務所島で永久独房監禁下に置かれています。数ヶ月前、米国のインスタグラムユーザーが「この会話の準備はいいかい？」というコメントとともにオジャランの写真を投稿し、囚人の監禁状況について話し合うよう呼びかけていました。Facebookはこれを削除しました。同社のポリシーでは、危険組織に関与する人物を支持する投稿は禁止されています。この投稿はそうではありませんでした。
理事会はこの問題に積極的に取り組む姿勢を見せた。「組織について語ることができないのです」と、デジタル権利団体「インターネット・サンズ・フロンティエール」の事務局長を務める理事会メンバーのジュリー・オウォノ氏は語る。「しかし、そのリーダーの置かれた状況は、国際的に人権侵害として認識されているのですから」
社内の研究者たちは、主にFacebookの非公開データベースから、この事件の背景情報を掘り起こし始めた。ファイルを調べているうちに、彼らは恥ずかしい事実に遭遇した。オジャラン氏の投獄問題は以前にも話題になっていたのだ。同社は、PKK支持者ではないものの人道的な扱いを求めるユーザーからの投稿を許可する特別なポリシーさえ制定していた。しかし、2017年に作成されたこの指示は公表されることはなかった。社内でも忘れ去られていたようで、オジャラン氏の拘禁状況に関する投稿は定期的に削除されていた。Facebookは自らのルールに違反していたのだ。「この断絶を知った時、まさにそのためにここに来たんだと思いました」とオウォノは言う。
委員会は設立1年目、苦情に対する高圧的な態度を改めるよう、着実に圧力をかけてきた。投稿が削除された理由や、一見明らかな違反行為が放置されている理由について、ユーザーにはほとんど説明がなかった。委員会はこのカフカ的な態度を、同社による人権侵害の一つと捉えている。「委員会に参加する前は、問題だとも思っていませんでした」と、共同議長の一人であるグリーン氏は語る。「しかし、私たちはそれが大きな問題だと気づきました。」2021年だけでも、委員会は20件の裁定のうち6件で、同社が個人のコンテンツを削除する際には、ユーザーに違反した規則を通知すべきだと勧告した。
私がこの件についてクレッグ氏に持ちかけると、彼はまるで委員会がこの問題を執拗に追及していることが、ターゲティング広告以来最大の出来事であるかのように振る舞う。「1000パーセント！」と彼は言う。「委員会から当初から一貫して受けてきた批判の筆頭は、そしてそれは全く理解できることだと思うが、ユーザーに立場を説明しておらず、恣意的な判断をしているとユーザーが感じているという点だ」。委員会の批判を受け、Metaは今夏、削除やアカウント停止について説明を行うカスタマーサービスグループを設置すると発表した。
何度も決断を迫られましたが、取締役会はようやくその主張を表明しました。「Metaはユーザーに対し、何が間違っていたのかをより明確に伝えるようになりました」とグリーン氏は言います。
この戦いは、委員会の使命は投稿の運命を決めることではなく、Metaが自ら生み出した怪物を認めさせることであることを委員会に証明した。委員会のウェブサイトでユーザーが苦情を申し立てるページには、「投稿を復元しましょう」や「この誤った判断を修正しましょう」といった文言はなく、大きな文字で「FacebookとInstagramの未来を形作るために訴えましょう」と呼びかけている。
この勝利で取締役会はポイントを獲得したが、その影響力はまだ限られている。取締役会が勧告を行うと、Metaのワーキンググループが、同社がその勧告を実施するかどうかを決定する。「我々は取締役会を規制当局と同じように扱っています」と、取締役会の設立に尽力し、Meta社内で今も最も近い連絡役を務める弁護士のハリス氏は言う。もちろん、違いはある。規制当局を無視すれば結果は出るが、Metaはやりたいようにやれる。Metaは、2021年末までの取締役会の87の勧告のうち、完全に実施したのは19のみだと主張しているが、他の21については進捗状況を報告している。同社はさらに13の勧告について、「Metaが既に行っている作業だ」と詳細を述べずに無視した。その他の勧告は完全に拒否されている。
「私たちには警察組織はありません」とオウォノ氏は言う。「しかし、少なくともユーザーに対しては、会社に責任を負わせることを妨げるものではないと思います。」取締役会委員会は、彼らの勧告を回避しにくくする方法を検討している。
2022年初頭までに、 Metaと監督委員会の関係において二つのテーマが浮かび上がってきました。社内の一部では、委員会の決定が好影響を与えていました。ある委員会関係者から、この取り組みに対する社内からの強力な反対者だったと言われたMetaのコンテンツポリシー責任者、ビッカート氏でさえ、今では「取締役会はどう思うだろうか？」と自問自答することが多いと述べています。しかしながら、一部の取締役は、自分たちが強いられる制約や、Metaが意図的に自分たちの前に立ちはだかっていると感じられる障害に、ますます不満を募らせていました。
一つの問題点は、取締役会の規模拡大だ。メタ社のハリス氏とムーア氏と以前話をした際、会社は最初のメンバーの選出に協力し、その後は退くという考えだった。しかし、取締役会の定款では、会社が40名の全メンバーの選出に発言権を持つとされていた。メタ社の従業員は採用活動に深く関わっており、取締役会の人数が定款で定められた人数に依然として遠く及ばない一因となっている。「適切な人材を見つけるのは難しいとはいえ、それが50%の稼働率で運営する言い訳にはならないと思います」と、取締役会の活動に目を光らせているスタンフォード大学の法学教授ドゥーク氏は言う。
理事会がレニー・ディレスタ氏を面接に招聘した時、メタ氏の影響力はもはや無視できないものとなった。スタンフォード・インターネット・オブザーバトリーの技術研究マネージャーであるディレスタ氏は、メンバーになることに関心があったと述べ、「真の可能性を秘めていると思うものの方向性を形作る機会になる」と付け加えた。ディレスタ氏は政治学とコンピュータサイエンスの学位を取得している。2021年4月から、複数回の面接を受けた。書類上は、彼女の選出は理にかなっているように思えた。監督委員会にはアルゴリズムの専門家が不足しており、彼女の存在はその穴を埋めることになるだろう。しかし、問題があった。彼女は、メタ氏がプラットフォーム上の有害な偽情報への対応に失敗することを一貫して批判してきたのだ。
2022年3月、ディレスタ氏は応募を却下するメールを受け取った。「彼らは別の方向へ進んでいると言っていました」と彼女は言う。しかし、結局その方向は以前と同じだった。取締役会は、最初の20人と同様に、技術的背景を持たない弁護士またはジャーナリストからさらに3人のメンバーを追加することにした。このプロセスに詳しい人物によると、指名を却下したのはメタ氏の懸念だったという。メタ社のハリス氏は、「会社は、取締役会のメンバーとして、ある観点から見て誰がより効果的かそうでないかという点について、いくつかのケースで懸念を表明してきました」と述べている。メタ氏はさらに、複数の人物が推薦を控えることは珍しくなく、例外は全会一致で採用された候補者だと説明する。（これが取締役会が欠員補充に苦労する大きな理由だ。）もちろん、取締役会が真に独立しているなら、メタ氏の懸念を尋ねるどころか、ましてや考慮することなど決してないだろう。
ディレスタ氏の提案が却下された頃、取締役会はMeta社との別の論争にも激怒していた。彼らは、案件の選択と文脈化に役立つ、会社所有の基本的なツールへのアクセスを求めていた。CrowdTangleと呼ばれるこのソフトウェアは、FacebookやInstagramの投稿の影響を分析するために不可欠で、社内だけでなく、選ばれた外部の研究者やメディア組織でも使用されている。アクセスを得るのは至極当然のことのように思えた。アクセスなしで案件を調査するのは、懐中電灯なしで炭鉱の被害状況を評価するようなものだ。取締役会は何ヶ月もアクセスを求めたが、Meta社は依然としてその要求を認めなかった。Meta社の誰かが取締役会にアクセス権を与えたくないのは明らかだった。
最終的に、この問題は2022年3月のクレッグ氏との会合で取り上げられました。クレッグ氏は理事会メンバーの苛立ちに驚いた様子でした。彼は行き詰まりを打破すると約束し、数週間後、理事会は当初から持つべきだったツールをようやく手に入れました。「それを手に入れるために彼らと戦わなければならず、困惑しました」と、理事会の共同議長の一人であるスタンフォード大学法学教授のマイケル・マッコーネル氏は言います。「しかし、私たちはやり遂げました。」
その小競り合いが収まった途端、新たな事件が事態を混乱させた。昨年2月にロシア軍がウクライナに侵攻した際、FacebookとInstagramはたちまち、疑わしい、さらには危険なコンテンツで溢れかえった。「ロシア侵攻軍に死を」といった暴力を助長する投稿はMetaのポリシーに明確に違反していたが、それを禁止することは同社が侵攻軍を支持しているという印象を与えかねなかった。3月、Metaは今回の限定的な事例に限り、そのような暴力的な発言を一時的に容認すると発表した。そして理事会に支援を求め、ポリシーに関する助言的意見を求めた。理事会は、人権問題に関する難問を真剣に検討したいと考え、要請を受け入れた。理事会は声明を準備し、今後のこの件について記者に説明する予定を設定した。
しかし、理事会が新たなケースを発表する直前、メタ社は突然要請を取り下げた。理由は、調査によってメタ社の従業員の一部が危険にさらされる可能性があるというものだった。理事会は正式にはこの説明を受け入れたが、会社との非公開の会合ではこれを厳しく批判した。「メタ社には、これは間違いだったと明確に伝えました」と、監視委員会トラストのスティーブン・ニール委員長は述べ、もし本当に安全上の理由であれば、メタ社が政策諮問意見を求める前に明らかだったはずだと指摘した。
ニール氏に、委員会の敵対勢力が、この重要な問題への委員会の介入を阻止しようとしているのではないかと疑っているかと尋ねると、彼はそれを否定しなかった。暗黙の報復とも思える事態となったが、委員会はMetaが撤回した勧告的意見が提起したまさにその問題を取り上げる案件を引き受けた。それは、ラトビアのユーザーがロシア語で投稿した、おそらく死亡したと思われる遺体が地面に横たわる写真と、ソ連の有名な詩「ファシストを殺せ。そうすれば彼は地面の背骨に横たわるだろう…殺せ！殺せ！」を引用した投稿に関するものだった。
他のメンバーも、Meta社内の複雑な感情に気づいていた。「社内には、私たちをむしろイライラさせるような人が大勢います」とマコーネルは言う。「誰も、自分の肩越しに覗き込んで批判されるのは好きじゃないんです。」
理事会メンバーは、おそらく爆弾発言者ではないという理由で選ばれた、経験豊かな人材ばかりなので、Metaに正面から戦いを挑むようなタイプではない。「Metaが悪だと考えてこの仕事に臨んでいるわけではありません」と、理事会メンバーで元ガーディアン紙編集者のアラン・ラスブリッジャーは言う。「彼らが解決しようとしている問題は、地球上で誰も試みたことのないものです。一方で、私たちが求めている情報を得るために、彼らはわめき散らし、抵抗しながらも引きずり回すというパターンが見受けられるのです。」
情報がないよりも悪い事態はあります。あるケースでは、Meta社が取締役会に誤った情報を提供しました。これは、近いうちに取締役会にとってこれまでで最も厳しい決定につながる可能性があります。
トランプ氏の訴訟中、Metaの研究者は取締役会に対し、「クロスチェック」と呼ばれるプログラムについて言及していました。これは、政治家や著名人などの特定のアカウントに特別な扱いを与えるものでした。Metaは取締役会に対し、このプログラムは「少数の判断」のみを伴う限定的なプログラムであると説明しました。一部の取締役は、このプログラムが本質的に不公平であると捉え、トランプ氏の訴訟における勧告の中で、Metaに対し、クロスチェックの判断におけるエラー率を、一般的な投稿やアカウントのエラー率と比較するよう求めました。つまり、取締役たちは、この奇妙なプログラムが権力者にとっての逃げ道にならないようにしたいと考えていたのです。
Metaは、その作業は実行不可能だとして拒否した（この言い訳は、同社が取締役会の提案を却下したい時によく使うようだ）。Metaはまた、取締役会に対し、以前の声明の一つを指摘した。「Facebookは、誰が投稿したかに関わらず、当社の基準に違反するコンテンツは削除します。」
2021年9月、ウォール・ストリート・ジャーナルは、クロスチェックが実際には数百万のアカウントに関係していたことを示すリーク文書の公開を開始しました。このプログラムは、結果として非常に多くの不適切なコンテンツを遮断したため、権力者が会社の規則を回避することを可能にしていると、自社の従業員でさえ非難しました。（例えば、トランプ大統領の悪名高いブラック・ライブズ・マター関連の投稿で「略奪が始まれば、銃撃が始まる」と書かれたもの。また、サッカー選手が彼をレイプで告発した女性のヌード写真を投稿したものもありました。）2019年5月の内部メモでは、Facebookの研究者は落胆し、「私たちは、軽減するためのプロセスとリソースを備えているにもかかわらず、ユーザーを誤情報にさらしていることを承知しています」と記していました。別の内部文書では、率直にこう述べています。「私たちは、公に行っていると言っていることを実際には行っていないのです。」
Metaは摘発された。同社がCross Checkシステムについて取締役会に主張した内容は、せいぜい控えめな表現に過ぎなかった。「Facebookが監督委員会にこれほど公然と嘘をついたことは、極めて失礼だと思いました」と、文書をリークし、このプログラムについて取締役会と非公開で面会した元従業員のフランシス・ホーゲン氏は語る。
理事会はMeta社に説明を求め、理事会の透明性報告書によると、Meta社は「クロスチェックは『少数の決定』にのみ適用されると述べるべきではなかった」と認めた。理事会は、Meta社が正確な情報を提供してくれると信頼できなければ、この取り組み全体が崩壊すると述べた。PENのCEO、スザンヌ・ノッセル氏は、同社の欺瞞行為がプロジェクトに支障をきたすのではないかと懸念していた。「理事会の信頼性、そして私たちの業務遂行能力について、私は悔しさと不安を感じました」と彼女は語る。
メタの次の行動は、トランプ氏の決定における責任転嫁を彷彿とさせるものだった。同社は取締役会に対し、このプログラムに関する見解を求めたのだ。その後数ヶ月にわたり、取締役会はクロスチェックを調査する委員会を設置した。会議のほとんどはオンラインで行われた。しかし4月、委員会はニューヨーク市で数日間にわたる会合をなんとか実現した。6人の取締役と膨大な数のスタッフが、ミッドタウンにある法律事務所の会議室を複数占拠した。私は何度も懇願した結果、彼らの審議の一つに同席することができた。これは、ジャーナリストが監督委員会の公式セッションに出席することを許された初めての機会だった（発言を名前で公表しないことに同意しなければならなかった）。これが最後であってはならない。私が垣間見たほんの一瞬の出来事が、この半ば部外者たちが、自分たちを結集させた会社を変えようとどれほど率直で強い決意を持っているかを示していた。
15人が長方形に並べられたテーブルの周りに集まり、まるで国連サミットのような形式ばったセッティングが施されていた。参加者全員が母国語で話せるよう、通訳チームが常駐し、参加者全員にiPod Touchが配布され、通訳を聞くことができた。会話が始まると、たちまち白熱した。中には母国語を捨て、あまり洗練されていない英語で話す参加者もいた。そうすることで、参加者は自分たちの切迫した気持ちを口から直接聞き取ることができるのだ。
私は結局、もっと長いセッションのうち、おそらく1時間ほどをモニタリングすることになりました。私が理解した限りでは、理事会は人権の観点からプログラムを評価しているようでした。メンバーたちは既に、Cross Checkは不平等を体現していると結論付けているようでした。これは、「Facebookの基準に違反する投稿は、誰が投稿したかに関わらず、Facebookから削除する」というMetaの主張とは正反対です。あるメンバーは、プログラム参加者を「特権投稿クラブ」と呼んでいました。
役員会メンバーは、著名なアカウントに特別扱いすれば迅速に対応できるというMetaの主張を理解しているようだった。従業員は、不適切な投稿が「ニュース価値」に基づいて許容されるかどうかをより迅速に判断できるだろう。しかし、役員会メンバーはプログラムの完全な透明性の欠如に焦点を当てた。「なぜ非公開にすべきかを説明するのは彼ら次第だ」と、セッションのモデレーターを務めていた共同議長は述べた。
メンバーたちは、Metaがプログラムの詳細をすべて公開すべきかどうかについて議論しました。ある提案は、特権投稿者にラベルを付けるというものでした。こうした議論を聞いた後、ついに一人のメンバーがプログラムのコンセプト全体に異議を唱えました。「ポリシーはすべての人のためのものであるべきです！」と彼女は叫びました。
クロスチェック・プログラムの問題は、大規模なコンテンツ・モデレーションにおける、一見解決困難な問題と同じであることが次第に明らかになりつつありました。Metaはプライベートなサービスです。特定の顧客を優遇する権利を主張できるでしょうか？もちろん、それはできません。なぜなら、Metaは世界中の人々の自己表現のあり方と深く結びついているからです。ある時、あるメンバーが苛立ちを込めて叫びました。「Facebookを使うことは基本的人権なのか？」
一方、Metaは依然としてプログラムに関する重要な事実を共有していなかった。Cross Checkは疑わしいコンテンツを排除するためだけに特定の人物を標的にしているのか、それとも特定の人物に特別な監視の目を向けているのか。理事会は回答を得られなかった。その会合の後、メンバーとスタッフはMetaの役員と面会し、彼らを激しく非難した。「私たちは欲しい情報を得るために、かなり率直かつ粘り強く働きかけました」とラスブリッジャーは後に私に語った。「彼らは少し傷つき、私たちの態度が失礼だと思ったのです」。彼によると、理事会は求めていた詳細の一部は入手できたものの、すべては入手できなかったという。
これまでの不満にもかかわらず、あるいはそれゆえに、メンバーたちは理事会をより目立ち、影響力のある立場に押し上げたいと考えている。2022年10月、理事会はここ数ヶ月、Metaが理事会の勧告をより多く受け入れていると発表した。今後は、広告やグループに関するものを含め、より幅広い案件を引き受けていく可能性がある。「業務の性質を劇的に変えなくても、処理件数を2倍か3倍に増やせると思います」と、理事会の会長であるニール氏は語る。「しかし、年間100件の案件を扱っていると仮定しましょう。それだけで、プラットフォームにおけるコンテンツモデレーションの方向性に本当に影響を与えることができるでしょうか？ より大きな影響を考えたいのであれば、はるかに大きな組織を考える必要があります。」理事会は、まずは空席をすべて埋めることから始めることができるだろう。
また、Metaのアルゴリズムを批判し始めることもできるだろう。委員会の管轄外ではあるものの、委員会の勧告の中には同社の規約に抵触する内容が含まれているものもある。「我々には言論の自由があります」とイスラエル出身の弁護士、パルモア氏は言う。「アルゴリズムについて直接言及しなくても、コンテンツがどのように拡散するかは考慮に入れています」。次のステップは、アルゴリズムが実際にどのように機能するかについてより多くの専門知識を獲得し、より直接的な判断を下すことだろう（レニー・ディレスタ氏を雇用していれば、その助けになっただろう）。
さらに、政策諮問意見や重要課題の検討など、これまでMeta内で行われてきたものもある。メンバーたちは、このリストに自分たちも加えたいと考えている。理事でありノーベル平和賞受賞ジャーナリストでもあるタワッコル・カルマン氏は、もし彼女の望みが通れば、Metaの悪名高い偽アカウントの多さへの対策を求めるだろう。彼女はこれを「大惨事」と呼ぶ。「偽アカウントは誤情報、憎悪、そして対立を生み、同時に、偽アカウントは本物のアカウントを攻撃するために利用されているのです」と彼女は言う。「偽アカウントは抑圧者の道具になっているのです」。では、理事会はこの問題に対処する計画を持っているのだろうか？「私たちはこれに取り組んでいます」と彼女は言う。
理事会は現在、Meta以外の組織にも権限を行使する方法を検討している。ニール氏によると、理事会は欧州連合（EU）のデジタルサービス法の施行に関与することを検討しているという。この法律は、ソーシャルメディアを含むデジタルプラットフォームに画期的な一連の規則を導入するものであり、義務的な不服申し立て制度の規定も含まれている。この取り組みへの参加は理事会の負担を増大させる可能性があるが、一部のメンバーが夢見ているように、コンテンツポリシーにおいてよりグローバルな影響力を持ち、他の企業にも影響力を持つという目標に近づく可能性もある。
Twitter、Snap、YouTube、TikTokが監視委員会への参加を求めて奔走しているわけではないことは気にしないでおこう。（Twitterの新CEOは、諮問委員会を設置するとツイートした。ほぼ即座に監視委員会が支援を申し出たが、今のところCEOは受け入れていない。）委員会の決定は、Meta傘下のWhatsAppにさえ及んでいない。「私たちは変化をもたらしていると思います」とパルモア氏は言う。「委員会の影響力は十分にあると思いますか？答えはノーです。もっと変化を生み出せればよかったと思っています」
しかし、Meta内部でも掲示板でも、人々は権限拡大という考えに夢中になっているようだ。Metaにとって、競合他社もMetaのルールに従わなければならないとなれば、それは大きな勝利となるだろう。
「私たちは業界の理事会になることを目指しているわけではありません」と、理事会の運営を担当するトーマス・ヒューズ氏は語る。「しかし、他の企業とどのように連携し、彼らが学んだことを共有するか、そして「標準について議論するために様々な協議会や団体を設立している企業とどのように関わっていくか」を理解しようとしているのです。成長への執着から罪を重ねてきたMeta社を監督するために招集された理事会が、今や急成長という独自のビジョンを掲げているというのは皮肉なことです。
この記事は2022年12月/2023年1月号に掲載されます。 今すぐ購読をお願いします。
この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。
