Facebookと自己規制の愚行

私の亡き同僚ニール・ポストマンは、あらゆる新しい提案や技術について「それはどんな問題を解決しようとしているのか？」と自問していました。

Facebookの場合、その問題は広大な時間と空間を越えた関係性を維持することでした。そして同社はそれを見事に解決しました。しかしその過程で、ポストマンが予想した通り、さらに多くの問題を引き起こしました。

先週、Facebookは新たな審査委員会のリーダーと最初の20名のメンバーを発表しました。彼らは、表現の自由、人権、そして法的手続きといった問題について検討を重ねてきた、最も聡明な識者たちが集まった、威厳ある集団です。

彼らはコスモポリタンな知識層を非常によく代表しつつ、グローバルな多様性をある程度醸成しているようにも見える。著名な学者、弁護士、そして活動家である彼らは、Facebookがホストするにふさわしいものについて、高尚な議論を促す役割を担っている。これはFacebookにとって良いイメージだ ― 誰もあまり詳しく見ない限りは。

新しい Facebook レビュー ボードはどのような問題を解決しようと提案しているのでしょうか?

ニューヨーク・タイムズ紙の論説記事で、委員会の新幹部は次のように宣言した。「監督委員会は、ヘイトスピーチ、ハラスメント、人々の安全とプライバシーの保護など、Facebookにとって最も困難なコンテンツ問題に焦点を当てます。特定のコンテンツをFacebookとInstagram（Facebookが所有）に掲載するか、削除するかについて、最終的かつ拘束力のある決定を下します。」

この委員会が持つ力は、ごく限定的で取るに足らないものに限られます。Facebookの新しい審査委員会は、世界で本当に重要な事柄には一切影響を与えません。

委員会が審理するのは、同社がサービスから削除した特定のコンテンツに関する個別の異議申し立てのみであり、それもごく一部に限られる。委員会は、Facebookがサイト上で許可し、宣伝する有害なコンテンツについては何も言えない。広告や、Facebook広告の価値を高める大規模な監視に対する権限はない。偽情報の拡散や危険な陰謀を抑制することもない。Facebookや（Facebook傘下の）WhatsAppで日常的に発生するような嫌がらせ行為にも影響力を持たない。最も危険なコンテンツの多くが蔓延しているFacebookグループのポリシーを指示することもない。そして最も重要なのは、委員会はアルゴリズムの動作方法、ひいてはFacebookの真の力によって何が増幅され、何が抑制されるかについて、一切発言権を持たないということだ。

この委員会は、創造的なコーポレートガバナンスにおける壮大な実験として称賛されている。この委員会の設立プロセスを最もよく知るセント・ジョンズ大学法学教授のケイト・クロニック氏は、「民間の多国籍企業が、自社の方針の一部をこのような外部機関に自主的に委任するのは初めてだ」と述べた。

必ずしもそうではありません。業界団体は長年にわたり、外部機関を通じてこうした自主規制を行ってきましたが、その成果は散々な結果に終わってきました。しかし、Facebookには基準やルールを定める業界団体が存在しません。人類の3分の1がこのプラットフォームを定期的に利用しています。これほどの力と影響力を持つ企業は他にありません。Facebookはそれ自体が一つの業界であり、したがって一つの業界団体でもあります。しかし、これは前例のないことです。なぜなら、取締役会はFacebookが最終的に支配しているのであり、その逆ではないからです。

この映画は以前にも見たことがある。1930年代、元米国郵政長官ウィル・ヘイズ率いる全米映画協会（MPAA）は、ハリウッドの大手スタジオに対し、「わいせつな動きを強調するダンス」などの上映を禁止する厳格な規定を制定した。この規定では、「（米国）国旗の使用は一貫して尊重されなければならない」とも定められていた。1960年代になると、アメリカの文化的慣習は広がり、監督たちは性描写や暴力描写の自由度を高めるよう求めた。そこでMPAAはヘイズ規定を廃止し、アメリカの映画ファンに馴染みのあるレーティングシステム（G、PG、PG-13、R、NC-17）を採用した。

MPAAが厳格な禁止措置から消費者への警告へと移行した理由の一つは、アメリカの裁判所が映画に対する憲法修正第1条の保護範囲を拡大し、地方自治体による検閲の権限を制限したためである。しかし、MPAAは当初から、最も有力なスタジオの利益を代表するカルテルを用いて行動を監視し、規制当局と一般市民に対して業界全体を代表することで、明確な自主規制を行ってきた。

アメリカ映画の歴史を振り返り、どちらの自主規制方法も本当に公共の利益になったと真剣に主張できる人はいないだろう。基準は杜撰かつ一貫性を欠いたまま施行されてきた。ヘイズ・コードとレーティング制度の両方を通じて、MPAAは芸術的表現、そしてレズビアン、ゲイ、トランスジェンダーに関するテーマや物語の表現を制限してきた。しかし、規制当局を遠ざけることでハリウッドを助けたことは確かだ。

Facebookとの比較に関連して言えば、MPAAはアメリカの良識基準を適用してレーティングを設定していますが、映画業界は国境を越えた力を持っています。映画スタジオは、米国上院よりも中華人民共和国政府の要求にはるかに敏感です。Facebookについても同じことが言えます。「表現の自由」に関するアメリカの言い回しやアメリカの考え方を利用してグローバル企業に影響を与えるのは愚行です。これは、Facebookが何年も前に社内で犯した重大な過ちの一つです。

多くの業界や専門団体は、カルテルの力を利用して自主規制を行ったり、少なくともそう見せかけたりしてきました。アメリカ法曹協会はロースクールの認定を行い、法教育の内容と質を決定づけています。また、弁護士の倫理規定も制定しています。これは、国家の力では及ばない大きな力です。

しかし、世界の鉱業や繊維産業で見られたように、労働安全や賃金基準に関する宣言は実際にはあまり意味を持ちません。自主規制は、特定の価値観を推進しているように見せかけ、監視や規制を最小限に抑える優れた方法です。

自主規制が消費者、市民、労働者の労働条件の改善に成功するには、迅速かつ断固とした行動を取り、明確で執行可能な行動規範を策定できる審議機関を設立することが重要です。ある映画スタジオがレーティングプロセスを回避し始めた場合、MPAAとその他の会員は、映画館やその他の配信チャネルに対し、そのスタジオの映画の上映を停止するよう圧力をかけることができます。また、MPAAはスタジオを除名し、協会が数十年にわたって選挙資金やロビー活動によって築き上げてきた政治的資本を剥奪することもできます。

Facebookの取締役会にはそのような権限はありません。独自の行動規範を策定することも、最悪のシナリオを想定して会社に損害リスクを最小限に抑える方法を助言することもできません。そうなると、真の諮問委員会のように行動することになります。この委員会は最初から無力化されています。なぜなら、誰かが、委員会が司法機関のような役割を果たし、一つ一つ事例を審査すべきだという愚かな考えを抱いたからです。

このプロセスは遅く、ゆっくりと進むものとなることは承知しています。疑似司法手続きは熟慮されているように見えるかもしれませんが、意図的に限定されています。コモンローの核となる特性は保守性です。何事も急速に変わることはありません。法律は、過去の判決との整合性を図る裁判所の行為によって制定されます。伝統と予測可能性は、何よりも大切な価値です。そして、安定そのものもまた、重要な価値です。

しかし、Facebookの世界では、世界紛争や民族紛争と同様に、状況は常に激動し、変化しています。大規模な暴力への呼びかけは、どこからともなく湧き上がります。文化や状況の変化に伴い、それらは新たな形をとります。Facebookは急速に変化し、民主主義のようなものを破壊します。この審査委員会は、ゆっくりと変化し、Facebookのようなものを守るために設計されています。

この審査委員会は、些細な問題に対して、古臭く、理想主義的で、単純化された解決策を提示するでしょう。Facebookが削除するコンテンツは、一部の人々に不便をもたらします。Facebookは多くのミスを犯しており、Facebookの官僚主義に対処するのはほぼ不可能です。しかし、Facebookはインターネットのすべてではなく、ましてや情報エコシステムのすべてではありません。そして、Facebookは（まだ）人々がコミュニケーションを取り、情報を学ぶ唯一の手段でもありません。

この掲示板のアイデアのきっかけとなった最も有名な逸話は、1972年にベトナムで米軍のナパーム弾攻撃から逃げる9歳のキム・フック君の写真に関するものだ。2016年にノルウェーの新聞社アフテンポステンがこの写真を記事に使用した際、Facebook社は同紙に対し、サイト上でヌードを掲載しないという一般的なルールに違反しているとして、画像の削除またはモザイク処理を求めた。大きな騒動の後、Facebook社は画像を復元した。つまり、最終的に論争は大したことにはならなかった。問題は解決したのだ。そしてFacebook社がなくても、同じ画像の情報源は数百件あり、その歴史的重要性に関する深い説明も存在する。それ以来、Facebook社はコンテンツ削除の慣行をより積極的にするとともに、使用する基準についてより慎重になるよう努めてきた。このレビュー委員会は、こうした取り組みの目立った発展形である。

例えば、誰かが投稿した写真が「Facebook」上に残るかどうかというブール型の問いは、取るに足らないものだ。この問いは18世紀の「言論の自由」モデルの名残であり、権力の違いや現実世界における言論の在り方を無視している。200年以上も前、コミュニケーションの健全性を評価するには不適切なモデルだった。不透明なアルゴリズムが蔓延する現代において、これは全く不合理だ。

当初の審査委員会には、プロパガンダ、偽情報、誤情報のアルゴリズムによる増幅に対抗する専門知識を持つ人物は含まれていない。人類学者や言語学者もいない。20名の委員のうち、ソーシャルメディアの国際的に評価の高い学術専門家は、オーストラリアのクイーンズランド工科大学のニコラス・スゾール氏だけだ。言い換えれば、委員会はただ一つの価値観、すなわち表現の自由を優先するために設立され、任命されたのだ。この価値観は重要であるものの、Facebookユーザーと企業自体の両方を守るという義務を果たすには、安全性や尊厳といった相反する価値観への配慮も必要となる。

この委員会には、これらの問題をアメリカの法史や紛争の観点から捉えがちなアメリカ人が不釣り合いなほど多く含まれています。当初の20名のうち5名はアメリカ人ですが、その誰もがソーシャルメディアが世界中でどのように機能しているかについて深い知識を持っていません。

対照的に、Facebookユーザー数で世界最多のインド出身者は委員会に1人しかいない。インドには22以上の主要言語と700以上の方言が存在する。ヒンドゥー教徒が多数派を占めるこの国は、インドネシアに次いでイスラム教徒の人口が多く、仏教徒、キリスト教徒、ユダヤ教徒、バハイ教徒も数百万人いる。FacebookとWhatsAppは、暴力的なヒンドゥー至上主義者（Facebookで最も人気のある政治家であるナレンダラ・モディ首相率いる与党インド人民党と緊密に連携している）によって、イスラム教徒、キリスト教徒、ジャーナリスト、学者、そしてインドを残忍で国家主義的な神政国家にしようとする中央政府の試みを批判するあらゆる人々を恐怖に陥れるために利用されてきた。

この理事会は、パキスタン、スリランカ、バングラデシュ、ミャンマーは言うまでもなく、インドにおいてFacebookが増幅させている問題の広範さと深刻さを考慮する覚悟があるのだろうか？ 唯一のインド出身理事であるスディール・クリシュナスワミ氏は、著名な法学者であり、公民権運動家でもある。しかし、彼は22言語のうち、いくつ話せるのだろうか？ マハラシュトラ州の8300万人が話すマラーティー語や、スリランカ共和国の1700万人が話す主要言語であるシンハラ語で表現される民族差別用語の、言語的・文化的ニュアンスを理解できるだろうか？

人口12億人の国に、Facebookの常連ユーザーが3億人近くいるという現実を考えると、クリシュナスワーミー氏は、この増加し憤慨する国民から必ず寄せられるであろう何千もの苦情の中から、どのように選別していくのでしょうか？Facebook上で日々繰り広げられる生死を分ける紛争に、委員会が少しでも変化をもたらすことができるなどという考え自体が、馬鹿げています。

自問自答してみてください。「この委員会の権限で、ミャンマーの人命を救えるものは何か？」答えは、何もないです。「この委員会の権限で、世界中の民主主義体制への組織的な攻撃を最小限に抑えられるものは何か？」答えは、何もないです。「この委員会の権限で、主要政党による活動家、ジャーナリスト、学者への組織的な嫌がらせを制限できるものは何か？」答えは、何もないです。「この委員会の権限で、Facebookがあなたの行動や関心事のあらゆる側面を記録し、利用する能力を制限できるものは何か？」答えは、もちろん、何もないです。

結局のところ、この委員会はFacebookをFacebookたらしめている要素、すなわちグローバル規模（100以上の言語で25億人のユーザー）、監視によって可能になるターゲット広告、そして一部のコンテンツを他のコンテンツよりも優先するアルゴリズムによる増幅といった要素には全く影響を与えないだろう。Facebookの問題は、あの時写真が落ちたことではない。Facebookの問題はFacebookそのものだ。

写真: George Frey/Bloomberg/Getty Images; Liu Jie/Getty Images; Laura Cavanaugh/Getty Images

WIREDのその他の素晴らしい記事

• 東京湾での27日間：ダイヤモンドプリンセス号で何が起こったのか
• 44歳でマラソンのベスト記録を出すには、過去の記録を超えなければならなかった
• 人々が飢えているにもかかわらず、なぜ農家は牛乳を廃棄しているのか
• フリースウェアとは何か？そして、どうすれば身を守ることができるのか？
• 自宅で髪を切るためのヒントと道具
• 👁 AIがCOVID-19の潜在的な治療法を発見。さらに、最新のAIニュースもお届けします
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください