Facebookの台頭がミャンマーの混乱と混沌をいかに煽ったか

Facebookがなければ暴動は起こらなかっただろう。

2014年7月2日の夕方、ミャンマー第2の都市マンダレーの商業中心地にあるサン・ティーショップの周りには、怒り狂った住民数百人が集まり、通りを埋め尽くした。このティーショップのイスラム教徒のオーナーは、仏教徒の女性従業員を強姦したという虚偽の告発を受けていた。

彼に対する非難は当初ブログで報じられたが、当時ミャンマーのインターネットと同義だったFacebookに流れたことで爆発的に広がった。群衆の多くはFacebookの投稿を目にしており、その投稿は広くシェアされた。その中には、マンダレーを拠点とする超国家主義の僧侶ウィラトゥ氏も含まれていた。ウィラトゥ氏は全国に多くの支持者を抱えていた。

群衆の間で怒りが高まる中、警察は増大する群衆を解散させようと苦心し、ゴム弾を発射したり、暴徒を市内の特定の地域に封じ込めようとしたりした。しかし、その努力は概ね失敗に終わった。間もなく、武装した男たちがマチェーテや棍棒を振り回し、バイクや徒歩で王都の街路を蹂躙した。暴徒たちは車に放火し、商店を荒らした。

市内および周辺の郡区には夜間外出禁止令が出されました。当局は、前年に宗教暴動が発生した他の町にも暴力が広がることを懸念していました。騒乱は拡大しませんでしたが、マンダレーでの数日間にわたる乱闘で、イスラム教徒と仏教徒の男性2人が死亡し、約20人が負傷しました。

この騒乱は、人口約5100万人のこの国（人口の大部分は仏教徒）で、言論の自由とインターネットの規制が2010年から徐々に緩和されて以来、少数派イスラム教徒と仏教徒の間でしばしば暴力を伴う一連の衝突が起きている中で最新のものだ。2012年には西部ラカイン州でイスラム教徒と仏教徒の間で暴力の波が起こり、200人近くが死亡、ロヒンギャ族イスラム教徒を中心に約14万人が避難を余儀なくされ、その後数カ月から数年にわたって国中に波紋を広げた。

画像には人間、ヘルメット、衣服、アパレル、自然、瓦礫が含まれている可能性があります

マンダレーの南約270キロに位置する広大な首都ネピドーでは、政府関係者は事態の深刻さをいち早く察知した。デロイトのミャンマー事業責任者であり、ミャンマーのテクノロジーコミュニティに長年携わってきたクリス・タン氏は、慌てた様子で電話を受けた。電話の相手は、テイン・セイン大統領府の高官、ゾー・テイ氏だった。退役軍人で、数年前まで軍事政権で第4位の実力者であり、独裁者タン・シュエの忠実な同志でもあった。

テインセイン氏率いる軍部が支援する政党は、2015年11月の選挙でアウンサンスーチー氏率いる国民民主連盟（NLD）にほぼ完敗した。彼の任期は2016年3月に終了した。憲法で大統領職に就くことが禁じられているアウンサンスーチー氏は、国家顧問の肩書きを持つ事実上の指導者である。しかし、軍は文民の監視下に置かれておらず、国会の議席の4分の1と主要3省を掌握するなど、国の政治において依然として大きな役割を担っている。

この大混乱を食い止める方法を必死に探していたゾー・テイ氏は、以前米国で働き、東南アジアに重点を置くワシントンを拠点とするロビー団体である米国・ASEANビジネス協議会に関わっていたトゥン氏に、大統領府を代表してフェイスブック社に連絡を取り、偽情報の拡散を阻止するために何かできることはないか調べるよう依頼した。

画像にはサングラス、アクセサリー、アクセサリー、人間、パレード、抗議、群衆、テキストが含まれている可能性があります

「彼らはパニックに陥り、どうしたらいいのか分からなくなっていました」と、昨年デロイトを退職したトゥン氏は語る。「彼はかなり心配していました」。フェイスブックはミャンマーにオフィスを構えておらず、トゥン氏によると、同社幹部への連絡方法について混乱が生じていたという。現在アウンサンスーチー政権の報道官を務めるゾー・テイ氏は、この電話があったことを確認した。

トゥン氏は米国のフェイスブック担当者に連絡を取ろうと夜遅くまで試みたが、結局繋がらなかった。結局彼は眠りに落ちた。間もなく、大統領府はマンダレーにおけるフェイスブックへのアクセスを一時的に遮断することを決定したと、ゾー・テイ氏は語る。

その決断は正しかったと彼は言う。衝突を止めたからだ。翌朝目覚めると、Facebookの担当者から5、6通のメールが届いていた。サイトにアクセスできないことを懸念する内容だったという。（最終的に、暴動の引き金を受け取ったとして虚偽のレイプ被害を訴えた女性を含む5人が、暴動の引き金を引いた罪で懲役21年の判決を受けた。）

2014年7月20日、騒乱から2週間余り後、ミャンマーの新興テクノロジー業界のメンバーが、軍事政権が国の技術力の向上を目指してヤンゴンに建設した、時代遅れのオフィスビル、MICTパークの会議室に集まった。この試みは、ほとんど成功しなかった。

暴動後、トゥン氏、ゾー・テイ氏らの協力を得て、パネルディスカッションが急遽開催された。参加者にはGoogle、アジア財団、そして政府の代表者も含まれていたが、聴衆のほとんどはミア・ガーリック氏の話を聞き、そして彼女の説明を求めるために集まっていた。

ミャンマーを含む地域を担当するFacebookのアジア太平洋地域政策担当ディレクター、ガーリック氏は聴衆に対し、今回の暴力事件を受けて、サイトのユーザーガイドラインと行動規範のビルマ語への翻訳を加速させる計画だと述べた。ガーリック氏はまた、ユーザーが不快だと感じたコンテンツが報告された後、どのようにコンテンツが審査されるかについても説明したが、この作業にビルマ語を流暢に話せる人材がどれだけいるかは不明だ。

しかし、ガーリック氏が約束したビルマ語コミュニティの基準は、ヤンゴンでの講演から14ヶ月後の2015年9月まで施行されなかった。そして、それから4年近くが経った今でも、Facebookは、基準違反の可能性があるとフラグが付けられたコンテンツを評価しているビルマ語話者の正確な人数を明らかにしていない。

フェイスブックは、2014年の暴動以前にも、プラットフォーム上でヘイトスピーチが爆発的に増加し、現実世界に影響を及ぼす可能性があるという直接的な警告を少なくとも2回受けていた。

スタンフォード大学のフェローシップで海外特派員として働くアエラ・キャランは、2013年11月にFacebookのグローバルコミュニケーション担当副社長エリオット・シュレージと面会し、ミャンマーで蔓延していたヘイトスピーチと偽ユーザーページについて議論した。キャランはその後の面会を経て、2014年3月初旬にミャンマーの技術系市民社会団体の関係者と共にカリフォルニア州メンロパークにあるFacebook本社に戻り、改めて問題を提起し、Facebookに「ヘイトスピーチと偽情報の深刻さ」を示したとキャランは語る。

しかし、Facebookの広大な官僚機構とミャンマー市場の可能性への期待は、ヘイトスピーチの蔓延に対する懸念を覆い隠してしまったようだ。当時、問題視されたビルマ語コンテンツを審査するビルマ語話者は、アイルランドのダブリンに1人しかいなかったと、キャランは聞かされた。

Facebookの広報担当者は、コンテンツ審査チームには2013年からビルマ語の審査員が参加しているとだけ述べた。「これは大きな差し迫った問題ではなく、接続の機会と捉えられていました」とCallan氏は言う。「多くの人が利用していたため、彼らは接続の機会に熱心だったのだと思います。根本的な問題よりも」。当時、Facebookにとってヘイトスピーチは「優先順位が低い」ように思われていたとCallan氏は言う。

ミャンマーは同社にとって規模は小さいものの、他に類を見ない市場であり、Facebookは近年、ユーザーへのサービス向上のため多角的なアプローチをとってきたとガーリック氏は語る。コンテンツレビューのためにビルマ語を話す人材を追加雇用すること、報告ツールを改善すること、そしてプラットフォームの最適な活用方法をユーザーに伝えるための「地域に根ざした、関連性のあるコンテンツの開発」などが含まれる。「私たちは長年にわたり、プラットフォームの誤用や乱用を減らし、国内での接続性によるメリットを最大限に高めるために、リソースの投入と活動の拡大に取り組んできました」とガーリック氏は語る。

ソーシャルメディア企業を批判する人々にとって、マンダレー暴動への初期の対応は、今後数年間に同社がミャンマーで直面するであろう困難の前兆であり、その困難は今日まで続いている。Facebookの基準に違反する投稿への対応の遅さ、ヘイトスピーチへの対応能力やミャンマーの文化的ニュアンスを理解する能力を欠いた最低限の人員、プラットフォーム上で拡散する危険な投稿の危険性を警告する少数の地元市民社会団体への過剰な依存などだ。これらすべては、ミャンマー国内および世界中の言説の多くを支配している数十億ドル規模の巨大テック企業にとって、明らかに場当たり的なアプローチを反映している。

暴動から4年が経った今、Facebookの社会における役割は、ミャンマー国内のみならず世界中で再び厳しい批判にさらされている。ミャンマー軍は、昨年、武装勢力による警察署襲撃を受けて開始された作戦において、ロヒンギャ族のイスラム教徒に対するレイプ、放火、そして恣意的な殺害を行ったとして非難されている。国連は、この危機におけるFacebookの行動を「ジェノサイドの兆候を呈している」と厳しく非難し、ヘイトスピーチや偽情報のプラットフォームとして機能したFacebookを「化け物と化した」と述べた。

同時に、Facebookとその創業者マーク・ザッカーバーグは、ユーザーデータの不適切な取り扱いや、特に米国における選挙への影響について、世界的な圧力にさらされている。4月、ザッカーバーグは2日間にわたり議会で証言を行い、ロシアの工作員がFacebookのプラットフォームを利用して米国選挙に影響を与えたことから、データ保護の欠如に至るまで、同社内部の数々の問題について証言した。

画像にはマーク・ザッカーバーグ、観客、群衆、人間、ネクタイ、アクセサリー、衣類、コート、スーツが含まれている可能性があります

公聴会ではミャンマー問題も取り上げられた。議員たちは、なぜ会社側が公聴会で提起された問題にもっと早く対応しなかったのかを問いただした。

ザッカーバーグ氏は、フェイスブックはミャンマーの問題に対処するために3本柱のアプローチを取っていると述べた。それは、現地語のコンテンツ審査員を「劇的に」増強すること、ヘイトスピーチを生み出す個人や団体のアカウントを削除すること、そしてミャンマー向けに特別に設計された製品を導入することだが、これらが具体的にどのようなものかについてはほとんど詳細を明かさなかった。

ザッカーバーグ氏がフェイスブックの改善の必要性を認めたが、一部の批評家は、長年の問題に対する責任を十分に果たしていないと批判し、ザッカーバーグ氏が遅すぎたと指摘した。（2018年7月19日更新：フェイスブックは7月18日、暴力を扇動する可能性のあるコンテンツを削除する取り組みを拡大すると発表した。）

「少なくともマンダレーでの事件に関しては、Facebookは認識していました。2014年後半から2015年にかけていくつかの対策が講じられ、問題を理解しようとする努力も行われましたが、必要な対策のほんの一部に過ぎませんでした」と、社交的なオーストラリア人であるデビッド・マッデン氏は語る。マッデン氏は2014年にミャンマー最大の都市ヤンゴンにテックハブ「パンディーヤー」を設立し、Facebookのビルマ語コミュニティ基準の策定を支援した。「後知恵ではありません。この問題の規模は大きく、すでに明らかでした」

ミャンマーにおけるFacebookの人気の高まりは、この東南アジアの国で大きな政治的・社会的変化が起こっていた時期に起こり、それがFacebookの成長を促し、それを可能にしました。ミャンマーは1962年以来、歴代の軍事政権によって統治され、政治的孤立、経済の停滞、少数民族の抑圧、そして民衆蜂起を繰り返し武力で鎮圧してきました。

2010年の議会選挙は、自由公正とは程遠いとして広く批判されたが、軍が綿密に計画した準民政への移行に向けた重要な一歩であった。約15年間、軍によって自宅軟禁されていた野党指導者、アウンサンスーチー氏は選挙への参加を禁じられた。同氏が所属する国民民主連盟の党員らは投票をボイコットしたが、その結果、軍が支援する政党が議席の過半数を獲得した。アウンサンスーチー氏は投票から6日後に自宅軟禁から解放された。

テイン・セイン氏は2011年3月、5年間の任期でミャンマー大統領に就任した。眼鏡をかけ、物静かな指導者は、数々の改革を断行し、周囲の人々を驚かせた。中国が支援する不人気ダム計画を迅速に停止し、2012年には強硬な報道検閲を撤廃した。同年、ミャンマーはバラク・オバマ大統領の訪問に沸き立った。オバマ大統領は現職の米国大統領として初めてミャンマーを訪問した。7年前、米国は北朝鮮やイランと並んでミャンマーを「暴政の前哨地」と呼び、長年にわたり厳しい経済制裁を課していたことを考えると、これは驚くべき事態の転換だった。（最後の制裁は2016年秋までに解除されたが、その後、元将軍1人がロヒンギャへの暴力行為への関与の疑いで制裁を受けている。）

画像にはテイン・セイン、人物、衣服、アパレル、バラク・オバマ、植物、花、花びらが含まれている可能性があります

テインセイン大統領の最も重要な功績の一つは、長らく国有独占企業によって支配されてきた閉鎖的な通信部門の自由化でした。当時の体制下では、インターネット接続は著しく制限され、速度も非常に遅かったのです。国連機関である国際電気通信連合（ITU）によると、2011年のタイのインターネット普及率は1%未満、携帯電話加入者数はわずか130万人でした。

しかし、徐々に変化が始まり、2012年にはヤンゴンやマンダレーといった大都市を中心に、SIMカードの価格は1,000ドル以上から数百ドルにまで下がり、SIMカードは幾分入手しやすくなりましたが、それでもほとんどの人にとっては手の届かないものでした。インターネット接続の拡大に伴い、ソーシャルメディアも普及しました。国営新聞「ニュー・ライト・オブ・ミャンマー」は2013年、「ミャンマーではFacebookのIDを持たない人は、自宅の住所を持たない人と同じだ」と断言しました。

軍事政権によって投獄されていた独立系新聞社「ミャンマー・タイムズ」の創刊者ソニー・スウェ氏は、2013年4月の恩赦で釈放された際に「デジタル津波」に見舞われたと語る。

彼は14年の刑期のうち8年以上を服役し、独房の中を這うクモや昆虫たちに話しかけて時間を過ごしました。「一つ一つ名前をつけて、みんな友達になったんです」と彼は後に語っています。

釈放後、彼は二つのことに気づいた。ヤンゴンの街路を渋滞させるほどの交通渋滞と、携帯電話の普及だ。新聞社の古びた事務所の裏で釈放された数日後、息子がFacebookページを開設するのを手伝った。

その年、政府がノルウェーのテレノール社とカタールのオーレドゥー社という2つの外国通信事業者にライセンスを付与し、国営独占が終焉したことで、デジタル変革は加速する態勢が整った。

政府がライセンス契約に盛り込んだ野心的な接続目標は、今後数年間で同国のインターネット利用が急増することを確実視させました。テレノール社とオーレドゥー社が2014年に事業を開始した際には、1ドル程度のSIMカードを求めて人々が何時間も列を作りました。携帯ショップは一夜にして現れ、安価な中国製スマートフォンを売りつけました。国営通信事業者であるミャンマー郵政電気通信公社（MENTS）は同年、2つの日本企業と提携し、競争と接続性をさらに高めました。

デロイトのレポートによると、2015年までにモバイル普及率は56%に急上昇し、多くのミャンマー人が携帯電話で初めてインターネットにアクセスした。国連の国際電気通信連合（ITU）が公式統計を引用したところによると、現在、インターネットアクセス率は約25%、モバイル普及率は約90%となっている。ワシントンD.C.で最近行われたブリーフィングで、ミャンマーの長年の専門家は、この急激な接続性の向上に続いてFacebookが普及したことを世界最速の出来事と表現した。

予想通り、こうした状況は情報流通に大きな影響を与えています。昨年、国際共和党研究所が実施した世論調査では、回答者の38%がニュースのほとんど、あるいはすべてをFacebookから入手していることがわかりました。回答者は、ラジオ、親戚や友人、テレビといったメディアよりもニュースを入手することが多いものの、新聞よりもFacebookから入手する可能性が高いと回答しました。Facebookによると、ミャンマーでは現在、推定1,800万人がFacebookを利用しています。

テインセイン政権下でのミャンマーにおける前向きな進展は注目に値するものの、依然として大きな課題が残されている。依然として強力な軍と、数十年にわたり自治権拡大を求めて闘ってきた民族武装勢力との間の紛争は、継続、あるいは激化している。土地収用と人権侵害は依然として蔓延している。2012年には、同国西海岸で仏教徒とロヒンギャ族の間で暴力事件が発生し、より完全な民主主義への不安定な道のりに新たな障害が加わった。数万人のロヒンギャ族が、粗末な難民キャンプで生活し、権利を奪われている。

数十年にわたる軍事政権下では、報道の自由は失われ、軍事政権はほぼ秘密裏に活動していた。軍は事前の警告をほとんど受けずに国旗を変更し、首都を移転した。ミャンマーの人々は長年、国営のプロパガンダ新聞に頼り、軍の不透明な発表を読み解いて真相を探っていた。Facebookの登場は、デジタルリテラシーが著しく低いこの国に、人々が集まって物語やニュース、ゴシップを交換する、この国に遍在する喫茶店のハイパーコネクテッド版をもたらした。

「ミャンマーは噂で動いている国で、人々は空白を埋めている」と、2012年から2016年まで米国駐ミャンマー大使を務めたデレク・ミッチェル氏は言う。

ミャンマーの人々の間には、目に見えない勢力が影で権力を掌握しようとしているという強い不安と恐怖が広がっていると、ミッチェル氏は指摘する。Facebookの登場は、こうした噂が驚くべき速さで広がるプラットフォームを提供してしまった。「Facebookは、ポジティブな発言についてもっと積極的に議論できたはずだ」とミッチェル氏は指摘する。「Facebook上での落とし穴やネガティブな発言の危険性を回避するために、どのように物事を見るべきか、そしてFacebookというブランドがプラットフォームに対するより建設的なアプローチを後押しするべきだった」

2012年と2013年、Facebook上でヘイトスピーチや疑わしい記事が急増し、その多くがイスラム教徒、特にロヒンギャ族を標的としていたため、政府はFacebookが騒乱を煽る手段として利用される可能性があると懸念を表明した。しかし、一部の活動家や人権団体は、オンライン上のヘイトスピーチの脅威を完全には認識していなかった。

2013年、ヒューマン・ライツ・ウォッチの職員は、Facebookがヘイトスピーチの拡散に大きな役割を果たす可能性について、概ね否定的な見解を示しました。彼は、2012年のラカイン州での暴力事件の前に、僧侶や超国家主義組織が地方で配布したパンフレットの方が、偽情報を拡散するより悪質な手段であると指摘しました。

Facebookのリスクに対するこうした懐疑論は、政府や軍がヘイトスピーチを口実に、自らの意に沿わない特定のウェブサイトを検閲またはブロックするのではないかという懸念に根ざしていた。ウェブ弾圧への懸念は根拠のないものではない。ミャンマーは過去にもインターネットへのアクセスを制限しており、特に2007年の僧侶主導の民衆蜂起「サフラン革命」の際には、デモやその後の弾圧に関するニュースの漏洩を阻止しようと試みたが、失敗に終わった。

「悪い言論への答えは、より多くの言論です。より多くのコミュニケーション、より多くの声です」と、グーグルのエリック・シュミット会長は2013年3月、ヤンゴンで述べた。ミャンマー国民は「今、人生最大の試練に直面しています」と、同会長は、ミャンマーが技術と通信の自由化から得るであろうプラス面を喜びに満ちた言葉で語った。

2015年初頭、 Facebookは地元のテック系市民社会団体と協力し、メッセンジャープラットフォーム上で利用可能なデジタルステッカーセットを公開しました。これらのステッカーは、元政治犯を含む活動家たちが立ち上げた、ヘイトスピーチに対抗し、オンラインインクルージョンを促進するための広範な「パンザガー」（英語で「フラワースピーチ」）キャンペーンの一環です。このプロジェクトはメディアで大きな注目を集めましたが、Facebookの根本的な問題への対処には至っていないと批判する声もありました。「人々はFacebookを高く評価しましたが、それはほんのわずかなジェスチャーに過ぎなかったようです」と、ミャンマーで幅広く活動していた元米国テック企業幹部は言います。「人々は亡くなりましたが、今、このデジタルステッカーを使えるのです。」

この年、民間社会団体の一団もフェイスブックと協力し、プラットフォーム上の危険な投稿や誤情報にフラグを立て、暴力を助長する可能性のあるコンテンツの削除時間を早めようとしたと、この活動に関わった３人は、仕事のデリケートな性質を理由に匿名を条件に語った。

この緊急エスカレーションシステムは、現在でもほぼ同じ方法で運用されていますが、潜在的に危険な投稿を見つけた少人数のグループが Facebook の担当者 (多くの場合 Garlick 氏) に連絡し、担当者がコンテンツをモデレーションチームに迅速に委任してレビューと削除を依頼するという仕組みになっています。

ガーリック氏は安全上の懸念を理由に同団体の活動についてコメントを控えた。

しかし、関係者によると、このプロセスは拡張性に欠け、効率的ではないという。2017年11月下旬のあるケースでは、著名なジャーナリストを脅迫する投稿が最初にフラグ付けされてから削除されるまで3日かかり、その間にその投稿は何度もコピーされ、共有されていた。身の危険を感じたジャーナリストは、その月に国外へ出国し、今も戻っていない。「Facebookには危機対応のための人員がいなかったし、今もそうではないようだ」と、元米国技術当局者は語る。「インターネット企業はどれも程度の差こそあれこういうものだが、特にFacebookは政府対応部門の人員が非常に少ない。彼らはエンジニアリング企業であり、明確な投資収益率が得られないところにお金を使うことを好まないのだ。」

テックハブの創設者であるマッデン氏は、2015年5月にカリフォルニア州を訪れ、ミャンマーのオンラインユーザーの急増と仏教ナショナリズムの台頭についてFacebook幹部に説明した。同時に、Facebookに対して厳しいメッセージも伝えた。マッデン氏は、ルワンダ虐殺の際にラジオ放送が殺害を扇動するために利用されたのと同様に、Facebookが広範な暴力を煽るプラットフォームとなる危険性があると、同社幹部に向けた長時間のプレゼンテーションで述べた。

「少数の市民社会団体が集まっても、この問題は解決しません」と、現在パンディヤール社の社長を務めるマッデン氏は言う。「責任の問題はまさにここにあります。これはこれまで何度も明らかにされてきました。ヘイトスピーチの多さは、製品に深刻な変更を加える必要があったほどです。これは2017年よりずっと前から明らかでした。」

懸念を表明していたのは国内の団体だけではない。ワシントンを拠点とし、データ会社パランティアなどの企業と協力関係にある非営利団体C4ADSは、2016年2月にヘイトスピーチの傾向とその扇動者を詳細に記した包括的な報告書を発表した。僧侶、政治家、活動家、政府関係者、一般市民100人のFacebookアカウントを分析した結果、同団体は「イスラム教徒を積極的に非人間化するヘイトスピーチキャンペーン」を発見した。

研究者らは投稿に加え、「粗野で非人間的な反イスラム教のイメージや言葉が定期的に『ミーム』に織り込まれている」ことを発見した。その中には、イスラム教徒を標的とした獣姦行為や「預言者ムハンマドが口に挿入される」様子を描いたミームなど、広く共有されているものも含まれている。

Facebookはミャンマーへの進出を強行し、隣国インドで大きな問題を抱えていたにもかかわらず、2016年6月にはミャンマー郵政電気通信公社と共同で「Free Basics」プログラムを開始しました。このサービスは、テレノール社やウーレドゥー社には採用されず、翌年の政府規制変更によりミャンマーではひっそりと閉鎖されました。

マッデン氏によると、2017年1月にメンロパークで開催された会合に詳しい他の2人と同様に、フェイスブックの幹部と再会したという。この会合は、同社がヘイトスピーチに迅速に対応できないことへの失望が続いたことが主なきっかけだった。また、ビルマ語コンテンツの監視に携わる人員数など、同社が強く依存している市民社会団体との情報共有を頑なに拒否していることへの不満も高まっていた。「私たちは非常に指示的な対応をしました」とマッデン氏は述べ、プレゼンテーションのスライドの一つは、フェイスブックの透明性の欠如を浮き彫りにする大きな疑問符の絵だけだったと説明した。

ガーリック氏は、同社が市民社会団体から提起された問題への対応が「遅すぎた」ことを認めている。「私たちがすべきことはまだたくさんあります。ミャンマーの市民社会団体と協力し、耳を傾け、学び、前進を続けていきます」と彼女は述べた。

それでも同社は、地元からの意見がほとんどないまま事業を続けた。最も公になった失態の一つは、5月の会議から4ヶ月後に起きた。同社は「kalar」という用語を含む投稿を削除し、ユーザーを凍結し始めたのだ。kalarはビルマ語で、南アジア系の人々を侮辱する言葉としてよく使われる。しかし、この言葉は「kalar pae」（レンズ豆）や「kala-awe thee」（特に辛い唐辛子）といった、不快感を与えないフレーズにも使われている。

このプロセスは善意に基づいていたものの、ビルマ語とその使用文脈に対する理解が著しく欠如していることを露呈した。また、危険なコンテンツの報告に協力していたテクノロジーコミュニティのメンバーを激怒させた。彼らはこの取り組みに関与しておらず、開始されることも知らなかったにもかかわらず、怒ったユーザーからこのポリシーの責任を負わされたのだ。

Facebookの公共政策担当副社長リチャード・アレン氏は、同社ウェブサイトへの投稿で、「最近、このポリシーを正しく適用するのに苦労しました。主な原因は、状況の理解が難しかったためです。しかし、さらなる調査の結果、正しく適用できるようになりました。しかし、これは長期的な課題になると予想しています」と述べています。

フェイスブックのミャンマー事業に詳しい人物は、アレン氏よりも明らかに直接的に、この取り組みの展開を「まったく馬鹿げている」と評した。

誤解を招くFacebook投稿は、ミャンマーにおいて混乱、暴力の脅威、そして政府の行き過ぎた介入を引き起こし続けています。ジャーナリスト兼翻訳家のアウン・ナイン・ソー氏の事例を考えてみましょう。2016年11月、ユーザーがアラカン・ロヒンギャ救世軍のメンバーと並んで立っている写真だと主張する写真を拡散し始めたことで、彼はオンラインで標的にされました。この武装勢力は2016年10月と2017年8月に警察署を襲撃し、これをきっかけにロヒンギャに対する大規模な攻撃が開始され、数十万人もの人々が隣国バングラデシュに避難しました。（情報開示：アウン・ナイン・ソー氏は、私が執筆した記事の翻訳者であり、その記事は4月にNewYorker.comに掲載されました。）

アウン・ナイン・ソー氏は写真に写っていなかったため、Facebookが投稿を削除するまでには、何度も試み、報告が必要だった。投稿のコピーは今もプラットフォーム上で流通している。他の投稿は、彼の宗教やジャーナリストとしての活動を標的にしていた。バーモント州選出の民主党上院議員パトリック・リーヒ氏は、4月のザッカーバーグ氏の証言の中でこの問題を取り上げ、次のように述べた。「アウン・ナイン・ソー氏を標的とした投稿の一つは、『イスラム教徒のジャーナリストの殺害を求めるもの』でした。この脅迫はFacebookの検出システムをすり抜け、瞬く間に拡散しました。そして、削除を試みるまでに、何度も試み、市民社会団体の協力も必要でした。なぜ24時間以内に削除できなかったのでしょうか？」

ザッカーバーグ氏は、ミャンマーで起きていることは「悲惨な悲劇であり、我々はもっと多くのことを行う必要がある」と応じたが、リーヒ氏は「我々全員がそのことに同意する」と簡潔に口を挟んだ。その後、ザッカーバーグ氏はミャンマー事業に関する3つの改善策を提示した。

アウン・ナイン・ソー氏はインタビューで、ミャンマー警察の悪名高い諜報部隊「スペシャル・ブランチ」の隊員から、ARSAのメンバーであるという虚偽の告発について尋問を受けたと述べている。この告発は当時Facebookに投稿され、元国会議員を含む多くの人々に拡散されていた。その後2ヶ月間、ヤンゴンから外に出る際は必ず、その隊員に行き先を告げなければならなかったと彼は語る。

政府の監視強化が、アウン・ナイン・ソー氏のジャーナリストとしての活動を阻むことにはならなかった。彼は2017年10月下旬、取材旅行中に国会議事堂付近でドローンを飛行させたとして、トルコ国営放送局に勤務する外国人ジャーナリスト2名と共に逮捕された。一行は有罪を認め、2ヶ月間拘留された後、事件は取り下げられた。アウン・ナイン・ソー氏によると、他のジャーナリストは数日間しか尋問されなかったのに対し、自身はFacebookへの投稿のせいで11～12日間も尋問されたという。

もし警察の意図がアウン・ナイン・ソー氏の報道を阻止することだったとしたら、それはうまくいかなかった。彼はすぐに抗議活動や他のジャーナリストの投獄を取材するようになり、ヤンゴンの非公式な報道陣の同僚記者たちにタバコを配っていた。彼はメディアの自由を声高に主張するようになり、獄中生活について冗談を言うことさえある。「逮捕されて良かったのは、この問題が正式に解決したことだ」と彼は笑いながら言う。「警察は私がそのグループの一員ではないという公式記録を持っている」

市民社会団体や研究者たちは、アウン・ナイン・ソー氏の経験、特にFacebook上での彼に対する激しい攻撃は、特異なことではなかったと指摘する。ミャンマー関連のヘイトスピーチやボットを追跡してきたデジタル研究者兼アナリストのレイモンド・セラート氏は、昨年10月にロヒンギャ危機が勃発した際に、Facebook上でヘイトスピーチが急増したことを発見した。反ロヒンギャ団体の活動は200%増加した。セラート氏によると、多くの投稿はイスラム教徒を犬や他の動物に例えていたという。「人間性を奪うような発言が目立ちました。バラバラにされた遺体も数多くありました」と彼は言う。

Facebookがこれらのページを目にしなかったのは、「どこを見ればいいのか分からなかった」からだと彼は言う。「Facebookが、自分たちが活動している国々の民族政治や社会政治について何も知らないのは明らかだ」

一方、ミャンマー政府と軍はFacebookを最も巧みに、そして巧みに利用してきた。彼らはFacebookというプラットフォームを利用して、ロヒンギャ危機に関する独自の見解を発信してきた。3月には、ミャンマー軍司令官室が、ロヒンギャ危機へのミャンマーの対応を厳しく批判した英国議員らに対抗するため、ロヒンギャのテロリストに襲われたと主張する、バラバラにされた子供や死亡した乳児の写真を投稿した。

政府報道官のゾー・テイ氏は、ロヒンギャ族が自らの家を燃やしているという偽りの写真を何度もFacebookで共有し、兵士による性的暴力の訴えを「偽のレイプ」と嘲笑してきた。過去には「Hmuu Zaw」という偽名でFacebookページを頻繁に使用していた。

元政府高官は、ゾー・テイ氏がFacebookとミャンマー政府との交渉における「中心人物」だったと述べた。退役陸軍将校であるゾー・テイ氏とFacebookの関係は「問題がある」と、同社のミャンマーにおける活動に詳しい関係者は述べた。

ゾー・テイ氏は、物議を醸した投稿についてコメント要請に応じなかった。ガーリック氏によると、Facebookの禁止コンテンツに関するポリシーは、政府関係者を含むすべてのユーザーに適用されるという。

市民社会グループ、テクノロジー企業、そしてFacebook上で嫌がらせを受けている人々が直面している継続的な不満は、さらなる偽情報の検出と削除を伴う事件をきっかけに、この春、世間の注目を集めた。

4月上旬、ウェブサイトVoxのインタビューで、ザッカーバーグ氏は、9月上旬からFacebookメッセンジャー上で全米に広く拡散されたチェーンメールを発見したと主張した。メッセージの一つは、9月11日にイスラム教徒による攻撃が差し迫っていると仏教徒団体に警告するものだった。もう一つは、同日に仏教徒のナショナリストがイスラム教徒に対して暴力行為を起こすと警告するものだった。

ザッカーバーグ氏は、土曜日の朝にFacebookメッセンジャーで暴力を煽るメッセージが拡散されているという電話を受けたと説明した。「その場合、当社のシステムはそのようなことが起こっていることを検知し、そのようなメッセージの送信を停止します」と彼は述べた。

市民社会団体は、フェイスブックのシステムが自分たちのシステムとは大きく異なるメッセージを検知したというザッカーバーグ氏の発言に不意を突かれ、怒りを覚えた。

実際には、メッセージを発見し、Facebookに通報し、何日も返信を待っていたのはメンバーだったと彼らは主張する。グループによると、これらのメッセージは少なくとも3件の暴力事件を引き起こし、その中にはイスラム学校への放火未遂や、ミャンマー中部のある町でイスラム教徒の商店や家屋が略奪された事件も含まれている。

6つの民間社会団体からなるグループは、ザッカーバーグ氏に宛てた痛烈な公開書簡の中で、メッセンジャー事件は「第三者への過度の依存、適切な緊急エスカレーションの仕組みの欠如、組織的な解決策に関して地元の利害関係者を関与させることへの消極的態度、そして透明性の欠如」を示していると述べた。

ニューヨーク・タイムズが公開したメールのコピーによると、ザッカーバーグ氏はその後、コンテンツ監視における市民社会団体の役割について「十分に明確に説明していなかった」としてメールで謝罪した。同氏はさらに、「ビルマ語を話すレビュアーを数十人追加で雇用した」と付け加えた。この発言はあまりにも頻繁に聞かれ、ミャンマーのテクノロジー業界ではもはや定番のジョークとなっている。

しかし、同社はこれらの監視員に関する詳細を明らかにしていない。ガーリック氏はビルマ語コンテンツのレビュー担当者の具体的な人数については明らかにせず、年々増加しており、「現在は数十人のレビュー担当者を雇用しており、年末までに倍増させることを目指している」とのみ述べた。

同社は、50以上の言語で7,500人以上のコンテンツレビュアーを擁していると発表する。ミャンマーで広く使用されているビルマ語以外の言語に精通したレビュアーがいるかどうか尋ねられた広報担当者は、Facebookがカバーする言語以外の言語でコンテンツが報告された場合、その言語に精通した担当者と連携して、コンテンツが基準に違反していないかを判断するとだけ答えた。コンテンツレビュアーが対応している言語のリストは公開されていないと広報担当者は述べた。

Facebookはここ数ヶ月、いくつかの重要な措置を講じ、同社には更なる対応の余地があると認識している。2月には、マンダレー暴動の扇動に加担した過激派僧侶、ウィラトゥ氏のアカウントを凍結した。市民社会団体からの反発を受け、同社は他の民族主義団体や僧侶のページを削除し、ヘイトスピーチや誤情報の主要な発信源を排除した。Facebookは最近、公共政策マネージャーを含むミャンマー関連の求人広告を掲載し、シンガポールを拠点とするこの職務には、ビルマ語の流暢さと「ミャンマーの政治システム」への理解が必須であると明記した。

広報担当者によると、Facebookはメッセンジャー上のコンテンツを報告するためのツールも導入し、AIを活用してヘイトコンテンツをより迅速に特定する可能性も検討しているという。カリフォルニアに拠点を置く非営利団体「ビジネス・フォー・ソーシャル・レスポンシビリティ」は、ミャンマーにおけるFacebookの役割に関する人権影響評価をまもなく開始し、完了次第公表する予定だ。

Facebookの運営をめぐる秘密主義は依然として続いている。リーヒ上院議員からの追加質問に対する書面回答でも、同社はいつもの曖昧な言い回しを繰り返した。コンテンツを監視しているビルマ語話者の数について具体的に尋ねられると、「サービス全体でユーザーからの報告に対応するため、ビルマ語のレビュアーを数十人増員しました。また、ユーザーからの報告に特化したコンテンツレビュアーの数を2倍以上に増やす予定です」とだけ答えた。

アウン・ナイン・ソー氏の投稿について、またフェイスブックが投稿を削除するのになぜこれほど時間がかかったのかについて質問されると、同社は「これらのページに関する詳しい情報がなければ回答できない」と述べた。

リーヒ上院議員が使用した投稿のプリントアウトは、身元保護のためぼかしが入れられていたものの、それがアウン・ナイン・ソー氏であることは秘密ではなかった。彼はメディアに対し、自身の体験について率直に語り、ソーシャルメディア上で広く特定された。彼は、この事件に関して会社側の担当者から連絡を受けたことはないと述べた。

先月、Facebookの幹部による大規模な代表団がミャンマーを訪問し、注目を集めました。アジア太平洋地域公共政策担当副社長のサイモン・ミルナー氏率いる代表団はミャンマー情報省と会談し、情報省からミャンマーへの事務所開設を提案されたと、国営メディアが報じています。Facebookの広報担当者は、現時点でミャンマーに事務所を開設する計画はなく、ミャンマー担当チームを複数のタイムゾーンに配置することで24時間体制で業務を遂行できると述べました。

民間社会団体との会合も含まれたこの訪問は、同社の「ミャンマーでFacebookを利用する何百万人もの人々を当社のサービス上で安全に保つという深いコミットメント」を表明することが目的だったとガーリック氏は語る。

しかし、ミャンマーの観察者や専門家の間では、Facebookが2020年の選挙で果たす役割について既に懸念が広がっている。国民は5年前よりもインターネットに繋がるようになるだろう。数十年にわたり国を揺るがしてきた戦争は収束の兆しを見せておらず、ロヒンギャ族の帰還準備が進む中でも、彼らに対する激しい非難は続いている。現在の注目がFacebookにミャンマーの問題に真剣に取り組むよう促すかどうかについては、深い懐疑論がある。

「メディアの注目が集まっている時は変化について語られてきましたが、法案が通過した後、実際に大きな動きが見られるのでしょうか？」とマッデン氏は問いかける。「それは未解決の問題です。歴史的記録は明るい兆しを見せていません。」

更新: この記事は、暴力を扇動する可能性のあるコンテンツを削除する取り組みを拡大するという Facebook の発表を含めるように改訂されました。

WIREDのその他の素晴らしい記事