YouTubeはシリア化学兵器攻撃の証拠を削除し続けている

4月7日の夕暮れ時、シリア史上最悪の化学攻撃の一つが東グータのドゥーマ市を襲い、70人以上が死亡した。数分後、YouTubeに動画による攻撃の報告が流れ始めた。

人口11万1864人のシリアの町に夜が訪れる中、埃っぽい建物の中で撮影された映像には、口から泡を吹く複数の遺体が映っていた。死体の中には、生まれたばかりの赤ちゃんを抱きしめる母親と父親もおり、彼らの鼻と唇は厚い白い痂皮で覆われていた。反体制派支配下の町への攻撃は、国際的な怒りを巻き起こした。

YouTubeの映像は、シリアで人権侵害が行われていることを示す唯一の証拠となることがよくある。しかし、ドゥーマを拠点とする正統な報道機関「クマイト」がアップロードしたこの動画は、Googleの機械学習アルゴリズムによってフラグが付けられたため、数千もの類似動画とともに削除された。

紛争の映像の検証、バックアップ、保存を目的とするオープンソース・イニシアチブ「シリア・アーカイブ」の創設者、ハディ・アル＝ハティブ氏によると、一部のビデオは永久に失われる可能性があるという。削除されたビデオには、爆撃を受ける病院、化学攻撃の犠牲者、弾薬の残骸などが含まれている。「これらはプロパガンダでも過激派コンテンツでもありません」とアル＝ハティブ氏は語る。「この情報は、特定の地域、特定の時間に攻撃があったことを示す唯一の情報源となる可能性があります。」

これは歴史上最も多くの記録が残る戦争であり、そのほとんどはソーシャルメディア上で展開されています。YouTubeは市民ジャーナリストにとって最適なプラットフォームですが、Googleが削除する前に動画を保存することは困難です。アル＝ハティーブ氏によると、シリア・アーカイブがバックアップできた117万7394本の動画のうち、2012年から2018年の間にGoogleは12万3229本を削除しました。しかも、これは私たちが把握している動画のほんの一部です。

今年4月のドゥーマ攻撃を受けて、シリア・アーカイブは、この種の攻撃を記録した動画を特に保存するため、公開可能な化学兵器データベースを立ち上げました。データベースに登録されている動画は2014年まで遡ります。アル＝ハティーブ氏によると、861本の動画のうち72本がYouTubeから削除されており、これらはすべて合法的な動画です。

Googleは、2017年6月に過激派コンテンツの検出に機械学習を活用すると発表した後、膨大な数のオンライン動画を削除してきた。2か月後、同社は「暴力的過激主義」を理由に削除された動画の75%が「人間によるフラグが1つも付かないうちに」削除されたと自慢した。昨年12月までに、この数字は98%に達した。

シリア・アーカイブは、チームが先に削除されたYouTube動画にアクセスし、データベースにバックアップできれば、動画を保存することができます。しかし、アーカイブされる前にGoogleのアルゴリズムによって削除されたコンテンツには大きな影響があります。「YouTubeが2017年に機械学習を導入して以来、すでに多くのコンテンツを失っていると思います」とアル＝ハティーブ氏は言います。「もし動画を回収できなければ、シリアの責任追及プロセスに大きな影響が出るでしょう。」

アルゴリズムは、YouTubeのコミュニティガイドラインに違反する動画にフラグを立てています。コミュニティガイドラインでは、「不当な暴力、危険で違法な行為、ヘイトスピーチ」が禁止されています。ただし、YouTubeは「十分な教育的価値およびドキュメンタリー的なニュース価値」を持つコンテンツについては例外を設けているとしています。

しかし、シリア戦争の映像はしばしば生々しいため、人権侵害コンテンツがアルゴリズムによって誤ってYouTubeのガイドラインに違反していると判断される可能性があります。Googleは「常に正しい判断を下すわけではない」ことを認めており、YouTubeの広報担当者によると、同社はこの問題を「非常に深刻に受け止めている」とのことです。

しかし、アル＝ハティーブ氏と彼のチームは、削除されたコンテンツの多くが合法であることを認識しています。5,000以上の情報源から情報を収集し、ランドマーク、Google Earth、衛星画像などを用いて動画を検証しています。「まず、情報源を見つける必要があります。信頼できる情報源か、オンラインでの評判は良いか、過去に信頼できる情報を公開したことがあるかなどです。そして、日時と場所を確認します。」

シリア・アーカイブとそのパートナーは、Googleに対し、正当であることが証明された動画を復活させるよう説得することにも一定の成功を収めている。2017年半ばから2018年初頭にかけて、40万本もの動画がオンラインに戻された。アル＝ハティーブ氏によると、2018年3月以降、動画の削除ペースは鈍化しているという。しかし、アルゴリズムがどのように機能するのか、そしてGoogleが削除した動画をどれくらいの期間保存するのかは、正確には誰も知らない。

「Googleからの返答は、誰と話しているか、そして実際にどれだけ助けてくれるかによって異なります」と、シリア・アーカイブと共同で活動する団体Witnessで技術・アドボカシー担当プログラム・マネージャーを務めるディア・カヤリ氏は言う。「ここ数ヶ月、私たちは思うようにコミュニケーションが取れていません。」

人権活動家たちは、Googleの不透明なアプローチが大きな障害になっていると指摘する。「アルゴリズムの透明性は一般的に大きな問題ですが、コンテンツの削除に関してはなおさらです」とカヤリ氏は言う。「Googleには外部監査機関が全くなく、それが透明性の基本要件です。私たちはアルゴリズムの詳細を知りません。何度も働きかけてきましたが、いまだにわかりません。」

オープンソースおよびソーシャルメディア調査プラットフォーム「ベリングキャット」の創設者、エリオット・ヒギンズ氏は、Googleの戦略を身をもって体験した。ある時、彼のYouTubeアカウント全体が閉鎖された。ヒギンズ氏はチャンネルを復活させることに成功したが、閉鎖された理由は依然として不明だ。「戦争犯罪捜査官が動画を保存する前に削除されれば、証拠は永遠に失われてしまう可能性がある」

シリア紛争を監視する団体Airwars.orgのディレクター、クリス・ウッズ氏も、Googleのアルゴリズムによる問題を経験している。子供を含む民間人への攻撃を追跡するAirwarsのYouTube動画に残酷な画像が含まれていないことを確認済みであるにもかかわらず、Googleは当該コンテンツに18歳以上対象と表示し、削除を拒否した。

「私たちを深く悩ませたのは、YouTubeが動画の保管庫、つまり永久的なアーカイブだと皆が思い込んでいたことです」とウッズ氏は語る。「この1年間で、YouTube上でさえ、こうしたコンテンツがいかに非永続的で脆弱なものかということを思い知りました。」

シリコンバレーに拠点を置く非営利団体ベネテックの副社長、キース・ハイアット氏は1年前、Googleから、アルゴリズムによってフラグ付けされたコンテンツはすべて人間が確認していると告げられた。「しかし、それは人間がすべての動画を視聴し、ケースバイケースで徹底的な分析を行うという意味でしょうか？それとも、人間が削除を承認するだけなのでしょうか？」

動画を視聴する人々は、人権関連のコンテンツを見分ける訓練を受ける必要があるとアル＝ハティブ氏は言う。「そして、もし削除されたとしても、Googleがそれを保存し、復元できるようにすることが非常に重要です。」

ソーシャルメディアのコンテンツに基づく証拠は、すでに非常に貴重であることが証明されています。昨年8月、国際刑事裁判所（ICC）は、リビアにおける戦争犯罪に関するビデオ証拠とソーシャルメディアの投稿を主に根拠として、初の公開逮捕状を発行しました。

「私にとって恐ろしいのは、何がすでに失われているのか、私たちには全く分からないということです」と、Witnessのカヤリ氏は語る。「ICCやドイツ政府といったオープンソースの調査を行っている人々は、これらのビデオが存在しないかどうかを知ることは決してなく、逮捕状を発行したり、証人を見つけたりすることができないかもしれません。」

しかし、特に欧州の立法者は、プラットフォームに対し、テロリストのコンテンツを最初のアップロードから数時間以内に特定し削除するよう、ますます強い要求を強めています。これを受けて、ソーシャルメディア企業は一連の自主的な取り組みに同意しています。これには、プラットフォームが自動フィルターを用いて重複コンテンツを発見・削除する、テロリストハッシュデータベースが含まれます。

しかし、例えばISISの勧誘を示すビデオは、ある状況では法律に違反する可能性があるが、将来の訴追のために犯罪を記録するなどの目的では合法であり、重要である場合もあると、スタンフォード大学インターネットと社会センターの仲介者責任ディレクター、ダフネ・ケラー氏は言う。

「企業に迅速かつ杜撰なコンテンツ削除を強いれば強まるほど、ミスが増えることになる」とケラー氏は言う。彼女は、議員たちは「ペースを落とし、セキュリティ研究者や影響を受けるコミュニティのメンバーを含む専門家と話し合い、その基盤の上に築き上げていくべきだ」と考えている。

YouTubeは、コミュニティガイドライン施行レポートと報告履歴ダッシュボードを例に挙げ、削除プロセスの「透明性」を高めることに尽力していると述べています。また、他の組織と連携し、「動画の文脈を理解し、重要なコンテンツがプラットフォーム上で引き続き利用可能であることを保証する」ことにも前向きだとしています。

規制によって事態はより困難になるが、今のところシリア・アーカイブのような人道支援団体は、正当なコンテンツが削除されたときにGoogleに抗議し続けることしかできない。

一方、アル＝ハティーブ率いる8人のチームは、病院や医療施設を含む民間インフラへの空爆と弾薬の記録に焦点を当てた、より独立したデータベースの構築を目指している。「私たちは文書も犯罪現場も物的証拠も持っていないので、このコンテンツが法的な目的で利用される際に価値を高めたいのです」とアル＝ハティーブは語る。「YouTubeは最適な場所ではありませんが、人々が利用しているのは事実です。」

2018年6月26日 9時50分 (BST) 更新: YouTube は、アルゴリズムにより動画が自動的に削除されるのではなく、削除対象としてフラグが付けられると発表しました。

この記事はWIRED UKで最初に公開されました。