児童性的虐待で大手IT企業を標的にするのは間違った戦い方だ

テクノロジー業界は、オンライン上の児童性的虐待対策に十分な取り組みをしていない。これが、サジド・ジャヴィド内務大臣が今週行った演説の主旨であり、ジャヴィド内務大臣は、テクノロジー企業に対し、より一層の対策を講じなければ法規制に直面することになる、と「要求」していると述べた。

「ウェブ大手が自社のプラットフォームからこの種のコンテンツを削除するさらなる措置を取らないのであれば、私は躊躇せずに行動を起こす」と述べ、政府の行動は業界の「行動と姿勢」によって形作られると警告した。

ジャビド氏の行動喚起は、国家犯罪対策庁（NCA）の新たな統計データと併せて発表された。このデータによると、児童虐待画像の通報件数は2012年以降700%増加している。この増加の背景には、画像共有の容易さから虐待コンテンツへの通報の徹底まで、様々な要因が考えられる。しかしながら、当局はテクノロジー業界が重要な役割を担っているというメッセージを強調しており、NCAは、テクノロジー企業がわいせつな画像の流通排除に一層力を入れることは、児童保護における「画期的な出来事」となるだろうと述べている。

問題は、「さらに努力する」とはどういうことかということです。

「こういう話は何度も聞いてきました」と、超党派シンクタンク「デモス」のソーシャルメディア分析センター研究員、アレックス・クラソドムスキー＝ジョーンズ氏は言う。「私はソーシャルメディアの巨人が好きではありませんが、彼らは4ヶ月に一度はこういう話を聞いているのです」。彼はまた、GoogleやFacebookといった「ウェブの巨人」だけに責任を負わせるのは公平なことなのかと疑問を呈している。

「これは、アンバー・ラッド氏が（暗号化に関して）標的としたのと同じ大手テクノロジー企業を狙っているのでしょうか？もしそうだとしたら残念です。これらの企業は非常に懸命に取り組んでおり、十分なリソースも持っています。」

Facebook、Twitter、Google はいずれも、Microsoft の PhotoDNA 画像ハッシュ システムを使用しています。このシステムは、重複した画像がアップロードされるのを最初から防ぐことを目的として、画像を以前にフラグ付けされた膨大な素材のデータベースと比較します。

クラソドムスキー＝ジョーンズ氏によると、問題は「同じリソースを持たない無数のサイト」にあるという。そして、それらは政府から厳しく批判されている巨大IT企業ではない。

例えば、インターネット・ウォッチ財団（IWF）の最新報告書によると、画像ホスティングサイトは他のサービスよりも「著しく多く」悪用されており、2016年には児童性的虐待画像の72%がホスティングされているのに対し、ソーシャルネットワークではわずか1.1%にとどまっている。これらのサイトではユーザーが画像をアップロードし、固有のURLで公開される。また、少人数のスタッフで運営されているケースが多いため、これらのサイトにホスティングされる大量の画像と、それらを監視できる人間の数との間には大きな隔たりがある。

したがって、重要な焦点の一つは、大企業に対し、違法コンテンツを識別する能力を小規模プラットフォームにも提供するよう促すことです。サジド氏の警告に加え、Googleは画像処理によって児童虐待コンテンツを識別できるAIツールキットをNGOや業界パートナーと共有すると発表した。

ディープニューラルネットワークが、組織が潜在的に不適切なコンテンツを人間のモデレーターに報告するのに役立つとすれば、膨大な数の画像をホストしながらも監視リソースが限られている小規模サイトにとって、これは非常に重要になるだろう。ただし、これを世界規模で展開できるかどうかは別の問題だ。

「世界的な例を挙げると、ロシアのソーシャルメディア企業がアメリカのソーシャルメディア企業と協力したいかどうかです。政治的に言えば、それは実現しないかもしれません」とIWF副CEOのフレッド・ラングフォード氏は説明する。そして、まさにそこが大手IT企業が直面している大きな問題なのだ。

ソーシャルメディア大手が児童性的虐待コンテンツを掲載しているのはごく一部かもしれないが、だからといって彼らが完全に無罪であるわけではない。サジド氏は演説の中で、テクノロジー企業に対し、プラットフォーム上でのグルーミング（性的虐待）問題に対処するよう求めた。

同氏は、オンラインチャットを通じて児童を誘惑しようとしている者を検知できるツールを開発するため、マイクロソフトと提携した業界の専門家による会議が11月に開催される予定だと述べた。

「虐待への第一歩がダークウェブを経由することはほとんどなく、子供たちが毎日使っている人気のソーシャルメディアサイトを通じて起こることを忘れてはならない」と、児童慈善団体NSPCCのCEO、ピーター・ワンレス氏は言う。

「過去10年間で、ソーシャルネットワークは放っておけばこの問題に立ち向かえないことが明らかになりました。だからこそ、こうした犯罪を根源から撲滅し、エスカレートする前に悪用を阻止するためには、効果的で執行力のある、そして強力な規制が政府の対応策に不可欠なのです。」

しかし、グルーミングを防ぐことは、画像認識を使って虐待的な画像を見分けるよりもはるかに困難であることが判明するかもしれない。「問題は、グルーミングの多くは微妙なニュアンスを持っていることです。誰かがグルーミングをしているだけなのか、同年代の二人がセックスについて話し合っているだけなのか、といった違いがあります」とラングフォード氏は言う。「私の知る限り、この問題に有効な解決策はまだ見つかっていないのです。」

彼は、捕食者が一晩で100人の子供に接触するというシナリオを挙げています。「もし1人が『噛みついた』としても、残りの99人はグルーミングの被害に遭っていない」とラングフォード氏は説明しますが、これらの会話のデータは依然として捕食者を追跡する上で重要です。では、何が「グルーミング」を構成するのか、その境界線はどこに引くべきなのでしょうか？そして、プライバシーの境界を越えずにデータを活用するにはどうすれば良いのでしょうか？

「ニュアンスのある対応が必要です」と、NCAで児童性的虐待対策の責任者を務めるロブ・ジョーンズ氏は語る。「懸念事項がある場合、コミュニケーションに介入することはプラットフォームが準備しておくべきことです。しかし、ニュアンスのあるアプローチが必要です。画像の動きのように白黒はっきりしたものではありません。」

膨大な数のオンライン会話をAIでふるいにかけるのは、一見当たり前の解決策のように思えるかもしれない。しかし、テクノロジーだけでうまくいくという保証はない。「魔法のアルゴリズムを作るべきだという考えは、（問題の複雑さを考えると）まずあり得ない。テクノロジーは優れているが、決して完璧ではない」とクラソドムスキー＝ジョーンズ氏は言う。

彼はさらに、大手IT企業への反対運動は、インターネットの取り締まりの責任を誰が負うのかという、より深く根底にある問題を覆い隠してしまう危険性もあると付け加えた。「法執行機関は、あらゆるコミュニティに警察官を配置するという概念から、巨大なオンライン空間を取り締まる必要性へと移行しており、危機に瀕しています。より多くの協力と合意が必要です。」

大手テクノロジー企業、小規模サイト、政府、法執行機関の関係は不明瞭だが、ライブストリーミングや広告業界でよく使われる複雑な URL リダイレクトなど、進化し続ける一連の手法を通じて行われるようになったオンラインでの児童性的搾取のような複雑な脅威に対処するには、あらゆるレベルでの連携を強化するしかない。

「（節度ある）コミュニティーが団結​​して取り組むべきことはたくさんある」と、手の甲の跡を判別して小児性愛者を追跡する画期的な技術を開発した法医学人類学者スー・ブラック教授は言う。

「デジタル技術の普及によって、こうした画像へのアクセスが容易になったことは間違いありません」とブラック氏は述べ、スマートフォンやソーシャルメディアの発展だけでなく、児童虐待産業の経済状況にも言及した。「テクノロジーが産業の発展を助けてきたのであれば、同時に阻害する可能性もあります。」

この記事はWIRED UKで最初に公開されました。