SurfSafeブラウザ拡張機能で偽写真から守る

マイケル・ベネットはシアトル・シーホークスでプレーしていた頃、チームのロッカールームで勝利を祝ってダンスを踊っていました。2017年9月にネット上で拡散し始めたフォトショップ加工された写真とは異なり、ベネットは星条旗を燃やして勝利を祝ったわけではありません。Snopes.com、Time、そしてもちろんWIREDといったサイトでファクトチェックを読めば、ベネットが星条旗を燃やし、チームメイトとコーチが喜びの表情で見守る写真が偽物だと分かるはずです。

しかし、もしあなたがFacebookで偽写真に遭遇し、それが何度も本物として提示され、ベネットのようなNFL選手が国歌斉唱中に抗議行動をとることに反対していたとしたら、あなたは見たものを信じてしまうかもしれません。写真が出回ってからほぼ1年、何千ものコメントが偽物だと指摘していたにもかかわらず、先週あるFacebookユーザーが書いたように、「NFLを閉鎖しろ。全員海外に送れば、生活がどれほど良くなるか見てみろ」といったコメントを書きたくなるかもしれません。

改ざんされた画像は、ウェブ全体でフェイクニュースと戦う上での悩みの種となっている。テクノロジー企業や研究者は、典型的なボットの行動を分析し、新たなボットを嗅ぎ分けることができる。偽情報とされたニュースを繰り返し共有する報道機関のリーチを制限することもできる。アカウントが連携して活動しているのを検知し、ネットワーク全体を一掃することもできる。しかし、ミーム化され、何千回もスクリーンショットされた写真が真実を映しているかどうかを判断するには、全く異なるレベルのフォレンジック分析が必要となる。研究者たちは改ざんされた画像を検出できるソフトウェアの開発に着手しているが、ますます巧妙化するフェイク画像作成者との熾烈な競争に巻き込まれている。

ミームがインターネットの言語となったことで、誤情報の重要な媒体にもなっています。ファクトチェック機関は、国旗を燃やす写真のような画像の真偽を検証するために忠実に取り組んでいますが、そうしたファクトチェックを見つけるのは、既にスマートフォンをスクロールし、いいねやシェアに忙しくしているユーザーの責任です。そして、こうした冷静な分析が、元の誤情報ほど広く共有されることは稀です。

アッシュ・バート氏は、私たちが本当に必要としているのは、人々がメディアの摂取量が誤情報に汚染されていることを、まさにその瞬間に積極的に知らせてくれるツールだと言う。そこでバート氏とビジネスパートナーのロハン・ファッド氏（ともにカリフォルニア大学バークレー校の学部生）は、まさにそれを実現するブラウザプラグインを考案した。本日リリースされる「SurfSafe」と呼ばれるこのプラグインは、FacebookであれWIREDのようなサイトであれ、ブラウザに表示されるあらゆる画像にマウスを合わせると、SurfSafeは即座にその写真を100以上の信頼できるニュースサイトやSnopesのようなファクトチェックサイトと比較し、以前にそこに掲載されたことがないか確認する。例えば、ベネット氏が国旗を燃やしている写真については、SnopesやTime.comによるファクトチェックを含む、その写真が掲載されている他の9つの記事が表示される。

「SurfSafeをアンチウイルスソフトのようなソリューションにしたいんです」とバート氏は語る。「ユーザーがブラウジングしている時に、ニュースフィードをスキャンしてフェイクニュースを探したいんです。」

SurfSafeのコンセプトは、バート氏とファッド氏のスタートアップ企業RoBhat Labsが開発したBotCheck.meというツールから生まれました。このツールはブラウザ拡張機能でもあり、すべてのツイートとTwitterプロフィールにボタンを追加し、ユーザーはクリックすることでそのアカウントがボットのものであるかどうかを確認できました。バート氏とファッド氏は機械学習を用いて、Twitterにおける典型的なボットの行動と人間の行動の違いを分析し、93.5%以上の精度でボットを予測できるモデルを開発しました。

その研究を通して、二人の学生は、これらのボットが写真ベースのコンテンツをいかに多く共有しているかだけでなく、それらを審査することがいかに難しいかも認識した。ノースイースタン大学複雑ネットワーク研究センターのポスドク研究員で、BotCheck.meの競合サービス「Botometer」の開発にも携わったオヌール・ヴァロル氏は、これは研究者とプラットフォームの双方を悩ませる課題だと指摘する。「画像の偽造、あるいは写真に誤解を招く情報を仕込もうとする行為は、はるかに根深い問題です」とヴァロル氏は語る。「ジャーナリストでさえ、それが偽物か本物かを見極めるのは非常に困難な作業です。」

ヴァロル氏によると、画像自体は実際にあったものであっても、オンラインでは全く異なる文脈で提示されている場合、特にその傾向が顕著だという。例えば、ある抗議活動の写真が別の抗議活動に関する記事に登場し、視聴者に実際に何が起こったのかについて誤解を招いてしまう可能性がある。

SurfSafeは完璧なソリューションではないものの、野心的なスタートであることは間違いない。NYTimes.com、CNN.com、FoxNews.comなど、SurfSafeが信頼できると判断した100以上のニュースサイトに掲載されているすべての写真に、固有のデジタル指紋が保存される。また、プラグインをインストールした状態でインターネットを閲覧しているユーザーが目にするすべての写真の署名も保存する。「ユーザーは、基本的な閲覧習慣だけで、1日に数百枚、あるいは数千枚の画像を見ることができます」とファッド氏は言う。1^類似しているが加工された写真には、ほぼ同一の指紋、つまり「ハッシュ」が付けられるが、完全に同一ではない。「画像がPhotoshopで加工されている場合、画像ハッシュの一部だけが異なっているので、最終的にはこれらの画像がかなり類似していることがわかります」とファッド氏は言う。

ユーザーが写真にマウスオーバーすると、SurfSafeは指紋データベース全体をスキャンし、その画像が未加工または加工された状態で過去に検出されたことがあるかどうかを確認します。検出されたことがある場合は、画面右側に他の画像を即座に表示します。その際、最も古い画像がオリジナルである可能性が高いため、優先的に表示されます。ユーザーは、その画像がプロパガンダ、フォトショップ加工、または誤解を招くものであるかどうかをフラグ付けすることができ、これはSurfSafeの今後のモデル構築に役立ちます。

バット氏は、このツールにはいくつかの盲点があることを認めている。例えば、SurfSafeが過去にその画像に遭遇したことがない場合、その画像が実際には偽物であっても、ユーザーには一致するものがないと表示されるだけだ。しかし、バット氏はそれを小さな欠陥だと捉えている。「私たちが懸念しているのは、バイラルに拡散するフェイクニュースです」と彼は言う。「フェイクニュースが拡散しているなら、私たちはそれを目にしているはずです。」

SurfSafeの利用者が増えれば増えるほど、このツールが取り込む画像も増えます。SurfSafeが最初の1年間で数十万人のユーザーを獲得できれば、1000億件の指紋データベースを構築できるとBhat氏は期待しています。

ヴァロル氏はこれを貴重な出発点と捉えている。なぜなら、プロのファクトチェッカーを含め、人々の手間を省くことができるからだ。「このツールはファクトチェックの簡単な部分を捉えてくれるので、画像を確認して自分で背景調査をする必要がなくなるかもしれません」と彼は言う。

それでも、バット氏とファッド氏の手に負えない制約が残っている。その最大のものは、そもそも人々にプラグインをインストールしてもらうことだ。結局のところ、人々がフェイクニュースに騙されやすいのは、デジタルリテラシーの欠如が一因だ。インターネットへの主な窓口がFacebookである人に、ファクトチェックプラグインをインストールするという追加のステップを踏むことを期待するのは、少々無理がある。もう一つの課題は、現時点でこのプラグインがChrome、Firefox、Operaのウェブブラウザでしか利用できないことだ。つまり、SurfSafeはFacebookのようなアプリ内でユーザーが見つけたコンテンツをフラグ付けできないのだ。RoBhat Labsは、このツールのモバイル版を開発中だ。

このようなツールを広く普及させる最も簡単な方法は、FacebookやTwitterなどのプラットフォームが自らこの技術を統合することだろう。Facebookは、ニュース記事向けに同様のシステムを導入し始めている。ファクトチェック機関がニュース記事を虚偽と判断すると、Facebookはその記事のリーチを縮小し、元の記事のすぐ下に、元の記事を論破する関連記事を表示する。同社は最近、この機能を写真や動画にも拡大し始めた。しかし現時点では、その作業の多くは手作業で行われており、人間のファクトチェッカーがコンテンツを精査している。SurfSafeが試みているように、そのプロセスを自動化すると、間違えるリスクが伴う。「企業は、プラットフォームをクリーンアップするためにこうしたシステムを導入する時期について、より慎重になろうとしています」とヴァロル氏は言う。「一度ミスをすると、大学が開発したソフトウェアよりもはるかに大きなコストがかかります。」

これは、RoBhat Labsが目指すものの重大さを如実に物語っています。インターネットから偽情報を排除することが目標であれば、さらに偽情報を生み出すことは絶対に避けるべきです。

¹訂正：2018年8月22日午後3時39分（東部標準時）この記事の以前のバージョンでは、ファッド氏の発言を誤って引用し、平均的なユーザーは1日に「数十万枚」の画像を見ているとしていました。正しくは「数百枚、あるいは数千枚」です。

WIREDのその他の素晴らしい記事