Amazonのアルゴリズムがディストピア的な書店をキュレーションした方法

アマゾンの疫学カテゴリーでベストセラーとなっている書籍の中には、ワクチン反対の書物が数冊含まれている。ある書籍の表紙には自信満々の医師が描かれているが、著者は医学博士ではない。Googleで簡単に検索すれば、著者は「ThinkTwice Global Vaccine Institute」の医療ジャーナリストであることがわかる。アマゾンのトップレベルの書籍セクションで「ワクチン」というキーワードをスクロールしていくと、救急小児科から医学史、化学に至るまで、様々なカテゴリーで反ワクチン関連の書籍が「ベストセラー1位」として目立つように表示されている。最初のワクチン賛成派の書籍はリストの12位に現れる。「レイチェルの自閉症はワクチンが原因ではない」という単刀直入なタイトルのこの本は、検索結果の最初のページで唯一のワクチン賛成派の書籍だ。その著者である小児科医ピーター・ホーテズ氏は、ベイラー医科大学小児科および分子ウイルス学・微生物学科の教授であり、この本が出版されて以来、彼が戦わなければならなかった誹謗中傷やアマゾンのレビュー攻撃の量について何度もツイートしている。

Amazonの「がん」カテゴリーでは、ベストセラーのラベルが付いた本が、化学療法の代替としてジュースを勧めています。「がん」という用語全体では、政府の陰謀などに関する様々な主張を寄せ集めた「がんの真実」が、組織的なレビュー攻撃によって1,684件のレビューを獲得し、トップページに掲載されていることが確実視されています。なんと96%が5つ星で、これは多くのAmazon顧客が品質の指標として用いているものです。しかし、レビューの正当性を顧客が判断できるように支援するサイトであるReviewmetaを見ると、1,000件以上のレビューが、時期、言語、レビュー者の行動において疑わしい可能性があることが示唆されています。

かつてはタブロイド紙やウェブフォーラムに追いやられていた健康に関する誤情報や陰謀論は、Amazon、Facebook、Googleといった巨大プラットフォームを支えるキュレーションエンジンという新たなメガホンを手にした。検索、トレンド、そしてレコメンデーションのアルゴリズムは、非主流派の考えを主流派のように見せかけるために操作される可能性がある。さらに、情熱の非対称性によって真実追及コミュニティは大量のコンテンツを生み出し、結果としてアルゴリズムが提供できるコンテンツ量が増加している…そして、どうやらそれが現実世界に影響を及ぼしているようだ。

近年の麻疹の流行再燃を受け、世界保健機関（WHO）、疾病対策センター（CDC）、そして米国議会は、ワクチン反対を唱える誤情報が公衆衛生に与える影響を疑問視している。調査報道を行うジャーナリストや学者たちは、この問題の一側面、すなわち、キュレーションアルゴリズムがオンライン上の健康に関する誤情報をどのように抑制（あるいは拡散）させているかを調査してきた。その結果は、決して楽観的なものではない。

ここ10年ほど、私たちはアルゴリズムによるキュレーションにますます依存するようになりました。コンテンツ過剰の時代において、検索結果とランキングフィードは、私たちが読む記事や購入する商品から、選ぶ医者やレストランに至るまで、あらゆるものを形作ります。レコメンデーションエンジンは、新たな興味や社会集団の形成に影響を与えます。トレンドアルゴリズムは、他の人々が何に注目しているかを示し、社会的な会話や、時には社会運動を牽引する力を持っています。

キュレーションアルゴリズムは、大部分が非道徳的です。統計的に見て私たちが見たいと思えるもの、つまり、私たちと似たような人が興味を抱くコンテンツを表示するように設計されています。たとえそれが事実上信頼できないものや潜在的に有害なものであってもです。ソーシャルネットワークでは、これらのアルゴリズムは主にエンゲージメントを促進するために最適化されています。Amazonでは、購入を促進することを目的としています。Amazonは各商品ページに複数の種類のレコメンデーションエンジンを備えています。「この商品も購入されたお客様」の提案は、「この商品を購入したお客様は、この商品も購入されています」とは異なります。「スポンサー」商品もありますが、これは基本的に広告です。そして、「よく一緒に購入されている商品」は、カテゴリー間で商品をリンクする機能です（多くの場合非常に便利ですが、時折やや不快な機能もあります）。何も購入せずにプラットフォームを離れると、翌日にはさらに多くの商品をおすすめするメールが届くことがあります。

Amazonは私たちの消費習慣の多くを形作っています。何百万人もの人々が毎日何を買い、何を見、何を読み、何を聞くかに影響を与えています。Amazonはインターネットにおける事実上の商品検索エンジンであり、毎日数億ドルものお金がAmazonのサイトを巡っているため、この検索エンジンを操作しようとする動機は高いのです。特定の商品で検索結果の最初のページに表示されることは、非常に大きな利益をもたらす可能性があります。

残念ながら、多くのキュレーションアルゴリズムは、特に人気度が重要な入力要素となる場合、予測可能な方法で操作される可能性があります。Amazonでは、疑わしいアカウントが協力して説得力のある肯定的（または否定的）レビューを残すという形をとることがよくあります。販売者がレビュー詐欺を買収したり、その他の方法で奨励したりする場合もあります。これはAmazonの利用規約に違反しますが、取り締まりは緩いです。反ワクチン運動や一部の代替医療コミュニティのように、熱心な信者の大規模なグループが協力して、好みのコンテンツを検索結果の最初のページに押し上げることもあります。（Amazonはこの見解に異議を唱え、レビューは厳重に監視していると述べています^。1）

Amazonのレビューは、同社のランキングアルゴリズムにおいて重要な役割を果たしているようだ（同社はこれを認めていない）。顧客は商品を購入する際に、星の数とレビューの数を考慮し、品質の指標とみなされている。高評価は意図しない無料プロモーションにつながる可能性がある。AmazonのPrime Streamingビデオプラットフォームは、ワクチンが自閉症を引き起こすという陰謀論を描いたアンドリュー・ウェイクフィールド監督の映画『Vaxxed 』を大々的に紹介するスプラッシュページからスタートした。

おそらく、Amazonがコンテンツクリエイターに独自のカテゴリーとキーワードを選択させていることが、問題を複雑にしているのかもしれません。この記事を執筆中に、Kindle書籍の出品ツールを試してみましたが、キーワードとカテゴリーは完全に自分で選択できます。

Amazonほど膨大な商品基盤を持つ同社にとって、何らかのレビュープロセスを実施するのは容易ではないだろう。だからこそ、いんちき医療が「腫瘍学」や「化学」といったカテゴリーに分類されているのだろう。これは、Amazonが書店や図書館ではないことを改めて思い起こさせる。

ネット上の健康に関する誤情報を解決する特効薬はありません。ガーディアン紙のジャーナリスト、ジュリア・キャリー・ウォン氏は最近、反ワクチン派のソーシャルメディアの状況をツイートで次のように要約しました。「データの欠落、熱意の差、不適切な推奨アルゴリズム、ターゲット広告、組織的な嫌がらせ、そしてエコーチェンバー（反体制的な発言を繰り返す集団）といった問題が蔓延しています。ソーシャルメディアのあらゆる問題が複雑に絡み合い、非常に深刻な影響を及ぼしている巨大な混乱状態です。」

これは複雑で厄介な問題であり、Amazonも苦境に立たされています。この問題への取り組みは検閲につながる可能性があるという懸念があります。しかし、コンテンツを完全に削除したり、書籍の販売を拒否したりすることと、情報の拡散と分類を見直すことの間には大きな隔たりがあります。Amazonは、まず、個人の人生（あるいは公衆衛生）に重大な影響を与える可能性のある疑似科学の推奨と分類を改善することから始めることができます。ここ数ヶ月、YouTubeとFacebookは、健康に関する誤情報や陰謀論コミュニティに対処するためにポリシーを変更し始めました。YouTubeは反ワクチンコンテンツの収益化を停止し、ランキングを下げました。Facebookも同様の措置を取る可能性が高いことを示唆する声明を発表しました。Googleは、その功績として、長年にわたり「Your Money or Your Life（あなたのお金か、あなたの命か）」と呼ばれる検索ポリシーを掲げてきました。これは、人々が影響力の大きいトピックに関する情報を検索する際に、検索結果をより高い基準で評価する責任があるという認識に基づいています。Amazonで健康関連書籍を購入しようとしているユーザーにも、同じ基準が適用されるべきです。

大手プラットフォームはどれも、ゲーム化可能なアルゴリズムの問題から逃れることはできません。しかし、特にAmazonは、膨大なユーザー数と驚異的な収益を誇るにもかかわらず、長年にわたる詐欺行為やレビュー操作に関する数々の調査にもかかわらず、ほとんど何も変えていないことが特筆に値します。Amazonは単に問題を無視し、次の報道サイクルを待っているだけです。

アマゾンは最近、健康に関する誤情報の抑制に向けて段階的な措置を講じているが、それは主に大きな圧力がかかっている場合に限られている。同社は、アダム・シフ下院議員（カリフォルニア州選出、民主党）からの書簡に対し、プライム・ストリーミングからいくつかの反ワクチンドキュメンタリーを削除することで対応した。これは良いスタートだが、十分ではない。健康に関する誤情報が現実世界に与える影響は、無視できないほど大きく、かつ重要だ。アマゾンは、自社のランキングエンジンとレコメンデーションエンジンが広範囲に及ぶ影響力を持つこと、そして誤情報のパンデミックが別の種類のバイラル性を引き起こす可能性があることを認識する必要がある。

¹ 2019年3月7日午前10時（EST）更新：このストーリーはAmazonからのコメントを含めるように更新されました。

WIREDのその他の素晴らしい記事