Facebookの調査について話す時が来た

プレーンテキストの読者の皆様、ご注意ください。リコールは効果がありません。私が辞任すべきだと考えている方のために。それに、私はフレンチ・ランドリーに行ったことすらありません。

プレーンビュー

Facebookとその関連サービス（Instagram、WhatsAppなど）の利用者は、約40億人に達しています。同社は、これらのユーザーに関する膨大なデータを保有しており、個人情報や、サービス内でのあらゆる行動のログ、そしてサービス外での行動も記録されています。同社は早くから、この前例のない膨大な情報の価値を理解していました。2006年には、データサイエンティストのジェフ・ハマーバッチャー氏を雇用し、これらのデータを効率的にマイニングできるインフラを構築しました。このシステムの後継システムは現在、何百人もの研究者の活動の場となっています。

通常、こうした研究者が行う何千もの社内調査や実験の結果は表に出てこない。Facebookは、それらがユーザーが目にする製品にどう影響するのか、あるいは影響しないのかについて、透明性を保っていないことが多い。しかし今週、ウォール・ストリート・ジャーナルが、主に研究者による内部資料の漏洩に基づくセンセーショナルなシリーズ記事を掲載したことで、Facebookのデータ専門家たちが注目を集めた。その一つは、Facebookのコンテンツ規則の適用除外とされる数百万人の秘密のホワイトリストの影響を扱ったものだった。また、Facebookがプラットフォーム上での幸福度を高めるために作成したアルゴリズムが、実際には人々の怒りを増大させていることを暴露した。おそらく最も非難されるべきは、Instagramが同サービスを利用していた数百万人の10代の少女の自己イメージに悪影響を及ぼし、彼女たちの精神的健康を脅かしていると示唆する研究だった。（インスタグラムのリーダー、アダム・モッセリ氏にとっては、タイミングとしては理想的とは言えなかった。記事が掲載された夜、彼はまるで道化師のクローゼットから盗み出したかのようなタキシードでメットガラのレッドカーペットを闊歩していたのだ。）記事は、こうした明白な危険信号にもかかわらず、マーク・ザッカーバーグ氏と彼のブレーントラストは問題に対処しようとしなかったと非難した。少なくとも、Facebookに関するこの情報は、社会の大きな関心事であったにもかかわらず、社内に留め置かれていた。

Facebookの研究について議論する必要がある。私は公式・非公式を問わず、研究者の何人かと話をしたが、彼らの質と献身的な姿勢に感銘を受けた。「Facebookの研究者をどの大学に配属しても、データサイエンスのエリート教員になれるだろう」と、スタンフォード大学ロースクールのナサニエル・パーシリー教授は言う。パーシリー教授はFacebookのデータを公表しようと、研究者と緊密に協力してきたが、必ずしも成功しているわけではない。研究者たちの熱心な支持者たちは、自分たちの研究がソーシャルメディアの真実を明らかにし、同社が問題に対処し、何百万人ものユーザーの生活を向上させるのに役立つと信じている。一方で、Facebookをより良く機能させることに満足感を覚える研究者もいる。

彼らの仕事にはファウスト的な側面もある。彼らは数十億人の行動を記録した前例のないアーカイブ、いわばデータのディズニーランドにアクセスできる。その代償として、彼らの研究は独占的である。研究者は研究結果を公表する機会もあるが、基本的には社内に留めておくのが原則だ。Facebookは透明性を約束し続けているものの、実際には一度も実現には至っていない。特に、共有に対する慢性的な警戒感につながったある出来事があった。それは、2014年に発表された「感情研究」として知られる報告書に対する衝撃的な反応だった。この研究プロジェクトは、特定の投稿が気分を害するかどうかを調べるために、実験の対象であることを知らないユーザーのニュースフィードを操作したという点で、伝統的な倫理に抵触するとして激しく非難された。Facebookが得た教訓は、研究結果に関する情報を共有しすぎると問題につながる可能性があるということだった。「彼らは依然として非常に制約を受けている」とパーシリーは言う。「何を公開できるかは、上司の気まぐれに左右されるのだ。」

Facebookは、外部の研究者による自社データの研究を許可すると繰り返し約束しているが、その取り組みは波乱に満ちたものでもある。先週、Facebookの政治データを共有するために綿密に構築された「Social Science One」に関わっていた外部研究者が、Facebookが提供したデータセットに致命的な欠陥があることを発見した。Social Science Oneをかつて率いていたパーシリー氏は、これに憤慨し、現在、Facebookに重要なデータを外部に共有することを義務付ける法案について議員らと協議している。

それでも、Facebookで活躍する研究者たちは、こうした制約をものともしないと言います。学術界の目標は知識を増やすことですが、彼らの目標は何百万人もの人々に影響を与える製品に変化をもたらすことなのです。

しかし、Facebookが調査結果をはるかに超える結果を出した場合、何が起こるのでしょうか？Facebook Researchは常に同社の成長組織の一部であり、その使命はユーザーを獲得・維持することであり、時には倫理や社会の利益を犠牲にしてきたという事実は、示唆に富んでいます。WSJの報道が示唆するように、研究者が不快な事実を明らかにしても、その研究結果は必ずしも受け入れられるとは限りません。Instagramの研究者によるプレゼンテーション資料のスライドの中には、変革を求める必死の訴えのように聞こえるものもあります。あるスライドの太字のタイトルは「10代の5人に1人が、Instagramは自分の気持ちを悪くさせると述べている」です。別のスライドには「メンタルヘルスに悩む10代の若者は、Instagramが状況を悪化させていると述べている」と書かれています。

モッセリ氏は記事掲載後、インスタグラムの公共政策ディレクターであるカリーナ・ニューマン氏によるこの弁明へのリンクをツイートした。彼女は、いじめ、自殺、摂食障害といったテーマに関する社内調査がサービスの改善につながったと述べ、ウォールストリート・ジャーナルの報道は文書の文脈を無視していると主張している。

それでも、例えばワクチンの研究で接種者の5人に1人が深刻な副作用を示したとしたら、そのワクチンは即座に廃棄されるだろう。しかし、ウォール・ストリート・ジャーナルが報じているように、フェイスブックの研究者がインスタグラムが何百万人もの10代の少女のメンタルヘルスに悪影響を及ぼしていると報告したとき、ザッカーバーグと彼のチームは抜本的な変更をせず、代わりに、この製品をプレティーンにも普及させる方法を検討する計画を進めた。そして、彼らは研究内容を秘密にしていた。リークされるまで、誰もそのことを知らなかったのだ。

これは、Facebookの研究に携わるデータアナリスト、統計学者、社会科学者にとってのパラドックスです。例えば、ウェルビーイングに関する彼らの研究の多くは、プラットフォームをより健全な場所にすることに貢献するかもしれません。しかし、今週明らかになった事例が示すように、そうした変化がビジネスに悪影響を及ぼす場合もあり、ビジネス上の配慮が優先されることもあります。Facebookは学術界ではなく、市場の中に位置づけられているのです。

この事実は、Facebookリサーチの父、ジェフ・ハマーバッカーにも理解されていました。彼はわずか2年で同社を去りました。彼は後にその理由をこう説明しています。「Facebookは、探索の場から搾取の場へと変化しつつありました。」別のインタビューで、彼はFacebookの研究者たちの心に今も残る言葉を放ちました。「私の世代の優秀な頭脳は、どうすれば人々に広告をクリックさせることができるかを考え続けているのです。」

タイムトラベル

2015年に、私はFacebookリサーチプロジェクトについて記事を書きました。そのプロジェクトでは、テネシー州ノックスビルのユーザーに実際にアンケートを取り、ニュースフィードにどんな記事を見たいかを尋ねました。当時、現在Instagramの責任者を務めるアダム・モッセリは、ニュースフィードチームに所属していました。

「編集上の判断はなるべく控えるようにしています」と、ニュースフィードのプロダクトディレクター、アダム・モッセリ氏は語る。「ファーガソン事件の方がアイス・バケツ・チャレンジより重要だと考えるかもしれませんが、野菜が健康に良いかどうかはさておき、人々に野菜を食べるよう強制すべきではないと考えています。」

モッセリ氏によると、Facebookはニュースフィードに3つの機能を求めているという。「1つ目は、ユーザーを友人や家族と繋ぐこと。これがFacebookの根底にある根本的な価値です」と彼は言う。「2つ目は、ニュース、スポーツのスコア、ジーンズの洗濯方法など、ユーザーが興味を持ちそうなことを伝えることです。3つ目は、ユーザーを楽しませることです。笑わせたり、動画や予告編を見せたりすることです」。コンテンツをこれらのカテゴリーに分類することで、Facebookは評価者がどのような種類の記事を歓迎し、なぜそうするのかを判断できると彼は言う。

もちろん、大きな疑問の 1 つは、この調査によって人々がより意味のあるストーリー、つまりケールスムージーを切望していることが示されるかどうかです。これまでのところ、答えはノーです。「どちらかといえば、その逆です」とモッセーリは言います。「最高のストーリー、人々に本当に見たいストーリーは何かと尋ねたとき、最も高い割合で寄せられた影響の種類は、強い感情的な反応でした。人々が本当に見たいのは、笑わせたり幸せな気分にさせたりするものであって、必ずしも非常に価値のある情報ではありません。」ストーリーごとに見ると、この即時満足の衝動は、自分のソーシャルグラフ上の人々に関するニュースを聞きたいという欲求を圧倒することさえあるかもしれません...「人々に各ストーリーについて個別に尋ねれば、彼らは自然に感情的な反応を非常に高く評価するでしょう。それが私たちが目にしているものです」と彼は言います。

一つだけ聞いてください

ジェームズはこう書いている。「自動運転車は全く間違った方向に進んでいる。なぜドライバーを遠隔操作するプロのドライバーに置き換えないのか？」

ジェームズ、質問ありがとうございます。遠隔操縦はドローンには有効かもしれませんが、私たち一般人にとっては解決策にはならないと思います。まず、「遠隔操縦のプロドライバー」には報酬を支払う必要があるので、経済的に意味がありません。車に乗るたびにドライバーを雇わなければならない？これでは安全上の問題も生じます。レイテンシー（遅延）という問題があり、例えばヘラジカがあなたの進路に現れたとしても、スタジオにいるプロのドライバーはポッドキャストを聴いていて気が散っている可能性があり、ヘラジカを避けるのに間に合わない可能性があります。接続が切れたらどうなるでしょうか？つまり…ダメです。車がもっと賢くなるまで待つしかないでしょう。

しかし、ハンドルがなく、全員が助手席に座っているような車というシステムにおいては、あなたのアイデアには一定の価値があると思います。何かトラブルが発生したり、AIが判断できないような渋滞に巻き込まれたりした時、遠隔地のドライバーがハイテクな修理センターまで誘導するだけの非常ボタンがあれば、それが可能になるかもしれません。しかし、それまでの間は、「自動運転」のテスラのハンドルを握ったまま居眠りしないで下さいね。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。