FacebookはCIAよりもあなたのことをよく知っている

2019年7月24日午前7時

CIAのベテランがFacebookの選挙支援で学んだこと

Facebookは選挙介入問題への対応を支援するため、ヤエル・アイゼンスタット氏を雇用した。彼女は今、同社が私たちの生活に及ぼす影響について深く懸念している。

ソーシャルメディアの巨人たちは窮地に陥り、私たちは皆、その苦しみを味わっている。Facebook、Twitter、YouTubeといった無料サービスは、ユーザーを惹きつけ続けることで収益を上げ、より多くの広告を表示している。これらのサービスは、私たちの脳の化学反応を利用するように設計されており、通知を点滅させ、アルゴリズムが推奨する動画をもう一度表示させている。もし彼らがそうしなければ、収益は減少し、株主は不満を抱くだろう。

これはプラットフォーム側が言うように、相互に利益のある関係ではなく、寄生的な関係です。ソーシャルメディアは私たちのエネルギーと最も個人的なデータを吸い上げ、その見返りとして不安と民主主義の不安定化をもたらします。

テック大手が政府よりもあなたのことをよく知っているという状況になってきています。CIA職員、東アフリカの外交官、バイデン副大統領の顧問を務めた後、2018年にFacebookに入社し、選挙介入問題に取り組んだヤエル・アイゼンスタット氏の言葉を借りれば、「私はこういうジョークを言うんです。誰もがそうするわけではありませんが、両方の立場にいた経験から、FacebookはCIAよりもあなたのことをよく知っています」と彼女は言います。「Facebookは、あなたが自分自身について知っている以上に、あなたのことをよく知っています。」

確かに恐ろしいことだが、利益のために私たちを操作しようとするプラットフォームは、もはや抑制されずに活動を続けることはできないかもしれない。WIREDはアイゼンスタット氏にインタビューし、その理由、彼女がなぜすぐにFacebookを去ったのか、そして議員たちが私たちが思っているほど無知ではない理由について聞いた。

この会話はわかりやすくするために編集され、要約されています。

WIRED： CIAで働いた後、Facebookで働くというのは…興味深いキャリアチェンジですね。なぜFacebookに採用されたのですか？

ヤエル・アイゼンスタット：書類上は、まさに私にぴったりの役割でした。ビジネス・インテグリティ部門内に全く新しいチームを立ち上げ、プラットフォームが政治目的に利用されたり、世界中の選挙を操作されたりしないよう、どのように対策を講じるかを考えるという任務だと理解していました。

結局、その仕事はそうはいきませんでした。2日目に、マネージャーからグローバル選挙インテグリティオペレーション責任者からマネージャーに役職を変更すると告げられました。つまり、私の本来の責任範囲とそうでない範囲を再検討しているということだったのです。自分のチームを雇うことについては、全く話し合う機会がありませんでした。あらゆることが私を窮地に追い込み、本来の業務に取り組ませたり、やるべき仕事をさせないようにしていたのです。

WIRED：では、なぜあなたを採用したのですか？PR活動のためですか？

アイゼンスタット氏：あれはPR活動の策略だったとは思いません。正直に言って、これまでの仕事人生で最も混乱した経験でした。「あなたを黙らせるために雇われたのでは？」と聞かれることもあります。私はFacebookを熱烈に批判していたわけではありませんが、イベントのヘッドライナーを務めたり、インタビューを受けたりする機会が増えていました。実際、それも理由ではないと思います。彼らが問題を解決できないと思っているからではないと思います。私は彼らがやろうとしているよりもはるかに多くのことをやりたかったのです。それは確かです。しかし、繰り返しますが、2日目にはそうはなっていませんでした。そこが、私にはまだ完全には理解できない部分です。

一度あのドアをくぐり抜けた途端、雇われた仕事をする権限を一度も与えられませんでした。それどころか、権限がないどころか、意図的に脇に追いやられていました。Facebookはフラットな組織だと誰もが言います。誰もが誰とでも話せると。でも、私の場合は全くそうではありませんでした。上司は、私が雇われた仕事に関する会議には一切、意図的に私を参加させませんでした。私はしょっちゅうこう尋ねていました。「政治広告について会議があるそうですね。中間選挙を前にどう対処するつもりですか？」と。それが私が主導する仕事だと言われたのに、上司は私を会議にさえ参加させませんでした。

WIRED：解決策のアイデアはいくつかあったと思いますが？6ヶ月間そこにいたんですね。

アイゼンスタット：私たちがそこでやっていたことのほとんどは、許される最低限のことだったと思います。私は限界に挑戦し、質問をしていました。「これについてはどうだろう？あれについてはどうだろう？」と。彼らは私が限界に挑戦することを望んでいなかったと思います。なぜ彼らが私をあんな風に扱ったのか、説明できません。

外国の干渉については、奇妙に聞こえるかもしれませんが、修正は比較的容易なはずです。もちろん、不正に操作する人はいつでもいますが、基本的な対策は講じることができます。ルーブルで広告料を支払っていた広告主もいました。こうした点を解明するのは、それほど難しいことではなかったはずです。

私たちが考え出した解決策はどれも、(a) 企業がその要件を満たすための最低限のものであり、(b) 依然として責任を他者に押し付けているものでした。私にとって問題は、こうした事態を招いている根本的なシステム上の問題です。なぜなら、これらの企業は、私たちのエンゲージメントを維持することに完全に依存しているからです。つまり、私たちが彼らのプラットフォームに注目し、彼らの製品に時間を費やし続けること。

[ WIREDへのコメントで、Facebookは選挙対策の一環として、毎日数百万件の偽アカウントをブロックし、第三者によるファクトチェック・プログラムを拡充していると述べています。Facebookのグローバル選挙担当公共政策ディレクター、ケイティ・ハーバス氏は、「何百人ものスタッフが昼夜を問わず、これらの重要な問題に取り組んでいます」と述べています。「よりスマートなツールの開発、透明性の向上、より強固なパートナーシップの構築、そしてより強力な防御策の構築に取り組んでいます。私たちは各選挙から学び、何よりも、悪意のある行為者が民主的なプロセスに干渉するのを防ぐために、できる限りのことを行うことに尽力しています。」

WIRED：それがTwitterやFacebook、YouTubeのような無料プラットフォームの根本的な問題です。これらのプラットフォームは、私たちの注目を操作しなければならないビジネスモデルに囚われているのです。

アイゼンスタット：ビジネスモデルは、人々の関心を維持することです。広告が良いか悪いかという問題ではありません。問題は、広告が人々の目に留まるまで、どうすれば関心を維持できるかということです。彼らのツールは、私たちを惹きつけ続けるためにあらゆる手段を講じています。その結果、私たちはますます極端な罠に陥り、ますます分極化しています。なぜなら、卑猥な論点とクリックベイトな見出しが人々の目を画面から引き離さないからです。そして、私たちを憤慨させ、怒らせ、分極化させ続けることができればできるほど、ロシアが介入してその分断につけ込むのがますます容易になるのです。

私にとって、解決すべき最大の問題は、人間の持つ最悪の部分を意図的に利用しているビジネスモデルです。確かに、「人間ってそういうものじゃないか？人々がこういうものを好むのはFacebookやGoogle、TwitterやYouTubeのせいじゃないか？」と言う人もいるでしょう。彼らのせいではありませんが、彼らは私たちを画面に釘付けにするために、状況を操作し、悪化させ、私たちの心理に介入しているのです。ですから、「人間の性質じゃないか」という議論には納得できません。

WIRED：この関係は寄生的だと私は考えています。携帯電話を取り出してソーシャルメディアをチェックするとき、「ああ、これはドーパミンのせいだ。これが私の人間性なんだ」とは考えません。彼らは私たちの注意を引くために意図的にそうしているのです。

アイゼンスタット氏：人間が操作されていることに気づき始めれば気づくほど、この関係性はより圧迫されると思います。Instagram、Facebook、Twitter、YouTubeが、私がこれらのプラットフォームを利用する際に、本当に何に関心があるのか、何を見たいのかを尋ねてきたことは一度もありません。彼らは「より良いユーザー体験を提供し、より関連性の高い広告を表示している」という言い訳をよく使います。彼らが私の代わりに決めているのですが、残念ながら人間の心は私たちが望むほど強くはありません。私は自分が操作されていると分かります。

寄生関係の例については、ますます多くの人が話題にしていると思います。私たちが議会にいた頃、トリスタン・ハリス議員が説得技術に関する上院公聴会で証言していた時も、彼は上院議員たちの心に深く響いた多くのことを語りました。それは、権力の非対称性です。これは、単にデータを提供するだけで、より生活を楽にする商品や、より関連性の高い広告などを提供してくれる、といった対等な関係ではありません。それが彼らのセールスポイントですが、彼らはあなたに関する膨大な情報を持っているため、もはやあなたの行動を予測することさえ可能であり、権力の非対称性は完全に存在します。

WIRED：しかし、行動面は規制に関する議論に影響を与えているのでしょうか？「これらのプラットフォームは強力で、Facebookには数十億人のユーザーがいる。だから規制しよう」と言うのは簡単です。しかし、規制当局は本当にこれを操作的で寄生的な関係として捉え始めているのでしょうか？

アイゼンスタット：そう思う人もいるでしょう。ええ、ザッカーバーグ氏の公聴会は誰もが覚えているでしょう。議会で誰もFacebookを理解していないように見えたのを覚えています。上院議員がザッカーバーグ氏にFacebookの収益源を尋ねるなど、完璧なキャッチフレーズもありました。確かに、壇上でうまく説明できなかった上院議員もいました。しかし、実際、あれから私たちは大きく進歩したと思います。先日出席した公聴会の議題は「エンゲージメントの最適化：インターネットプラットフォームにおける説得技術の利用の理解」でした。上院小委員会の議題として、それ自体が非常に興味深いものです！彼らがこの問題について既に考えていることが分かります。非常に鋭く洞察力に富んだ質問がいくつかありました。

シリコンバレーで何度も耳にする議論があります。「政府が規制する前に、私たちがこのことを理解した方がいい。だって、政府はちゃんとやってくれないだろう。理解するにはあまりにも愚かだ」というものです。シリコンバレーの全員がそうだと言っているわけではありませんし、もしかしたら「愚か」という言葉は使わないかもしれませんが、まさに「彼ら、彼ら、彼ら」です。政府はこのことを理解できないのです。確かに上院議員は全員がエンジニアやデータサイエンティストというわけではありませんが、だからといって彼らが愚かというわけではありません。彼らは、これが有権者、国、子供たち、そして私たちの民主主義にどう影響するかを真剣に考えています。

WIREDのその他の素晴らしい記事