フランシス・ホーゲンは、 Facebookの内部告発者として永遠に記憶されるだろう。彼女は同社での最後の数週間、 ウォール・ストリート・ジャーナルの 記者と日々協力し、Facebookのサーバーから、従業員からの十分に文書化された嘆願にもかかわらず、プラットフォームとそのリーダーであるマーク・ザッカーバーグがいかにして重大な問題への対処を拒否したかを示す、非難に値する文書を大量に収集した。
2021年9月13日、WSJ は 「フェイスブックのファイル」の掲載を開始した。これは、インスタグラムが10代の少女に及ぼしている精神的健康への悪影響、影響力のある数百万人のユーザーに特別なステータスを与えるフェイスブックの秘密プログラム、最悪のコンテンツを推奨するアルゴリズムなどを浮き彫りにした暴露記事だ。当時、この衝撃的なキャッシュの情報源は明らかにされていなかった。3週間後、ホーゲン氏は「60 Minutes」に出演し、自らが内部告発者であることを明かした。当時37歳だったデータサイエンティストのホーゲン氏は、アイオワ州での牧歌的な幼少期を過ごした後、シリコンバレーで15年間働いていた。彼女は、複雑なフェイスブック文書を正確かつ容赦なく解読した。
見出しはファイルの内容から生まれたが、なぜホーゲン氏がFacebook（現Meta）の他の社員が誰も敢行しなかったことを実行したのかについては、語られていない。ホーゲン氏は、個人的な問題、健康問題、そして経済的な問題に直面し、カタルシスに満ちた10年を過ごした後、この運命的な内部告発を行う勇気を得た。また、友人が誤情報の罠に陥るのを見てきた。Facebookが問題解決を拒絶する姿勢を目の当たりにしたとき、彼女は雇用主に反旗を翻し、世間に警鐘を鳴らそうと決意した。
リトル・ブラウン・アンド・カンパニー提供
ホーゲンは今、その体験を綴った著書『 The Power of One: How I Found the Strength to Tell the Truth and Why I Blew the Whistle on Facebook』を出版した。本書はソーシャルメディアの改善を求める声であると同時に、シリコンバレーを駆け抜けた自身の回想録でもあり、Google、Yelp、Pinterest、そして最終的にFacebookで働きながら、大人になるまでの困難な道のりを描いている。また、技術的な知識と内部経験によって、かつての雇用主にとって最も有力な批判者の一人となった経緯も語っている。彼女はその後、「Beyond the Screen」という非営利団体を設立し、ソーシャルメディアに関する啓蒙活動を行っている。
私がホーゲン氏に初めて会ったのは2007年、Googleの若手アソシエイト・プロダクト・マネージャーたちと世界一周の出張に同行していた時だった。彼女の道徳観に感銘を受けた。彼女は、世の中がうまく機能していないと、時に苛立ちを露わにするのだ。また、数歳年上の、主に男性エンジニアで構成される同僚たちに馴染もうと苦闘している様子にも気づいた。
彼女の回顧録が出版された今、私は彼女の著書だけでなく、ソーシャルメディアの安全性向上を目指す活動家としての彼女の現在、そしてマーク・ザッカーバーグの解放の可能性についても語ってもらう機会を得ました。彼女はマーク・ザッカーバーグを、かつてのブリトニー・スピアーズのように囚人のように捉えています。インタビューは長さと分かりやすさを考慮して編集されています。
スティーブン・レヴィ：あなたは既にFacebookで内部告発を行い、多くのメディアに出演し、議員や規制当局に証言や助言を行ってきました。この本で何を表現しようとしたのですか？
フランシス・ホーゲン： 当初の意図は、主体性についての本を書くことでした。人は自分の心の声に従わない理由はたくさんあります。「自分が正しいと思うことをしたら、仕事を失うかもしれない、貧しくなるかもしれない、家を失って路上の空き部屋で暮らすことになるかもしれない」と考えるのです。私はホームレスにまでは至りませんでしたが、20代後半に数々の恐ろしい出来事を経験し、立ち直れることを学びました。そのおかげで、Facebookで内部告発する際にも自分の心の声に従う自由を得ることができました。しかし、執筆の過程で、今世界に必要なのはソーシャルメディアについての議論だと気づきました。その本には、主体性について書かれた言葉が10万語以上も含まれていますが、そこには含まれていません。しかし、透明性に関する法律を制定するなど、私たちは行動を起こす必要があります。
10万語以上必要だったとは思えません。あなたはご自身の個人的な体験を多く語っていらっしゃいますが、この本はいわば、あなたが内部告発者になる決断に至った経緯を描いたロマン・ア・クレフ（物語）であり、暗黙のうちに他の人々にも同じように行動するよう促しているようにも見えます。なぜ、人々に行動を起こすよう強く訴えたのですか？
私たちはまさに最悪の状況からスタートしています。私たちの法律は、今日のテクノロジーが想像もできなかった80年代や90年代のテクノロジーに基づいて制定されたものです。なぜ私たちが行動を起こさなければならないのか、人々に理解してもらいたいと願っています。真に文化を変えたいのであれば、企業との力関係を根本から変える必要があります。情報に関して、私たちが何を得る権利があるのかという期待を変えなければなりません。
先日行われた米国議会のAIに関する公聴会では 、上院議員たちが次々と「ソーシャルメディアは失敗に終わった。だから、これを正そう」と発言しました。しかし、ソーシャルメディアは依然として存在し、議会はその弊害に対処するための基本的な法律さえも可決していません。
人々は依然としてソーシャルメディアに囚われています。人々がAIの誇大宣伝から一歩引くにつれ、私たちが今日、実は非常に差し迫った問題を抱えていることに気づき始めるでしょう。そして、その問題はソーシャルメディアに実際に取り組むことから始まります。
進歩を指摘できますか?
アメリカでは、ソーシャルメディアと子どもたちの関係において、転換点が見え始めています。先月、米国公衆衛生局長官がソーシャルメディアについて出した勧告を見てください。もし2021年に、今後2年間でソーシャルメディアが「タバコ騒動」を起こすかと聞かれたら、「そんなことはあり得ない」と答えたでしょう。ところが、公衆衛生局長官はソーシャルメディアが子どもに有害になり得ると公言したのです。
その警告で大きな変化が生まれると思いますか？それは自発的な変化を求めるだけです。
1960年代以降、このような勧告はほとんど発出されておらず、それらの勧告が今日私たちが当然のこととしている保護策につながったのです。歴史的に見ると、これらの勧告のほとんどが発出されてから2～3年以内に、何らかの大規模な対策が実施されています。
あなたはそれらの法律が施行されると信じますか?
今後2年で必要な法律が制定されるでしょうか？まずあり得ないでしょう。しかし、今後5年から10年以内には制定されると思います。
一方、Meta はメタバースと生成 AI に再び焦点を当てています。
こういったものの台頭を心配しています。バーチャルリアリティを軽視しないでください。マスクが重すぎる、画像が粗い、バッテリーが持たないなど、人々が指摘する問題は、5年から10年で解決されるでしょう。おばあちゃんにVRヘッドセットを装着させたり、学校で問題児がいたら、介護士ではなくデジタルで鎮静剤を投与したりするようになるのではないかと心配しています。今こそ、こうした議論を始める必要があると思います。
内部告発以来、Meta はあなたが暴露した問題に対処しましたか?
マーク（ザッカーバーグ）が今年、多くの人を解雇したため、状況は以前よりも悪化していると思います。私がカミングアウトした後の1年間は、状況は改善したかもしれません。しかし、イーロン・マスク（Twitter CEO）が安全チームを解雇しても何の責任も負わなかったことを受けて、マークは「イーロンはバンドエイドを剥がすことの価値を示した」と公に発言しました。ここ半年でFacebookの株価が上昇したのは、安全チームを解雇すれば経費が削減されるという点が大きいと思います。一方、私が社内で気に入っていた多くの研究者はもう会社を去っています。そして、それは彼らが自主的に辞めたからではありません。
あなたが暴露した文書の一部を書いた研究者と話をしましたが 、彼らがそれほど長い間会社に留まっていたことがとても興味深いと思いました。
本当に残酷な選択です。もしあなたが辞めれば、これらの問題に取り組んでいる優秀な人材が一人減ってしまいます。辞めたからといって問題がなくなるわけではないと分かっているため、人々に計り知れない精神的負担をかけることになります。ただ、もう問題に取り組まなくなるだけなのです。
マーク・ザッカーバーグ自身はあなたの本の中ではあまり描かれていませんが、彼が自身のプラットフォーム上の誤情報や有害なコンテンツを軽減する可能性のあるいくつかの取り組みを拒否した事例が何度か書かれています。あなたのかつての上司の中の上司について、どのような見解をお持ちですか？
彼には本当に同情します。19歳からCEOを務め、今や39歳。人生の半分を過ごしたことになります。他の大物創業者たちは皆、辞任しました。もし、人生の半分をかけて取り組んできたものが、人々を傷つけていると言われたら、どうでしょう。ほとんど信じられないでしょう。彼は客観的でいられないのです。彼をCEOの座に留めることに物質的な利害関係を持つ、ごく限られた少数の人々に囲まれているのです。
彼は間違いなく、規制当局や訴訟担当者から、また立法公聴会で面と向かって、直接、被害について聞いてきた。
しかし、彼が議会で物事をどう捉えているかを見てください。彼はいつも「言論の自由と安全性の間には、本質的な緊張関係がある」といったことを言います。「アルゴリズムを変えればいい」とは決して言いません。[Facebook社内には]こうした問題に対処する方法を開発している人がたくさんいましたが、そのためには経営システムを変える必要があります。Facebookには人間を軽視する文化があります。悲劇的です。それなのに、彼はポッドキャストに出演して「朝起きてスマホを見ると、まるでお腹を殴られたような気分になる」などと言っているのです。
それはジョー・ローガンのポッドキャストでした。
「フリー・ブリトニー」運動を覚えていますか？マークも同じ状況です。Facebookには、マークを現状維持するための仕組みがいくつもあります。「フリー・マーク」運動が必要だと思います。もし誰かが公の場で「仕事をしていると、お腹を殴られているような気分になる」と言ったら、「じゃあ、なぜまだやっているの？」と疑問に思うでしょう。
[ザッカーバーグ氏 は 、ホーゲン氏の 「60 Minutes」 出演後、氏名こそ伏せたものの、同社の「虚偽のイメージ」を描いたと反論した。「こうした非難の根底にあるのは、安全と健康よりも利益を優先しているという考えだ」と、同氏はFacebookへの投稿で述べた。「それは全くの事実無根だ」。]
主体性という概念に戻りましょう。その意味では、内部告発はあなたにとってカタルシス的な効果があったようですね。
人生の大部分は、自分を小さく見せようとすることに費やされました。小学生の頃、人は型破りな人を嫌うということを知りました。人と違う人に対して、人は憤りを抱きます。幼稚園の頃はチェスクラブに入部しませんでしたが、私は3年生から入りました。熱心な子たちが入部していたからです。振り返ってみると、私は自分の人生にあまり積極的に出ていませんでした。仕事では、データの中に隠れているのが好きでした。
この2年間は、私にとって本当に興味深い経験でした。上院に証言に行った時は、本当に恐怖を感じました。その後、ただただ呆然と座っていたのを覚えています。アドレナリンが全部抜け落ちていたのです。そして今、私は自分の人生に向き合わざるを得なくなりました。自分の言いたいことを言うこと、そして自分が必要だと思うことを言うことの大切さを学びました。そして、隠れることも、公にすることも、どちらでもできることを学びました。
Meta だけでなく、シリコンバレー自体もこれらの問題に悩まされていると感じますか?
体系的な課題があります。ベンチャーキャピタルの資金調達は2年ごとに行われます。「これは継続的なプロセスであり、解決策を見つけ出していく」というわけにはいきません。価値は迅速に創造されなければなりません。それが異なる思考と文化を生み出します。そうでなければ、Facebookはおそらくこれほど大きくなれなかったでしょう。もしFacebookが現在求められているような責任ある行動をとらなければならなかったら、ソーシャルメディア戦争に勝利できなかったかもしれません。成長と安全性はトレードオフの関係にあります。Facebookは今日、安全かつ収益性の高い企業であり続けることができると考えています。そして今、大規模言語モデルにおいて、その再現を目の当たりにしているのだと思います。
ザッカーバーグ氏をはじめとする、情報漏洩者がいる企業の責任者たちは、従業員が内部文書を共有することは不誠実であり、給与を支払っている会社への裏切り行為だと主張しています。これについて、あなたはどのようにお考えですか？
組織的な投資不足（製品改善への）と組織としてのコミットメントの欠如がもたらす人道的な結果を目の当たりにしていなければ、あのような行動は取れなかったでしょう。何人かの友人が深刻な燃え尽き症候群に陥り、精神的な問題を抱えるのを見てきました。内部告発によって、私は 同僚への忠誠心を育みました。そして、私はFacebookの長期的な成功に忠誠を誓っていると思っています。なぜなら、Facebookが社会にプラスの影響を与える方法を見つけ出さない限り、今後20年間で成功できるとは思えないからです。
では、Facebook はあなたがそれを指摘したことを尊重すべきでしょうか?
名誉なんていらない。海のそばに住んでいるんだから。この件を全て解決できればいいのに。そうすれば、データサイエンティストに戻って、海のそばでコードを書くことができる。
内部告発者になることで見込み客に悪影響を与えていませんか?
いいえ。カミングアウトしてから、少なくとも5、6件のオファーをいただきました。ほとんどは他のソーシャルメディア企業からです。Facebookを悪者扱いしないように、そして公平さを保つために、本当に本当に努力してきました。企業の幹部の方々（名前を聞いたら驚くかもしれませんが）から、「私たちはずっと見てきました。あなたの対応には感銘を受けました」と言っていただきました。
その中にはFacebookも？
いいえ、私はそこではペルソナ・ノン・グラータです。
一方、あなたの著書に書かれている数々の苦悩――敬意の欠如、深刻な健康問題、破綻した結婚生活、そして公表という恐ろしい決断に至った仕事の惨めさ――にもかかわらず、あなたは今幸せそうに見えます。再婚し、プエルトリコのビーチパラダイスに住み、専門家としてのあなたの意見を求める人々もいて、つい最近本を出版したばかりです。
ハッピーエンドだと思います。内部告発を始めた頃は、本当に期待薄でした。夜はぐっすり眠れるようになりたいと思っていました。
