シグナルは単なる暗号化メッセージではない。メレディス・ウィテカーの指揮下で、監視資本主義の誤りを証明しようとしている。

10年前、 WIREDは、RedPhoneとTextSecureという、あまり知られていないやや不安定な暗号化アプリ2つが統合してSignalというアプリが誕生するというニュース記事を掲載した。2014年7月のその記事以来、Signalは、サイファーパンクの珍品――アナーキストのプログラマーが作成し、サンフランシスコの一室で働く気の利いたチームによって運営され、パラノイアポイントを競い合うハッカーたちの口コミで広まった――から、本格的な主流の暗号化通信現象へと変貌を遂げた。今では何億人もの人々がSignalをダウンロードしている（ドレイクもその一人だ。「キューバの少女、彼女の家族はコーヒーを挽く」と彼は2022年の曲「Major Distribution」でラップしている。「Signalでテキストを送ってくれ、電話しないでくれ」）。さらに何十億人もの人々が、WhatsAppなどのプラットフォームに統合されたSignalの暗号化プロトコルを使用している。

この誕生秘話は、スタートアップの常套句と言えるかもしれない。しかしSignalは、多くの点でシリコンバレーのモデルとは正反対だ。寄付によって運営される非営利団体であり、投資を受けたことは一度もなく、製品は無料で提供し、広告は一切掲載せず、ユーザーに関する情報も事実上一切収集していない。しかし、巨大テック企業と競い合い、勝利を収めている。イーロン・マスクが、個人所有のコミュニケーションフォーラムは事実上、一人の富豪の気まぐれから逃れられないことを証明したかのような世界において、Signalは反事実的な存在として立ちはだかる。ベンチャーキャピタリズムや監視資本主義、いや、資本主義といったものが、テクノロジーの未来への唯一の道ではないという証拠なのだ。

過去10年間、シグナルのリーダーの中でメレディス・ウィテカーほどその偶像破壊を体現した人物はいない。2022年からシグナルの社長を務めるウィテカーは、世界で最も著名なテクノロジー評論家の一人だ。グーグル在籍時には、同社の差別的慣行に抗議するストライキを主導し、軍事契約に反対の声を上げてきた。人工知能の倫理的影響に取り組むAI Now Instituteの共同設立者で、AIと監視は本質的に絡み合っているという考えを主導する存在となった。シグナル財団の会長に就任して以来、ウィテカーは、妥協や企業のしがらみを一切設けずにシグナルを今後数十年にわたって存続させ、全く新しいタイプのテクノロジーエコシステムのモデルとなるための長期的な資金源を見つけることを自身の主要な任務と考えるようになった。

ウィテカー氏は夏の間パリを拠点としていたが、私は彼女の故郷ニューヨークに短時間立ち寄った際に彼女と会うことができた。ブルックリンのカフェで、私たちはプライバシー担当幹部である彼女自身、そしてGoogleのマネージャーからシリコンバレーの厄介者へと至った奇妙な道のりについて、深く掘り下げて話した。

アンディ・グリーンバーグ：本当はシグナルの10周年記念に話をする予定だったのですが、あなたが食中毒で入院したため日程を変更しなければならなかったとここで言ってもよろしいでしょうか？

メレディス・ウィテカー：はい、大丈夫です。

なるほど。つまり、あなたは（Signal Foundationの共同創設者である）モクシー・マーリンスパイクやブライアン・アクトンのようなプライバシー重視の人ではないということですね…

いいえ、まず第一に私は女性です。

そうですね！でも、二人とも、そんな個人的な話をさせてくれないでしょうね。彼らは自分のことを話す時、ずっと警戒心が強いんです。あなたはSignalのリーダーとして、ちょっと変わったタイプの人のようですね。

私たちの信念のベン図には、かなり重なり合っている部分があると思います。監視資本主義と、権力者の手による大規模監視の危険性については、誰もが明確な分析を持っています。しかし、私自身の人生における慎重さについて言えば、私はプライベートな人間です。インターネット上に私に関する情報はあまりありません。幼い頃から、あまり多くを語らないという根本的な本能があったからです。しかし、それはイデオロギー的な純粋さというよりも、長年の傾向、そしてそれがもたらす危険性について考えることから来ていると思います。

あなたは、Signal のこれまでの誰よりも、公の場に出る機会が多いですね。

ええ、その通りです。Signalも今は別の段階にあります。

どうして？

まず、Signal は 10 年前に、当時ほぼ全員から称賛されていた支配的なパラダイムに抵抗する、熟練したハッカー プロジェクトとしてスタートしました。

それはどのようなパラダイムでしょうか?

監視。監視ビジネスモデル。

そうですね。では、Signalは現在どの段階にありますか？

現在、Signal は軍隊、反体制派、ジャーナリスト、CEO、個人の機密情報を持つすべての人にとって重要なインフラストラクチャとして確立されています。

だから、私たちは今、違う場所にいると思います。外に出ていく必要があるのです。私たちの物語を代理の人間に語らせることはできません。私たち自身で定義する時が来たのです。

さて、その話に入る前に、あなたは夏をパリで過ごしているそうですね。なぜヨーロッパ？なぜフランス？それはメレディスの仕事ですか？それともシグナルの仕事ですか？

これはSignalの取り組みです。私たちはEUに注力し、市場を拡大し、潜在的なパートナーを探しているところです。

非常に不安定な地政学的環境に直面している今、どのテクノロジー企業にとっても、どのように柔軟に対応できるかを考えることは良いことだと思います。

トランプ政権が再び誕生した場合に備えて、逃げ道を探しているとでも言うのですか?

それだけではありません。今、多くの未来の可能性がテーブルの上にあります。

質問させてください。アメリカでは選挙が近づいています。民主党か共和党か、新政権が誕生し、Signalが新たな拠点を探す必要が生じる可能性についてお考えですか？

私の答えは、私たちは常に政治的な潮流の変化を認識しているということです。米国をはじめとする各国の政府が暗号化に対して常に批判的だったわけではないことを考えると、管轄権の柔軟性が確保される未来こそが、私たちが目指す未来なのです。

Telegramの創設者パベル・デュロフ氏がフランスで逮捕されたばかりなのに、欧州でそのような管轄権の柔軟性を求めるのは本当に理にかなっているのでしょうか？このことは、SignalのEUにおける将来について懸念を抱かせますか？

まず、TelegramとSignalは全く異なるアプリケーションであり、ユースケースも大きく異なります。Telegramは、個人が一度に数百万人とコミュニケーションできるソーシャルメディアアプリですが、実質的なプライバシー保護やエンドツーエンドの暗号化は提供していません。Signalは、プライバシーとセキュリティのみを重視したコミュニケーションアプリであり、ソーシャルメディア機能はありません。つまり、私たちは既に異なるものについて話しているのです。

そして本日（2024年8月27日）現在、デュロフ氏の逮捕の具体的な理由については、未解決の疑問があまりにも多く、具体的な情報があまりにも不足しているため、十分な情報に基づいた意見を述べることができません。より広範な問題については、現実的に考えてみましょう。暗号化に関して汚点のない記録を持つ国は世界に存在しません。また、世界中には私的な通信や表現を擁護する人々がおり、フランス政府やヨーロッパ諸国にも多くの人々がいます。長年プライバシーのために闘ってきた私たちは、これがあらゆる場所に味方と敵が存在する、根深い戦いであることを認識しています。柔軟性を優先しようとすることと、特定の管轄区域を理想化することは同じではありません。私たちは、それがどこにあろうとも、進むべき道を明確に認識しています。ヨーロッパには多大な支援と機会があると考えています。

ヨーロッパ内でも、国によって状況は大きく異なります。ドイツはエンドツーエンドの暗号化を義務付ける法律の制定を検討している一方、スペインは暗号化の弱体化を推進する先頭に立っています。つまり、ここでも、状況は一枚岩ではないのです。

米国の選挙は、Signal、その運営、そして成長にとって何を意味するのでしょうか?

すべてが右肩上がりで推移しています。プライバシーに対する文化的感受性はかつてないほど高まっており、政治的な不安定な局面では多くの人々がそれに加わり、さらに高まります。ウクライナはかつては底辺に近い市場でしたが、ロシアの侵攻後、今ではトップ市場の一つとなっています。これはほんの一例です。また、WhatsAppの利用規約変更など、いわゆる「ビッグテックの失敗」への反応として、成長も見られます。ZoomがAIのために全員の通話をスキャンすると発表した後、デスクトップ版の売上が急増しました。そして、今後もこのような状況が続くと予想しています。

大規模な組織がSignalの利用を義務付けると、Signalの利用が促進されます。欧州委員会は2020年に、会員に推奨する唯一のメッセンジャーとしてSignalを承認しました。このような状況では、実質的に全員が一斉に乗り換えることになります。

選挙はまさにそのような瞬間となることがあります。しかし多くの場合、そうした瞬間は私たちが予測できるものではなく、むしろ備えておくべきものなのです。40年間の歴史が、まるで隔週で繰り返されているかのようです。

Signalの新たなフェーズについてお伺いしたいのですが、現時点で何が変わるのでしょうか？シリコンバレーの多くの企業と同様に、Signalも10億人の人々にサービスを届けることに注力しているのでしょうか？

ええと…ええ。でも、理由は同じじゃないんです。ほとんど正反対の理由です。

ええ。Signal はテクノロジー業界の他のすべてとは正反対であり、営利事業ではない唯一の主要コミュニケーションプラットフォームであるという定義を、少なくともこれほど声高に、Signal 社で強調しようとした人は他にいないと思います。

ええ、Signalには明確な方針はありません。でも、私たちは自分たちが何者であるかを誇りに思うべきで、人々に、それぞれが大切にしている明確な違いがあることを知ってもらうべきだと思っています。WhatsAppが何百万ドルもかけてプライベートを謳う看板広告を出しているのは、決して無駄ではありません。WhatsAppが使用しているSignalプロトコルによって、耐荷重性のあるプライバシー基盤が構築されているのですから。

WhatsAppがそれを統合してくれたのは喜ばしいことですが、現実的に考えてみましょう。WhatsAppとAppleがプライバシー保護のために数十億ドルもの費用を費やしているのは偶然ではありません。プライバシーは非常に貴重だからです。では、プライバシーのゴールドスタンダードはどこでしょうか？それはSignalです。

人々はテクノロジー業界に対する認識を再構築する必要があると思います。監視がビジネスモデルにとっていかに重要かを理解するべきです。そして、Signalがいかに他社と一線を画しているかを理解し、このモデルの成長の余地を拡大する必要があることを認識すべきです。世界のクラウド市場の70%を3社が掌握している状況は、到底安全とは言えません。MicrosoftとCrowdStrikeが、CrowdStrikeがカーネルアップデートのために品質保証を怠ったせいで、世界の重要インフラの半分をダウンさせているのです。冗談でしょう？考えてみれば、これらのインフラを実際に管理するという観点からすれば、これは全くもって非常識なことです。

つまり、Signal のこの役割を維持することに重点が置かれているわけですね。

保存と成長。これは博物館の展示品のような硬直したものではありません。これから2倍、3倍の大きさになっていく、まさに青春期の動物です。ユーザーベースは着実に拡大しており、世界の地政学的な不安定さと、巨大テック企業がインフラを支配することの危険性をより深く理解している新世代の台頭により、今後も成長を続けると考えています。

私の仕事は、Signal にそれを実行する余地があることを確認すること、そして、注意を払う必要のある人々、料金を支払う必要のある人々、このビジョンの実現に協力する必要のある人々が、それを実行するようにすることです。

Signalが主流アプリになるにつれ、かつてはコアユーザーだったハッカーシーンはどうなっているのでしょうか？私が話を聞くハッカーの中には、「Signalはダメだ。Signalにはバックドアがある。あるいは諜報機関がSignalをクラックした。私が推奨する、あまり知られていないが超安全なメッセージングプラットフォームに移行する必要がある」と言うのが流行っています。しかし、あなたはどう答えるのでしょうか？そして、 Signalには脆弱性もバックドアもないという否定を常に証明しなければならないという問題に、どう向き合っていくのでしょうか？

ハッカーの間ではそれが流行っていることには反対です。全体として、私たちはセキュリティ研究コミュニティを愛し、非常に良好な関係を築いています。あなたがおっしゃっているのは、少数の騒々しい、未熟なセキュリティ研究者のことであり、中には「セキュリティ研究者」と括弧で括られた人もいます。しかし、そのような言説を見るのは非常に残念です。一種の責任放棄のように思えます。

私が本当に苛立たしいのは、過剰な自己主張と利己的な名声追求という行動が、国家主体が人々をプライベートなコミュニケーションからよりプライバシーの低いコミュニケーションプラットフォームへと移行させようとする情報環境と衝突するときです。こうした出来事が拡散すると、市民社会団体、人権団体、ジャーナリストなどから、絶望的な声が上がり、すぐに「なんてことだ、Signalに問題があるのか​​？ 全員を安全性の低い代替手段に移行させている」と言われるのです。

世界中の人々にとって、これは実際に存在に関わる問題であり、人々の 99 パーセントは、ランダムなセキュリティ研究者の主張を実際に検証することはできませんが、それでも、これは生死に関わる問題であるため、これを真剣に受け止めています。

ここで少しイーロン・マスクについて話しているような気がします。彼は最近、Xの投稿でSignalの「既知の脆弱性」について漠然と言及したことで、この発言に拍車をかけました。

世界中のイーロン・マスクがそれに便乗しているのを見ると、不安になります。イーロンは長年Signalを支持してきました。2021年にSignalを使っているとツイートしていましたよね？彼はずっとファンだったんです。だから何が変わったのかは分かりません。ただ、私たちが知る限り、その主張は全く根拠がないことは分かっています。それを裏付ける確かな報告はありません。でも、あの件は2晩寝ずにTwitterの対応に追われました。多くの人を不安にさせたので、真剣に受け止めなければならなかったからです。

Signalが普及するにつれ、私はSignalをごく普通の日常的なコミュニケーションに使うようになってきています。動画を送ったり、子供たちの写真のスライドショーを全部送ったり。そして、私は今、メレディスに多大な費用をかけているのだと、つくづく思います。

アンディ、光栄です。（笑）あなたのスライドショーやビデオをお送りできて光栄です。

しかし、非営利団体にとって、これはすべて非常に高額です。もちろん、WhatsAppは、ユーザーがプラットフォームにできるだけ多くのデータを投稿してくれることを望んでいます。彼らは利益を上げているので、そのコストは許容できます。しかし、Signalは、その膨大なデータコストを考えると、まるで車を捕まえた犬のようになってしまうのではないかと心配です。

全体としてはプラスです。暗号化にはネットワーク効果が必要です。私たちの目標は、誰もがどこにいてもデバイスを簡単に手に取り、Signalを使って誰とでも話せるようにすることです。

私たちは十分な支援を受けています。私たちは非営利団体ですが、それは帽子の中に投げ込まれた小銭で生きていきたいからではありません。私たちが非営利団体であるのは、歴史のこの時点で、そのような組織構造が私たちの使命に集中するために不可欠だからです。私たちの業界では、監視を収益化するか、監視を望む人々に商品やサービスを提供することで利益を得ています。インターネットにはプライバシーのためのビジネスモデルは存在しません。

Signalが非営利団体であるのは、営利組織だと、役員の一人がダボス会議に赴き、ある人物と話をした後、興奮気味に帰ってきて、営利目的のAI戦略が必要だと私に言う、といった状況になりかねないからです。あるいは、別の役員がやって来て、私たちの収益モデルが目標達成に繋がらないことに非常に不安を感じ、「メタデータの収集を始めてみよう。プライバシーへの注力度を下げてもいいかもしれない。なぜなら、従来の営利企業である私たちの主な目的は、収益と成長だからだ」と言うかもしれません。そして、監視によって支えられた経済におけるプライバシーは、必然的にこれらを阻害するでしょう。

そこで私たちは現在、Signalが構築しているモデルを持続可能なものに成長させる方法を検討しています。私たちが話しているような資金はテクノロジー業界にとってはそれほど大きなものではありません。他の業界では大きな規模ですが、私たちはテクノロジー業界にはあまり力を入れていません。このモデルを、インフラやアプリケーションの構築、そしてテクノロジー業界の中核を成す集中監視ビジネスモデルの代替となるものの構築に活用できるテンプレートとして、どのように拡張していくかが課題です。

これは非常に失礼な質問ですが、無駄を省くという点について、あなたの 990 を調べたところ、あなた自身の給与は一部のエンジニアよりも低いようです。

ええ、私たちの目標は、シリコンバレーの給与にできるだけ近い給与を支払うことです。そうすれば、株式を付与する余裕がないことを承知の上で、非常に上級の人材を採用することができます。エンジニアの給与は非常に高いです。[インタビューを録音している電話に演技的に寄りかかる] もし仕事を探している人がいたら、私たちは非常に高い給与を支払っています。

こんなことを話すこと自体タブーな気がします。でも、まさに『シグナル』の奇妙さをよく表しています。

そうですね、これは、私たちが対峙しているほぼ覇権的なモデルに対抗するモデルを構築するために、できる限りのことをしているということを示しています。そうでしょう？私たちが目指しているのは規範ではないので、奇妙に見えるでしょう。

ほとんどの非営利団体がエンジニアにあなたほどの給料を払っているとは思えません。

ええ、でもほとんどのテクノロジー企業は非営利団体ではありません。世界中にリアルタイム通信を安定的に提供する重要なインフラを提供している非営利のテクノロジー組織を他に挙げてください。一つもありません。

これは仮説プロジェクトではありません。完璧な未来を夢見ているわけではありません。今すぐ実行しなければなりません。必ず機能しなければなりません。サーバーがダウンしたら、真夜中にポケベルを持った人が来て、画面の前に立ち、問題が何であれ診断し、問題が解決するまで待機する必要があります。

ですから、私たちができることをするためには、ある意味ではテクノロジー企業のように見える必要があります。

あなたのキャリアについて詳しくお伺いしたいのですが、社長に就任した当初のブログ記事で、Signalをずっと支持してきたと仰っていましたね。確かRedPhoneとTextSecureも使っていたと仰っていましたよね？

そうしました。

当時、あれは書けるくらいには試したんです。でも、かなり不安定でした！当時使っていたなんて、ちょっと感心というか、ちょっと奇妙に感じます。

でも、私はテクノロジー業界にいたんです。そうでしょう？テクノロジー業界の優秀な人たちはみんな、すでにそれらを使っていたんです。

当時はGoogleにいらっしゃったんですか？

ええ。当時はGoogleに勤めていました。

正直、あなたのような人間が Google で一体何をしていたんですか?

アンディ、生活費や家賃の支払いにお金が必要だって聞いたことある？ [笑い] お金を支払ってくれる企業で生産的な労働ができるかどうかで資源へのアクセスが制限される社会って聞いたことある？

それは分かります！でも、あなたは今やシリコンバレー反対、監視資本主義反対を声高に主張しているので、想像しにくいのですが…

私は反テクノロジー派ではありません。

ええ、そんなことは言っていません。でも、どうしてGoogleに来たんですか？

ええと、私はバークレー大学で修辞学と英文学の学位を取得しました。ずっと美術学校に通っていました。テクノロジー関連の仕事を探していたわけではありません。当時はテクノロジーにそれほど興味がなかったのですが、バークレー大学を卒業してお金がなかったため、仕事を探していました。そこで、履歴書をMonster.comに登録しました。Z世代にとっては、昔ながらのLinkedInのようなものです。

私はいくつかの出版社と面接をしていたのですが、その後 Google から連絡があり、何だったかな、コンシューマー オペレーション アソシエイトという職種での採用を打診されたんです。

消費者オペレーションアソシエイトですか?

うん。それって何？全然意味が分からなかった。「ビジネスの仕事みたい」って思った。

そこで、採用担当者に返信するためにGmailアカウントを作成しました。それから、確か8回の面接と、奇妙なIQテストを2回、そして筆記テストを1回受けました。まさに過酷な試練でした。

それは何年でしたか?

2006年7月に入社しました。「コンシューマーオペレーションアソシエイト」とは、カスタマーサポートの臨時職員という意味だったのですが、誰も教えてくれませんでした。「ここは何なの？ どうしてジュースが無料なの？ 高価なジュースが無料なのに」と思いました。こんな環境に身を置いたことがありませんでした。当時、Googleは転換期を迎えていました。従業員は数千人規模で、倫理的な資本主義、倫理的なテクノロジーこそが、ついに成功の秘訣だと確信する風潮が社内にありました。そこには、真の…自己満足という言い方は少し不謹慎かもしれませんが、奇妙な熱狂がありました。私はただ、そこにとても興味を持っていたのです。

当時、Googleには白紙の小切手がたくさん転がっていました。「創造的なアイデアがあれば、私たちに持ってきてください。私たちがサポートします」という20%の時間を割くポリシーがありました。こうした言葉は、私が真に受けてはいけないものだとは知らなかったものです。そこで私は、あれこれと策を練りました。面白そうな人と出会う方法を見つけ、エンジニアリンググループに入りました。標準化の仕事に就き、いわば、小切手に署名して換金しようとしていたようなものでした。するとたいていの人は、「まあ、彼女が部屋に入ったんだから、彼女に任せよう」という感じでした。そして私は、結局学ぶことになりました。

何をしていましたか？Googleでの最後の仕事は正確には知りませんが、カスタマーサポートではなかったですね。

ああ、いいえ。いいえ。私は研究グループを設立しました。

20%の話は空想じゃなかったんですね。Googleの夢を本当に実現されたんですね。副業や探求が、最終的には仕事そのものになったんですね。これはとてもGoogle寄り、シリコンバレー寄りですね。Googleで働きたい若者なら誰もが憧れる夢ですよね。

もし私が自分の成功を台無しにしていたなら、今頃は Google で SVP として 5 軒の家を持っていただろう。

これまで一緒に仕事をした中で最も優秀な人たちと仕事をしていました。C言語の共著者と同じオフィスにいたんです！みんな本当に惜しみなく時間と専門知識を分け与えてくれました。本当に素晴らしい経験でした。

そして、私は、このビジネスモデルが、意図的か否かに関わらず、究極的には極めて有害であるという事実と、この事実を天秤にかけて考えることができます。そして、過去10年間、その派生的な影響が何度も何度も繰り返されるのを私たちは見てきました。

ええ。デイヴ・エガースの『ザ・サークル』みたいな話にならないように聞きたいんですが、このユートピアがあなたにとっていつ頃からつまらなくなってきたんですか？今のあなた、そして今の活動に至るまで、どうやって変化してきたんですか？

ちょうどその頃、私はMeasurement Labというプロジェクトを共同設立しました。これは、インターネットのパフォーマンスに関する世界最大のオープンデータソースです。当時は仮説的なプロジェクトでした。「ネット中立性」の数値ベンチマークを作成し、インターネットサービスプロバイダーにその基準を遵守させるようにすることで、ネット中立性に関する議論に活力を与えることができるだろうか？まさにこのプロジェクトで、私は技術的な経験を積み、ネットワーク技術に深く関わるようになりました。長年の研究を経て、この膨大なデータ収集を通して、相互接続において実際に問題が発生していることを示すことができました。

つまり、それはすべて、機械学習が新たな流行になり始めた頃のことでした。

2012年には、皆さんもご存知の転換点がありました。AlexNetアルゴリズムと呼ばれる論文が発表され、多くの要素が融合し、長い冬の時代を経て、現在のAIブームに火がつきました。この論文は、膨大なデータと強力な計算チップがあれば、1980年代にまで遡る古いアルゴリズム技術でも、新しく素晴らしい成果を上げることができることを示しました。

わかりました…これがどうなるかは分かっていると思います。

私はデータに過敏です。測定をめぐる争いに身を置いてきたので、「ちょっと待って、機械学習って何？ ああ、つまり、人間の感情を表していると主張するような、あるいは私がよく知っている低レベルのネットワークパフォーマンスデータよりも正確に測定するのがはるかに難しいデータ、つまり質の低いデータを統計モデルに当てはめて、それをインテリジェンスと呼ぶのですか？」と疑問に思いました。

私は「待ってください、それはできません」と思いました。これが、AIに関する私の懸念を大きく高めたのです。

そしてもちろん、この間ずっと、ビジネスモデルの実態についてますます学んでいます。私は技術インフラグループに所属していますが、そこにこそお金があるということに気づき始めました。貸借対照表を見ると、10年以上前のMeasurement Labのサーバーインフラは、アップリンク接続だけで年間4,000万ドルの費用がかかっていました。

資本に関わる部分について、とても敏感になりました。「ああ、これはイノベーションじゃない。資本だ」と思いました。

4,000万ドルは、現時点では基本的にSignalの年間予算全体です。

少し下回っていますね。でも、テクノロジーの資本集約性とテクノロジーインフラの統合については、かなり早い段階で敏感になっていたと思います。

当時の AI ブームに火をつけた新しいものは何だったのでしょうか。それは、大量のデータ (トレーニング データと入力データ) と強力な計算チップの存在であり、それらをたくさんつなげればつなげるほど良いというものでした。では、それは何なのでしょうか。それはまさに、ソーシャル メディア ネットワークやデータ センターを構築した初期のプラットフォーム企業が享受してきたアフォーダンスです。人工知能によって、私たちは基本的に、壊れたモデルを通じてこうしたくだらないデータの多くを再利用しています。その結果、Google はますます知能を主張する権限が強まりますが、実際には彼らが行っているのは、自分たちが持っているくだらないデータから派生したデータを発行しているだけです。では、AI は何のために使用されたのでしょうか。なぜ彼らはそれに夢中になったのでしょうか。それは、AI が広告アルゴリズムの調整や広告のターゲティングに非常に優れているからです。この AlexNet 論文の 3 人の著者がすぐに Google に雇われたのは偶然ではありません。

紙で何度も切った傷を通して、私は監視の問題、この大規模なアプローチの問題、他の競争者にとって毒が地面に撒かれるプラットフォームアプローチの問題、そしてその集中した権力の問題に敏感になっていった。

あなたにとって何か転機はありましたか？

いいえ、特定の瞬間があったわけではありません。色々なことを学んでいくうちに、色々な層が積み重なっていきました。「あれは変だな」「あれは怪しいな」「あれは正直じゃないな」。

2017年までに、私はすでにAI Now Instituteの共同設立者となっていました。業界内でも社内でも、私は声高な批評家としてかなり知られていました。仕事はとてもクールで、何でも言いたいことを言える環境でした。魔法の公式を見つけたような気がしていました。

それで気づいたんです。みんな、そうやって喜んでるんです。だって、実際にその場で意思決定の場に居合わせているわけではないから。皮肉な言い方をすれば、Googleが「私たちはあらゆる分野の多様な声に耳を傾けています。私たちは非常にオープンな企業です」と言えるような口実を提供しているだけなんです。

しかし2017年、私はシグネチャーストライクの先駆けとなった戦争の文脈で、米国軍のためにAIベースのドローン標的監視システムを構築するという国防総省の契約について知りました。

シグネチャーストライクとは何ですか?

シグネチャーストライクは、事実上、死を目的とした広告ターゲティングです。ですから、私はあなたがどのような人間なのか実際には知りません。私が知っているのは、私のシステムによって特定されたデータプロファイルが、私たちが分類してまとめたサンプルデータプロファイルと一致するということです。これはタリバン関連、あるいはテロリスト関連と推定されます。

そうですね。例えば、元NSA・CIA長官のマイケル・ヘイデンが言ったように、「メタデータに基づいて人を殺す」といった具合です。

まさにその通りです。

Googleは過去に何度も、軍事利用への関与を声高に否定してきた。なぜなら、巨大監視企業の利益を世界で最も強力な軍隊（米軍は自らをそう呼んでいるが、これは私の言葉ではない）と結びつけるのは得策ではないからだ。そして、政府側の過剰な機密指定とテクノロジー業界側の企業秘密主義の組み合わせは、これらのシステムがもたらす危害に関する説明責任にとって、壊滅的な打撃となるだろう。

その時点で私は、もう少し力を使って実際に反論しなければ、なぜこれが悪いのかの分析を提供することで私の評判とお金は稼げない、と思ったのです。

私たちは今、Google での組織的ストライキにつながった国防総省の契約である Project Maven について話しています。

つまり、私一人ではありませんでした。私は自分の評判を賭けて、このために多大な努力をしました。しかし、Google社内の何千人もの人たちの努力でした。これは継続的な取り組みでした。最上級のAI研究者の多くが声を上げ、「こんなのはやめろ」と言いました。第一に、これは機能しない。第二に、私はこれに貢献したくない。そして第三に、これは進むべき道ではない。

はっきりさせておきましょう。それは機能しません。ブルームバーグが最近ウクライナで報じた記事は、この点についてかなり明確に述べています。あの契約、つまりMaven契約を取得した人々がシステムを構築しましたが、バグだらけで、間違いやすく、過度に複雑です。

2017 年にそれを見ていたのに、今では AI が流行語になっているだけでなく、AI ツールの出力に基づいてイスラエル国防軍がガザを爆撃しているという証拠も目にするようになったのは、どんな気持ちですか?

まあ、間違っていたとは思わないけどね！だって、正しいことが戦略だったら、私たちは100万倍も勝てたはずだから。

ガザで私たちが目にする現象の一つは、大規模監視と標的システムの連動性です。後者は前者に依存しています。

人々のデータプロファイルを作成し、アルゴリズムで標的を定めるという口実を作るためには、まずデータが必要です。そしてガザ地区の人々は、世界で最も監視されている人々の一部です。そして、そのデータは、どのような方法であれ、これらのモデルを訓練するための材料となり、あるデータプロファイルがテロリストのプロファイルとしてフラグ付けされたプロファイルと十分に類似している場合、彼らを爆撃すべきだと判断します。

これは当時私たちが警告していたことの少なくとも一部を示す悲劇的な例です。

監視とAIがどのように絡み合っているかという質問ですが、「メレディス、あなたの仕事に集中してください。あなたの焦点はプライバシーにあるはずです。なぜいつもAIの話ばかりしているのですか？あなたは暗号化担当ではないのですか？」と言われることはありますか？

もしかしたら、私についてそう言われることもあるかもしれません。私は自分の立場が確立しているので、そう言われることはほとんどありません。もしそう言うなら、なぜそれらが無関係だと思うのか、その根拠を示していただけませんか？

簡潔に答えると、AIは現在の大規模監視ビジネスモデルの産物であり、独立した技術的現象ではないということです。

AIに関するあなたの議会証言を振り返ってみると、あなたは監視においてAIが恐ろしいことをする能力について語っていました。しかし、今は監視がAIにデータとインフラを提供する方法について話しているようです。まるで鶏が先か卵が先かという話のようですね。

そうですね、AIは物語であり、テクノロジーではありません。監視とインフラこそが物質的な条件です。

つまり、AIと監視は自己永続的だとおっしゃるわけですね。監視からAIと呼ばれるものを作るための材料を得て、それをさらに監視に利用する。しかし、それよりももっと善意に満ちたAIもあるはずですよね？例えば、医療スキャンで腫瘍を見つけるような。

そうですね、でも、臨床現場での実用性と比較すると、多くの主張は結局誇張されすぎていると思います。

私が言いたいのは、大規模な堅牢なデータセット全体にわたるパターンマッチングが役に立たないということではありません。それは確かに役に立ちます。私が言いたいのは、それが含まれるビジネスモデルのことです。

さて、仮に放射線検出技術が実際に堅牢だとしましょう。しかし、それが医療システムに放出され、人々の治療には使われず、保険会社が保険適用外にするために使われます。それがビジネスモデルだからです。あるいは、病院チェーンが患者を拒否するために使われます。訓練費用、インフラ費用、そしてそれらを管理する主体を考えると、これは実際にどのように使われるのでしょうか？

AIは、巨大テック企業の大規模な監視ビジネスモデルによって構成されています。そして、それはさらに定着しつつあります。これらの企業が政府や機関の神経系となることを私たちが信頼すればするほど、彼らの権力は増大し、特定の使命を真に尊重する代替手段を生み出すことが難しくなります。

あなたのTwitterのコメントを見ると、AIをバブルと呼んでいるようですね。AIはいつか崩壊して自己修復するのでしょうか？

ドットコムバブルが崩壊したにもかかわらず、巨大テック企業の監視ビジネスモデルは依然として健在です。今のAI生成技術は間違いなくバブルだと思います。トレーニングを複数回実行して、クソみたいなメール作成エンジンを立ち上げる必要があるのに、1回のトレーニングに10億ドルも費やすなんてあり得ません。何かがおかしい。

しかし、これは決して消えることのない業界です。ですから、明確な予測はできません。ただ、市場は下落するでしょう。NVIDIAの時価総額は一瞬で消滅するでしょう。

つまり、これは自然に解決するものではないということですね。規制こそが解決策だと主張しているのですか？

規制もその一環となるでしょう。インフラの所有権をアプリケーション層から分離し始めるような構造的な分離などは、これらの企業に混乱をもたらすでしょう。意味のあるプライバシー規制は、大きな効果をもたらすと思います。

膨大な量のデータの収集を止め、企業が収集したデータに基づいて世界を定義するために自ら主張してきた権限を制限する。これらすべてが、このブームを活気づけているインフラの力の支流を抑制することになるため、非常に興味深い領域となる。

Signalはある意味でそうしているのがお分かりいただけると思います。私たちは一切データを収集していません。私たちは事実上、あなたのメタデータがすべてMetaに送られるのではなく、誰にも送られないシステムを構築しているのです。

そうですね。でも、Signalを解決策として挙げるのは難しいですね。あなたは構造改革を提唱していますが、実際には世界でも非常に独特な組織を率いています。これらの要素はどのように連携しているのでしょうか？他の人々が採用してくれることを期待できるモデルを提供しているとおっしゃっているのだと思いますが？Signalだけで監視資本主義を解決できるわけではないですからね。

いや、いや、いや。Signalは問題の解決策ではありません。Signalは、私たちが物事を別の方法で行えること、そして既存のパラダイムには何ら自然な点がないことを証明しているのです。

Signalモデルは、成功すれば成長を続け、繁栄し、提供し続けるでしょう。Proton（エンドツーエンド暗号化メール、カレンダー、メモアプリなどを提供するスタートアップ）が既に非営利団体になるという動きも見られます。これは、多くの異なる力が同じような方向を向いているパラダイムシフトです。

代替手段を構築する必要があります。これは、私がヨーロッパの連合体やアメリカをはじめとする国々と取り組んでいることです。しかし、独立した技術の構築に多額の資金を投入するとは、一体どういうことでしょうか？巨大プラットフォームの武装を解除し、クラウドインフラを破壊し、メディアエコシステムを支配しているという事実、そしてこの件で私たちが目にしている有害な技術の入れ子構造全体を解体しながら、世界を実際に相互接続する代替手段を構築するにはどうすればいいのでしょうか？

このビジョンを支える通信ネットワークとはどのようなものになるのでしょうか？独立したクラウドインフラとはどのようなものになるのでしょうか？大企業に閉鎖され、独占されてきた技術を、どのようにオープンに管理できるのでしょうか？そして、実際にものを構築するレベルで、どのようにそれを実現するのでしょうか？私はこれに真剣に取り組んでいます。なぜなら、世界にとってそれが必要になると考えているからです。

ということは、今後 10 年で、Signal Search、Signal Drive、Signal などが登場することになるのでしょうか?

そのためのロードマップはありません。全てを自分でやる必要はありません。Signalには独自のレーンがあり、それを非常にうまく活用しています。そして、それらのサービスの一部を提供するのにより適した立場にある独立した主体が存在する可能性もあります。非営利団体として、私たちは他者のために環境を汚して全てを自分たちで行うつもりはありません。私たちが求めているのは、将来大手IT企業に買収されるような、単に収益化可能なスタートアップインフラを提供するのではなく、実際にイノベーションを起こす人々が集まる活気あるエコシステムです。

一つの企業がすべてを支配しなければならないと考えるのは、ほとんど悪い習慣です。

うん。

それでも、Signalは、あなたが世界に見たいと思うものすべてにとってのモデルとなっています。では、Signal自体は10年後にはどのようになっているのでしょうか？

10年後には、Signalはほぼどこにでも存在するようになるでしょう。そして、それは全く新しい持続可能性のインフラによって支えられているでしょう。私がこのことを漠然と考えているのは、監視ビジネスモデルに頼ることなく、資本集約型の技術を維持できるような基金や支援メカニズムを実際に構築する必要があると考えているからです。まさに今、まさにその点について深く考えようとしているのです。

ほとんどの人がSignalを使うようになると思います。Signalは電力会社のように知られるようになるでしょう。そして、このモデルが十分に普及し、テクノロジーをビッグテックとして語ることではなく、プライバシー保護の選択肢がはるかに多く、より多様な環境について語ることが常識になるようになると思います。

素晴らしいビジョンですね。でも、Signal以外で実際にこれを実現しているのはほとんどいないようですね。今のところ、この例外を除いて、営利モデルが勝ち続けています。

勝ち続けるって何？

ユーザーを獲得し続けます。

独占的覇権は、まさにそれを実現する良い方法です。しかし、それでは人々の心を掴むことはできません。そして今、ビッグテックに対する世論は完全に変わってしまいました。人々はビッグテックなしでは社会に参加できないので、それを使わざるを得ません。しかし、これはユーザー獲得ではなく、強制です。これは国家による放棄や独占によって他の選択肢が閉ざされ、ロックイン状態になっている状態です。代替手段を求める声はかつてないほど高まっています。

Signalは、歴史的な偶然の瞬間に発展し、真に天才的な人材が関与した英雄的な例です。彼らは献身的な姿勢と勤勉な労働倫理を持ち、その期間を通して事業を支えてきました。だからこそ、テクノロジーを別の方法で実現することは可能だと私は確信しています。人々が大手テック企業を好むから、他の代替モデルがうまく機能していないと言うのは公平ではないと思います。これらの代替モデルは、必要な資本と支援を受けられていないのです。そして、自らの成功を阻むビジネスモデルに逆らって、逆流してきたのです。

アイデアや可能性が不足しているわけではありません。監視や中央集権的な管理を拒否するテクノロジーの構築という、このことを実現するために必要な変化を、私たちは真剣に受け止め始めなければならないのです。その必要性は今や誰の目にも明らかです。

訂正：2024年8月28日午後5時25分（東部夏時間）：このインタビューの以前のバージョンでの質問では、ウィテカー氏の収入と、それを彼女のエンジニアの収入との比較について誤って説明していました。

このインタビューは長さと明瞭さを考慮して編集されています。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。