私の記憶は今やメタの訓練データに過ぎない

R.C.シェリフの小説『ホプキンス写本』では、読者は西洋文明が壊滅的な出来事によって終焉を迎えてから800年後の世界へと誘われる。惑星の歴史における空白地帯の手がかりを求める新世界秩序に属する科学者たちは、かつてイングランドと呼ばれていた沼地が広がる荒れ地で、ある日記を発見する。この新帝国の住民たちは、引退した教師の平凡な田舎暮らし、つまらない虚栄心、そして受賞歴のある鶏の飼育への試みを記録したこの記録を通して初めて、20世紀のイギリスについて学び始めることになる。

もし未来の生命体に地球の生命について教えることができたら、かつてはシェリフの心の狭い主人公エドガー・ホプキンスよりも深い意味を持つタイムカプセルを作れると信じていた。しかし、今週、10年前のFacebookの投稿をスクロールしていくうちに、私の遺産はもっとつまらないものになるかもしれないという可能性に気づいた。

今月初め、Metaは、私の10代の頃のステータスアップデートがまさに未来の人工知能に引き継ぎたいコンテンツだと発表しました。6月26日から、過去の公開投稿、休暇中の写真、さらには世界中の何百万人ものFacebookやInstagramユーザーの名前までが、事実上人類のタイムカプセルとして扱われ、学習データに変換されるのです。

私のオンライン履歴をAIの餌食にしているのはMetaだけではない。WIREDのリース・ロジャーズ記者は最近、GoogleのAI検索機能が自身のジャーナリズムを模倣していることを発見した。しかし、将来のチャットボットにどの個人情報が正確に利用されているのかを突き止めるのは容易ではなかった。私が長年寄稿してきたサイトの中には、追跡が難しいものもある。初期のソーシャルネットワークであるMyspaceは2016年にTime Inc.に買収され、Time Inc.はさらに2年後にMeredith Corporationという会社に買収された。Meredithに私の古いアカウントについて問い合わせたところ、Myspaceはその後広告会社Viant Technologyにスピンオフしたという返答があった。同社のウェブサイトに掲載されている連絡先にメールを送ったところ、「アドレスが見つかりません」というメッセージが返ってきた。

まだ営業している企業に私の古いアカウントについて問い合わせるのはもっと簡単だった。WordPressを所有するAutomatticが所有するブログプラットフォームTumblrは、2月の発表によると、私がオプトアウトしない限り、私が10代の頃に投稿した公開投稿は「AIモデルのトレーニングを行うものを含む、コンテンツおよび研究パートナーの小規模ネットワーク」と共有されるとしていた。私が長年使っていたYahooMailは、明らかに「匿名化」および「集約」された古いメールのサンプルが、メッセージを要約するなどの作業にAIモデルによって社内で「利用」されていると私に言った。マイクロソフト傘下のLinkedInも、私の公開投稿はAIのトレーニングに使用されているが、同社の広報担当者によると、それらの投稿に含まれる一部の「個人情報」は除外されているとのことで、その個人情報が何であるかは明らかにしなかった。

LinkedInを除けば、企業は仕事で作成したメッセージや文書をアルゴリズムに利用させる可能性は低いようだ。オフィス向けメッセージサービスSlackは、顧客のメッセージをAIの学習に利用していたという過去の報道を否定した。Microsoftも、Word、Excel、PowerPoint、Outlook（旧Hotmail）、Teamsといった自社のワークスタイル製品群で作成されたコンテンツは、基盤となるモデルの学習には使用されていないと述べた。Googleも、Gmailの有料版・無料版などの業務用ツールは対象外だが、YouTube動画でモデルを学習させる可能性は高いと述べた。

Metaだけが例外ではないことは明らかだ。しかし、FacebookとInstagramのコンテンツを再パッケージ化したことは、多くの人がこれらのプラットフォームを非常に個人的な節目を記録するために利用していたという点で注目に値する。私はヨーロッパに住んでいるため、今のところ私のFacebookとInstagramの投稿はMetaのAIの手には届かない。同社のAIトレーニング計画の発表は、Metaと欧州のプライバシー規制当局の間で新たな論争を引き起こし、Metaは英国人を含むヨーロッパ人の投稿をモデルのトレーニングに使用する計画を一時的に停止した。

Metaが、自社のAIが地域の言語や文化を理解するためにヨーロッパのデータを必要としていると嘆く一方で、オーストリアの団体NOYBのプライバシー保護活動家たちは、この一時停止を暫定的な勝利として歓迎した。Metaにとって長年の悩みの種であったNOYBは、Metaがヨーロッパの人々にトレーニングデータ化を拒否する明確な方法を提供していないとして、既に11カ国で苦情を申し立てていた（Metaはユーザーがフォームに記入できるとしてこれを否定している）。「AI導入に反対しているわけではありません」と、NOYBの広報担当者ミッキー・マナカス氏はWIREDに語った。「ただ、法的に準拠した方法で導入する必要があるのです」

Metaが計画をいつまで一時停止するかは不明です。そして、テクノロジー企業による個人データの取り扱いに関する広範な傾向は明らかです。私たちのデジタルの痕跡や記憶は、トレーニングデータに変換されています。タイムカプセルを準備する時間はまだあると考えているなら、それは間違いです。あなたの歴史は、私たちの未来を支配する存在によって既に消化されつつあります。

タイムトラベル

ダークウェブのマーケットプレイス「シルクロード」の創設者、ロス・ウルブリヒトは終身刑を宣告されてから9年が経った今もなお、アメリカのリバタリアン運動にとっての象徴的な存在だ。2020年の大統領選挙でリバタリアン党が獲得した支持率はわずか1.2%だったが、同党の支持者獲得に尽力してきたドナルド・トランプの関心を引くには十分だった。「私に投票してくれたら、初日にロス・ウルブリヒトの刑期を実刑に減刑する」と、トランプは先月のリバタリアン全国大会で歓声を上げる聴衆に誓った。

ウルブリヒトが自由になる可能性に駆られ、私はWIREDのアーカイブを掘り下げ、ジョシュア・ベアマンによるSilk Roadの興亡を描いた決定的な記事を読み返してみることにしました。ウルブリヒトと彼のサイトのリバタリアン的ルーツを捉えた抜粋をご紹介します。

そこでロス（ウルブリヒト）はひらめきを得た。「アイデアは」と彼は日記に記した。「人々が匿名で何でも購入でき、自分の身元を突き止める痕跡が一切残らないウェブサイトを作ることだった」。彼は「しばらく前からこの技術を研究していたが、ビジネスモデルと戦略が必要だった」と記していた。

多くのリバタリアンと同様に、ロスは薬物使用は個人の選択であると信じていた。そして、他の誰もがそうであるように、彼は麻薬戦争が完全な失敗だったと認識していた。彼の新しい事業の自然な商品は麻薬だった。「当初は『アンダーグラウンド・ブローカーズ』と呼んでいたが、最終的には『シルクロード』に落ち着いた」とロスは記している。

[...] ある意味、シルクロードはインターネットの多くを活気づけるリバタリアン的視点（ワシントンの政治的潮流の高まりは言うまでもない）の論理的延長線上にあると言えるだろう。それは極限状態のシリコンバレーであり、政治的レトリックに包まれた破壊的テクノロジーだった。DPR（Dread Pirate Roberts - ウルブリヒトのサイトにおける偽名）は、その哲学者王であり、国家崩壊後のデジタル経済を構想し、シルクロードをリバタリアンの楽園への第一歩としていた。シルクロードは法執行機関への強烈な一撃であるだけでなく、DPRが記したように、権力構造そのものへの直接的な挑戦でもあった。

もちろん、政府がシルクロードを閉鎖したかったのも、当然のことだ。ロス氏は2011年6月に突然メディアの注目を集めたことに歓喜したが、チャールズ・シューマー上院議員がシルクロードを非難する記者会見を招集した際には、警戒を強めた。「私の最大の敵である米国政府は、私の存在に気付き、…私の破滅を呼びかけていた」と彼は記している。

一つだけ聞いてください

カール・エミールは、「一人の政治家が大規模監視に賛成票を投じることなど、どうして考えられるのか？」と疑問を投げかける。

カール・エミルさん、ご質問ありがとうございます。おっしゃっているのは、児童性的虐待の証拠を探すためにプライベートメッセージをスキャンすることを提案する欧州連合（EU）法案のことですね。これは、WhatsAppの写真、iMessageのテキスト、Snapchatの動画を分析することを意味する可能性があります。ヨーロッパでは、この法案をめぐって一部の人々の間で激しい議論が交わされており、特にWhatsAppやSignalのようなエンドツーエンド暗号化されたメッセンジャーにもこの制度を適用すべきかどうかが焦点となっています。カール・エミルさんの質問は、彼がこの法案を「チャットコントロール2.0」と呼んでいることから、修辞的な表現ではないかと考えています。プライバシー活動家たちは、この法案は基本的に大量監視に等しいと主張しています。彼はITセキュリティの専門家でもあり、スウェーデンのメディアでこの提案を批判してきました。

それでも、私はこの質問を額面通りに受け止めよう。一政治家がどうしてこれに賛成票を投じようと考えるのか？ 昨年、私はこの法案を推進してきたスウェーデン内務委員のイルヴァ・ヨハンソン氏にインタビューし、まさにその答えを探った。ヨハンソン氏はこの法案を誇りに思っており、「私の提案」とさえ主張している。彼女は、規制を逃れようとする大企業と戦う闘士だと自認している。「私には行動する道徳的義務があると思う」と彼女は語った。「そうしなければ、私は一体何者なのでしょう？小さなネズミになってしまう。何者でもない」。彼女は、メールをスキャンして迷惑メールかどうかを判断するスパムフィルターについて人々があまり苦情を言わないのに、同じ概念が児童虐待コンテンツに適用されたらなぜ苦情を言うのかと論じている。プライバシー保護活動家や暗号化メッセンジャーの運営者は、これはテクノロジーの仕組みではないと主張する。スキャンは、かつてはプライベートだった通信へのバックドアを事実上開くことになると彼らは言う。「はっきりさせよう」とプロトンのCEO、アンディ・イェン氏は言う。 「いかなる形態の大量スキャンも暗号化を弱体化させます。」

木曜日には、EU加盟国間の対立も顕著となり、提案に関する採決を前に各国政府間で衝突が起きた。オーストリア、チェコ、ドイツ、オランダ、ポーランドが反対または棄権するとの報道もあり、採決は延期された。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。

終末クロニクル

ギリシャでは今週、立て続けに熱波に見舞われ気温が華氏100度を超え、観光客3人が死亡した。

最後になりましたが、重要なことです

新たな報告書は、新たな鉱物を求めて海底を採掘するのではなく、なぜすでに存在する鉱物をリサイクルしないのかと問うている。

真夜中にデンバー空港で退屈になったら、Strava にログインしてみてください。

中国北部の乾燥した内モンゴル地方の真ん中に、台北の総統府周辺の道路のレプリカが現れると、中国が台湾に侵攻したら実際何が起こるのかと人々は疑問を持ち始めた。

Airbnbはオリンピック効果でパリでの存在感が高まり、まだ懐疑的な地元住民の支持を獲得できることを期待している。

このコラムの今後の購読者限定版をお見逃しなく。WIRED を今すぐ購読しましょう（Plaintext読者は50%オフ） 。