プライバシーヒーローの最後の願い：AIの未来を方向転換する研究所

プライバシーとテクノロジーの巨匠ピーター・エッカーズリー氏が昨年9月に突然逝去する約1週間前、彼は人工知能（AI）の起業家デガー・トゥラン氏に連絡を取りました。エッカーズリー氏は、自らが構想した新しい研究所の所長にトゥラン氏を就任させようと説得しようとしていました。その研究所の目的は、人類の未来を守るためにAIの進化の軌道修正を図るという、まさに野心的な目標を掲げていました。

エッカーズリーは、このプロジェクトを一人では運営できないと説明した。大腸がんを患い、深刻な健康問題を抱えていたこと、そして組織の共同創設者であるブリトニー・ギャラガーが妊娠中で産休に入る直前だったからだ。しかし、トゥランは一人ぼっちではないとエッカーズリーは保証した。病気が治り次第、グループの主任科学者として復帰する。二人は数日後にサンフランシスコで会い、計画を詰めることに同意した。

トゥランの飛行機がサンフランシスコに着陸する頃には、エッカーズリーはすでに亡くなっていた。この悲劇は、彼の友人、家族、そしてテクノロジー業界に今もなお深い衝撃を与え続けている。研究所のロードマップを作成するためにエッカーズリーと会うはずだったのに、トゥランは友人の葬儀に参列する羽目になった。

エッカーズリー氏は回復の見込みがまだ十分にあったものの、設立間もない組織であるAIオブジェクティブズ・インスティテュート（AOI）の理事会に対し、トゥラン氏を会長に任命すると既に伝えていた。44歳の技術者であり活動家でもあるエッカーズリー氏は、万が一の死に備え、Googleドキュメントで未完成の大まかな遺言書も作成していた。遺言書は、米国にある自身の全資産の相続人をAOIに指定することから始まっていた。「私たちは重要なことを始めたのです」とエッカーズリー氏は記し、「関係者がこれをもう少し進めてくれるかどうか、見守っていきたい」と続けた。

トゥランはエッカーズリーに依頼を受け入れたことを伝える機会がなかった。しかし、エッカーズリーの訃報を知った途端、AOIでの役割は、自分が担える最も重要な仕事であるだけでなく、友人の遺産の中核となる柱を築く一助となることを確信した。「だから、私はイエスと答えました」とトゥランは言う。「一緒にやりましょう。少し先ではなく、最後まで。」

昨日、サンフランシスコにあるインターネットアーカイブの教会のような聖域で、エッカーズリーの友人や同僚数百人が、異例の追悼式に参列した。シンポジウムでは、エッカーズリーという人物を偲ぶだけでなく、彼の生涯の仕事を紹介する一連の講演が行われた。ホールの奥には、エッカーズリーの著作、愛用のロードバイク、ビクトリア朝ゴスパンク風の衣装が飾られたエッカーズリーの祠があり、トゥラン、ギャラガー、その他10人の講演者が、エッカーズリーの数々の功績についてプレゼンテーションを行った。シリコンバレーのプライバシー保護技術向上に尽力したこと、ウェブ全体を暗号化する画期的なプロジェクトの共同設立者、そして晩年にAIの安全性と倫理性の向上に注力したことなどだ。

このイベントは、エッカーズリー氏の死後、彼の研究を引き継ぐ組織であるAOIにとって、いわばソフトローンチの場ともなりました。エッカーズリー氏は、この研究所をインキュベーター兼応用研究所として構想し、主要なAI研究所と連携して、数十年にわたるキャリアを捧げてきたプライバシーとサイバーセキュリティの研究よりも、おそらくより重要だとエッカーズリー氏が信じるようになった課題に取り組むことを目指しました。それは、人工知能の未来を、世界に苦しみをもたらす力から、彼が「人間の繁栄」と表現した方向へと方向転換させることでした。

「AIを私たち自身の姿ではなく、私たちが目指す姿にする必要があります」と、トゥラン氏は追悼式典でのスピーチで、エッカーズリー氏から採用された際の電話の録音を流した後、こう述べた。「そうすれば、AIは私たちをその方向へと導いてくれるでしょう。」

エッカーズリーがAOIに構想したミッションは、過去10年間で高まってきたAIの「整合問題」という認識から生まれた。AIの進化はかつてないほど加速しているものの、その目標は人類の健康と幸福の目標とはかけ離れた、あまりにも単純なものだという認識だ。エッカーズリーは、AIが現状のままでは、すべての人々に豊かさと創造的な余暇を享受できる楽園をもたらすどころか、環境破壊、貧困層の搾取、蔓延するナショナリズムなど、既に世界を破壊しているあらゆる力を増幅させる可能性の方がはるかに高いと考えた。

トゥーラン氏とギャラガー氏が説明するように、AOIの目標はAIの進歩を抑制することではなく、AIの目的をひたすら破壊的な力から遠ざけることです。例えば、広告やプロパガンダを通じて人間を洗脳できる超知能ソフトウェア、地球上の炭化水素を全て採掘できる神のような戦略と力を持つ企業、世界中のあらゆるネットワークに侵入して世界的な混乱を引き起こすことができる自動ハッキングシステムなどを阻止することです。「AIの失敗は、突然ナノボットが私たちの周りを這い回るように見えるようなものではありません」とトゥーラン氏は言います。「これらは、今まさに起こっていることと同様に、非常に認識しやすい経済的・環境的災害です。」

現在AOIのエグゼクティブディレクターを務めるギャラガー氏は、エッカーズリー氏が研究所に抱いていたビジョンは悲観的なカサンドラではなく、AIを未来への理想的な夢へと導く羊飼いのようなものだったと強調する。「彼はディストピアをどう防ぐかなど考えたことは一度もありません。彼の常に楽観的な思考は、『どうすればユートピアを作れるか？』というものでした」と彼女は言う。「より良い世界を築くために私たちは何ができるのか、そして人工知能は人類の繁栄のためにどう貢献できるのか？」

そのために、AOIはすでに、9人のコアコントリビューターと、Survival and Flourishing Fundからの48万5000ドルを含むいくつかの助成金の支援を受け、AIをその方向に推し進めるためのいくつかのサンプルプロジェクトに取り組んでいる。最も進んでいるパイロットプロジェクトである「Talk to the City」は、ChatGPTのようなインターフェースを使用して都市の何百万人もの人々を調査し、彼らのニーズを理解するとともに、政策立案者、ジャーナリスト、その他の市民との議論で彼らのために主張することを目的としている。トゥラン氏は、この実験を集団組織や政府のためのツールであり、単純な選挙や住民投票よりも微妙な差異のある形の民主主義を可能にするものだと説明している。同氏によると、このプロジェクトのベータテスターに​​は、バーニングマンのブラックロックシティの主催者から国連職員まで、あらゆる人々が参加しているという。

「Mindful Mirror」と呼ばれるもう一つのプロトタイプは、一種の個人的なインタラクティブな日記帳として機能し、ユーザーと会話をしながら日々の出来事を整理するチャットボットです。3つ目の「Lucid Lens」は、ブラウザプラグインとして機能し、ユーザーが意識したり避けたりしたいような方法で操作する、怒りや「ドーパミンループ」を引き起こすように設計されたコンテンツを検知し、ハイライト表示します。

初期のプロジェクトは、AOIの壮大な未来志向の目標に比べれば地味に聞こえるかもしれない。しかし、サイバーセキュリティとプライバシーの分野でエッカーズリー氏が長年にわたり築き上げてきた著名なキャリアは、同じようにシンプルに聞こえるツールを、根本的な変化をもたらすための梃子として構築してきたことにある。電子フロンティア財団（EFF）で12年間勤務し、最終的には主任科学者となったエッカーズリー氏は、ウェブトラッカーを阻止するブラウザプラグイン「Privacy Badger」や、ブラウザが可能な限りHTTPSで暗号化されたウェブサイトに誘導するプラグイン「HTTPS Everywhere」といったプロジェクトの構築に貢献した。彼は、インターネット全体をスキャンして暗号化されている範囲を判定する「SSL Observatory」の共同創設者でもある。エッカーズリー氏が手がけた別のプロジェクト「Panopticlick」は、ユーザーのブラウザによるトラッキング防止機能を監査する。また、EFFのセキュアメッセージングスコアカードは、メッセージングアプリのプライバシーとセキュリティ機能を評価し、数十億ものWhatsAppユーザーのメッセージがデフォルトでエンドツーエンドで暗号化される世界の到来に貢献した。

「彼の天才性は、大きな物語の糸口となる小さなハックを見つけ出したことにあります」と、EFF事務局長のシンディ・コーン氏はエッカーズリー氏の追悼式でのスピーチで述べた。「テクノロジーがどのように機能しているかについて、人々が見るべきものを明らかにしたデモンストレーションでした。」

エッカーズリー氏の功績の中で最も称賛されているのは、おそらくLet's Encryptの共同設立でしょう。Let's Encryptは、ウェブサイト所有者がHTTPS暗号化を利用できるようにしている認証局企業に代わる、無料の代替手段です。サイトの暗号化導入における大きなハードルを取り除いたLet's Encryptは、ウェブを目に見える形で変革しました。これまでに3億以上のウェブサイトに無料の証明書を発行してきました。現在、ウェブの90%以上が暗号化されています。これは、Let's Encryptが2015年にサービスを開始した当時、推定40%未満だったのに対し、現在では大幅に増加しています。「これはピーター・エッカーズリー氏のおかげです」と、Let's Encryptの共同設立者であるアレックス・ハルダーマン氏はエッカーズリー氏の追悼式で述べました。

エッカーズリーは、影響力のあるプロジェクトを立ち上げている最中だったにもかかわらず、既に全く異なる技術分野について考えており、そこではより大きな長期的な影響を与えられる可能性があると感じていた。2013年までに、エッカーズリーはアンダース・サンドバーグ、スチュアート・ラッセル、ニック・ボストロムといったコンピューター科学者と対話を始めていたと、AI関連の著書『The Most Human Human』や『Algorithms to Live By』の著者であり、エッカーズリーの追悼式典の司会を務めたブライアン・クリスチャンは語る。

クリスチャン氏によると、2018年にEFFを去る頃には、エッカーズリー氏はAIの未来を形作ることに再び注力すべき時だと決断していたという。「ある意味で、彼はそれがより大きな利害を伴うことを理解していたのです」とクリスチャン氏は語る。「最終的に彼は、AIの重大性は、たとえ仮説的な害悪であっても、非常に大きく、切迫したものだと感じ、それが彼にとって最も重要なことだと結論づけたのです」。クリスチャン氏によると、エッカーズリー氏は問題の重大さについて非常に説得力があり、AIの未来に関するクリスチャン氏の考えも大きく変えたという。彼は2020年に出版したこのテーマに関する著書『アライメント問題』を、「私を説得してくれたピーターに」捧げている。

エッカーズリー氏の妹ニコル氏は、同夜の最後のスピーチで、2020年にAOIのような構想を兄から聞き始めたと語った。2022年の晩夏に兄の健康状態が急激に悪化した時でさえ、研究所は兄の心の拠り所であり続けた。「病院のベッドにいても、兄はAOIに全力で突き進んでいました。彼の最後の願いと指示はすべて、この非常に重要なプロジェクトを存続させることでした」とニコル氏は語った。「ピーターの計画が実現するのを見届けたいと思っています。この素晴らしいコミュニティと関わり続けたいと思っています。ロボットに食べられてお金を無駄にされるのを止めたいのです。」

「ですから、皆さんにはこれを単なる記念碑としてではなく、素晴らしい生きた遺産の始まりとして見ていただければと思います」と彼女は締めくくった。