米国議会は信頼の問題を抱えている。生成AIがそれをさらに悪化させている

人工知能に関しては、米国上院議員たちは上院の問題を解決するためにシリコンバレーの大物たちに期待を寄せている。この問題は、今日の政治家たちが極端に党派的なやり方で日々永続させているものであり、今や生成型AIがこの問題を糧にして、私たちの集団的未来を書き換えるのに役立っている。

本日、上院は、イーロン・マスク、マーク・ザッカーバーグ、ビル・ゲイツといった著名人に加え、倫理学者や学者を含む17名以上が主導する、初の非公開AIフォーラムを開催する。上院議員の敷地内で約6時間にわたり議論するにもかかわらず、彼らはマイクを手にする一方、国の選出された指導者たちは口封じを受けることになる。

「すべての上院議員は、この重要な議論を聞くために出席することが奨励されますが、この形式では上院議員が発言したり、発言者に質問したりする機会は与えられないことにご留意ください」と、多数党院内総務のチャック・シューマー氏からの通知には記されている。

しかし、問題がある。シューマー氏は間違った議論を助長しているのだ。生成AIがインターネットをより多くの、そしてより説得力のある偽情報や誤情報で溢れさせようとしている今、多くのAI専門家は、上院の最大の目標は、まさに上院そのものへの信頼を回復することであるべきだと述べている。

「私の意見では、政府は結果よりもプロセスを重視する考え方に基づいています。プロセスが公平であれば、賛成の是非に関わらず、結果を受け入れるという考えです」と、メリーランド大学グローバルキャンパスの情報技術学部長、ダン・ミンツ氏は言う。「しかし、今や人々はプロセスも結果も信じていないのです。」

事実は、私たちの集合的な過去を振り返る中で、ますます古風な概念となりつつある。過去数回の選挙では、私たちが求める真実――神話であれ、現実であれ、あるいはその両方の寄せ集めであれ――は、ウェブの奥深くで数クリックで手に入るものだった。しかし、生成AIは、政治家が私たちの根深い偏見に訴えかける、信憑性のある虚構を容易に作り出すのを手助けしているに過ぎず、同じ技術がソーシャルメディアのフィードでテクノロジーの悪用を明るみに出す前に、その手助けをしているに過ぎない。

しかし、多くの政治家は事後メモを受け取っていないため、ほとんどの議員は、政治広告内のAI生成の「合成」コンテンツの開示を義務付けるというGoogleの最近の発表を賞賛している。

「これは本当に懸念すべきことです。人々が目にしているものが現実かどうかを簡単に確認できる方法が必要です」と、民主党上院選挙委員会の委員長を務めるミシガン州選出のゲイリー・ピーターズ上院議員は語る。

しかし、新たなテクノロジーは、今日の政治指導者たちが成し遂げられなかったことを成し遂げ、アメリカの政治システムへの信頼を回復できるだろうか？それは疑わしい。アメリカ人は、今や私たちのデジタル生活を支配するアルゴリズムの目に見えない支援を受けながら、ますます異なる政治世界に生きている。共和党員の約69%は、ジョー・バイデン大統領が2020年の大統領選で敗北したと考えている。一方、共和党員の90%以上は、報道機関が意図的に嘘を報道していると考えている。一方、民主党員の85%は、ドナルド・トランプ前大統領が2020年の選挙に干渉した罪を犯していると考えている。

「事実は変えられるものだと私たちは今や確信しており、人々を動かす力はますます難しくなっています。ですから、ディープフェイクの大きな問題は、それが選挙に直接的な影響を与えるということではなく、むしろ人々の組織への信頼を低下させることにさらに大きく貢献することになるだろうということです」とミンツ氏は言う。

連邦議会の多くの議員が支持しているように、議会はすべてのテクノロジー企業に AI 生成コンテンツに透かしを入れることを強制できるが、それは今日の政治情勢では見せかけに過ぎないだろう。

「正直なところ、それで問題が解決するとは思えません」と、情報社会プロジェクトのエグゼクティブディレクターであり、イェール大学ロースクールの研究員でもあるチンマイ・アルン氏は言う。「信頼を再構築する作業ですが、新しいテクノロジーは、この作業の破壊的な側面も生み出しています。だからこそ、人々にそのことを認識してもらうために、ラベルを貼る必要があるのか​​もしれません」

少なくとも一人の上院議員は同意しているようだ。オハイオ州選出の共和党上院議員J・D・ヴァンス氏は、ネット上で目にする情報を疑うことは、私たち全員にとって良いことかもしれないと述べている。「長期的には、人々がネット上で目にするあらゆる情報を信じなくなる程度になるだろうと、私はかなり楽観的に考えています。しかし、当面は、実際に深刻な混乱を引き起こす可能性もあるでしょう」とヴァンス氏は述べている。

2016年と2020年には、誤情報と偽情報がアメリカの政治と同義語になったが、今や私たちはディープフェイクの時代に突入し、本物らしいナレーションや精密に磨き上げられた偽の写真など、どんなに巧妙な欺瞞の手段であっても、それが民主化されている。

生成AIは、世界を自らの政治的空想に合わせて容易に作り変えるのに役立つだけでなく、その力は、そうした偽情報を、イデオロギー的に最も脆弱なコミュニティに正確に送信し、激しい電子戦を引き起こす可能性が最も高い場所に送り込む能力にも表れています。ヴァンス氏は、これらの複雑に絡み合った問題に対する単一の立法的な解決策は存在しないと考えています。

「おそらく、限界的には助けになるようなことはできるだろうが、一般の人々が懐疑的な見方をするようになるまでは、こうしたウイルス性のものを本当に制御できるとは思わない。私は、そこまでには至ると思う」とヴァンス氏は言う。

「脚本付き」政治劇

夏の間、シューマー氏と超党派の上院議員グループは、上院議員全員を対象とした非公開の AI ブリーフィングを 3 回主催し、それが現在ではこれらの新しい技術フォーラムと連携して機能している。

カメラ好きで、おしゃべり好きとして知られる100人の政治家が詰めかけた議場にとって、今回のブリーフィングは異例の出来事だ。通常の委員会公聴会では、上院議員たちはYouTube向けの質問をすることで資金集めの達人となり、時には知識を得ることもあるが、今回は違う。今週は集まったテクノロジー専門家に質問することはできないが、シューマー氏をはじめとする司会者たちは、舞台裏で操り人形師を演じることになりそうだ。

「これはガイド付きの会話となることを意図しています。質問は台本が用意されており、それらの質問はすべて、スタッフと議員双方にとって有益な、幅広い政策分野に関する無数の多様な考えを引き出すように設計されています」と、インディアナ州選出の共和党上院議員トッド・ヤング氏は述べた。

ヤング氏は、ニューメキシコ州選出の民主党上院議員マーティン・ハインリッヒ氏、サウスダコタ州選出の共和党上院議員マイク・ラウンズ氏とともに、シューマー氏の超党派の上院議員4人からなるグループの一員であり、上院での非公開のAI研究会を主導してきた。

正式なタイムラインはないが、ヤング氏は上院のAIフォーラムが今年の冬か来春初めまでには終了しないと予想している。

議会は超党派ではあるものの、政策の可能性に関しては両党の立場は依然として大きく異なっている。民主党は新たな規制を求めている一方、共和党はその構想にブレーキをかけている。

「これらの分野のほとんどには、私たちが引き続き禁止したい行為を禁止する既存の法律が既に存在します」とヤング氏は言う。「したがって、政策上の課題は、政府における既存の規制と執行の仕組みをAIが活用される世界に適合させることになります。」

多くの民主党員が新たなAI機関の設立を求めているものの、共和党内でそれを支持する票が得られる可能性は低く、上院の承認を必要とする正式な指名プロセスを経ることなく、大統領が政権内に「AI担当大臣」を置かざるを得なくなる可能性が高まっている。

「おそらくホワイトハウス内に置かれることになる政府機関間の政策立案活動を調整する人物が必要になるでしょう。これは国家安全保障顧問のようなものかもしれません」とヤング氏は言う。

国家安全保障顧問は選挙で選ばれない。だからこそ、バラク・オバマ前大統領は、スーザン・ライス氏が共和党のお気に入りの政治的ピニャータとなった後も、彼女をホワイトハウスに留めておくことができたのだ。また、トランプ大統領も、陰謀論を唱えるマイケル・フリン氏をホワイトハウスに留めておくことができた。フリン氏は嘘をついたとして22日間留任させられたが、その後、解任された。

他の上院議員たちも、常に争いが絶えない共和党が多数を占める下院は言うまでもなく、僅差で分裂している上院を迂回する方法を模索している。

「私たちにできることの一つは、FEC（連邦選挙委員会）がこの件を取り上げ、検討する権限を持っていることを明確にすることです」と、ニューメキシコ州選出の民主党上院議員マーティン・ハインリッヒ氏は言う。彼はシューマー議員のAIブリーフィングを支援している。「おそらくそうだと思いますが、議員全員が同じ見解を持っているかどうかは分かりません。ですから、私たちはそれをはっきりと明確にすべきです」

人工知能を研究すればするほど両党の意見は離れていく一方だが、両党の従来の懸念を、包括的な行動論にまとめる方法を模索する人もいる。

「選挙を守りたい人と公的市場への信頼を守りたい人の間で同盟を築けたら、チャンスは劇的に高まると思う。突如、奇妙な同盟者が結集することになる」と、情報委員会の委員長も務めるバージニア州選出の民主党上院議員マーク・ワーナー氏は言う。

ワーナー氏は数十年にわたりテクノロジー業界で活躍し、ネクステルの前身となる企業の共同創業者を務めた後、インテル会長として過去数回の選挙を監督し、外国の介入を目の当たりにした。AIが生み出す扇動的なナンセンスから国民を守るためのグーグルの最初の一歩を称賛する一方で、その取り組みは甚だしく不十分だと指摘する。

「私が心配しているのは、プラットフォームごとに、何を取り入れて何を取り入れないかを個別に決めてしまうことです。過去にもそのようなケースがありました」とワーナー氏は言う。「それではうまくいきません。」

過去には効果がなかったかもしれませんが、だからといって議会が何らかの対策を講じたわけではありません。Twitter（現X）が2022年の中間選挙で政治広告を禁止していたのが、2024年には政治広告を許可すると発表したのも、まさにその流れです。他のプラットフォームも、ポリシーを恣意的に変更しています。

お金の流れを追う

シューマー氏が集めている億万長者や大富豪たちは、彼ら自身の資金であれ投資家の資金であれ、潤沢な資金を持っているが、政府はそうではない。少なくとも、議員たちは、この新興のAI生成分野に民間セクターに対抗するために数十億ドル規模の予算を割り当てていない。

「この分野への投資はごくわずかです。OpenAIがどれだけの収益を上げ、どれだけの投資を集めているか、そしてご存知の通り、DARPA（国防高等研究計画局）のスタッフ数やこの研究への資金援助の少なさと比べてみてください」と、ニューヨーク州立大学バッファロー校コンピュータサイエンス・エンジニアリング学部のシウェイ・リュ教授（ニューヨーク州立大学エンパイア・イノベーション）は述べています。

「この数字は天文学的なほど大きな不均衡なので、政府はもっと注意を払い、これに対抗する技術に投資する必要がある」とリュウ氏は言う。

リュー氏をはじめとする学者たちは長年、こうした対抗技術への投資を訴えてきたが、議会は躊躇していた。そして今、シューマー氏は富裕層のCEOたちに議会のマイクを与えようとしている。リュー氏は20年にわたりメディア鑑識に携わっており、こうした状況を何度も目にしてきた。

「これは、金儲けと利益追求を追求する資本主義と、社会貢献との典型的な衝突です」とリュウ氏は言う。「あらゆる面で、このプロセスへの政府のより積極的な関与が必要なのです。」

かつてはデジタルに疎い上院だったが、夏の間AIを研究した後、今ではほとんどの上院議員がこの問題に精通し、シリコンバレーの巨大企業への不満をいくらか吐き出せるようになっている。しかし今週、沈黙を自らの声で埋める凄まじい能力で知られる上院議員たちは、再び人工知能に関する人工的な議論に耳を傾けなければならない。

しかし、彼らが発言する時、生成AIが耳を傾けるだろう。そして、彼らの極端に党派的なイメージで現実世界を再構築するだろう。そして、これは党首たちが対処していない問題だ。なぜなら、現時点ではAIは多くの混乱を引き起こしているかもしれないが、ワシントンの通常の政治にはまだ大きな影響を与えていないからだ。