AI規制をめぐる世界的な戦いは始まったばかり

ダン・ネチタ氏は過去1年間、ブリュッセルとストラスブールを行き来してきた。EUが提案する新たなAI関連法をめぐる交渉を主導する2人の報告者のうちの1人の閣僚（実質的には首席補佐官）として、AI技術の厳格な規制を求める側と、イノベーションには進化の余地が必要だと考える側の間で妥協点を見出すのに貢献してきた。

ネチタ氏によると、議論は「長く退屈なもの」だったという。まず、AIをどう定義するか、そもそも欧州が規制する対象が何なのかという議論があった。「それは本当に、本当に、本当に長い議論でした」とネチタ氏は言う。次に、AIのどのような用途が危険なのか、つまり禁止すべきか、あるいは高リスクと分類すべきかという議論があった。「ほとんどすべてを高リスクと見なすべきだという意見と、リストをできるだけ絞り込み、明確にすべきだという意見の間に、イデオロギー的な隔たりがありました」

しかし、こうした緊迫した交渉は、欧州議会がAI規制に関する同議会のビジョンを概説する包括的な政治合意に近づいていることを意味します。この合意には、予測型警察活動など一部のAI利用の全面禁止や、国境管理システムなど高リスクと判断されるAIに対する追加の透明性要件が含まれる可能性が高いでしょう。

これは長いプロセスの始まりに過ぎません。今月下旬に欧州議会議員（MEP）が協定案に投票した後、EU加盟国と改めて交渉を行う必要があります。しかし、ヨーロッパの政治家たちは、AIのルール作りという過酷なプロセスを経る、世界で最初の政治家たちです。彼らの交渉は、世界中の政治家がAIのリスクから社会を守りつつ、同時にその恩恵も享受しようと努める中で、どのようにバランスを取らなければならないかを垣間見せてくれます。ますます高度化し、普及するAIへの対応を模索する他の国々にとって、ヨーロッパで起こっていることは大きな注目の的となっています。

「EU一般データ保護規則で目撃したように、これは世界的に波及効果をもたらすだろう」とカリフォルニア大学バークレー校CITRIS政策研究所所長ブランディ・ノネケ氏は言う。

AI規制に関する議論の核心は、多くの政治家が将来の経済の原動力になると期待している技術の成長を阻害することなく、AIが社会にもたらすリスクを制限することが可能かどうかという問題だ。

リスクに関する議論は、人類の未来に対する実存的脅威に焦点を当てるべきではない。なぜなら、AIの現状の活用方法には大きな問題があるからだ、と非営利団体AlgorithmWatchの共同創設者マティアス・シュピールカンプ氏は述べている。同団体は、政府の福祉制度、信用スコア、職場などにおけるアルゴリズムの活用を研究している。彼は、技術の利用方法に制限を設けるのは政治家の役割だと考えている。「原子力発電を例に挙げましょう。原子力発電はエネルギーを生み出すこともできるし、爆弾を作ることもできるのです」と彼は言う。「AIをどう活用するかという問題は政治的な問題です。そして、それは決して技術者が決めるべき問題ではありません。」

4月末までに、欧州議会は禁止すべき行為のリストを絞り込みました。ソーシャルスコアリング、予測型警察活動、インターネットから無差別に写真を集めるアルゴリズム、公共空間におけるリアルタイム生体認証です。しかし、木曜日の時点では、保守派の欧州人民党の議員たちは、生体認証の禁止を解除すべきかどうかについて依然として疑問を呈していました。「これは非常に分断的な政治問題です。一部の政治勢力や団体はこれを犯罪撲滅の手段と捉えていますが、進歩派のように社会統制のシステムと捉えている人もいます」と、共同報告者であり、社会民主党所属のイタリア人欧州議会議員ブランド・ベニフェイ氏は述べています。

次に、企業の労働力管理や政府の移民管理に用いられるアルゴリズムなど、高リスクとしてフラグ付けすべきAIの種類について議論が交わされた。これらは禁止されていない。「しかし、私たちの権利と利益に潜在的に影響を与える可能性があるため（「潜在的」という言葉を強調します）、それらのリスクが適切に軽減されるように、いくつかのコンプライアンス要件を満たす必要があります」と、ネチタ氏の上司であり、ルーマニアの欧州議会議員で共同報告者のドラゴシュ・トゥドラチェ氏は述べ、これらの要件のほとんどは主に透明性に関するものだと付け加えた。開発者は、AIの訓練に使用したデータを示し、どのように積極的にバイアスを排除しようとしてきたかを実証する必要がある。また、法執行のための中核拠点となる新たなAI機関も設立される予定だ。

ロビー団体からの批判的な注目を集めたくないため匿名を希望したある人物は、5月初旬に巨大IT企業のロビー活動を受けて、汎用AIシステムに関する規則の一部が緩和されたと述べた。ChatGPTのようなツールの基盤となる基盤モデルを独立した専門家による監査を受けるという要件が削除されたのだ。

しかし、議会は、基礎モデルは市場に投入される前にデータベースに登録されるべきであることには同意した。これにより、企業は販売を開始した内容をEUに報告しなければならない。「これは良いスタートだ」と、シンクタンク「フューチャー・ソサエティ」の欧州AIガバナンス担当ディレクター、ニコラス・モース氏は述べている。

アルファベットやマイクロソフトを含む大手IT企業によるロビー活動は、世界中の議員が警戒すべきものだと、別のシンクタンクであるAIナウ研究所のマネージングディレクター、サラ・マイヤーズ・ウェスト氏は述べている。「彼らがいかにして政策環境を自分たちに有利に傾けようとしているか、新たな戦略が生まれつつあるのだと思います」と彼女は言う。

欧州議会が最終的に合意に至ったのは、全員を満足させようとするものだ。「これは真の妥協だ」と、公の場で発言する権限がないとして匿名を条件に語った議会関係者は言う。「誰もが同じように不満を抱いている」

AI法案を次の段階に進めるための投票（現在5月11日に予定）前に、合意内容が変更される可能性がまだ残されている。土壇場での変更を巡る不確実性から、交渉の最終数週間は緊張が続いた。AI企業が厳格な環境要件を遵守すべきかどうかについては、最後まで意見の相違が続いた。「この提案は、私にとって既に非常に負担が大きすぎると言わざるを得ません」と、保守系欧州人民党のドイツ連邦議会議員アクセル・フォスは4月中旬にWIREDの取材に答えた。

「もちろん、規制が少ないほど業界のイノベーションに良いと考える人もいます。しかし、私はそうは思いません」と、左派系緑の党に所属するドイツの欧州議会議員、セルゲイ・ラゴジンスキー氏は言う。「私たちは、イノベーションを促進するだけでなく、社会が抱える問題にも対処できる、優れた生産的な規制を望んでいます。」

EUはインターネット規制の取り組みにおいて、ますます先駆者となっています。EUのプライバシー法である一般データ保護規則（GDPR）は2018年に施行され、企業による個人情報の収集と取り扱いに制限を設けました。昨年、欧州議会議員（MEP）は、インターネットの安全性と競争力を高めるための新たな規則に合意しました。これらの法律はしばしば世界基準を確立し、いわゆる「ブリュッセル効果」を生み出しています。

AI法は、法律として成立すると予想される最初の包括的なAI法案であり、人工知能をめぐる世界的な政策立案の取り組みの方向性を定めるものになる可能性が高いとマイヤーズ・ウェスト氏は言う。

中国は4月にAI規制の草案を発表し、カナダ議会は激しい議論を巻き起こしている独自の「人工知能・データ法」を検討しています。米国では、複数の州が独自のAI規制アプローチに取り組んでおり、国家レベルでの議論も活発化しています。カマラ・ハリス副大統領を含むホワイトハウス関係者は、5月初旬に大手IT企業のCEOと会談し、AI技術の潜在的な危険性について議論しました。今後数週間のうちに、オレゴン州選出のロン・ワイデン上院議員は、「アルゴリズム説明責任法」と呼ばれる法案の成立に向けた3度目の試みを開始する予定です。この法案は、リスクの高いAIの導入前にテストを義務付けるものです。

AI規制に関して、個々の議会の枠を超えて世界的なアプローチを策定するよう求める声も上がっている。先月、12人の欧州議会議員が、欧州委員会のウルズラ・フォン・デア・ライエン委員長とジョー・バイデン米国大統領に対し、人工知能に関する世界サミットの開催を求める書簡に署名した。しかし、この要請は今のところ返答がない。ベニフェイ氏は、サミットの開催と国際的な関心の高まりを強く求めると述べている。「私たちの規制は、世界に対してブリュッセル効果をもたらすと考えています」と彼は付け加える。「おそらく、他の国々は私たちの法律を模倣しないでしょう。しかし、少なくとも、AIのリスクに立ち向かう義務をすべての人に負わせることになるはずです。」