テリーザ・メイ首相のダボス会議での演説は、英国のAI戦略の空虚さを露呈した。

テリーザ・メイ首相は、ダボスで開催された世界経済フォーラムでブレグジットについて話すことを望んでいなかった。というか、実際、何も話したくないようだった。そこで、メイ首相のチームは、人工知能について話すことにした。

一見すると、これは奇妙なことだ。首相の仕事の一つは、その朝に渡された説明資料しか知識のない問題について、自信たっぷりに話すことだ。しかし、AIは専門家でさえ理解に苦しむ分野であり、政治経済のあらゆる側面に目もくらむような、複雑な影響を及ぼしている。3分の2しか埋まっていない会場での取るに足らない発言ではなく、重要な政策演説を行うべきだったはずだ。

もちろん、最近ではAIについて意見を持つのに専門家である必要はありません。誰もが意見を持っているのです！ 文字通り、ベテラン政治家の場合、一つの意見を、おそらくタイムシェアのように共有しながら、皆で共有しているのです。3ヶ月前、トニー・ブレア首相は、自分も意見を持っているという報告書を発表しました。その後、ニック・クレッグも自分も同じ意見だと決めつけました。そして、この新たな合意形成の空気があったからこそ、弱腰の首相が、まるでLinkedInの思想的リーダーが「ビットコインについてはよく分かりませんが、ブロックチェーンは非常に重要なイノベーションです」と宣言したかのような、偽りの決断力で、この領域に足を踏み入れることができたのです。

スピーチを言い換えると、意見はこうです。「AIは素晴らしいことを実現できるが、それが安全で倫理的であることを保証する必要がある。」

この時点で物足りなさを感じても無理はありません。一見すると、この発言に異論や異常さは見当たりません。空虚で、自明の理です。しかし、その空虚さが無害に見えるかもしれませんが、実際には非常に強力なのです。

外から見ると、政治はしばしば格闘技に似ている。剣闘士の試練を何度も繰り返し、最後に残った者が勝者となるまで、変化が起こり続ける。選挙は大まかに言えばそのパターンに従うかもしれないが、政策となると、対立は行動よりも停滞を生み出す可能性が高い。永続的な改革を推進したいのであれば、議論ではなく、一見何の疑問も持たない支持を装った空虚な声明を盾にするのが最善の策である。

中道派政治家の合意と労働党の沈黙のおかげで、AIガバナンスの改革はすでに始まっている。これらは主に、政府が「ビジネス」と呼ぶ分野に関わるものだ。2017年の予算発表で財務大臣が述べたように、メイ首相はダボス会議で「過去3年間、英国では毎週のように新しいAIスタートアップが誕生している」と強調し、「英国をイノベーションに配慮した規制の世界的リーダーにする」と誓った。

この立場を正当化するために、メイ首相はTEDトークで用いられたような空虚なレトリックを用い、聴衆に自動運転車と世界的な疾病予測の「世界を想像してください」と訴えた。しかし、ダボス会議のエリートたちは彼女の真意を非常に明確に理解していただろう。この文脈において、「AIにおけるイノベーション」とは、AI人材の獲得と育成をめぐる国際的な競争を牽引する一連の戦略的優先事項を意味する。

ここでは地政学的な背景が少し必要になる。2017年7月、中国は2030年までにAI分野で世界をリードするという目標を掲げた。その2か月後、ウラジーミル・プーチン大統領はAIで世界をリードする国が「世界の支配者になる」と宣言した。これは西側諸国に警鐘を鳴らした。競争に勝ち抜くためには、各国はより一層の努力を払う必要があると。

これに、AIが次なる経済成長の大きな源泉となるという確固たる、しかし根拠のない確信が加われば、注目を集める政府戦略の完璧なレシピが完成する。AIは今やメイ首相の「産業戦略」、つまり中央計画を通じて成長を促進するケインズ主義の計画の重要な要素となっている。

しかし、AI企業に必要なのは何でしょうか？それは大量のデータです。中国とロシアでは、個人情報の利用に制限はありません。むしろ、国家の安全保障体制の一部として積極的に奨励されています。そのため、英国政府は競争に勝つために、可能な限りデータを解放する必要があります。

当然のことながら、これは懸念を生じさせます。では、どのような安全対策が講じられているのでしょうか？メイ首相は演説の中で、新たに生まれたコンセンサスに込められた空虚な言葉を繰り返し、「個人データは尊重され、適切に利用されるべき」であり、アルゴリズムは「開発者の人間的な偏見を永続させるべきではない」と指摘しました。

付随するデジタル憲章（その名前が示唆するように憲章ではなく、「規範とルールに同意するための継続的な作業プログラム」）には、「データに基づいて決定が行われる場合、それらは公正かつ適切な透明性を持つべきである」と付け加えられている。

しかし、アルゴリズムは、すべての人間のシステムと同様に、作成者の偏見だけでなく、測定できないものよりも測定できるものを好むという生来の傾向など、アルゴリズム自体の固有の偏見も繰り返すことになります。

AIシステムにとってどの程度の透明性が適切かについては、データサイエンティストの間でも合意が得られていません。最も効果的なAIシステムの多くは、その性質上、検証が不可能だからです。AIシステムの開発者自身でさえ、なぜそのような答えに辿り着くのか理解していません。

この問題に対する懸念の高さから、AI Now Institute は、刑事司法、医療、福祉、教育といった公共サービスにおけるこの技術の使用を禁止するよう勧告しました。

しかし、政府は慎重に検討したり、導入を一時停止したりするどころか、この技術の導入を急ぎ、「率先垂範」し、AI企業を政府の請負業者として雇用する意向を表明している。英国の行動洞察チームは、学校や一般開業医を評価する機械学習システムを試験運用している。

全てがうまくいくという確信があまりにも強固であるため、政府は最近、「データ倫理・イノベーションセンター」という新たな機関の設立を発表しました。これは、イノベーションと倫理は必然的に相反することになるという近年の歴史の教訓をすべて無視しているのです。これは、守れない約束をするということではなく、既に破られた約束をするということです。

もちろん、AIスタートアップ企業のためのスペースを解放する一方で、政府はメッセージング企業やソーシャルメディアネットワークに対する強硬姿勢を強めており、The Register紙が「魔法の暗号バックドア」と適切に呼んだものを提供することで、必要に応じて暗号化されたメッセージにアクセスできるようにしている。これは、メイ首相が述べたように、「人々をオンラインで安全に保つ」必要性によって正当化されている。

こうして、英国版の中国モデルが発展しつつある。コンテンツは監視される。「『テロリストのプラットフォーム』や小児性愛者の第一選択アプリとして知られたい人は誰もいない」とメイ首相は脅迫的に警告した。一方で、データとメタデータは「データポータビリティ」の向上により自由に流通する。個々の企業は興亡を繰り返すかもしれないが、市場全体としては成長と拡大を繰り返す。

欧州連合（EU）の一般データ保護規則（GDPR）を模倣した新たなデータ保護法案は、この種の監視資本主義を促進するように設計されているように思われる。オープンデータ研究所（Open Data Institute）のCEOであり、長年オープンデータの支持者であるジェニ・テニソン氏は最近、次のように書いている。

データポータビリティ権は、間違いなく個人データ市場の発展につながるでしょう。人々は、データ利用のコントロールと、売却時に得られる金銭的利益を約束することで、自身のデータを個人データブローカーに移植するよう促されるでしょう。これはひいては、データへのアクセスが誰がそのデータに対価を支払えるかによって決まる未来へとつながり、知識、権力、そして経済的な不平等を加速させる可能性があります。

これは正しいのだろうか？そもそも法案の意図通りなのだろうか？政府がそれを知っているなら、何も言わない。その代わりに、イノベーションの約束について当たり障りのない宣言ばかりが飛び交い、難しい問題は無視され、妥協は無視され、国家の利益のためになされたトレードオフは曖昧になっている。

この記事はWIRED UKで最初に公開されました。